JP7386531B2 - 対象物の位置および姿勢の計測のためのマーカ、装置およびシステム - Google Patents

対象物の位置および姿勢の計測のためのマーカ、装置およびシステム Download PDF

Info

Publication number
JP7386531B2
JP7386531B2 JP2020094365A JP2020094365A JP7386531B2 JP 7386531 B2 JP7386531 B2 JP 7386531B2 JP 2020094365 A JP2020094365 A JP 2020094365A JP 2020094365 A JP2020094365 A JP 2020094365A JP 7386531 B2 JP7386531 B2 JP 7386531B2
Authority
JP
Japan
Prior art keywords
feature point
marker
orientation
measuring
shadow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020094365A
Other languages
English (en)
Other versions
JP2021189033A (ja
Inventor
恒雄 栗田
永吉 笠島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Institute of Advanced Industrial Science and Technology AIST
Original Assignee
National Institute of Advanced Industrial Science and Technology AIST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Institute of Advanced Industrial Science and Technology AIST filed Critical National Institute of Advanced Industrial Science and Technology AIST
Priority to JP2020094365A priority Critical patent/JP7386531B2/ja
Priority to PCT/JP2021/007710 priority patent/WO2021240934A1/ja
Priority to DE112021003059.0T priority patent/DE112021003059T5/de
Priority to CN202180033490.3A priority patent/CN115516274A/zh
Publication of JP2021189033A publication Critical patent/JP2021189033A/ja
Application granted granted Critical
Publication of JP7386531B2 publication Critical patent/JP7386531B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/002Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/26Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/401Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by control arrangements for measuring, e.g. calibration and initialisation, measuring workpiece for machining purposes
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/402Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by control arrangements for positioning, e.g. centring a tool relative to a hole in the workpiece, additional detection means to correct position
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/37Measurements
    • G05B2219/37067Calibrate work surface, reference markings on object, work surface
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/37Measurements
    • G05B2219/37555Camera detects orientation, position workpiece, points of workpiece

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Manufacturing & Machinery (AREA)
  • Automation & Control Theory (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、マーカを用いて撮像装置によって高精度に対象物の位置および姿勢を計測する技術に関する。
製造現場では、加工対象物を様々な工作機械と産業用ロボットと組み合わせて加工を行っている。工作機械とロボットとを協働させるため、工作機械に較正用マーカを形成し、ロボットのカメラが較正用マーカを撮像することによって、ロボットの座標系と工作機械の座標系との座標変換を行う技術が知られている(例えば、特許文献1参照。)。
ロボットに形成された較正用マーカを用いる方法では、加工対象物を移動して、離れて配置された工作機械やロボットに加工対象物を受け渡す場合は、移動可能な範囲が狭くなってしまう。
ワークの保持具に姿勢マーカを形成してワークの3次元位置を特定する技術が知られている(例えば、特許文献2参照。)。
特開2016-101640号公報 特開2017-144534号公報
本発明の目的は、対象物の位置および姿勢を高精度に計測可能なマーカ、装置およびシステムを提供することである。
本発明の一態様によれば、対象物の表面に設けられ、その対象物の位置および姿勢を計測可能なマーカであって、第1の特徴点を有する第1の面と、上記第1の特徴点から所定の段差を有し、かつ上記第1の面よりも下方にその第1の面と所定の相対姿勢を有して形成された第2の面と、を備え、上記マーカを撮像手段によって撮影した画像における上記第2の面に投影された上記第1の面の影に基づいて上記第1の特徴点に対応する第2の特徴点を求め、上記第1の特徴点および第2の特徴点に基づいて上記対象物の位置および姿勢を計測可能な、上記マーカが提供される。
上記態様によれば、第1の面と、第1の面から所定の段差を有して下方に形成された第2の面を備え、撮像手段によって撮影した画像における第1の面の第1の特徴点と、第2の面に投影された第1の面の影に基づく第2の特徴点とに基づいてマーカが設けられた対象物の位置および姿勢を高精度に計測可能なマーカを提供できる。
本発明の他の態様によれば、対象物の表面に設けられ、上記態様のマーカに光を照射して上記第1の面の影を前記第2の面に形成可能な光照射手段と、上記マーカを撮像する撮像手段と、上記撮像手段によって撮像した上記マーカの画像における上記第2の面に投影された上記第1の面の影に基づいて上記第1の特徴点に対応する第2の特徴点を求め、上記第1の特徴点および第2の特徴点に基づいて上記対象物の位置および姿勢を取得する計測手段と、を備える装置が提供される。
上記他の態様によれば、第1の特徴点を有する第1の面と、第1の面から所定の段差を有して下方に形成された第2の面を備えるマーカを撮像手段によって撮像し、画像における第1の面の第1の特徴点と、光照射手段により光を照射して第2の面に投影された第1の面の影に基づく第2の特徴点とを計測手段により測定および演算することによってマーカが設けられた対象物の位置および姿勢を高精度に計測可能な装置を提供できる。
本発明のその他の態様によれば、対象物の位置および姿勢を計測する方法であって、上記態様のマーカを撮像手段で撮像し、計測手段により取得した第1の画像データから上記第1の特徴点と、その第1の特徴点から前記所定の段差を有する上記第2の面内の第3の特徴点の座標成分を測定する第1の測定ステップと、光照射手段により光を照射して上記撮像手段で上記マーカを撮像し、計測手段により取得した第2の画像データから上記第2の面に投影された上記第1の面の影に基づいて上記第1の特徴点に対応する上記第2の特徴点の座標成分を測定する第2の測定ステップと、計測手段により上記第1および第2の測定ステップで取得した上記第1~第3の特徴点の座標成分に基づいて上記マーカの位置および姿勢の情報を演算により決定するステップと、を含む、上記方法が提供される。
上記その他の態様によれば、第1の特徴点を有する第1の面と、第1の面から所定の段差を有して下方に形成された第2の面を備えるマーカを撮像し、取得した第1の画像データから上記第1の特徴点と、その第1の特徴点から前記所定の段差を有する上記第2の面内の第3の特徴点の座標成分を測定し、光照射手段により光を照射して第2の面に投影された第1の面の影に基づく第2の特徴点の座標成分を測定し、上記第1~第3の特徴点の座標成分に基づいて上記マーカの位置および姿勢の情報を演算により決定することで、マーカが設けられた対象物の位置および姿勢を高精度に計測可能である。
本発明の一実施形態に係る位置姿勢計測システムを含む工作機械の概略構成図である。 本発明の一実施形態に係るマーカの平面図および断面図である。 本発明の一実施形態に係る位置姿勢計測システムの概略構成図である。 本発明の一実施形態に係る位置姿勢計測システムの原理の説明図1である。 本発明の一実施形態に係る位置姿勢計測システムの原理の説明図2である。 本発明の一実施形態に係る位置姿勢計測方法を示すフローチャートである。 本発明の一実施形態に係るマーカの変形例である。
以下、図面に基づいて本発明の実施形態を説明する。なお、複数の図面間において共通する要素については同じ符号を付し、その要素の詳細な説明の繰り返しを省略する。
図1は、本発明の一実施形態に係る位置姿勢計測システムを含む工作機械の概略構成図である。図1を参照するに、本発明の一実施形態に係る位置・姿勢計測システムを含む工作機械10は、工作機械フレーム11と、スピンドル12と、工具13と、移動ステージ14と、加工物15と、加工物15の表面に形成されたマーカ16と、マーカ16に光を照射する光照射部18と、マーカ16を撮像するカメラ19と、カメラ19からの画像データを受信して加工物15の位置・姿勢を計測する計測部20を有する。工作機械10は、加工物15に形成されたマーカ16をカメラ19が撮像してその画像データから計測部20がマーカ16の位置および姿勢を計測し、マーカ16の位置および姿勢の情報とマーカ16と加工物15との相対的な位置情報から加工物15の位置および姿勢を決定し、スピンドル12と移動ステージ14を制御することによって工具13によって加工物15を加工する。
図2は、本発明の一実施形態に係るマーカの模式図であり、(a)はマーカに接近して得た俯瞰図であり、(b)は(a)に示すAA線の断面図である。図2(a)および(b)を参照するに、マーカ16は、加工物15の表面15aに設けられたキャビティ(凹部)を有する。マーカ16は、加工物15の表面15aに平面視した形状が多角形、一例として四角形の開口部16aを有する。開口部16aの一辺の長さは、加工物15の大きさに応じて適宜選択されるが、例えば10mmであり、0.01mm~1000mmに設定することが、カメラ19により開口部16aおよびその内部全体を撮像する点で好ましい。
開口部16aは、4つの頂点Ht1~Ht4を有する。4つの頂点Ht1~Ht4から特徴点(以下、「表面特徴点」とも称する。)、例えばHt1が選択される。
底面16bは、加工物15の表面15aに対して所定の相対姿勢、一例として表面15aに対して平行に形成されている。側壁面16cは、開口部16aの四角形の各辺から垂直に所定の長さ(段差)Dで底面16bまで延在する。段差Dは、例えば8mmであり、0.01mm~1000mmに設定することが、底面16bに投影された影をカメラ19により撮像する点で好ましい。底面16bにおける頂点Hb1~Hb4は、各々開口部16aの四角形の頂点Ht1~Ht4に対応する。底面16bにおける頂点のうち、表面特徴点Ht1に対応する特徴点(以下、「底面特徴点」とも称する。)Hb1が選択される。
図3は、本発明の一実施形態に係る位置姿勢計測システムの概略構成図であり、図3を図1および図2と合わせて参照するに、位置姿勢計測システム17は、マーカ16と位置姿勢計測装置21とを備える。位置姿勢計測装置21は、マーカ16に光を照射する光照射部18と、マーカ16を撮像するカメラ19と、カメラ19によって撮像したマーカ16の画像データを処理する計測部20とを有する。計測部20は、測定部22と、演算部23と、制御部24とを有する。
光照射部18は、少なくとも一つの光源、例えば、LED光源を有し、カメラ19のレンズの周囲に配置される。光照射部18は、例えばレンズの両側に2つの光源が配置され、他には、レンズの周囲の4隅に4つの光源が各々配置される。光照射部18は、マーカ16の表面15aに配置された特徴点の影が底面16bに形成可能なように配置される。光照射部18は、制御部24により点灯および消灯が制御され、光源毎に点灯および消灯が可能である。光照射部18は、影の輪郭(明暗の境界)が明確になる点で、点光源であることが好ましい。光源は、マーカ16に対して斜め上方に配置する。光源は、影を底面16bに形成し易くなる点で、開口部16aが形成する仮想的な面に対して、1度~89度さらには10度~80度、特に30度~45度の角度を有して配置することが好ましい。また、段差Dが小さい(浅い)場合に底面16bに影を形成し易くなる点や深さ方向の測定分解能を向上する点で、この角度を小さくすることが好ましい。
カメラ19は、レンズ、撮像素子、カメラ制御部等からなり、例えば、デジタルビデオカメラ、デジタルスティルカメラ等を用いることができる。レンズ19aは単焦点レンズでもよく、ズームレンズでもよい。ズームレンズの場合は、ズームレンズを短焦点側に設定して広角で撮像し、加工物15に形成されたマーカ16の位置を特定し、次いで、ズームレンズを長焦点側に設定してマーカ16の拡大画像を取得してもよい。これにより、短焦点側でマーカ16の位置を容易に特定でき、長焦点側でマーカ16に形成された影の輪郭の位置をより正確に取得することができる。
カメラ19は、マーカ16の開口部16aおよび底面16bをピントが合った画像を撮像できる点で、ピンホールカメラが好ましい。ピンホールカメラは、カメラ本体にピンホールレンズ、またはピンホールフィルタをレンズの前方に装着することで形成できる。カメラ19は、レンズ19aに緑、青、赤等だけを透過する単色透過フィルタを装着してもよい。これにより明暗のコントラストを強調することで、影の輪郭を精度よく測定できる。
測定部22は、計測部20に設けられ、カメラ19で撮像したマーカ16の画像データから、表面16aから選択された表面特徴点Ht1と、底面16bに形成された表面特徴点Ht1の影に基づく投影特徴点と、表面特徴点から垂直に所定の段差Dを下降した底面16bにおける底面特徴点Hb1の座標成分とを測定する。ここで測定される座標成分は、カメラ19の撮像素子と平行な面を形成する座標成分であり、後述するように、例えばx座標およびy座標である。
演算部23は、測定部22により測定された表面特徴点Ht1、投影特徴点、および底面特徴点Hb1の各々の座標成分(例えば、x座標成分およびy座標成分)に基づいて、表面特徴点Ht1、投影特徴点、および底面特徴点底面特徴点Hb1の各々の他の座標成分(例えば、z座標)およびマーカ16の傾きを演算により求めて加工物15の位置および/または傾きを取得する。
制御部24は、光照射部18、カメラ19、測定部22、演算部23および移動ステージ14の制御を行うことができる。具体的には、制御部24は、光照射部18の点灯および消灯、カメラ19の撮像のタイミング、測定部22の画像データの受信のタイミング等である。
計測部20は、パソコンと、パソコンと協働するソフトウェアによって構成することができる。計測部20は、代替案としては、測定部22、演算部23および制御部24を専用の回路で構成してもよく、パソコンおよびソフトウェアと組み合わせて構成してもよい。計測部20は、図示しないディスプレイ、キーボード等のユーザインタフェースを備えてもよい。
図4は、本発明の一実施形態に係る位置姿勢計測システムの原理の説明図1であり、(a)はカメラ、光照射部およびマーカの位置関係を示す図であり、(b)は投影された影が形成されたマーカの俯瞰図である。
図4(a)を参照するに、説明の便宜のため、鉛直方向をz軸、水平方向をx軸方向として、xz平面上に、光照射部18の一つの光源181、マーカの表面15aの頂点(表面特徴点)Ht1、およびカメラ19のレンズの中心、この例ではピンホールレンズ25の中心25aが配置され、マーカの表面16aはx軸に対して角度θだけ傾いているとする。カメラ素子26には、ピンホールレンズ25を通過したマーカ16の画像が形成され、画像データに変換され、計測部20に送信される。マーカ16の左上の光照射部18の一つの光源181は、制御部24からの制御信号により点灯する。これにより、マーカの表面15aの影が底面16bに形成される。
図4(b)を参照するに、マーカ16の表面15aの特徴点(表面特徴点)をHt1とする。表面特徴点Ht1は、辺Ht1-Ht2と辺Ht4-Ht1との交点である。マーカ16のキャビティの底面16bおよび側壁面16cに影が形成され、影の部分を暗部DS(ハッチングの部分)、光が直接照射されている部分を明部BSと称する。底面16bにおいて暗部DSと明部BSとの境界のうち、辺Kb1-Kb2は、辺Ht1-Ht2が投影されたものであり、辺Kb4-Kb1は、辺Ht4-Ht1が投影されたものである。辺Kb1-Kb2と辺Kb4-Kb1との交点を特徴点(投影特徴点)Kb1とする。投影特徴点Kb1は、表面特徴点Ht1が投影されたものである。すなわち、光源181と表面特徴点Ht1とを直線(図4(a)では一点鎖線で示す。)で結び、表面特徴点Ht1を越えて延ばした底面16bとの交点が投影特徴点Kb1である。表面特徴点Ht1から表面16aに対して垂直方向にある底面16bにおける頂点Hb1を底面特徴点とする。
図5は、本発明の一実施形態に係る位置姿勢計測システムの原理の説明図2である。図5は図4と同一の配置を示している。構成要素および各特徴点はxz平面上にあるとしているので、それらの座標の成分のうち、y座標は省略して(x座標、z座標)と表示する。
図5を参照するに、測定部22は、画像データから、表面特徴点Ht1、底面特徴点Hb1および投影特徴点Kb1のx座標を求める。マーカ16の表面特徴点Ht1の座標を(Ht1x、Ht1z)、底面特徴点Hb1の座標を(Hb1x、Hb1z)、投影特徴点Kb1の座標を(Kb1x、Kb 1z)と表す。表面特徴点Ht1を通るx軸に平行な平面z=Ht1zにおいて、底面特徴点Hb1は、ピンホールレンズ25のレンズ中心25aから視た場合、平面z=Ht1zとの交点PHbの位置になるので、画像データでは座標が(Hb1x、Ht1z)と表すことができる。同様に、投影特徴点Kb1は、平面z=Ht1zとの交点PKbの位置になるので、画像データでは座標が(Kb1x、Ht1z)と表すことができる。このようにして、測定部22は、表面特徴点Ht1のx座標Ht1x、底面特徴点Hb1のx座標Hb1xおよび投影特徴点Kb1のx座標Kb1xを画像データから求める。
演算部23は、測定部22により求めた表面特徴点Ht1、底面特徴点Hb1および投影特徴点Kb1の各々のx座標Ht1x、Hb1xおよびKb1xと、予め設定された光源181の座標(S1x,S1z)およびマーカの段差Dと用いて、画像データから、幾何学的関係から得られる連立方程式(下記式(1)~(3))により、表面特徴点Ht1のz座標Ht1z、マーカの傾きθおよびxz平面上の影の長さ<Kb1x>を求めて、マーカ16の位置および傾きを取得する。
(Ht1z-S1z)(<Kb1x>cosθ―V1x―Dcosθ)=Dcosθ(S1x-Ht1x) …(1)
Ht1z(<Kb1x>cosθ+V’1x)=(Hb1x-Kb1x)(Ht1z+Dcosθ) …(2)
(Ht1x-Kb1x)<Kb1x>sinθ=(V1x+V’1x)(<Kb1x>sinθ+Dcosθ)…(3)
式(1)は、光源181、表面特徴点Ht1および底面特徴点Hb1の位置から相似三角形の関係から得られた式である。式(2)は、ピンホールレンズ25のレンズ中心25aおよび底面特徴点Hb1の位置から相似三角形の関係から得られた式である。式(3)は、投影特徴点Kb1および表面特徴点Ht1の位置から相似三角形の関係から得られた式である。
式(1)~(3)に含まれるV1xおよびV’1xは以下の通りである。表面特徴点Ht1が、光源181によって底面特徴点Hb1を通るx軸に平行な平面z=Hb1zに投影された点PAは、投影特徴点Kb1のx座標Kb1xに対してV1xだけずれる。また、投影特徴点Kb1は、ピンホールレンズ25のレンズ中心25aから視た場合、平面z=Hb1zでは点PBの位置にあり、投影特徴点Kb1のx座標Kb1xに対してV’1xだけずれる。これらのずれV1x、V’1xは、幾何学的な関係により、以下の式(4)で表すことができる。
Figure 0007386531000001
上記式(1)~(3)は、解析的に解くことができるが、演算部23により、数値計算、例えばニュートン法によって表面特徴点Ht1のz座標Ht1z、マーカの傾きθおよびxz平面上の影の長さ<Kb1x>を求める。
なお、マーカ16がy軸に対しても傾いている場合は、測定部22が画像データから、表面特徴点Ht1、底面特徴点Hb1および投影特徴点Kb1の各々のx座標およびy座標を測定し、演算部23がy座標を考慮した式(1)~(3)を用いることで、マーカ16の位置および傾きを取得する。
以上により、マーカ16の位置および姿勢を計測できる。さらにマーカ16と加工物15との位置関係の情報を予め3次元計測機等で取得し計測部20に設定しておくことで、加工物15の位置および姿勢を高精度に決定することができる。
本実施形態に係るマーカ16によれば、マーカ16は、加工物15の表面15aに形成された開口部16aと、表面15aから所定の段差Dを有する底面16bとを有する。表面15aにおける表面特徴点Ht1と、底面16bに投影された表面15aの影の表面特徴点Ht1に対応する投影特徴点Kb1とを撮像した画像から測定および演算によりマーカ16の位置および姿勢を高精度に計測でき、それによって、加工物15の位置および姿勢を高精度に決定することができる。
本実施形態に係る位置姿勢計測装置21によれば、加工物15の表面15aに形成されたマーカ16の表面特徴点Ht1と、底面16bに投影された表面15aの影の表面特徴点Ht1に対応する投影特徴点Kb1とをカメラ19によって撮像し、計測部20により取得した画像における表面特徴点Ht1と光照射手段により光を照射して底面16bに投影された表面15aの影に基づく投影特徴点Kb1との座標成分を測定および演算することによって、マーカ16が設けられた加工物15の位置および姿勢を高精度に計測可能できる。
図6は、本発明の一実施形態に係る位置姿勢計測方法を示すフローチャートである。図6を図1、図2、図4および図5を合わせて参照しつつ、本発明の一実施形態に係る位置・姿勢計測方法を説明する。
最初に、S100では、カメラ19および光照射部18の光源の座標データを設定する。
具体的には、計測部20は、カメラ19のピンホールレンズ25のレンズ中心25aの座標および光照射部18の光源181~184の各座標を設定して、例えばメモリ(不図示)に格納する。この例では、レンズ中心25aを原点として光源181のxおよびz座標成分を設定する。設定されたデータは、例えば、計測部20のメモリに格納する。
次いで、S110では、マーカの表面と底面との段差を設定する。具体的には、計測部20は、マーカ16の表面15aから底面16bの段差Dを設定して、例えばメモリ(不図示)に格納する。
S120では、カメラでマーカを撮像し、画像データから表面特徴点および底面特徴点の座標成分を測定する。具体的には、制御部24によりカメラ19でマーカ16を撮像する。制御部24は、光源S1~S4の一部または全て点灯してもよい。測定部22は、撮像した画像データからマーカ16の表面特徴点Ht1および表面特徴点から段差Dだけ底面16bに下りた位置の底面特徴点Hb1の各x座標Ht1x、Hb1xを測定データとして取得する。
S130では、光源を点灯してカメラでマーカを撮像し、画像データから底面に投影されたマーカの表面の形状の影に基づいて投影特徴点の座標成分を測定する。具体的には、制御部24により光源S1を点灯してマーカ16の底面に表面15aの影を投影しカメラ19でマーカ16を撮像する。撮像した画像データから投影特徴点Kb1のx座標Kb1xを測定データとして取得する。
S140では、設定データおよび測定データから演算によりマーカの位置および姿勢の情報を取得する。具体的には、演算部23により、S100およびS110における設定した光源181の座標(S1x,S1z)およびマーカの段差Dと、S120およびS130において測定した表面特徴点Ht1、底面特徴点Hb1および投影特徴点Kb1の各々のx座標Ht1x、Hb1xおよびKb1xとを用いて、画像データから、幾何学的関係から得られる連立方程式(上記式(1)~(3))を数値計算、例えばニュートン法により、表面特徴点Ht1のz座標Ht1z、マーカの傾きθおよびxz平面上の影の長さ<Kb1x>を求め、マーカ16の表面特徴点Ht1の座標および姿勢θxを決定する。
S150では、マーカの位置および姿勢の情報から加工物の位置および姿勢を決定する。具体的には、演算部23により、S140で決定したマーカ16の表面特徴点Ht1の座標および姿勢θxから、マーカ16と加工物15との位置関係の情報により加工物15の位置および姿勢を決定する。なお、マーカと加工物との位置関係の情報は、予め計測部20に設定する。
S100~S150によって、加工物に形成されたマーカを用いて加工物の位置および姿勢が計測される。なお、S100とS110とは同時に行ってもよく、S110を先に行ってもよい。S120とS130とは同時に行ってもよく、S130を先に行ってもよい。
本実施形態に係る位置姿勢計測方法によれば、マーカ16を撮像し、取得した画像データから表面特徴点Ht1と、表面特徴点Ht1から所定の段差Dを有する底面16bの底面特徴点Hb1の座標成分を測定し、光源S1により光を照射して底面16bに投影された表面15aの影に基づく投影特徴点Kb1の座標成分を測定し、表面特徴点Ht1、底面特徴点Hb1および投影特徴点Kb1の座標成分に基づいてマーカ16の位置および姿勢の情報を演算により決定することで、マーカ16が設けられた加工物15の位置および姿勢を高精度に計測可能である。
図7は、本発明の一実施形態に係るマーカの変形例であり、(a)は平面図、(b)は光源を点灯して底面に影を投影した図である。説明の便宜のため、先の図2に示したマーカ16と異なる点を説明する。図7(a)を参照するに、マーカ116は、加工物15の表面15aに平面視した形状が概して多角形、一例として四角形であり、アール形状の角部Rt1~Rt4と辺St1~St4からなる開口部116aを有する。マーカ116の底面116bは、開口部116aと同一形状を有し、アール形状の角部Rb1~Rb4と辺Sbt1~Sb4からなる形状を有する。
開口部116aの角部、例えばRt1では、仮想的な頂点H’t1を、角部Rt1を挟む辺St1とSt4を延長した交点とすることができる。底面116bでも同様に、仮想的な頂点H’b1を、角部Rb1を挟む辺Sb1とSb4を延長した交点とすることができる。このようにして仮想的な頂点H’t1およびH’b1を求めることで、それぞれ表面特徴点H’t1および底面特徴点H’b1とすることができる。
図7(b)を(a)と合わせて参照するに、光源181を点灯してマーカ116に光を照射すると、表面の辺の影(暗部DS(ハッチング部分))が底面116bに投影される。暗部DSと明部BSとの境界、すなわち影の輪郭は辺Ks1およびKs4とアール部を有する。アール部は、角部Rt1が投影されたものである。辺Ks1と辺Ks4とを延長した交点をK’b1とする。交点K’b1は、仮想的には表面特徴点H’t1が光源181によって投影されたものであり、仮想的な投影特徴点K’b1とすることができる。
したがって、マーカ116は、マーカ16と同様の機能を有し、本発明の一実施形態に係る位置・姿勢計測システムのマーカとして機能することができる。また、本発明の一実施形態に係る位置・姿勢計測方法のマーカとして使用できる。
上記の説明では、マーカ16、116は、底面16b、116bの形状が表面15aにおける開口部16a、116aの形状と四角形状で同一であるとした。底面16b、116bの形状は、開口部16a、116aの形状と異なってもよい。この場合でも、表面15aから底面16b、116bの段差Dは同一であるため、投影特徴点Kb1の位置は、底面16b、116bが四角形状の場合と同様であり、上記式(1)~(5)を適用することができる。
上記の説明では、マーカ16、116は、底面16b、116bの表面15aに対する相対姿勢が平行であるとした。底面16b、116bは、表面15aに対して平行以外の相対姿勢であってもよい。底面の相対姿勢のオフセット分だけ投影特徴点Kb1の位置が平行の場合と異なるが、上記式(1)~(5)の<Kb1x>をオフセット分だけ補償すればよい。オフセット分は予めマーカを3次元測定器で測定して計測部20に設定しておけばよい。
上記の説明では、マーカ16、116は、加工物15の表面15aに設けられたキャビティ(凹部)として説明した。マーカは、加工物15の表面15aに設けられた突起体(凸部)であってもよい。突起体は、天面の形状がマーカ16、116の開口部16a、116aと同様の形状である。この場合、表面特徴点Ht1は突起体の天面の頂点または仮想的な頂点から選択される。表面特徴点の影は加工物15の表面15aに投影され、投影特徴点Kb1は、表面15aに形成される。加工物15の表面15aは、投影特徴点Kb1が形成される程度に広ければよい。これにより、突起体のマーカは、上記式(1)~(5)を適用することで、マーカ16,116と同様の機能を有し、本発明の一実施形態に係る位置・姿勢計測システムのマーカとして機能することができる。
マーカ16、116は、その表面15a、底面16b、天面に、マーカ16、116を形成した加工物15の識別情報、属性情報等、例えば仕様番号、製造ロット番号等を表示してもよい。カメラ19により撮像してその画像を計測部20によって認識し、加工物15を管理する。これにより、加工物15の位置および姿勢の情報と識別情報、属性情報等を同時に取得して、生産管理が容易となる。
以上、本発明の好ましい実施形態について詳述したが、本発明は係る特定の実施形態に限定されるものではなく、請求の範囲に記載された本発明の範囲内において、種々の変形・変更が可能である。例えば、マーカ16、116は、加工物15を固定する治具に形成してもよい。これにより、加工物15と治具との相対位置および相対姿勢の情報を予め設定することで、この情報を介して、本実施形態に係る位置姿勢計測装置21および位置姿勢計測方法によってマーカ16の位置および姿勢の情報から加工物の位置および姿勢を決定することができる。
また、本実施形態に係るマーカ16,116を有する加工物15または治具は、マーカ16,116によって加工物15または治具の位置および姿勢を特定することが可能であるので、工作機械とロボット間で加工物15の受渡しを行うことができる。
加工物15が図1に示したような移動ステージ14や自走型搬送車(AGV)に載置され、工場内の多数の工作機械により加工される場合にも本実施形態に係るマーカ16,116、位置姿勢計測装置21および位置姿勢計測方法を適用可能である。
10 工作機械
14 移動ステージ
15 加工物
16,116 マーカ
17 位置姿勢計測システム
18 光照射部
19 カメラ
20 計測部
21 位置姿勢計測装置
22 測定部
23 演算部
24 制御部

Claims (13)

  1. 対象物の表面に設けられ、該対象物の位置および姿勢を計測可能なマーカであって、
    第1の特徴点を有する第1の面と、
    前記第1の特徴点から所定の段差を有し、かつ前記第1の面よりも下方に該第1の面と所定の相対姿勢を有して形成された第2の面と、を備え、
    当該マーカを撮像手段によって撮影した画像における前記第2の面に投影された前記第1の面の影に基づいて前記第1の特徴点に対応する第2の特徴点を求め、前記第1の特徴点および第2の特徴点に基づいて前記対象物の位置および姿勢を計測可能な、前記マーカ。
  2. 当該マーカは、前記対象物の表面に開口部を有する凹部であり、前記第1の面が該表面であり、前記第2の面が該凹部の底面である、請求項1記載のマーカ。
  3. 前記開口部が多角形であり、前記第1の特徴点が該多角形の頂点である、請求項2記載のマーカ。
  4. 前記開口部がアール形状を有する多角形であり、前記第1の特徴点が該多角形の仮想的な頂点である、請求項2記載のマーカ。
  5. 当該マーカは、前記対象物の表面に形成された突起体であり、前記第1の面が該突起体の天面であり、前記第2の面が該表面である、請求項1記載のマーカ。
  6. 前記天面の外形が多角形であり、前記第1の特徴点が該多角形の頂点である、請求項5記載のマーカ。
  7. 前記天面の外形がアール形状を有する多角形であり、前記第1の特徴点が該多角形の仮想的な頂点である、請求項5記載のマーカ。
  8. 対象物の表面に設けられ、請求項1~7のうちいずれか一項に記載のマーカに光を照射して前記第1の面の影を前記第2の面に形成可能な光照射手段と、
    前記マーカを撮像する撮像手段と、
    前記撮像手段によって撮像した前記マーカの画像における前記第2の面に投影された前記第1の面の影に基づいて前記第1の特徴点に対応する第2の特徴点を求め、前記第1の特徴点および第2の特徴点に基づいて前記対象物の位置および姿勢を取得する計測手段と、
    を備える装置。
  9. 前記計測手段は、
    前記撮像した前記マーカの画像から、前記第1の特徴点と、前記第2の面に投影された前記第1の面の影に基づく前記第1の特徴点に対応する第2の特徴点と、前記第1の特徴点から前記所定の段差を有する前記第2の面内の第3の特徴点との画像上の座標成分を測定する測定部と、
    前記測定部により測定された前記第1~第3の特徴点の各々の座標成分に基づいて、前記第1~第3の特徴点の各々の他の座標成分を演算により求めて前記対象物の位置および姿勢を取得する演算部と、を有する、請求項8記載の装置。
  10. 前記撮像手段は、前記対象物から離隔して広角で撮像して前記マーカの位置を検出し、該マーカを拡大して撮像可能な、請求項8または9記載の装置。
  11. 対象物の表面に形成された、請求項1~7のうちいずれか一項に記載のマーカと、
    請求項8~10のうちいずれか一項に記載の装置と、
    を備えるシステム。
  12. 請求項11に記載のシステムにより対象物の位置および姿勢を計測する方法であって、
    請求項1~7のうちいずれか一項に記載のマーカを撮像手段で撮像し、計測手段により取得した第1の画像データから前記第1の特徴点と、該第1の特徴点から前記所定の段差を有する前記第2の面内の第3の特徴点の座標成分を測定する第1の測定ステップと、
    光照射手段により光を照射して前記撮像手段で前記マーカを撮像し、前記計測手段により取得した第2の画像データから前記第2の面に投影された前記第1の面の影に基づいて前記第1の特徴点に対応する前記第2の特徴点の座標成分を測定する第2の測定ステップと、
    前記計測手段により前記第1および第2の測定ステップで取得した前記第1~第3の特徴点の座標成分に基づいて前記マーカの位置および姿勢の情報を演算により決定するステップと、
    を含む、前記方法。
  13. 前記計測手段により、前記演算により決定するステップにおいて、前記所定の段差と前記光照射手段の座標成分を用いて演算を行う、請求項12記載の方法。

JP2020094365A 2020-05-29 2020-05-29 対象物の位置および姿勢の計測のためのマーカ、装置およびシステム Active JP7386531B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020094365A JP7386531B2 (ja) 2020-05-29 2020-05-29 対象物の位置および姿勢の計測のためのマーカ、装置およびシステム
PCT/JP2021/007710 WO2021240934A1 (ja) 2020-05-29 2021-03-01 対象物の位置および姿勢の計測のためのマーカ、装置、システムおよび計測方法
DE112021003059.0T DE112021003059T5 (de) 2020-05-29 2021-03-01 Marker, Gerät, System und Verfahren zur Messung und Berechnung der Position und der Orientierung eines Objekts
CN202180033490.3A CN115516274A (zh) 2020-05-29 2021-03-01 用于测量对象物的位置以及姿势的标记、装置、系统以及测量方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020094365A JP7386531B2 (ja) 2020-05-29 2020-05-29 対象物の位置および姿勢の計測のためのマーカ、装置およびシステム

Publications (2)

Publication Number Publication Date
JP2021189033A JP2021189033A (ja) 2021-12-13
JP7386531B2 true JP7386531B2 (ja) 2023-11-27

Family

ID=78723304

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020094365A Active JP7386531B2 (ja) 2020-05-29 2020-05-29 対象物の位置および姿勢の計測のためのマーカ、装置およびシステム

Country Status (4)

Country Link
JP (1) JP7386531B2 (ja)
CN (1) CN115516274A (ja)
DE (1) DE112021003059T5 (ja)
WO (1) WO2021240934A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070073133A1 (en) 2005-09-15 2007-03-29 Schoenefeld Ryan J Virtual mouse for use in surgical navigation
JP2018044897A (ja) 2016-09-15 2018-03-22 株式会社五合 情報処理装置、カメラ、移動体、移動体システム、情報処理方法およびプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03131710A (ja) * 1989-10-18 1991-06-05 Nec Corp 位置決めマーク
JPH05312521A (ja) * 1992-05-13 1993-11-22 Nec Corp ターゲットマーク
JP6126067B2 (ja) 2014-11-28 2017-05-10 ファナック株式会社 工作機械及びロボットを備えた協働システム
JP6694643B2 (ja) 2016-02-19 2020-05-20 国立研究開発法人産業技術総合研究所 ワークの加工方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070073133A1 (en) 2005-09-15 2007-03-29 Schoenefeld Ryan J Virtual mouse for use in surgical navigation
JP2018044897A (ja) 2016-09-15 2018-03-22 株式会社五合 情報処理装置、カメラ、移動体、移動体システム、情報処理方法およびプログラム

Also Published As

Publication number Publication date
WO2021240934A1 (ja) 2021-12-02
JP2021189033A (ja) 2021-12-13
CN115516274A (zh) 2022-12-23
DE112021003059T5 (de) 2023-06-22

Similar Documents

Publication Publication Date Title
US11544874B2 (en) System and method for calibration of machine vision cameras along at least three discrete planes
CN108965690B (zh) 图像处理系统、图像处理装置及计算机可读存储介质
JP5429872B2 (ja) 加工対象物を溶接するロボットを制御する方法および装置
US8917942B2 (en) Information processing apparatus, information processing method, and program
JP2006138857A (ja) 歯型の三次元測定のための測定装置並びに歯型の三次元測定のための方法
US20210291376A1 (en) System and method for three-dimensional calibration of a vision system
JPH11166818A (ja) 三次元形状計測装置の校正方法及び校正装置
JP7353757B2 (ja) アーチファクトを測定するための方法
JP2010060556A (ja) 曲面部材計測システム及び方法
JP2017198470A (ja) 計測装置、計測方法、システム及び物品の製造方法
JP7386531B2 (ja) 対象物の位置および姿勢の計測のためのマーカ、装置およびシステム
JP7509918B2 (ja) 画像処理システム及び画像処理方法
JP2017007026A (ja) 位置補正システム
JPH03259705A (ja) 折曲機の角度計測装置
JPH03268818A (ja) 折曲機の角度計測装置
JP2022072260A (ja) 位置ずれ検出方法、位置ずれ検出装置、位置合せ装置および検査装置
KR101833055B1 (ko) 3차원 측정 장치
JPH05337785A (ja) 研削ロボットの研削経路修正装置
JPH05329793A (ja) 視覚センサ
JP7520608B2 (ja) ロボットハンド位置検出システム
JP2018044863A (ja) 計測装置、計測方法、システム及び物品の製造方法
PL243968B1 (pl) Sposób skanowania przestrzeni roboczej obrabiarki CNC
JPS6311290A (ja) 三次元位置設定装置
JPH0567200A (ja) 光学式測定装置における画像処理方法
JP2559646B2 (ja) 光学式測定装置における画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231107

R150 Certificate of patent or registration of utility model

Ref document number: 7386531

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150