JP5158386B2 - 単一カメラによる画像計測処理装置,画像計測処理方法および画像計測処理プログラム - Google Patents

単一カメラによる画像計測処理装置,画像計測処理方法および画像計測処理プログラム Download PDF

Info

Publication number
JP5158386B2
JP5158386B2 JP2010218290A JP2010218290A JP5158386B2 JP 5158386 B2 JP5158386 B2 JP 5158386B2 JP 2010218290 A JP2010218290 A JP 2010218290A JP 2010218290 A JP2010218290 A JP 2010218290A JP 5158386 B2 JP5158386 B2 JP 5158386B2
Authority
JP
Japan
Prior art keywords
camera
feature points
point
points
coordinates
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010218290A
Other languages
English (en)
Other versions
JP2012027000A (ja
Inventor
祐 辻井
Original Assignee
株式会社アイティーティー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社アイティーティー filed Critical 株式会社アイティーティー
Priority to JP2010218290A priority Critical patent/JP5158386B2/ja
Publication of JP2012027000A publication Critical patent/JP2012027000A/ja
Application granted granted Critical
Publication of JP5158386B2 publication Critical patent/JP5158386B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、単一カメラによる画像計測技術に関するものである。
従来のカメラ画像計測は、1台のカメラで多くの視点から撮影した画像に基づいて、バンドル計算を行い対象点の位置を算出するバンドル計算方式や、予め位置を固定した2台のカメラで測定するステレオカメラ方式が用いられている。バンドル計算方式の場合は、被計測対象に多数のターゲットを貼った状態で撮影することが行われるために計測の手間がかかるといった問題があり、また長さや間隔などの距離を必要とする場合にはスケールバーなどが必要であった。
一方、ステレオカメラ方式の場合は、異なるアングルから撮影した2枚の写真の対応点を指定することにより、被計測対象上のポイントの3次元座標を知ることができるものである。2枚の写真の対応点像は写真上の異なる点に写るので、それぞれの像で写真上の位置の違い(視差)を測ることができ、この視差には距離の情報が含まれていることから、長さや間隔などの距離を自動的に算出することができる。
しかし、ステレオカメラ方式の場合、カメラが固定しているために、撮影範囲が限定され、また自由な方向から撮影することが困難である。更に、ステレオカメラ方式の場合は、装置自体も別に作製する必要があるため、カメラ1台のバンドル計算方式に比べて費用が高くつく欠点がある。
また、単一のカメラ画像から同一平面上に位置する任意の同一平面上に存在する測量点の座標を算出する写真測量方法が知られている(特許文献1)。特許文献1の写真測量は、1の観測点からカメラにより被写体を撮影し、被写体の特定平面上にある3つの参照点の距離を予め巻き尺等で測定し、単一のカメラ画像から被写体の構成部分の特定平面上に位置する任意の測量点の2次元座標が算出するものである。この方法は、参照点と測量点が、同一平面上に存在し、単一のカメラ画像から同一平面上の任意の測量点を簡易に測量するもので、構造物の壁面等の測量に適している方法として知られている。
しかし、特許文献1の写真測量方法によれば、参照点と測量点が同一平面上に存在することが要求されるため、参照点と測量点を自由に選択することができないという問題がある。
立体的構造を成す製品を、単一のカメラで写真測量する場合、製品の形状の特徴にもよるが、参照点や測量点は必ずしも同一平面に存在しないことが多い。
現状、単一カメラを用いた計測では、奥行き情報が精度よく取得できないことから、単一カメラに距離測定のためのレーザーを利用しているケースが殆どである。かかる状況下、生産ラインでの物体の3次元位置の認識や、物体の位置出しや追跡など、単一のカメラで精度良く計測を行うことができる技術が求められている。
特開2003−177017号公報
上記状況に鑑みて、本発明は、単一のカメラで精度よく、被計測対象上の特徴点の3次元位置座標を知ることができる画像計測処理装置,画像計測処理方法および画像計測処理プログラムを提供することを目的とする。
上記目的を達成すべく、本発明の第1の観点の単一カメラによる画像計測処理装置は、
(1)1台のカメラ手段と、
(2)少なくとも演算手段と記憶手段とデータ転送手段とを備えた情報演算端末と、を備え、
上記(2)の情報演算端末は、
A)記憶手段が、
算出された前記カメラ手段の内部標定要素と、被計測対象物の4点(但し、該4点のうち任意の3点が一直線上に存在せず、該4点が同一平面上になく、その他の制約がないもの)の特徴点の実座標を予め記憶し、
B)データ転送手段が、
カメラ手段を用いて撮影された4点の特徴点をカメラ視野内に含む画像を取り込み、
C)演算手段が、
C−1)取り込んだ画像上の特徴点のカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正し、
C−2)歪み補正された特徴点のカメラビュー座標と実座標から、画像撮影時の被計測対象物を基準とした座標系におけるカメラ位置およびカメラ角度を算出し、
C−3)算出した画像撮影時のカメラ位置およびカメラ角度が基準位置および基準角度となるような座標変換を用いて、カメラ基準の座標系における特徴点の3次元座標を算出する、
構成とされる。
かかる構成によれば、単一のカメラで精度よく、被計測対象上の特徴点の3次元位置座標を取得することができる。
ここで、上記(1)のカメラ手段とは、市販のディジタルカメラや計測カメラ、更にはディジタルビデオカメラを用いることができる。このカメラ手段は、カメラ画像が撮影された際のカメラ状態を解析的に求めるカメラキャリブレーションを行うことが必要である。カメラキャリブレーションとは、具体的には、撮影時のカメラの位置および姿勢(カメラ角度)といった外部標定要素と、焦点距離や主点位置のズレ、レンズ歪み係数といった内部標定要素とを予め求めることである。
ここで、外部標定要素である撮影時のカメラ位置およびカメラ角度は、現場における実際のカメラ撮影状況に依存することから取得した画像から自動的に算出する。
また、内部標定要素は、以下のa)〜d)の内部パラメータであり、予め情報演算端末の記憶手段に記憶している。
a)焦点距離
カメラのレンズ中心(主点)から撮像面(CCDセンサ等)までの距離として、例えば、0.1ミクロンの精度で値を算出する。
b)主点位置のズレ
カメラの主点と撮像面の中心位置との平面2軸(x, y)各方向のズレ量で、カメラ製造時の組み付け精度に依存するものであり、例えば、0.1ミクロンの精度で値を算出する。
c)放射方向レンズ歪み補正係数
ディジタルカメラによる画像の撮影は、曲面のレンズを通して平面の撮像面で光を受光するものであり、撮影された画像上の各画素は中心から距離が離れるほど大きな歪みが生じることから、そのような歪みを補正するための係数を算出する。
d)接線方向レンズ歪み補正係数
接線方向レンズ歪みは、レンズと撮像面とが平行に設置されていないことにより生じるものであり、カメラ製造時の組み付け精度に依存することから、補正係数を算出する。
また、上記(2)の情報演算端末は、デスクトップ型コンピュータ、ノート型コンピュータ、ハンドヘルドコンピュータ、PDA(Personal Digital Assistance)等のモバイルコンピュータでよい。記憶手段は、RAM(揮発性メモリ)、PROM(書き込み可能なメモリ)等で構成されればよい。
また、情報演算端末のデータ転送手段とは、USBインタフェースのように有線ケーブルでカメラ手段と接続して画像データを転送するものに限らず、赤外線データ転送などの無線通信で画像データを転送するものでもよい。
本発明の単一カメラによる画像計測処理装置では、上記C−1)〜C−3)によって、被計測対象物の4点の特徴点の3次元位置座標を、カメラ基準の座標系、すなわち、基準座標のカメラ位置から見た座標に置換することにある。
取り込んだカメラ画像上の特徴点の2次元座標であるカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正した後、歪み補正された特徴点のカメラビュー座標(2次元座標)と実座標(上記A)記憶手段に予め記憶された被計測対象物の3次元座標)から、被計測対象物を基準とした座標系におけるカメラ位置およびカメラ角度を算出する。
ここで、4点の特徴点の実座標を予め記憶するが、この4点の特徴点うち任意の3点は一直線上に存在しないことが必要である。
そして、被計測対象物の4点の特徴点の3次元位置座標を、カメラ基準の座標系に変換すべく、算出した画像撮影時のカメラ位置およびカメラ角度が、基準位置および基準角度となるような座標変換マトリックスを用いて、カメラ基準の座標系における特徴点の3次元座標を算出するのである。
また、本発明の単一カメラによる画像計測処理装置において、カメラ手段を用いて撮影された4点の特徴点をカメラ視野内に含む少なくとも2枚の画像を取り込み、カメラ基準の座標系における特徴点の3次元座標から、被計測対象物の移動量を算出する、構成とされることが好ましい。
かかる構成によれば、単一カメラで撮影した2枚以上のカメラ画像から、カメラ基準の座標系における被計測対象物の特徴点の3次元座標を連続的に算出することで、被計測対象物の特徴点の移動量を検知することが可能となる。
また、本発明の第2の観点の単一カメラによる画像計測処理装置は、
少なくとも2台の第1カメラ手段と第2カメラ手段と、
少なくとも演算手段と記憶手段とデータ転送手段とを備えた情報演算端末と、
を備え、
情報演算端末は、
記憶手段が、
算出された第1カメラ手段の第1内部標定要素および第2カメラ手段の第2内部標定要素、被計測対象物の4点(但し、該4点のうち任意の3点が一直線上に存在せず、該4点が同一平面上になく、その他の制約がないもの)の特徴点の実座標、第1カメラ手段と第2カメラ手段の相対位置関係を予め記憶し、
データ転送手段が、
第1カメラ手段を用いて撮影された4点の第1特徴点群をカメラ視野内に含む画像と、第2カメラ手段を用いて撮影された4点の第2特徴点群をカメラ視野内に含む画像とを取り込み、
演算手段が、
取り込んだ画像上の第1特徴点群と第2特徴点群のカメラビュー座標について、それぞれの内部標定要素に基づき画像上の歪みを補正し、
歪み補正された第1特徴点群および第2特徴点群のカメラビュー座標と実座標から、第1カメラ手段と第2カメラ手段の各画像撮影時の被計測対象物を基準とした座標系におけるカメラ位置およびカメラ角度を算出し、算出した画像撮影時のカメラ位置およびカメラ角度が基準位置および基準角度となるような座標変換を用いて、カメラ基準の座標系における特徴点の3次元座標を算出する、構成とされる。
ステレオカメラ方式の場合、ステレオ配置された2台のカメラは、三角測量の原理で奥行き情報を取得するため、2台のカメラが同一の特徴点をカメラ視野に捉える必要がある。
上述した本発明の単一カメラによる画像計測処理では、単一カメラで4以上の被計測対象物の特徴点を取得できれば、カメラ基準の座標系における被計測対象物の全ての特徴点の3次元位置座標を取得することができることから、2台のカメラで全て異なる4点の特徴点を、それぞれカメラ視野に捉えた場合でも、それぞれのカメラにおいて、カメラ基準の座標系における被計測対象物の全ての特徴点の3次元位置座標を取得することができるのである。
したがって、例えば、車の製造ラインの左右の2台のカメラで、左側面と右側面を同時に撮影し、左側面の4つの特徴点と、左側面の4つの特徴点とは全て異なる右側面の4つの特徴点の3次元位置座標を算出し、左側面の特徴点と右側面の特徴点の間隔距離や位置関係を得ることができるのである。
次に、本発明の第1の観点の単一カメラによる画像計測処理方法は、以下のステップ1〜ステップ6を有するものである。
(ステップ1)被計測対象物の4点(但し、該4点のうち任意の3点が一直線上に存在せず、該4点が同一平面上になく、その他の制約がないもの)の特徴点の実座標データを読込むステップ
(ステップ2)カメラ手段の内部標定要素を読込むステップ
(ステップ3)カメラ手段を用いて撮影された4点の特徴点をカメラ視野内に含む画像を取り込むステップ
(ステップ4)取り込んだ画像上の特徴点のカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正するステップ
(ステップ5)歪み補正された特徴点のカメラビュー座標と実座標から、画像撮影時の被計測対象物を基準とした座標系におけるカメラ位置およびカメラ角度を算出するステップ
(ステップ6)算出した画像撮影時のカメラ位置およびカメラ角度が基準位置および基準角度となるような座標変換を用いて、カメラ基準の座標系における特徴点の3次元座標を算出するステップ
ステップ1〜ステップ6を備える構成によれば、被計測対象物の4点の特徴点の3次元位置座標を、カメラ基準の座標系における3次元座標に変換して取得することができる。
ここで、本発明の単一カメラによる画像計測処理方法は、上述のステップ1〜ステップ6に加えて、更に、ステップ7を有することが好ましい。
(ステップ7)カメラ手段を用いて撮影された4点の特徴点をカメラ視野内に含む少なくとも2枚の画像を取り込み、カメラ基準の座標系における特徴点の3次元座標から、被計測対象物の移動量を算出するステップ
ステップ7を備える構成によれば、単一カメラで撮影した2枚以上のカメラ画像から、カメラ基準の座標系における被計測対象物の特徴点の3次元座標を連続的に算出することで、被計測対象物の特徴点の移動量を検知することが可能となる。
次に、本発明の第1の観点の単一カメラによる画像計測処理プログラムは、以下の手順1〜手順7をコンピュータに実行させるものである。
(手順1)被計測対象物の4点(但し、該4点のうち任意の3点が一直線上に存在せず、該4点が同一平面上になく、その他の制約がないもの)の特徴点の実座標データを読込む手順
(手順2)カメラ手段の内部標定要素を読込む手順
(手順3)カメラ手段を用いて撮影された4点の特徴点をカメラ視野内に含む画像を取り込む手順
(手順4)取り込んだ画像上の特徴点のカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正する手順
(手順5)歪み補正された特徴点のカメラビュー座標と実座標から、画像撮影時の被計測対象物を基準とした座標系におけるカメラ位置およびカメラ角度を算出する手順
(手順6)上記(手順3)〜(手順5)の手順を繰り返す手順
(手順7)算出した各画像撮影時のカメラ位置およびカメラ角度が基準位置および基準角度となるような座標変換を用いて、カメラ基準の座標系における前記特徴点の3次元座標を算出する手順
手順1〜手順7を備える構成によれば、被計測対象物の4点の特徴点の3次元位置座標を、カメラ基準の座標系における3次元座標に変換して取得することができる。
ここで、本発明の単一カメラによる画像計測処理プログラムは、上述の手順1〜手順7に加えて、更に、手順8をコンピュータに実行させる。
(手順8)カメラ手段を用いて撮影された4点の特徴点をカメラ視野内に含む少なくとも2枚の画像を取り込み、カメラ基準の座標系における特徴点の3次元座標から、被計測対象物の移動量を算出する手順
手順8を備える構成によれば、単一カメラで撮影した2枚以上のカメラ画像から、カメラ基準の座標系における被計測対象物の特徴点の3次元座標を連続的に算出することで、被計測対象物の特徴点の移動量を検知することが可能となる。
また、本発明の第3の観点の単一カメラによる画像計測処理装置は、
1台のカメラ手段と、計測用プローブと、少なくとも演算手段と記憶手段とデータ転送手段とを備えた情報演算端末と、を備え、
情報演算端末は、
記憶手段が、
算出された前記カメラ手段の内部標定要素と、計測用プローブの4点(但し、該4点のうち任意の3点が一直線上に存在せず、該4点が同一平面上になく、その他の制約がないもの)の特徴点の実座標と、計測用プローブのプローブ先端部の実座標と、を予め記憶し、
データ転送手段が、
カメラ手段を用いて撮影された4点の特徴点をカメラ視野内に含む画像を取り込み、
演算手段が、
取り込んだ画像上の特徴点のカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正し、
歪み補正された特徴点のカメラビュー座標と実座標から、画像撮影時の計測用プローブを基準とした座標系におけるカメラ位置およびカメラ角度を算出し、算出した画像撮影時のカメラ位置およびカメラ角度が基準位置および基準角度となるような座標変換を用いて、カメラ基準の座標系における特徴点の3次元座標を算出し、
計測用プローブのプローブ先端部を被計測対象物に接触させることにより、カメラ基準の座標系における被計測対象物の3次元位置座標を得る、構成とされる。
かかる構成によれば、計測用プローブの基準となる特徴点の4点の位置を計測すると共に、計測用プローブの先端部の位置をキャリブレーションによって求め、基準となる4点とプローブ先端部の位置関係が得られることから、測定対象部をプローブ先端部に接触させることにより、その三次元位置座標を計算できることになる。
なお、キャリブレーションの方法としては、球の周りを測定する方法や3次元測定器などで直接測定する方法を用いることができる。
また、本発明の第4の観点の単一カメラによる画像計測処理装置は、
1台のカメラ手段と、ポイントレーザー光を照射して非接触で計測を行う計測用プローブと、少なくとも演算手段と記憶手段とデータ転送手段とを備えた情報演算端末と、を備え、
情報演算端末は、
記憶手段が、
算出されたカメラ手段の内部標定要素と、計測用プローブの4点(但し、該4点のうち任意の3点が一直線上に存在せず、該4点が同一平面上になく、その他の制約がないもの)の特徴点の実座標と、計測用プローブのポイントレーザー光上の2点の実座標から得られたポイントレーザー光の方向ベクトルと、を予め記憶し、
データ転送手段が、
カメラ手段を用いて撮影された4点の特徴点と、計測用プローブのポイントレーザー光が照射される被計測対象物の部位と、をカメラ視野内に含む画像を取り込み、
演算手段が、
取り込んだ画像上の特徴点のカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正し、
歪み補正された特徴点のカメラビュー座標と実座標から、画像撮影時の計測用プローブを基準とした座標系におけるカメラ位置およびカメラ角度を算出し、算出した画像撮影時のカメラ位置およびカメラ角度が基準位置および基準角度となるような座標変換を用いて、カメラ基準の座標系における特徴点の3次元座標を算出して、
計測用プローブのポイントレーザー光を照射した被計測対象物の部位に関して、カメラ基準の座標系における3次元位置座標を得る、構成とされる。
かかる構成によれば、計測用プローブの基準となる特徴点の4点の位置を計測すると共に、ポイントレーザー光上の任意の距離の2点の位置をキャリブレーションによって求め、ポイントレーザー光の方向ベクトルを取得し、測定対象部をプローブ先端部に接触させること無しに、ポイントレーザー光を照射した被計測対象物の部位に関して、カメラ基準の座標系における3次元位置座標を計算できることになる。
また、本発明の第5の観点の単一カメラによる画像計測処理装置は、
1台のカメラ手段と、ラインレーザー光を照射して非接触で計測を行う計測用プローブと、少なくとも演算手段と記憶手段とデータ転送手段とを備えた情報演算端末と、を備え、
情報演算端末は、
記憶手段が、
算出されたカメラ手段の内部標定要素と、計測用プローブの4点(但し、該4点のうち任意の3点が一直線上に存在せず、該4点が同一平面上になく、その他の制約がないもの)の特徴点の実座標と、計測用プローブのラインレーザー光上の3点(但し、該3点が一直線上に存在しないもの)の実座標から得られたラインレーザー光の平面の方程式と、を予め記憶し、
データ転送手段が、
カメラ手段を用いて撮影された4点の特徴点と、計測用プローブのラインレーザー光が照射されることにより被計測対象物の表面に現れるレーザー光の連続線と、をカメラ視野内に含む画像を取り込み、
演算手段が、
取り込んだ画像上の前記特徴点のカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正し、
歪み補正された特徴点のカメラビュー座標と実座標から、画像撮影時の計測用プローブを基準とした座標系におけるカメラ位置およびカメラ角度を算出し、算出した画像撮影時のカメラ位置およびカメラ角度が基準位置および基準角度となるような座標変換を用いて、カメラ基準の座標系における特徴点の3次元座標を算出して、
計測用プローブのラインレーザー光を被計測対象物に照射した際に現れる連続線(ピクセル群)に関して、カメラ基準の座標系における3次元位置座標を得る、構成とされる。
かかる構成によれば、計測用プローブの基準となる特徴点の4点の位置を計測すると共に、ラインレーザー光上の任意の3点の位置をキャリブレーションによって求め、ラインレーザー光の平面の方程式を取得し、測定対象部をプローブ先端部に接触させること無しに、ラインレーザー光を照射した際に現れる連続線(ピクセル群)に関して、カメラ基準の座標系における3次元位置座標を計算できることになる。
また、本発明の第6の観点の単一カメラによる画像計測処理装置は、
1台のカメラ手段と、少なくとも演算手段と記憶手段とデータ転送手段とを備えた情報演算端末と、を備え、
情報演算端末は、
記憶手段が、
算出された前記カメラ手段の内部標定要素と、被計測対象物の3点(但し、該3点が一直線上に存在するもので、他の制約がないもの)の特徴点の点間距離データを予め記憶し、
データ転送手段が、
カメラ手段を用いて撮影された3点の特徴点をカメラ視野内に含む少なくとも1枚の画像を取り込み、
演算手段が、
取り込んだ画像上の特徴点のカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正し、
歪み補正された特徴点のカメラビュー座標と3点の特徴点の点間距離データから、カメラ基準の座標系における3点の特徴点の3次元座標を算出する、構成とされる。
本発明者は、研究・実験を重ねた結果、一直線上に存在する3点の特徴点を有するバー(以下、一直線上に存在する3点の特徴点を有するバーを「基準バー」と呼ぶ。)を用いて、高い精度で計測できることの知見を得た。従来から、学術分野においては3つの特徴点を用いて計測を行う手法について論じられているものがあるが、精度の問題や、解が求まらないという問題で、計測デバイスとして実用化されていないのが現状である。また、ステレオカメラの登場が、3つの特徴点を用いて計測を行う計測デバイス開発を阻害したのも事実である。
しかしながら、3つの特徴点を用いて被計測対象物の三次元計測を行えることは、非常にメリットがある。すなわち、1つ目のメリットとしては、3つの特徴点により計算するため、計算量が少なく、処理が高速で行えることである。その結果、写真のような静止画計測からビデオカメラを用いた動画計測も可能となる。また、2つ目のメリットとしては、3つの特徴点だと、棒状の指標デバイスにできることである。実際の現場、例えば、建物の工事現場などでは、計測環境は必ずしも良くない。そのような現場では、デバイスの持ち運びのしやすさも重要な要素になる。さらに、3つ目のメリットとしては、大規模なスケールのものでも計測できることである。例えば、大規模な建造物になると、数10m程度の測定が必要となる。この場合、上述の基準バーを2本用意して、大規模な建造物の両端にそれぞれ配置して建造物の計測を行うとよい。
また、本発明の第2の観点の単一カメラによる画像計測処理方法は、以下のステップ1〜ステップ6を備えて、高速に、かつ、精度よく計測できる。
(ステップ1)被計測対象物の3点(但し、該3点が一直線上に存在するもので、他の制約がないもの)の特徴点の点間距離データを読込むステップ
(ステップ2)カメラ手段の内部標定要素を読込むステップ
(ステップ3)カメラ手段を用いて撮影された3点の特徴点をカメラ視野内に含む少なくとも1枚の画像を取り込むステップ
(ステップ4)取り込んだ画像上の特徴点のカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正するステップ
(ステップ5;3点一直線上実座標算出ステップ)歪み補正された前記特徴点のカメラビュー座標と3点の特徴点の点間距離データから、カメラ基準の座標系における3点の特徴点の3次元座標を算出するステップ
また、本発明の第2の観点の単一カメラによる画像計測処理プログラムは、以下の手順1〜手順6をコンピュータに実行させて、処理を高速に、かつ、精度よく計測できるものである。
(手順1)被計測対象物の3点(但し、該3点が一直線上に存在するもの)の特徴点の点間距離データを読込む手順
(手順2)カメラ手段の内部標定要素を読込む手順
(手順3)カメラ手段を用いて撮影された3点の特徴点をカメラ視野内に含む画像を取り込む手順
(手順4)取り込んだ画像上の特徴点のカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正する手順
(手順5)歪み補正された前記特徴点のカメラビュー座標と3点の特徴点の点間距離データから、カメラ基準の座標系における3点の特徴点の3次元座標を算出する手順
(手順6)上記(手順3)〜(手順5)の手順を繰り返す手順
また、本発明の第7の観点の単一カメラによる画像計測処理装置は、
1台のカメラ手段と、少なくとも演算手段と記憶手段とデータ転送手段とを備えた情報演算端末と、を備え、
情報演算端末は、
記憶手段が、
算出された前記カメラ手段の内部標定要素と、被計測対象物の3点(但し、該3点が一直線上に存在しないもの)の特徴点の点間距離データおよび3点の特徴点のカメラとの位置関係を予め記憶し、
データ転送手段が、
カメラ手段を用いて撮影された3点の特徴点をカメラ視野内に含む画像を取り込み、
演算手段が、
取り込んだ画像上の特徴点のカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正し、
歪み補正された特徴点のカメラビュー座標と3点の特徴点の点間距離データから、カメラ基準の座標系における3点の特徴点の3次元座標を算出し、
3点の特徴点のカメラとの位置関係を用いて、算出した解を一つに限定する、構成とされる。
本発明者は、研究・実験を重ねた結果、一直線上に存在しない3点の特徴点を用いた場合でも解が1つに求まり、精度よく三次元計測できることの知見を得た。
また、本発明の第3の観点の単一カメラによる画像計測処理方法は、以下のステップ1〜ステップ6を備えて、高速に、かつ、精度よく計測できる。
(ステップ1)被計測対象物の3点(但し、該3点が一直線上に存在しないもの)の特徴点の点間距離データおよび3点の特徴点のカメラとの位置関係を読込むステップ
(ステップ2)カメラ手段の内部標定要素を読込むステップ
(ステップ3)カメラ手段を用いて撮影された3点の特徴点をカメラ視野内に含む画像を取り込むステップ
(ステップ4)取り込んだ画像上の特徴点のカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正するステップ
(ステップ5;3点実座標算出ステップ)歪み補正された前記特徴点のカメラビュー座標と3点の特徴点の点間距離データから、カメラ基準の座標系における3点の特徴点の3次元座標を算出するステップ
(ステップ6)3点の特徴点のカメラとの位置関係を用いて、算出した解を一つに限定するステップ
また、本発明の第3の観点の単一カメラによる画像計測処理プログラムは、以下の手順1〜手順6をコンピュータに実行させて、処理を高速に、かつ、精度よく計測できるものである。
(手順1)被計測対象物の3点(但し、該3点が一直線上に存在しないもの)の特徴点の点間距離データおよび3点の特徴点のカメラとの位置関係を読込む手順
(手順2)カメラ手段の内部標定要素を読込む手順
(手順3)カメラ手段を用いて撮影された3点の特徴点をカメラ視野内に含む画像を取り込む手順
(手順4)取り込んだ画像上の特徴点のカメラビュー座標について、内部標定要素に基づき画像上の歪みを補正する手順
(手順5)歪み補正された前記特徴点のカメラビュー座標と3点の特徴点の点間距離データから、カメラ基準の座標系における3点の特徴点の3次元座標を算出する手順
(手順6)3点の特徴点のカメラとの位置関係を用いて、算出した解を一つに限定する手順
(手順)上記(手順3)〜(手順)の手順を繰り返す手順

なお、上述の第2の観点および第3の観点の単一カメラによる画像計測処理プログラムは、処理が高速であり、動画像計測が可能であることから、ビデオカメラに搭載されるのが好ましい。
本発明の単一カメラによる画像計測処理装置,画像計測処理方法および画像計測処理プログラムによれば、単一のカメラで精度よく、被計測対象上の特徴点の3次元位置座標を知ることができる。
実施例1の画像計測処理装置のイメージ図 実施例1の画像計測処理装置の構成図 実施例1の画像計測処理装置の処理フロー図 実施例1の画像計測処理装置の処理フローの説明図(1) 実施例1の画像計測処理装置の処理フローの説明図(2) 実施例1の画像計測処理装置の処理フローの説明図(3) 精度検証実験1および精度検証実験2の計測ターゲットの配置図 精度検証実験3の計測ターゲットの配置図 接触式プローブの説明図 ポイントレーザー光の非接触式プローブの説明図 ポイントレーザー光の非接触式プローブを用いた画像計測処理装置の説明図 ラインレーザー光の非接触式プローブの説明図 ラインレーザー光の非接触式プローブを用いた画像計測処理装置の説明図 実施例5の計測イメージ図 実施例5の3点が一直線上にある場合の計算方法の説明図 実施例6の計測イメージ図 実施例6の3点が直線上に存在しない場合の計算方法の説明図 精度検証実験4の計測ターゲットの配置図 精度検証実験5の計測ターゲットの配置図 実施例5の処理により算出した実座標(精度検証実験4) 実施例6の処理により算出した実座標(精度検証実験4) 実施例5の処理により算出した実座標(精度検証実験5)
以下、本発明の実施形態について、図面を参照しながら詳細に説明していく。なお、本発明の範囲は、以下の実施例や図示例に限定されるものではなく、幾多の変更及び変形が可能である。
図1は、実施例1の単一カメラによる画像計測処理装置のイメージ図を示している。実施例1の単一カメラによる画像計測処理装置1は、1台のディジタルカメラ2と情報演算端末3のノート型パソコンがデータ転送ケーブル4で接続されており、図1に示すように立体的形状をもつ測定対象物6をカメラ視野5に捉えて、カメラ位置から見た物体の3次元位置座標を計算により求めるものである。
図2の画像計測処理装置の構成図に示すように、情報演算端末3は、演算手段となる中央演算処理ユニット(CPU)31と、記憶手段となるメモリ33やとハードディスク(HD)34と、データ転送手段となる入出力制御部(I/O)32とが、内部バス35に接続された構成となっている。
次に、実施例1の単一カメラによる画像計測処理装置の処理を説明する。図3は、画像計測処理装置の処理フロー図を示している。また、図4〜6は、各々の処理の説明用の模式図である。
まず、測定対象物の4点以上の特徴点の実座標を予め取得し、それをデータベースとして情報演算端末3のハードディスクに記憶する。実際に画像計測処理を行う際に、測定対象物の4点以上の特徴点の実座標のデータを読込む(S10)。例えば、図4に示すような測定対象物7の特徴点4点(OP1,OP2,OP3,OP4)の既知の3次元位置座標を読込むのである。
次に、事前に計測しておいたカメラ画像の歪み補正のための内部評定要素(カメラパラメータ)をハードディスク(HD)から読込み(S20)、カメラ画像上の特徴点の2次元座標のカメラビュー座標(VP1,VP2,VP3,VP4)を取得する(S30)。そして、カメラパラメータを用いてカメラ画像上に写った特徴点の画像上の歪み補正を行う(S40)。
次に、測定対象物を基準、すなわち測定対象物の座標系におけるカメラ位置およびカメラ角度を算出する(S50)。すなわち、図4に示すように、測定対象物のカメラビュー座標(VP1,VP2,VP3,VP4)と、測定対象物の三次元位置座標(OP1,OP2,OP3,OP4)から、カメラ位置・カメラ角度を算出する。他の撮影画像があれば、処理(S30)〜(S50)を繰り返す(S60)。
そして、求めたカメラ位置・カメラ角度が、カメラ基準(位置(0,0,0)角度(0,0,0))となるような座標変換マトリクスを求める。測定対象物の三次元位置座標にそのマトリクスをかけて、図5に示すようなカメラ基準の座標系に置き換えた座標値(WP1,WP2,WP3,WP4)を求める(S70)。
以上のように、カメラ基準としての測定対象物の3次元位置座標が算出できることから、図6に示すように、これらの処理を繰り返すことにより、単一カメラから測定対象物の3次元位置座標を連続的に算出でき、かつ移動量も検知できることになる。
実施例1の単一カメラによる画像計測処理装置の精度検証実験について、以下説明する。精度検証実験は、8つの再帰反射ターゲットを配置して行った。まず、左右の4つのターゲットを1組として、それぞれ別々に位置関係を予め計測した。また、左右それぞれの4つのターゲットのうちの1つは、長さの既知のスケールバーの両端に取り付けた。そして、2組のターゲットの3次元位置座標から、スケールバーの寸法を算出し、スケールバーの実寸と比較を行った。実験に用いたカメラは1200万画素のもので、レンズ歪みは予めキャリブレーションを行い、算出した内部標定要素を用いた。
精度検証実験の結果は以下のとおりである。
精度検証実験1と精度検証実験2では、同じ計測ターゲットを用いて、異なる内部標定要素(焦点距離、歪み係数、主点のずれ)のカメラで計測を行った場合の精度を確認したものである。また、精度検証実験2と精度検証実験3では、異なる計測ターゲットを用いて、同じ内部標定要素(焦点距離、歪み係数、主点のずれ)のカメラで計測を行った場合の精度を確認したものである。
(精度検証実験1)
精度検証実験1においては、図7に示すような計測ターゲット(特徴点T1〜T8)を、以下の仕様のカメラで計測した。下記表1は、計測ターゲット(特徴点T1〜T8)の3次元位置座標を予め測定したものを特徴点の既知の実座標(x,y,z)で示し、また計測ターゲット(特徴点T1〜T8)の単一カメラ画像の2次元位置座標をカメラビュー座標(X、Y)で示したものである。また、下記表2は、計測ターゲット(特徴点T1〜T8)の3次元位置座標を、カメラ基準の座標系における3次元座標に変換し、計算座標(x,y,z)で示したものである。
ここで、特徴点T6とT7の間に、長さが既知のスケールバーを取り付けている。なお、表中、長さの単位は、ミリメートル(mm)である。
(カメラ仕様)
・型番:NikonDX2,画素数:1200万画素
・内部標定要素
a)焦点距離:24.5414
b)ピクセル長:0.0055
c)主点のずれ:xp=0.2033,yp=−0.1395
d)歪み係数:放射方向 k1= 2.060E-04
k2=−3.919E-07
k3= 9.720E-10

接線方向 p1= 2.502E-06

p2=−2.240E-05
上記表3から、スケールバーの長さである特徴点T6,T7間の距離は、実寸値と計測値の誤差が13ミクロン程度であり、これは、0.002%程度の誤差となる。このことから、本発明の単一カメラによる画像計測処理装置は、精度が非常に優れていることがわかる。
(精度検証実験2)
精度検証実験2は、精度検証実験1の場合と同じ計測ターゲットを用いて、精度検証実験1の場合と異なる内部標定要素(焦点距離、歪み係数、主点のずれ)のカメラで計測を行った場合の精度を確認した。
精度検証実験2においても、精度検証実験1の場合と同様、図7に示すような計測ターゲット(特徴点T1〜T8)を、以下の仕様のカメラで計測した。下記表4は、計測ターゲット(特徴点T1〜T8)の3次元位置座標を予め測定したものを特徴点の既知の実座標(x,y,z)で示し、また計測ターゲット(特徴点T1〜T8)の単一カメラ画像の2次元位置座標をカメラビュー座標(X、Y)で示したものである。また、下記表5は、計測ターゲット(特徴点T1〜T8)の3次元位置座標を、カメラ基準の座標系における3次元座標に変換し、計算座標(x,y,z)で示したものである。
精度検証実験1の場合と同様に、特徴点T6とT7の間に、長さが既知のスケールバーを取り付けている。なお、表中、長さの単位は、ミリメートル(mm)である。
(カメラ仕様)
・型番:NikonDX2,画素数:1200万画素
・内部標定要素
a)焦点距離:28.8870
b)ピクセル長:0.0055
c)主点のずれ:xp=0.2112,yp=−0.1325
d)歪み係数:放射方向 k1=
7.778E-05
k2=−2.093E-08
k3=−3.867E-10

接線方向 p1= 9.584E-06

p2=−5.908E-06
上記表6から、スケールバーの長さである特徴点T6,T7間の距離は、実寸値と計測値の誤差が12ミクロン程度であり、これは、0.002%程度の誤差となる。このことから、本発明の単一カメラによる画像計測処理装置は、精度が非常に優れていることがわかる。
(精度検証実験3)
精度検証実験3は、精度検証実験1の場合と異なる計測ターゲットを用いて、精度検証実験2の場合と同じ内部標定要素(焦点距離、歪み係数、主点のずれ)のカメラで計測を行った場合の精度を確認した。
精度検証実験3においては、図8に示すような計測ターゲット(特徴点T1〜T8)を、以下の仕様のカメラで計測した。下記表7は、計測ターゲット(特徴点T1〜T8)の3次元位置座標を予め測定したものを特徴点の既知の実座標(x,y,z)で示し、また計測ターゲット(特徴点T1〜T8)の単一カメラ画像の2次元位置座標をカメラビュー座標(X、Y)で示したものである。また、下記表8は、計測ターゲット(特徴点T1〜T8)の3次元位置座標を、カメラ基準の座標系における3次元座標に変換し、計算座標(x,y,z)で示したものである。精度検証実験3では、精度検証実験1や2と異なり、特徴点T2とT3の間に、長さが既知のスケールバーを取り付けている。なお、表中、長さの単位は、ミリメートル(mm)である。
(カメラ仕様)
・型番:NikonDX2,画素数:1200万画素
・内部標定要素
a)焦点距離:28.8870
b)ピクセル長:0.0055
c)主点のずれ:xp=0.2112,yp=−0.1325
d)歪み係数:放射方向 k1= 7.778E-05
k2=−2.093E-08
k3=−3.867E-10

接線方向 p1= 9.584E-06

p2=−5.908E-06
上記表9から、スケールバーの長さである特徴点T2,T3間の距離は、実寸値と計測値の誤差が82ミクロン程度であり、これは、0.014%程度の誤差となる。このことから、本発明の単一カメラによる画像計測処理装置は、精度が非常に優れていることがわかる。
(接触式計測用プローブ)
実施例2では、接触式プローブについて説明する。図9は、実施例2の接触式プローブを示している。
実施例2は、上述の実施例1の単一カメラによる画像計測処理装置に、図9に示す計測用プローブを加えたものである。実施例1の単一カメラによる画像計測処理装置の情報演算端末の記憶手段に、算出された前記カメラ手段の内部標定要素と、計測用プローブ20の特徴点4点(21〜24)の実座標と、計測用プローブ20のプローブ先端部(P1)の実座標と、を予め記憶しておく。
歪み補正された特徴点のカメラビュー座標と実座標から、画像撮影時の計測用プローブを基準とした座標系におけるカメラ位置およびカメラ角度を算出し、算出した画像撮影時のカメラ位置およびカメラ角度が基準位置および基準角度となるような座標変換を用いて、カメラ基準の座標系における特徴点の3次元座標を算出する。
そして、計測用プローブ20のプローブ25の先端部(P1)を被計測対象物に接触させることにより、カメラ基準の座標系における被計測対象物の3次元位置座標を得るものである。
(ポイントレーザー光の非接触式計測用プローブ)
実施例3では、ポイントレーザー光の非接触式プローブについて説明する。図10は、実施例3のポイントレーザー光の非接触式プローブを示している。また、図11は、実施例3のポイントレーザー光の非接触式プローブを用いた単一カメラによる画像計測処理装置の模式図を示している。
実施例3は、上述の実施例1の単一カメラによる画像計測処理装置に、図10に示すようなポイントレーザー光27を照射して非接触で計測を行う計測用プローブ20を加えたものである。実施例1の単一カメラによる画像計測処理装置の情報演算端末の記憶手段に、算出されたカメラ2の内部標定要素と、計測用プローブ20の特徴点4点(21〜24)の実座標と、計測用プローブ20のポイントレーザー光27上の2点(P1,P2)の実座標から得られたポイントレーザー光27の方向ベクトルと、を予め記憶しておく。
次に、図11に示すように、カメラ2を用いて撮影された4点(21〜24)の特徴点と、計測用プローブ20のポイントレーザー光27が照射される被計測対象物の部位28と、をカメラ視野内に含む画像8を取り込む。
歪み補正された特徴点のカメラビュー座標と実座標から、画像撮影時の計測用プローブ20を基準とした座標系におけるカメラ位置およびカメラ角度を算出し、算出した画像撮影時のカメラ位置およびカメラ角度が基準位置および基準角度となるような座標変換を用いて、カメラ2の位置を基準とした座標系における特徴点の3次元座標を算出する。
そして、計測用プローブ20のポイントレーザー光27を照射した被計測対象物の部位28に関して、カメラ2の位置を基準とした座標系における被計測対象物の3次元位置座標を得るものである。
(ラインレーザー光の非接触式計測用プローブ)
実施例4では、ラインレーザー光の非接触式プローブについて説明する。図12は、実施例4のラインレーザー光の非接触式プローブを示している。図13は、実施例4のラインレーザー光の非接触式プローブを用いた単一カメラによる画像計測処理装置の模式図を示している。
実施例4は、上述の実施例1の単一カメラによる画像計測処理装置に、図12に示すようなラインレーザー光29を照射して非接触で計測を行う計測用プローブ20を加えたものである。実施例1の単一カメラによる画像計測処理装置の情報演算端末の記憶手段に、算出された前記カメラ手段の内部標定要素と、計測用プローブ20の特徴点4点(21〜24)の実座標と、計測用プローブ20のラインレーザー光27上の3点(P1,P2,P3)の実座標から得られたラインレーザー光27の平面の方程式(ax+by+cz+d=0)と、を予め記憶しておく。
次に、図13に示すように、カメラ2を用いて撮影された4点の特徴点(21〜24)と、計測用プローブ20のラインレーザー光29が照射されることにより被計測対象物の表面に現れるラインレーザー光29の連続線30と、をカメラ視野内に含む画像8を取り込む。
歪み補正された特徴点のカメラビュー座標と実座標から、画像撮影時の計測用プローブ20を基準とした座標系におけるカメラ位置およびカメラ角度を算出し、算出した画像撮影時のカメラ位置およびカメラ角度が基準位置および基準角度となるような座標変換を用いて、カメラ2の位置を基準とした座標系における特徴点の3次元座標を算出する。
そして、計測用プローブ20のラインレーザー光29を被計測対象物に照射した際に現れる連続線30(ピクセル群)に関して、カメラ2の位置を基準とした座標系における被計測対象物の3次元位置座標を得るものである。
(一直線上に存在する3点の特徴点を利用した3次元位置計測)
実施例5では、一直線上に存在する3点の特徴点を有する被計測対象物を用いた単一カメラによる画像計測処理について説明する。但し、特徴点の3点は一直線上に存在するものとする。3点の特徴点を有する被計測対象物を用いた単一カメラによる画像計測処理は、下記(1)〜(4)の処理を行う。
(1)測定対象物の距離データ読込む。
具体的には、図14にあるような測定対象物の一直線上にある既知の3点の特徴点の点間距離データ(L1,L2)を読込む。
(2)次に、カメラの内部標定要素(カメラパラメータ)を設定する。
事前に計測しておいた画像(レンズ)の歪み補正のためのカメラパラメータを設定する。
(3)撮影画像上の測定対象物のビュー座標(カメラ座標)を取得する。
撮影画像から測定対象物のビュー座標を歪み補正を行い、ビュー座標(VP1,VP2,VP3)を取得する。
(4)カメラを基準とした測定対象物の座標値を取得する。
測定対象物のビュー座標(VP1,VP2,VP3)と、3点の特徴点の点間距離(L1,L2)から、カメラの中心位置を原点としたときの測定位置の3次元座標(WP1,WP2,WP3)を算出する。
上記(4)の処理において、3点が一直線上にある場合の計算方法について、以下に詳細に説明する。
カメラの焦点距離をf、カメラ中心を原点、3点のカメラ座標を、それぞれ、P´1(X01,Y01,−f),P´2(X02,Y02,−f),P´3(X03,Y03,−f)とする。次に、P0を原点として、P0,P´1,P´3からなる平面を定義する。P´1,P´2,P´3は一直線上にあることから、P´2も定義された平面上に存在する。
図15に示すように、3点の平面上の実座標をP1(X1,Y1),P2(X2,Y2),P3(X3,Y3)とし、P1とP2の間の距離データ,P2とP3の間の距離データをそれぞれ、L1,L2とすると下記の関係が成り立つ。
カメラ位置を原点とすると、直線(P0−P´3)は、傾きをaとして下記式1で表される。また、直線(P0−P´2)は傾きをbとして下記式2で表される。また、特徴点P1のY座標のY1はX軸上にあることから、下記式3が成立する。
(数1)
y=ax ・・・(式1)
(数2)
y=bx ・・・(式2)
(数3)
Y1=0 ・・・(式3)
ここで、L0=L1+L2とすると、特徴点P3とX軸との距離は、上記式1から下記式4で表すことができる。また、特徴点P2とX軸との距離は上記式2から下記式5で表すことができる。
(数4)
L0sinθ=a(X1−L0cosθ) ・・・(式4)
(数5)
L1sinθ=b(X1−L1cosθ) ・・・(式5)
ここで、未知数は、θとX1の2つである。上記式4と式5から、この2つの未知数を解く。
上記式4を変形して下記式6を得る。また、上記式5を変形して下記式7を得る。
(数6)
X1=L0sinθ/a+L0cosθ ・・・(式6)
(数7)
X1=L1sinθ/b+L1cosθ ・・・(式7)
上記式6と式7から、X1を消去して、下記式8を得る。
(数8)
L0sinθ/a+L0cosθ
= L1sinθ/b+L1cosθ ・・・(式8)
上記式8を変形して、下記式9を得る。
(数9)
(aL1−bL0)sinθ=ab(L0−L1)cosθ ・・・(式9)
そして、三角関数の関係から、sinθ+cosθ=1 が成立するので、上記式9からsinθを消去すると、下記式10を得る。
(数10)
+/−√(1−cosθ)
=ab(L0―L2)cosθ/(aL1−bL0) ・・・(式10)
上記数10を解いて、下記数11の如く、定数をA,Bとして置換し、t=cosθ とすると、下記式11を得る。
(数11)
t=+/−√(A/B) ・・・(式11)
ここで、A=(aL1−bL0)・(aL1−bL0)
B=a(L0−L1)+A
t=cosθ
これを、上記式6又は式7に代入すると、特徴点P1の座標(X1,Y1)が下記式12のように表される。また、図15に示す幾何的関係から、特徴点P2の座標(X2,Y2)は、距離データL1と傾きbを用いて下記式13のように表される。また、特徴点P3の座標(X3,Y3)は、距離データL0(=L1+L2)と傾きaを用いて下記式14のように表される。
(数12)
X1=(L0√(1−t)/a+L0t,Y1=0 ・・・(式12)
(数13)
X2=X1−L1t,Y2=b(X1−L1t) ・・・(式13)
(数14)
X3=X1−L0t,Y3=a(X1−L0t) ・・・(式14)
P´1,P´2,P´3のXYZ方向の各成分は、下記式15を用いて、下記式16で表される。
(数15)
L01=√(X01+Y01+f),
L02=√(X02+Y02+f),
L03=√(X03+Y03+f) ・・・(式15)
(数16)
P´1=(X01/L01,Y01/L01,f/L01),
P´2=(X01/L02,Y01/L02,f/L02),
P´3=(X01/L03,Y01/L03,f/L03)
・・・(式16)
従って、P1,P2,P3の各点の実際の三次元座標は、平面上の座標(X1,Y1)、(X2,Y2)、(X3,Y3)から計算されるP0−P1、P0−P2、P0−P3の距離に各成分を乗算したものとなり、カメラ基準の座標系におけるP1,P2,P3の三次元位置が求まるのである。
なお、tは、+/−の2つの値があるが、上記式10の右辺が正であるので、aL1−bL0の符号によって、実際には+/−どちらか一方の解しか持たないことが理解できるであろう。
(直線上に存在しない3点の特徴点を利用した3次元位置計測)
実施例6では、直線上に存在しない3点の特徴点を有する被計測対象物を用いた単一カメラによる画像計測処理について説明する。これは、実際上精度の大小はあるものの、完全に一直線上にある特徴点は製作上の問題から容易に実現できないことから、このような3点の特徴点を有する被計測対象物を用いた単一カメラによる画像計測処理についても、以下に開示するものである。単一カメラによる画像計測処理は、上述の実施例5と同様、下記(1)〜(4)の処理を行う。
(1)測定対象物の距離データ読込む。
具体的には、図16にあるような測定対象物の一直線上にある既知の3点の特徴点の点間距離データ(L1,L2)を読込む。
(2)次に、カメラの内部標定要素(カメラパラメータ)を設定する。
事前に計測しておいた画像(レンズ)の歪み補正のためのカメラパラメータを設定する。
(3)撮影画像上の測定対象物のビュー座標(カメラ座標)を取得する。
撮影画像から測定対象物のビュー座標を歪み補正を行い、ビュー座標(VP1,VP2,VP3)を取得する。
(4)カメラを基準とした測定対象物の座標値を取得する。
測定対象物のビュー座標(VP1,VP2,VP3)と、3点の特徴点の点間距離(L1,L2)から、カメラの中心位置を原点としたときの測定位置の3次元座標(WP1,WP2,WP3)を算出する。
上記(4)の処理において、3点が直線上に存在しない場合の計算方法について、以下に詳細に説明する。
カメラの焦点距離をf、カメラ中心を原点、3点のカメラ座標を、それぞれ、P´1(X01,Y01,−f),P´2(X02,Y02,−f),P´3(X03,Y03,−f)とする。次に、P0を原点として、P0,P´1,P´2と、P0,P´1,P´3からなる平面H1,H2をそれぞれ定義する。
図17に示すように、実際の3点間の長さをそれぞれ、L1,L2,L0(一番大きな辺)とし、平面H1上のP1(X1,Y1)からL1の距離を持つP0−P´2上の点P2(X2,Y2),P3(X3,Y3)と、平面H2上のP1(X1,Y1)からL0の距離を持つP0−P´3上の点P4(X4,Y4),P5(X5,Y5)とすると下記の関係が成り立つ。
カメラ位置を原点とすると、直線(P0−P´3)は、平面H1上で傾きをaとして下記式17で表される。また、直線(P0−P´2)は、平面H2上で傾きをbとして下記式18で表される。また、特徴点P1のY座標のY1はX軸上にあることから、下記式19が成立する。
(数17)
y=ax ・・・(式17)
(数18)
y=bx ・・・(式18)
(数19)
Y1=0 ・・・(式19)
ここで、X1が既知であるとすると、P2,P3,P4,P5は、下記式20〜式23で表される。
(数20)
X2=(X1−√t1)/(a+1),Y2=aX2 ・・・(式20)
X3=(X1−√t1)/(a+1),Y3=aX3 ・・・(式21)
X4=(X1−√t2)/(b+1),Y4=bX4 ・・・(式22)
X5=(X1−√t2)/(b+1),Y5=bX5 ・・・(式23)
但し、t1=X1−(b+1)・(X1―L2),
t2=X1−(a+1)・(X1―L1),
原点から点P1、P2、P3、P4、P5までの距離S1〜S5は、それぞれ、下記式24〜式28で表される。
(数21)
S1=X1 ・・・(式24)
S2=√(X2+Y2) ・・・(式25)
S3=√(X3+Y3) ・・・(式26)
S4=√(X4+Y4) ・・・(式27)
S5=√(X5+Y5) ・・・(式28)
点P1、P2、P3、P4、P5の三次元座標は、P´1,P´2, P´3のベクトル成分を、それぞれ、(P´1x, P´1y, P´1z),(P´2x, P´2y, P´2z),(P´3x, P´3y, P´3z)とすると、下記式で表せる。
(数22)
X01=S1・P´1x
Y01=S1・P´1y
Z01=S1・P´1z
X02=S2・P´2x
Y02=S2・P´2y
Z02=S2・P´2z
X03=S3・P´2x
Y03=S3・P´2y
Z03=S3・P´2z
X04=S4・P´3x
Y04=S4・P´3y
X04=S4・P´3z
X05=S5・P´3x
Y05=S5・P´3y
Z05=S5・P´3z
(数23)
P1=(X01,Y01,Z01)
P2=(X02,Y02,Z02)
P3=(X03,Y03,Z03)
P4=(X04,Y04,Z04)
P5=(X05,Y05,Z05)
また、P2−P4もしくはP5、或いは、P3−P4もしくはP5の距離はL0であるので、下記式29〜式32の4つの式が成り立つ。
(数24)
L0=(X02−X04)+(Y02−Y04)+(Z02−Z04)・・・(式29)
L0=(X02−X05)+(Y02−Y05)+(Z02−Z05)・・・(式30)
L0=(X03−X04)+(Y03−Y04)+(Z03−Z04)・・・(式31)
L0=(X03−X05)+(Y03−Y05)+(Z03−Z05)・・・(式32)
ここで、X1を漸次0から増加させることで、それぞれがL0に等しくなる位置があるか否かを計算して求める。平面上で計算された座標は、3点が直線上にある場合と同様に、3次元座標に変換される。この方法では、通常、複数解が存在し、一般的には2つの解が存在する。しかし、予め3点の特徴点のカメラとの位置関係を求めておき、計算結果と比較することによって、正しい解を一つに限定することができる。
3点は、ほぼ同じ向きで配置されていると考えると、予め両端2点を結ぶ直線と中央の点との相対的な位置関係を調べておき、測定結果がその内容と一致するものを解とすることができる。すなわち、両端2点がカメラの中心方向を向いているとして、中央の点が両端2点を結ぶ線に対して、前後左右どちら側にあるか、また、点から直線までの距離はいくらか等の情報により、一つの解を求めることができる。
(精度検証実験4)
精度検証実験4においては、図18に示すように、左右に長さが既知の3点(点1〜3と点4〜6)を直線上に配置したバーを2本配置し、中央部にスケールバー(点7,点8)をおいて、計測ターゲット(特徴点1〜8)を、以下の仕様のカメラで計測した。下記表10は、計測ターゲット(特徴点1〜8)の各点間の距離を予め測定したものである。
また、下記表11は、計測ターゲット(特徴点1〜8)のカメラビュー座標(x,y)を示したものである。計測ターゲット(特徴点1〜8)には、再帰反射型マーカーを用いた。なお、表中、長さの単位は、ミリメートル(mm)である。
(カメラ仕様)
・型番:NikonDX2,画素数:1200万画素
・内部標定要素
a)焦点距離:28.9670
b)ピクセル長:0.00552
c)主点のずれ:xp=0.2212,yp=−0.1177
d)歪み係数:放射方向 k1=
8.5604E−05
k2=−1.2040E−07
k3=−9.3870E−14

接線方向 p1= 8.9946E−06

p2=−3.5178E−06
左右の長さが既知の3点(点1〜3と点4〜6)において、共に、中央の点(点2と点5)は、単部の点を結んだ線と、約0.2〜0.3mmの距離だけ離れて、奥行き方向に位置している。従って、点の直線への投影点は、点よりもカメラ側に位置していることになる。Zは負の値を持つので、投影点のZ座標−中央の点のZ座標を“デプス”とすると、デプスの値が負の場合は、点が直線よりカメラ側にあることを示し、デプスの値が正の場合は、点はカメラから見て直線の後ろ側になる。
(A)一直線上に配置された3点(点1,点2,点3)と3点(点4,点5,点6を用いた場合
上述の実施例5で説明した処理を行い、カメラを基準とした三次元座標を算出した。結果を図20に示す。カメラ画像において、左側の3点(点1,点2,点3)の解は、一つのみとなった。一方、右側の3点(点4,点5,点6)の解は2つ算出された。点5を点4と点6とを結ぶ線に投影してできる点からカメラ中心までの距離をL2として、また、点5からカメラ中心までの距離をL4として、デプス(=L2−L4)を求めた。
2つの解が得られた右側の3点(点4,点5,点6)について、求めたデプス(L2−L4)は、一つ目の値が0.1795であり、二つ目が−0.0318となった。
カメラ画像において、右側の3点(点4,点5,点6)の中央の点5は、カメラ中心から見て、点4と点6を結ぶ線より、0.3mm程度近くにあることが、わかっているのでデプスが負の値となる二つ目が正しい解となる。
以上から、点1−点4,点3−点6の2点間の距離を算出し、カメラ基準での距離の計算値と実測値とを比較して、誤差を求めた。結果は表12に示す。
上記の表12から、誤差が非常に小さく、実計測に用いることが可能であることが理解できよう。
(B)直線上に存在しない3点(点1,点7,点3)と3点(点4,点8,点6を用いた場合
上述の実施例6で説明した処理を行い、カメラを基準とした三次元座標を算出した。結果を図21に示す。カメラ画像において、左側の3点(点1,点7,点3)の解は2つ算出された。また、右側の3点(点4,点8,点6)の解も2つ算出された。点2を点1と点3とを結ぶ線に投影してできる点からカメラ中心までの距離をL1として、また、点2からカメラ中心までの距離をL3として、デプス(L1−L3)を求めた。点5を点4と点6とを結ぶ線に投影してできる点からカメラ中心までの距離をL2として、また、点5からカメラ中心までの距離をL4として、デプス(L2−L4)を求めた。
左右とも2つの解が得られたが、デプスの値を比較することにより小さい方の一つ目が正解であることがわかる。
以上から、点1−点4,点3−点6,点7−点8の2点間の距離を算出し、カメラ基準での距離の計算値と実測値とを比較して、誤差を求めた。結果は表13に示す。
(精度検証実験5)
精度検証実験5においては、図19に示すように、左右に長さが既知の3点(点1〜3と点4〜6)を直線上に配置したバーを2本配置し、各点の三次元位置を上記実施例5で測定した後、2画像で既知の長さのスケールバーSBの長さを測定した。また、同一カメラ画像で4点を配置した基準プレートSPを用いて、同じく2画像でスケールバーSBの長さを測定し、測定誤差の比較を行った。
計測ターゲット(特徴点1〜6)には、再帰反射型マーカーを用いた。なお、表中、長さの単位は、ミリメートル(mm)である。
(カメラ仕様)
・型番:NikonDX2,画素数:1200万画素
・内部標定要素
a)焦点距離:28.9695
b)ピクセル長:0.00552
c)主点のずれ:xp=0.1987,yp=−0.1300
d)歪み係数:放射方向 k1= 8.5244E−05
k2=−1.196E−07
k3=
4.4477E−12

接線方向 p1= 1.0856E−05

p2=−4.0565E−06
左右の長さが既知の3点(点1〜3と点4〜6)において、共に、中央の点(点2と点5)は、単部の点を結んだ線と、約0.2〜0.3mmの距離だけ離れて、奥行き方向に位置している。従って、点の直線への投影点は、点よりもカメラ側に位置していることになる。Zは負の値を持つので、投影点のZ座標−中央の点のZ座標を“デプス”とすると、デプスの値が負の場合は、点が直線よりカメラ側にあることを示し、デプスの値が正の場合は、点はカメラから見て直線の後ろ側になる。各点間の距離は、下記表14に示す通りである。
上述の精度検証実験4と同様に、計算上の解は、それぞれ2つが存在する。上述の実施例5で説明した処理を行い、カメラを基準とした三次元座標を算出した。結果を図22に示す。正解はデプスが正の値を持つ組み合わせになることから、左側がケース2、右側がケース1の場合の値である。
次に、左右より2つの画像を撮影し、それぞれ、基準プレートSPの4点を用いてスケールバーSBの寸法の計算を行なった結果(4点プレート)と、実施例5の方法を用いて3点を用いてスケールバーSBの寸法の計算を行なった結果(3点計測)について、下記表15に示す。なお、計算には、先行特許文献(特願2009−97529)に開示されている4つ以上の基準点を用いた2画像計測方法で行った。
また、参考までに、計4つの解の組み合わせを用いて計算した結果を、全て挙げると下記表16のようになる。
本発明の単一カメラによる画像計測処理装置,画像計測処理方法および画像計測処理プログラムは、単一カメラを用いて、生産ラインでの物体の3次元位置の認識、物体の位置出し、物体の追跡を行うシステムなどに有用である。
また、接触式あるいは非接触式計測用プローブを用いて測定対象物を3次元計測するのに有用である。
1 単一カメラによる画像計測処理装置
2 ディジタルカメラ
3 情報演算端末(ノートPC)
4 データ転送ケーブル
5 カメラ視野
6,7 測定対象物
8 カメラ画像
9 カメラ画像上の特徴点
20 計測用プローブ
21〜24 特徴点
25 プローブ
27 ポイントレーザー光
29 ラインレーザー光
30 連続線
T1〜T8 特徴点
SB スケールバー
SP 4点基準プレート

Claims (4)

  1. 1台のカメラ手段と、
    少なくとも演算手段と記憶手段とデータ転送手段とを備えた情報演算端末と、
    を備え、
    前記情報演算端末は、
    前記記憶手段が、
    算出された前記カメラ手段の内部標定要素と、被計測対象物の3点(但し、該3点が一直線上に存在するもので、他の制約がないもの)の特徴点の点間距離データを予め記憶し、
    前記データ転送手段が、
    前記カメラ手段を用いて撮影された前記3点の特徴点をカメラ視野内に含む少なくとも1枚の画像を取り込み、
    前記演算手段が、
    取り込んだ画像上の前記特徴点のカメラビュー座標について、前記内部標定要素に基づき画像上の歪みを補正し、
    歪み補正された前記特徴点のカメラビュー座標と前記3点の特徴点の点間距離データから、カメラ基準の座標系における前記3点の特徴点の3次元座標を算出する、
    ことを特徴とする単一カメラによる画像計測処理装置。
  2. 単一のカメラ手段を用いて被計測対象物を写真計測する方法であって、
    被計測対象物の3点(但し、該3点が一直線上に存在するもので、他の制約がないもの)の特徴点の点間距離データを読込むステップと、
    前記カメラ手段の内部標定要素を読込むステップと、
    前記カメラ手段を用いて撮影された前記3点の特徴点をカメラ視野内に含む少なくとも1枚の画像を取り込むステップと、
    取り込んだ画像上の前記特徴点のカメラビュー座標について、前記内部標定要素に基づき画像上の歪みを補正するステップと、
    歪み補正された前記特徴点のカメラビュー座標と前記3点の特徴点の点間距離データから、カメラ基準の座標系における前記3点の特徴点の3次元座標を算出する3点一直線上実座標算出ステップと、
    を備えることを特徴とする単一カメラによる画像計測処理方法。
  3. 単一のカメラ手段を用いて被計測対象物を写真計測するプログラムであって、
    1)被計測対象物の3点(但し、該3点が一直線上に存在するもので、他の制約がないもの)の特徴点の点間距離データを読込む手順、
    2)前記カメラ手段の内部標定要素を読込む手順、
    3)前記カメラ手段を用いて撮影された前記3点の特徴点をカメラ視野内に含む少なくとも1枚の画像を取り込む手順、
    4)取り込んだ画像上の前記特徴点のカメラビュー座標について、前記内部標定要素に基づき画像上の歪みを補正する手順、
    5)歪み補正された前記特徴点のカメラビュー座標と前記3点の特徴点の点間距離データから、カメラ基準の座標系における前記3点の特徴点の3次元座標を算出する手順と、
    6)上記3)〜5)の手順を繰り返す手順、
    をコンピュータに実行させるための単一カメラによる画像計測処理プログラム。
  4. 請求項3に記載の単一カメラによる画像計測処理プログラムが搭載されたビデオカメラ。

JP2010218290A 2010-06-22 2010-09-29 単一カメラによる画像計測処理装置,画像計測処理方法および画像計測処理プログラム Active JP5158386B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010218290A JP5158386B2 (ja) 2010-06-22 2010-09-29 単一カメラによる画像計測処理装置,画像計測処理方法および画像計測処理プログラム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2010142112 2010-06-22
JP2010142112 2010-06-22
JP2010218290A JP5158386B2 (ja) 2010-06-22 2010-09-29 単一カメラによる画像計測処理装置,画像計測処理方法および画像計測処理プログラム

Publications (2)

Publication Number Publication Date
JP2012027000A JP2012027000A (ja) 2012-02-09
JP5158386B2 true JP5158386B2 (ja) 2013-03-06

Family

ID=45780070

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010218290A Active JP5158386B2 (ja) 2010-06-22 2010-09-29 単一カメラによる画像計測処理装置,画像計測処理方法および画像計測処理プログラム

Country Status (1)

Country Link
JP (1) JP5158386B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110060294A (zh) * 2019-04-30 2019-07-26 中国农业科学院农业环境与可持续发展研究所 一种果树作物的产量评估方法

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5812064B2 (ja) 2012-11-22 2015-11-11 株式会社デンソー 物標検出装置
JP6075408B2 (ja) * 2012-11-22 2017-02-08 株式会社デンソー 物標検出装置
CN104864849B (zh) * 2014-02-24 2017-12-26 电信科学技术研究院 视觉导航方法和装置以及机器人
CN108603745B (zh) 2016-02-04 2020-04-28 富士胶片株式会社 信息处理装置、信息处理方法及程序
JP6534457B2 (ja) 2016-02-04 2019-06-26 富士フイルム株式会社 情報処理装置、情報処理方法、及びプログラム
CN105865422A (zh) * 2016-03-24 2016-08-17 北京林业大学 一种无人机林火夜间定位方法
CN105865420A (zh) * 2016-03-24 2016-08-17 北京林业大学 一种智能手机摄影法测定果树冠体及果品产量估测的方法
CN105890518B (zh) * 2016-03-24 2018-09-21 北京林业大学 一种普通数码相机极坐标法单片摄影测量点位三维坐标的技术方法
JP7253441B2 (ja) * 2019-05-09 2023-04-06 東芝テック株式会社 追跡装置及び情報処理プログラム
JP7253440B2 (ja) * 2019-05-09 2023-04-06 東芝テック株式会社 追跡装置及び情報処理プログラム
CN111080530B (zh) * 2019-12-31 2023-04-07 珠海市运泰利自动化设备有限公司 一种基于光栅尺位置实现高精度坐标拼图的方法
CN111366128B (zh) * 2020-03-09 2022-12-02 上海海事大学 一种基于单幅图像的距离信息分析方法
CN113793293B (zh) * 2020-05-25 2024-01-26 中移(苏州)软件技术有限公司 轮廓检测方法、装置、系统及计算机可读存储介质
CN111965630B (zh) * 2020-08-17 2024-05-28 南京先能光电科技有限公司 一种空间定位系统
KR102502100B1 (ko) * 2020-11-26 2023-02-23 세종대학교산학협력단 깊이 센서와 컬러 카메라를 이용한 실시간 객체 위치 측정을 위한 전자 장치 및 그의 동작 방법
CN113592956B (zh) * 2021-07-30 2023-12-19 武汉精测电子集团股份有限公司 一种基于显微检测机台的多镜头联合标定方法和装置
CN114608450B (zh) * 2022-03-10 2023-09-26 西安应用光学研究所 机载光电系统对远距离海面目标三维尺寸测算方法
CN116772803B (zh) * 2023-08-24 2024-02-09 陕西德鑫智能科技有限公司 一种无人机探测方法及装置
CN117990072A (zh) * 2024-04-03 2024-05-07 中交天津港湾工程研究院有限公司 一种隧道围岩收敛自动监测方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0470508A (ja) * 1990-07-12 1992-03-05 Topcon Corp 3次元測定方法と3次元測定用基準尺
JP4979928B2 (ja) * 2005-11-28 2012-07-18 株式会社トプコン 三次元形状演算装置及び三次元形状演算方法
US20080243416A1 (en) * 2007-03-30 2008-10-02 Mitutoyo Corporation Global calibration for stereo vision probe
JP4530011B2 (ja) * 2007-09-12 2010-08-25 富士ゼロックス株式会社 位置計測システム
JP2009270893A (ja) * 2008-05-02 2009-11-19 Fuji Xerox Co Ltd 位置計測装置、位置計測方法およびプログラム
JP2010079458A (ja) * 2008-09-24 2010-04-08 Fuji Xerox Co Ltd 筆跡表示システム
JP4948552B2 (ja) * 2009-02-10 2012-06-06 日本電信電話株式会社 カメラ校正装置、カメラ校正方法、カメラ校正プログラムおよびそのプログラムを記録した記録媒体

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110060294A (zh) * 2019-04-30 2019-07-26 中国农业科学院农业环境与可持续发展研究所 一种果树作物的产量评估方法

Also Published As

Publication number Publication date
JP2012027000A (ja) 2012-02-09

Similar Documents

Publication Publication Date Title
JP5158386B2 (ja) 単一カメラによる画像計測処理装置,画像計測処理方法および画像計測処理プログラム
US20130201326A1 (en) Single camera image processing apparatus, method, and program
JP2013122434A (ja) レーザーを用いた単眼カメラによる3次元形状位置計測装置,3次元形状位置計測処理方法および3次元形状位置計測処理プログラム
CN102376089B (zh) 一种标靶校正方法及系统
JP6359259B2 (ja) デプスセンサと撮影カメラとの間の関係に基づいたデプス映像補正装置及び方法
JP5097765B2 (ja) 計測方法および計測プログラムならびに計測装置
JP5070435B1 (ja) 3次元相対座標計測装置およびその方法
JP3728900B2 (ja) キャリブレーション方法及び装置、並びにキャリブレーション用データ生成方法
CN106989824A (zh) 一种红外测温成像装置及检测方法
JPWO2014061372A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
WO2017090426A1 (ja) 物体測定装置及び物体測定方法
JP4052382B2 (ja) 非接触画像計測装置
WO2023046211A1 (zh) 摄影测量方法、装置、设备及存储介质
JP6641729B2 (ja) ラインセンサカメラのキャリブレーション装置及び方法
CN105513078A (zh) 基于图像的立木信息采集方法和装置
JP2015049200A (ja) 計測装置、方法及びプログラム
JP2017098859A (ja) 画像のキャリブレーション装置及びキャリブレーション方法
TWI635256B (zh) 基於相位對焦的定位方法及其系統
JP5648159B2 (ja) 3次元相対座標計測装置およびその方法
Yang et al. Effect of field of view on the accuracy of camera calibration
CN103791919B (zh) 一种基于数字基高比模型的高程精度估算方法
CN113034615B (zh) 一种用于多源数据融合的设备标定方法及相关装置
WO2018056206A1 (ja) 変位計測装置、変位計測システム、変位計測方法及びプログラム
CN112927299A (zh) 标定方法、装置及电子设备
WO2022056654A1 (zh) 一种测温方法和测温装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120802

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20120802

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20120816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120829

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121022

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121127

R150 Certificate of patent or registration of utility model

Ref document number: 5158386

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151221

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250