JP7185860B2 - 多軸可動視覚システムのキャリブレーション方法 - Google Patents

多軸可動視覚システムのキャリブレーション方法 Download PDF

Info

Publication number
JP7185860B2
JP7185860B2 JP2021516454A JP2021516454A JP7185860B2 JP 7185860 B2 JP7185860 B2 JP 7185860B2 JP 2021516454 A JP2021516454 A JP 2021516454A JP 2021516454 A JP2021516454 A JP 2021516454A JP 7185860 B2 JP7185860 B2 JP 7185860B2
Authority
JP
Japan
Prior art keywords
rotation
axis
calibration
matrix
rotation axis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021516454A
Other languages
English (en)
Other versions
JP2022500793A (ja
Inventor
王開放
楊冬冬
張暁林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Anhui Eyevolution Technology Co Ltd
Original Assignee
Anhui Eyevolution Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Anhui Eyevolution Technology Co Ltd filed Critical Anhui Eyevolution Technology Co Ltd
Publication of JP2022500793A publication Critical patent/JP2022500793A/ja
Application granted granted Critical
Publication of JP7185860B2 publication Critical patent/JP7185860B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/16Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • G06T7/41Analysis of texture based on statistical description of texture
    • G06T7/44Analysis of texture based on statistical description of texture using image operators, e.g. filters, edge density metrics or local histograms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/579Depth or shape recovery from multiple images from motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • G06T2207/30208Marker matrix
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computational Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Probability & Statistics with Applications (AREA)
  • Algebra (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)

Description

本発明は視覚システムのキャリブレーション方法に関し、特に、多可動視覚システムのキャリブレーション方法に関する。
視覚システムは広く使用されており、その構造は複数の回転軸を有する視覚システムであることを特徴とする。例えば、通常の手元安定化カメラやクワッドローター空中カメラは、一般的に1つのカメラモジュールに3つの回転軸を結合し、カメラモジュールは3つの回転によって回転の発生を制御することができるか、または街頭で見られるPTZ監視カメラのように2回転軸の運動と可変焦点のカメラで追跡または広視野角の監視を実現する。このように応用する場合、既知のカメラとベースとの間の正確な相対位置関係が必要でない場合が多いが、例えば末端に視覚モジュールが取り付けられているロボットアームに対しては精密な操作が必要な場合があるので、既知のベースと視覚モジュールとの間の相対位置関係を正確にする必要がある。
可動視覚システムの撮像素子とベースの正確な位置取得に影響を与える要素は主に二つの大きな問題がある。一つは、任意の回転軸で運動が発生した後、如何に撮像素子の位置変化を得るかの問題であり、もう一つは従来の機械加工レベル及び取り付け工程に制限されて、各回転軸が設計通りに厳格で且つ正確に運動するように保証することができないとともに、撮像部材と機械回転軸の相対位置も保証することができないという問題である。これは、可動視覚システムの撮像素子とベースの正確な位置の直接計算に大きな困難をもたらす。
従来技術に存在する問題を解決するために、本発明は、撮像素子とベースが如何に各運動の影響を受けるかを予めキャリブレーションすることにより、実際に多可動視覚システムを使用する過程で撮像素子とベースの正確な相対位置を取得することを実現する多可動視覚システムのキャリブレーション方法を提供する。
本発明による多可動視覚システムのキャリブレーション方法において、前記多可動視覚システムは、連続画像を取得可能な少なくとも一つの撮像素子を含み、少なくとも一つの回転軸を有し、且つベースに取り付けられ、各前記回転軸には回動または平行移動情報を取得可能な位置取得装置が取り付けられている撮像部材と、画像情報及び各回転軸の運動情報を計算して処理することができる計算部材と、各回転軸の運動を制御することができる制御部材と含み、前記キャリブレーション方法は、前記撮像素子の前方にキャリブレーションテンプレートを配置し、撮像素子が各回転軸回動するように駆動し、撮像素子を利用してキャリブレーションテンプレート特徴を含む若干の画像を記録し、同時に、対応する画像を取得する時の各回転軸の位置情報を記録し、計算部材を用いて撮像素子と各回転軸のキャリブレーション結果を計算することを含む。
選択的に、前記撮像部材は、例えば、モーターが直列接続されており、末端に撮像素子が取り付けられていることにより、互いに直列接続されたモーターによって複数の回転軸を提供し、各回転軸に対して主に各自の回転角情報を取得し、もちろん、リニアモーターを使用してモーターで出力される平行移動により回動が発生する場合、平行移動情報を取得することもできる。
選択的に、前記キャリブレーション方法は、具体的には、1)基準位置での各回転軸の位置情報を記録するステップと、2)撮像部材の前にキャリブレーションテンプレートを配置して各回転軸に数回の変化が発生するようにして画像と各回転軸の位置情報をそれぞれ収集するステップと、3)収集した画像及び各回転軸の位置情報を利用してキャリブレーションアルゴリズムによって各回転軸のキャリブレーション結果を計算するステップと、を含む。
キャリブレーション過程が完了されるとキャリブレーション結果(基準位置情報、各回転軸キャリブレーション結果を含む)が得られ、実際の応用では、得られた視覚システムの各回転軸の位置情報を結合して基準位置に対する現在位置撮像素子の回転平行移動関係を得ることができる。
具体的な実施形態において、本発明によるキャリブレーション方法は以下のステップを含む:
(1)基準情報の決定及び取得:任意の位置を基準位置として選択し、基準位置での各回転軸の位置情報{θIa},a=1・・・Nを記録し、Nは視覚システムの回転軸の数であり、aは回転軸の番号を表し、各回転軸の連結順に番号を付ける。
(2)回転軸のキャリブレーション:キャリブレーションテンプレートを可動システムの前方に配置して撮像部材が完全なキャリブレーションテンプレートを撮影することができるように保証する。その後、a番目の回転軸を数回回動させ、回動するたびに当該回転軸が連結された撮像部材が画像を取るようにして画像Maiを取得し、同時に、この時当該回転軸の位置情報を記録して{Mai,θai1,・・・,θaiN}を得る。複数回の回動により画像の一連番号(Ma1,Ma2,Ma3,・・・)を得る。従来の成熟したカメラキャリブレーションアルゴリズム(例えば張氏キャリブレーション法)を使用して基準位置に対する撮影した各画像の回転及び平行移動行列{RaCi,TaCi}を計算して得、この画像を撮影する時に記録した回転軸の位置情報を結合して{RaCi,TaCi,θai},i=1・・・Pを得る。Pはシステムのキャリブレーション過程でa番目の回転軸が回動して取った全ての有効画像の数である。回転軸キャリブレーション結果の中で基準位置に対する回転軸の回動角{θai1-θI1,・・・,θaiN-θIN},i=1・・・Pを回転行列{RB1i,・・・,RBNi},i=1・・・Pに変換し、上記結果を本発明の各回転軸の回転軸座標と撮像素子座標系の関係モデルに代入する。
Figure 0007185860000001
複数の方程式が得られ、この方程式の最適解{RBCa,TBCa},a=1・・・Nを求める。RBCa,TBCaはそれぞれ撮像素子座標系に対するa番目の回転軸の回転行列及び平行移動行列であり、Nは視覚システムの回転軸の数であり、RBaiは基準位置に対するa番目の回転軸の回転角度変換の回転行列であり、RaCi,TaCiはそれぞれ基準位置に対するa番目の回転軸が運動する時に撮影したi番目画像の画像座標系の回転及び平行移動行列であり、Pはシステムのキャリブレーション過程でa番目の回転軸が回動して取った全ての有効画像の数である。
(3)キャリブレーション結果の計算:ステップ(1)(2)で基準位置情報{θIa},a=1・・・N、及び回転軸キャリブレーション結果{RBCa,TBCa},a=1・・・Nが得られた。
可動システムで撮像部材に運動が発生した後、各回転軸は位置情報(θp1,θp2,θp3,・・・,θpN)を得る場合、各回転軸の回転角は(θp1-θI1,θp2-θI2,θp3-θI3,・・・,θpN-θIN)であり、回転行列(Rp1,Rp2,Rp3,・・・,RpN)に変換して、本発明の回転軸座標系と撮像素子座標系の関係モデル(つまり、以下の式)に代入して運動後の外部パラメータ結果が得られる。
Figure 0007185860000002
得られたR’及びT’はそれぞれ基準位置に対可動システムで運動が発生した後のビデオカメラの回転行列及び平行移動行列の結果であり、RBCa,TBCaはそれぞれ撮像素子座標系に対するa番目の回転軸の回転行列及び平行移動行列であり、Nは視覚システムの回転軸の数であり、Rpaは基準位置に対するa番目の回転軸の回転角度変換の回転行列である。
本発明において、前記撮像部材は連続画像を取得し、前記撮像部材は少なくとも一つの回転軸を有し、各回転軸によってベースに連結固定され、前記各回転軸には回動または平行移動情報を取得可能な位置取得装置が取り付けられている。前記撮像部材は少なくとも一つの撮像素子と少なくとも一つのレンズアセンブリを含む。
本発明において、前記キャリブレーションテンプレートは固定された特徴及び既知の特徴の相対位置情報を抽出することができるキャリブレーションテンプレートである。例えば、人工的に作られた各種2D及び3Dターゲット、または一部固定された自然シーンは、画像処理アルゴリズムによって固定された特徴情報を抽出することができ、またこれらの特徴情報の間の相対位置関係を取得することができることが要求される。通常、実際の応用では、キャリブレーション結果の精度を向上させ、キャリブレーション過程における難易度を低下させるために、精密に加工された3D立体ターゲットまたは2D平面ターゲットをキャリブレーションテンプレートとして使用する場合が多い。
本発明において、前記キャリブレーション結果は撮像素子の光学中心に対する各回転軸の回転行列及び平行移動行列を指す。前記キャリブレーション結果に各回転軸の位置情報を結合すれば、実際の応用で必要な撮像素子と基準位置での相対位置関係、つまり回転行列と平行移動行列を計算することができる。
従来技術では、可動システムが作動する時にビデオカメラで運動が発生し、各軸は加工及び組み立てに起因する誤差の影響を受けるため、直接計算によってビデオカメラの変化された正確な外部パラメータ情報を得ることができなかった。どころが、本発明による多可動視覚システムのキャリブレーション方法は、ビデオカメラの位置に変化が発生し、且つ各軸、撮像部材の相対位置が機械加工、組み立てなどの要素によって誤差が発生しても、各軸上の位置記録アセンブリによって撮像部材と基準位置での相対位置関係のキャリブレーションアルゴリズムを計算することができる。また、これから撮像部材が任意の2つの位置の間に置かれる正確な回転と平行移動関係を導き出すことができる。本発明は、キャリブレーションの基礎として、従来技術における一部3D立体ターゲットに基づくカメラキャリブレーションアルゴリズムまたは2D平面ターゲットに基づくカメラキャリブレーションアルゴリズムを使用した。
従来技術に比べて、本発明によれば、可動システムで撮像素子に運動が発生した場合でも、計算により基準位置に対する撮像素子の正確な回転平行移動パラメータ情報を取得することができる。本発明による方法は、良好な計算リアルタイム性を有する。即ち、一回キャリブレーションした後、続いて各回転軸の位置情報によって計算して、撮像素子の位置変化に対するパラメータ情報をリアルタイムで取得することができる。本発明は機械加工及び組み立てプロセスによる理論設計と一部不可避的に発生する誤差問題を顕著に、且つ効率的に取り除くことができるという有益な効果を奏する。
本発明による多可動視覚システムの概略的ブロック図である。 本発明による多可動視覚システムのキャリブレーションフローチャートである。 本発明による多可動視覚システムのリアルタイム外部パラメータ計算フローチャートである。 本発明の具体的な実施例において前記キャリブレーションアルゴリズムを利用した碁盤キャリブレーションテンプレートである。 本発明における各回転軸のビデオカメラ座標系及び回転軸座標系の概略図である。
以下の具体的な実施例及び図面を結合して本発明についてさらに詳しく説明する。簡潔のために、本発明の実施例の各プロセス、条件、実験方法などを説明する際に、当該技術分野において周知の一部内容は省略し、本発明はこのような内容に対して特に制限しない。以下、図1~4を結合して本発明による多可動視覚システムのキャリブレーション方法についてさらに詳しく説明する。本発明によるキャリブレーション方法は任意の数の運動軸を有する多可動視覚システムに適用することができ、以下の実施例は例示的に説明するだけであって本発明を限定するものではない。
本発明の実施例1は3可動視覚システムを例に挙げて本発明について詳しく説明する。
図1に示すように、本発明による多可動視覚システムは、撮像部材、計算部材、及び制御部材を含む。前記計算部材と撮像部材は信号接続され、撮像部材が各種ポーズで取得した画像及び対応するポーズ情報によって各の運動が撮像部材に対する影響をキャリブレーションすることができる。前記制御部材と前記撮像部材及び計算部材は信号接続されて撮像部材が各種ポーズで画像を取得するように制御し、また前記計算部材がキャリブレーション演算をするように制御する。
本発明による多可動視覚システムのキャリブレーション方法は、図2Aに示すように、そのキャリブレーションステップは、主に、
S11、初期位置での各回転軸の位置情報を記録して基準位置を決めるステップ;
S12、各を順次駆動し、撮像部材を使用してそれぞれ画像を収集し、画像を収集する時に対応する各回転軸の位置情報を記録するステップ;
S13、計算部材を使用して、キャリブレーション結果を計算するステップ;を含む。
キャリブレーションが完了されると、キャリブレーション結果及び各回転軸の位置情報によって初期位置に対する撮像部材のポーズを正確に計算することができる。図2Bに示すように、前記計算ステップの実際の応用は、主に:
S21、多可動視覚システムのキャリブレーション結果を取得するステップ;
S22、各回転軸の現在位置情報を取得するステップ;
S23、ステップS21及びS22で得られた情報を多可動視覚システムの外部パラメータ求解モデルに代入して記録基準位置に対する現在の撮像部材の回転平行移動情報を計算するステップ;を含む。
の可動視覚システムを例に挙げて説明すと、前記システムは3つの回転軸を有し、順次、ピッチ、ヨー、ロール回転軸と定義され、空間直交座標系に対応する。ピッチはX軸を中心として回転し、ヨーはY軸を中心として回転し、ロールはZ軸を中心として回転する。本実施例において、前記3つのは3つの単運動素子によって提供され、他の実施例において、一つの単に2運動素子を追加して提供することもでき、一つの3運動素子によっても提供することができる。好ましくは、一つのの運動が他のの運動影響しないように3つの前記運動素子の間は堅固に連結される。好ましくは、ピッチを提供する運動素子を堅固な連結方式でベースに固定することができ、ロールを提供する運動素子上に一つまたは複数の連続撮影が可能なビデオカメラを連結することができる。前記3つのの運動はそれぞれ一つのモーターを通じて駆動され、各前記モーターには何れもモーターのリアルタイム出力位置情報を取得するように位置記録装置が備えられている。本実施例では、角度値で各モーターの出力位置情報を表し、具体的には、ロール(以下、第一とも称する)運動を駆動するためのモーターの出力位置情報はθ1で表し、これは、Z軸に対するビデオカメラのスピンドルの回転角を表す。ヨー(以下、第二とも称する)運動を駆動するためのモーターの出力位置情報はθ2で表し、これは、Y軸に対するビデオカメラのスピンドルの回転角を表す。ピッチ(以下、第三とも称する)運動を駆動するためのモーターの出力位置情報はθ3で表し、これは、X軸に対するビデオカメラのスピンドルの回転角を表す。
キャリブレーション方法は以下のステップを含む;
1)基準位置情報の取得
可動視覚システムのビデオカメラの前方にキャリブレーションテンプレートを保持してビデオカメラが完全なキャリブレーションテンプレートを撮影するように保障し、この時に3つのモーターの初期位置情報(θI1,θI2,θI3)を記録して基準位置情報とする。
2)回転軸のキャリブレーション
キャリブレーションテンプレートの位置が変わらないように保持して、各回転軸を順次駆動する。つまり、1つのに変化が発生した場合、他の2つのは変わらない。まず、第一回転軸ロールを例に挙げると、回転軸を回転させるたびに(i番目の位置に対応)、ビデオカメラを使用して対応する位置でQ1個の有効画像M1ij、j=1,2,・・・,Q1を撮影し、同時にこの回転軸の位置情報を記録して{M1ij,θ11i,θ12i,θ13i},i=1,2,・・・,P1を取得する。ここで、P1はキャリブレーション過程における第一回転軸の回転数である。各回転位置で取得した一組の画像を使用し、また図3に示す平面碁盤キャリブレーションテンプレートに対応するキャリブレーションアルゴリズム(例えば張正友のキャリブレーションアルゴリズム)を使用して計算して、各回動位置で撮影した画像がキャリブレーションテンプレートに対する回転及び平行移動結果{R1Ci,T1Ci}を取得し、この画像を撮影する時に記録した回転軸の位置情報を結合して第一回転軸キャリブレーション中間結果{R1Ci,T1Ci,θ11i,θ12i,θ13i},i=1・・・Pを取得する。上記過程を繰り返してそれぞれ第二回転軸ヨー、第三回転軸ピッチの関連キャリブレーション中間結果を取得し、{RaCi,TaCi,θa1i,θa2i,θa3i},i=1・・・P,a=1,2,3にまとめる。
可動視覚システムは機械加工過程で光学中心が回転軸上にあることを保証することができず、各回転軸とビデオカメラ座標系の対応する座標軸が平行することも保証することができないため、回転軸エンコーダの出力値によってビデオカメラ座標系のポーズ変換を計算する必要がある。また、一つの剛体に対して、ビデオカメラスピンドルと各回転軸との間の相対位置関係は変わらないように保持する。各回転軸とビデオカメラ座標系との間の位置関係を求めるために、図4に示すように、数理モデルを構築する。C{O-x}はビデオカメラ座標系(以下、C系と称する)であり、ビデオカメラ座標系の光学中心Oを開始点とし、垂直線とロール回転軸lとの交差点をOとし、垂直線を延長して放射線Oとする。Oを原点とし、Oはx軸であり、回転軸はy軸であり、右手の法則でz軸を決めて回転軸座標系B{O-x}(以下、B系と称する)を構築する。
=dとすると(dは機械加工工程によって決められ、dは固定値である)、B系におけるOの座標はt=(-d,0,0)である。回転軸座標系Bに対するビデオカメラ座標系Cの回転行列をRBCとすると、空間内の任意の点Pに対して、C系における座標PCとB系における座標PBは変換関係P=RBC+tを充足し、同次座標において以下のように表示される:
Figure 0007185860000003

Figure 0007185860000004
はつまりキャリブレーションして得られる結果であり、これは空間内の任意の点PがB系からC系に変換される変換行列を表す。
回転軸を中心としてθ角度を回転させた後、回転軸座標系Bとビデオカメラ座標系Cは新しい座標系B’及びC’になる。回転軸を中心として回転する時に、B系はz軸を中心としてθ角からB’角に回動したことに対応し、同一点Pに対してB系における座標PとB’系における座標PB’は以下を充足する。
Figure 0007185860000005
ここで、
Figure 0007185860000006
(回転角によってこの値を調整する)
同様に、ビデオカメラ座標系に対して、θ角度を回動した後新しいビデオカメラ座標系C’が得られる。キャリブレーション過程で、固定された碁盤を通じてビデオカメラ座標系の変換を計算することができる。空間点Pが碁盤の世界座標系における座標をxとすると、C系及びC’系で計算した碁盤の外部パラメータはそれぞれTCW及びTC’Wであり、P=TCW、PC’=TC’Wの場合
Figure 0007185860000007
剛体の性質に基づいて、B系とC系は回動過程で相対位置関係TBCが変わらないように保持する。同じ空間における点は回動後の座標系B’とC’で依然として式(1)を充足する。
Figure 0007185860000008
式(2)、(3)、(4)により、以下が得られる。
Figure 0007185860000009
前記式において、
Figure 0007185860000010
は回転軸のキャリブレーション過程で求める量である。
Figure 0007185860000011
は毎回の回動で位置センサーによって出力された行列であり、
Figure 0007185860000012
は毎回の回動過程でカメラが計算した行列TC’Cであり、毎回の回動でTBCを計算することにより、回転軸とビデオカメラ座標系の関係をキャリブレーションする。
本発明では各に対して独立的にキャリブレーションする必要があり、一組のデータ{RaCi,TaCi,θa1i,θa2i,θa3i},i=1・・・P,a=1・・・3を取ってこの組のデータが基準位置モーターに対する回動角を計算すれば、{θa1i-θI1,θa2i-θI2,θa3i-θI3},i=1・・・P,a=1・・・3であり、その回転行列を計算して以下の式
Figure 0007185860000013
が得られる。
これを式(5)に代入すれば、一組の方程式を得ることができる:
Figure 0007185860000014
全てのデータを式(7)に代入すればP組の方程式を得ることができ、この方程式を求めて最適解{RBCa,TBCa},a=1・・・3を得ることができる。
3)リアルタイムキャリブレーション結果計算:
キャリブレーション結果は、全体的に基準位置情報(θI1,θI2,θI3)、及び回転軸キャリブレーション結果{RBCa,TBCa},a=1・・・3を有する。可動視覚システムにおいて各撮像部材に運動が発生した後、3つの回転軸で位置情報(θp1,θp2,θp3)が得られる場合、3つの回転軸の回転角はそれぞれ(θp1-θI1,θp2-θI2,θp3-θI3)であり、回転行列(Rp1,Rp2,Rp3)に変換して、モデルに代入して3可動視覚システムが運動した後基準カメラ位置に対する外部パラメータ結果を得る。
Figure 0007185860000015
前記R’及びT’はそれぞれ前記可動3視覚システムで運動が発生した後のビデオカメラが基準位置に対する時の回転行列及び平行移動行列結果である。
本発明による可動視覚システムキャリブレーション方法は上記説明された実施例に限定されず、本発明の原理を逸脱しない範囲内で多様な変形及び改善を施すことができる。本発明の保護内容は以上の実施例に限定されない。本発明の精神及び範囲を逸脱することなく、当業者によって想到される変化及び利点は全部本発明に含まれ、また添付される特許請求範囲を保護範囲とする。

Claims (4)

  1. 可動視覚システムのキャリブレーション方法において、
    前記多可動視覚システムは、
    連続画像を取得可能な少なくとも一つの撮像素子を含む撮像部材であって、少なくとも一つの回転軸を有し、且つベースに取り付けられる撮像部材であって、各前記回転軸には回動または平行移動情報を取得可能な位置取得装置が取り付けられている撮像部材と、
    画像情報及び各回転軸の運動情報を計算して処理することができる計算部材と、
    回転軸の運動を制御することができる制御部材と含み、
    前記キャリブレーション方法は、前記撮像素子の前方にキャリブレーションテンプレートを配置し、撮像素子が各回転軸回動するように駆動し、撮像素子を利用してキャリブレーションテンプレート特徴を含む若干の画像を記録し、同時に、対応する画像を取得する時の各回転軸の位置情報を記録し、前記計算部材を用いて撮像素子と各回転軸のキャリブレーション結果を計算することを含むことを特徴とする多可動視覚システムのキャリブレーション方法であって、
    キャリブレーション方法は、
    (1)基準位置での各回転軸の位置情報を記録するステップと、
    (2)撮像部材の前にキャリブレーションテンプレートを配置し、a番目の回転軸を数回回動させ、回動するたびに当該回転軸が連結された撮像部材にて画像を取得させ、同時に、この時の当該回転軸の位置情報を記録するステップであって、aは1・・・Nであって、aは回転軸の番号であって、Nは回転軸の数であるステップと、
    (3)上述した複数回の回動による画像の一連番号を利用し、また、キャリブレーションアルゴリズムを利用して、撮像部材の基準位置に対する、各画像を撮像した際の撮像部材の回転行列及び平行移動行列を得るステップと、
    (4)前記回転軸の基準位置に対する回転角度の変化を回転行列とし、回転軸座標系と撮像素子座標系の関係モデルに代入してキャリブレーション結果を取得するステップと、
    を含み、
    前記キャリブレーション結果は、各回転軸の撮像素子座標系の回転行列と平行移動行列を含む、
    多軸可動視覚システムのキャリブレーション方法。
  2. 前記キャリブレーションテンプレートは自然静的シーン及び人工標準ターゲットの中の一つを含み、且つ前記自然静的シーンはキャリブレーションテンプレートとして固定された画像特徴と既知の画像特徴との間の位置情報を提供することができなければならなく、前記人工標準ターゲットは2D平面ターゲット、3D立体ターゲットの中の少なくとも1つを含むことを特徴とする請求項1に記載の多可動視覚システムのキャリブレーション方法。
  3. 前記キャリブレーション結果と各回転軸の現在位置情報によって構築した各回転軸の回転軸座標系と撮像素子座標系との間の関係モデルを結合して撮像素子の現在位置と基準位置との間の相対位置関係を計算することができ、前記相対位置関係は回転行列及び平行移動行列によって表示されることを特徴とする請求項1または2に記載の多可動視覚システムのキャリブレーション方法。
  4. 前記関係モデルは以下の通りであることを特徴とする請求項に記載の多可動視覚システムのキャリブレーション方法:
    Figure 0007185860000016

    R’及びT’はそれぞれ基準位置に対する撮像素子の現在位置の回転行列及び平行移動行列であり、RBCa,TBCaはそれぞれは撮像素子座標系に対するa番目の回転軸の回転行列及び平行移動行列であり、Nは前記可動視覚システムの回転軸の数であり、Rpaは基準位置に対するa番目の回転軸の回転角度変換の回転行列である。
JP2021516454A 2018-09-28 2019-07-18 多軸可動視覚システムのキャリブレーション方法 Active JP7185860B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201811141453.0 2018-09-28
CN201811141453.0A CN109360243B (zh) 2018-09-28 2018-09-28 一种多自由度可动视觉系统的标定方法
PCT/CN2019/096545 WO2020063058A1 (zh) 2018-09-28 2019-07-18 一种多自由度可动视觉系统的标定方法

Publications (2)

Publication Number Publication Date
JP2022500793A JP2022500793A (ja) 2022-01-04
JP7185860B2 true JP7185860B2 (ja) 2022-12-08

Family

ID=65348274

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021516454A Active JP7185860B2 (ja) 2018-09-28 2019-07-18 多軸可動視覚システムのキャリブレーション方法

Country Status (5)

Country Link
US (1) US11847797B2 (ja)
JP (1) JP7185860B2 (ja)
CN (1) CN109360243B (ja)
DE (1) DE112019004853T5 (ja)
WO (1) WO2020063058A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109360243B (zh) * 2018-09-28 2022-08-19 安徽爱观视觉科技有限公司 一种多自由度可动视觉系统的标定方法
CN113489945A (zh) * 2020-12-18 2021-10-08 深圳市卫飞科技有限公司 一种目标定位方法、装置、系统及计算机可读存储介质
CN113379846B (zh) * 2021-05-28 2022-08-09 上海汇像信息技术有限公司 基于方向指示标志点标定模板的转台转轴标定方法
CN113487677B (zh) * 2021-06-07 2024-04-12 电子科技大学长三角研究院(衢州) 一种基于任意分布式配置的多ptz相机的室外中远距场景标定方法
CN115793698A (zh) * 2023-02-07 2023-03-14 北京四维远见信息技术有限公司 自动姿态控制系统和方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103759716A (zh) 2014-01-14 2014-04-30 清华大学 基于机械臂末端单目视觉的动态目标位置和姿态测量方法

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2573728A1 (en) * 2004-07-14 2006-02-23 Braintech Canada, Inc. Method and apparatus for machine-vision
CN201355241Y (zh) * 2008-10-30 2009-12-02 北京航空航天大学 基于视觉的空间目标位姿测量装置
TWI408486B (zh) * 2008-12-30 2013-09-11 Ind Tech Res Inst 具動態校正的攝影機及其動態校正方法
US9801539B2 (en) * 2013-05-23 2017-10-31 Stiftung Caesar—Center Of Advanced European Studies And Research Ocular Videography System
CN104298244B (zh) * 2013-07-17 2016-12-28 刘永 一种工业机器人三维实时高精度定位装置的定位方法
CN103854291B (zh) * 2014-03-28 2017-08-29 中国科学院自动化研究所 四自由度双目视觉系统中的摄像机标定方法
CN104354167B (zh) * 2014-08-29 2016-04-06 广东正业科技股份有限公司 一种机器人手眼标定方法及装置
CN104236456B (zh) * 2014-09-04 2016-10-26 中国科学院合肥物质科学研究院 一种基于两自由度3d视觉传感器的机器人手眼标定方法
EP3859669A1 (en) * 2014-11-04 2021-08-04 SZ DJI Technology Co., Ltd. Camera calibration
CN105014667B (zh) * 2015-08-06 2017-03-08 浙江大学 一种基于像素空间优化的相机与机器人相对位姿标定方法
CN105234943B (zh) * 2015-09-09 2018-08-14 大族激光科技产业集团股份有限公司 一种基于视觉识别的工业机器人示教装置及方法
US10812778B1 (en) * 2015-11-09 2020-10-20 Cognex Corporation System and method for calibrating one or more 3D sensors mounted on a moving manipulator
EP3374967B1 (en) * 2015-11-11 2023-01-04 Zhejiang Dahua Technology Co., Ltd Methods and systems for binocular stereo vision
CN105809689B (zh) * 2016-03-09 2018-10-26 哈尔滨工程大学 基于机器视觉的船体六自由度测量方法
CN105869150A (zh) * 2016-03-24 2016-08-17 杭州南江机器人股份有限公司 一种基于视觉识别的可移动平台标定装置及标定方法
CN106156425B (zh) * 2016-07-05 2019-07-09 北京邮电大学 一种模块化机械臂的快速通用运动学建模方法
US10723022B2 (en) * 2016-09-16 2020-07-28 Carbon Robotics, Inc. System and calibration, registration, and training methods
CN106335061A (zh) * 2016-11-11 2017-01-18 福州大学 一种基于四自由度机器人的手眼关系标定方法
CN107081755A (zh) * 2017-01-25 2017-08-22 上海电气集团股份有限公司 一种机器人单目视觉引导系统的自动标定装置
CN107256568B (zh) * 2017-05-08 2020-10-27 西安交通大学 一种高精度机械臂手眼相机标定方法及标定系统
US11308645B2 (en) * 2017-05-12 2022-04-19 The Board Of Trustees Of The Leland Stanford Junior University Apparatus and method for wide-range optical tracking during medical imaging
CN107498558A (zh) * 2017-09-19 2017-12-22 北京阿丘科技有限公司 全自动手眼标定方法及装置
CN107883929B (zh) * 2017-09-22 2020-01-31 中冶赛迪技术研究中心有限公司 基于多关节机械臂的单目视觉定位装置及方法
US11014211B2 (en) * 2017-11-07 2021-05-25 Dalian University Of Technology Monocular vision six-dimensional measurement method for high-dynamic large-range arbitrary contouring error of CNC machine tool
US11338441B2 (en) * 2017-12-01 2022-05-24 Delta Electronics, Inc. Calibration system for robot tool and calibration method for the same
CN108447097B (zh) * 2018-03-05 2021-04-27 清华-伯克利深圳学院筹备办公室 深度相机标定方法、装置、电子设备及存储介质
WO2020003497A1 (ja) * 2018-06-29 2020-01-02 株式会社小松製作所 撮像装置の校正装置、監視装置、作業機械および校正方法
CN109242913B (zh) * 2018-09-07 2020-11-10 百度在线网络技术(北京)有限公司 采集器相对参数的标定方法、装置、设备和介质
CN109360243B (zh) * 2018-09-28 2022-08-19 安徽爱观视觉科技有限公司 一种多自由度可动视觉系统的标定方法
CN109242914B (zh) * 2018-09-28 2021-01-01 上海爱观视觉科技有限公司 一种可动视觉系统的立体标定方法
CN114765667A (zh) * 2021-01-13 2022-07-19 安霸国际有限合伙企业 用于多视图拼接的固定图案校准

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103759716A (zh) 2014-01-14 2014-04-30 清华大学 基于机械臂末端单目视觉的动态目标位置和姿态测量方法

Also Published As

Publication number Publication date
CN109360243A (zh) 2019-02-19
WO2020063058A1 (zh) 2020-04-02
US20210407135A1 (en) 2021-12-30
JP2022500793A (ja) 2022-01-04
CN109360243B (zh) 2022-08-19
DE112019004853T5 (de) 2021-07-08
US11847797B2 (en) 2023-12-19

Similar Documents

Publication Publication Date Title
JP7185860B2 (ja) 多軸可動視覚システムのキャリブレーション方法
CN111801198B (zh) 一种手眼标定方法、系统及计算机存储介质
JP7185821B2 (ja) 可動視覚システムの立体キャリブレーション方法
US8310663B2 (en) Methods and systems for calibrating an adjustable lens
CN112223302B (zh) 基于多传感器的带电作业机器人的快速标定方法及装置
US8619144B1 (en) Automatic camera calibration
KR20200093464A (ko) 로봇 모션 용 비전 시스템의 자동 핸드-아이 캘리브레이션을 위한 시스템 및 방법
CN109658460A (zh) 一种机械臂末端相机手眼标定方法和系统
CN108830906B (zh) 一种基于虚拟双目视觉原理的摄像机参数自动标定方法
Zhang et al. A universal and flexible theodolite-camera system for making accurate measurements over large volumes
CN109807937B (zh) 一种基于自然场景的机器人手眼标定方法
WO2017146202A1 (ja) 三次元形状データおよびテクスチャ情報生成システム、撮影制御プログラム、及び三次元形状データおよびテクスチャ情報生成方法
US9990739B1 (en) Method and device for fisheye camera automatic calibration
WO2018209592A1 (zh) 一种机器人的运动控制方法、机器人及控制器
US20220392012A1 (en) Optical axis calibration of robotic camera system
CN110986770A (zh) 一种用于3d采集系统中相机及相机选择方法
CN110722558A (zh) 机器人的原点校正方法、装置、控制器和存储介质
CN106996769B (zh) 一种无需相机标定的主动式位姿快速重定位方法
CN116977449B (zh) 一种基于闪烁棋盘格的复眼事件相机主动标定方法
JP2012061587A (ja) ロボットのティーチングシステム
CN111179322A (zh) 基于相机光源阵列的材质测量拍摄图像校准方法及系统
CN108616744B (zh) 一种仿生双眼视觉校准系统及校准方法
CN116423495A (zh) 一种基于pnp的3d定位跟踪方法和系统
CN110051433B (zh) 保持对目标进行跟踪的方法及其在图像引导手术中的应用
CN108010083A (zh) 一种佩珀尔幻象显示系统中的投影仪定标方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220516

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220811

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221110

R150 Certificate of patent or registration of utility model

Ref document number: 7185860

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150