JP2004213332A - キャリブレーション装置、キャリブレーション方法、キャリブレーション用プログラム、及び、キャリブレーション治具 - Google Patents
キャリブレーション装置、キャリブレーション方法、キャリブレーション用プログラム、及び、キャリブレーション治具 Download PDFInfo
- Publication number
- JP2004213332A JP2004213332A JP2002382225A JP2002382225A JP2004213332A JP 2004213332 A JP2004213332 A JP 2004213332A JP 2002382225 A JP2002382225 A JP 2002382225A JP 2002382225 A JP2002382225 A JP 2002382225A JP 2004213332 A JP2004213332 A JP 2004213332A
- Authority
- JP
- Japan
- Prior art keywords
- calibration
- image
- marker
- jig
- markers
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 78
- 239000003550 marker Substances 0.000 claims description 309
- 230000008569 process Effects 0.000 claims description 17
- 238000012545 processing Methods 0.000 claims description 13
- 239000003086 colorant Substances 0.000 claims description 6
- 230000003287 optical effect Effects 0.000 abstract description 9
- 230000000694 effects Effects 0.000 description 38
- 238000010586 diagram Methods 0.000 description 28
- 239000013598 vector Substances 0.000 description 18
- 230000005484 gravity Effects 0.000 description 11
- 230000006870 function Effects 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 7
- 238000005259 measurement Methods 0.000 description 6
- 238000001514 detection method Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 238000000605 extraction Methods 0.000 description 3
- 238000002372 labelling Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 241000872198 Serjania polyphylla Species 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000005429 filling process Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Manipulator (AREA)
Abstract
【解決手段】少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されたキャリブレーション治具2を画像撮影装置1で撮影し、演算装置4によって、この撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けし、この番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、上記画像撮影装置1のキャリブレーションパラメータを推定する。
【選択図】 図1
Description
【発明の属する技術分野】
本発明は、画像撮影装置のキャリブレーションを行うキャリブレーション装置及びキャリブレーション方法、コンピュータをそのようなキャリブレーション装置として機能させるためのキャリブレーション用プログラム、及び、キャリブレーション装置と組み合わされるキャリブレーション治具に関する。
【0002】
【従来の技術】
画像撮影装置のキャリブレーション方法、あるいはカメラキャリブレーションは、画像処理において重要な技術である。この技術は、特に、カメラを利用した3次元計測や物体認識やロボットによる物体把持などに利用される。カメラキャリブレーション技術は、後述するように、画像撮影装置(カメラ)の光学的且つ幾何学的特性を規定するものであり、カメラの射影変換的特性パラメータと環境内におけるカメラの位置姿勢パラメータなどを推定する問題としても重要である。これらのカメラキャリブレーションパラメータを算出あるいは推定するためには、カメラが配置された世界座標系内にある3次元位置が既知なマーカ(キャリブレーション用のマーカあるいはランドマーク)をカメラで撮影し、そのカメラ画像に撮影されたマーカの像の2次元位置を画像内で算出して、両者の位置関係から各種のカメラパラメータを算出することになる。こうしたカメラキャリブレーションの方法としては、従来より種々知られている(例えば、非特許文献1乃至3参照)。
【0003】
非特許文献1に開示されている方法では、キャリブレーション治具として、すべて同一の大きさの正方形のキャリブレーションマーカを配置した平面ボードと、その平面ボードをz軸方向にスライドするzステージとを用意する。その正方形の頂点を画像処理により認識することにより、画像内でのキャリブレーションマーカの位置を計測すると共に、zステージから得られるz値と平面ボード上のxy座標とを組み合わせることにより、世界座標系での3次元位置を計測する。そして、対応するマーカの世界座標系における3次元位置と複数画像内の2次元位置とを利用しながら、画像撮影装置のキャリブレーションパラメータを推定する。
【0004】
また、非特許文献2は、キャリブレーションマーカを互いに垂直な3平面に配置し、そのマーカを認識することで、画像撮影装置(カメラ)のキャリブレーションを行う方法を開示している。
【0005】
非特許文献3では、2平面から構成されるキャリブレーション治具を考案し、そのキャリブレーションボード上には、複数の正方形のマーカを配置し、その正方形のマーカの4個の頂点を画像処理的に抽出することにより、マーカの画像内位置を推定している。これらマーカである正方形の色は、背景の色と異なり、さらに2平面を分離できる境界が明確であるという特徴がある。
【0006】
【非特許文献1】
J. Weng, P. Cohen, and M. Herniou, ”Camera Calibration with Distortion Models and Accuracy Evaluation,” IEEE Transactions of Pattern Analysis and Machine Intelligence, pp. 965−980, 1992
【0007】
【非特許文献2】
B. Girod, et al, edited, Principles of 3D image analysis and synthesis, Kluwer Academic Publishers, 2000, pp. 29−30
【0008】
【非特許文献3】
Oliver Faugeras, Three−Dimensional Computer Vision, MIT Press,1993, pp. 232−235
【0009】
【発明が解決しようとする課題】
上記非特許文献1に開示の方法では、キャリブレーションマーカを平面上に配置しているため、複数のzの値に対する複数の画像を撮影する必要がある。また、キャリブレーションマーカがすべて同一のものを使用しているため、マーカを同定するためには、すべてのマーカを画像内に撮影する必要があり、また複数のz値に対して画像を撮影する際にも、すべてのマーカが撮影されていなければならないため、キャリブレーション治具の設定方法に制限があるという問題があった。更に、複数の画像撮影装置(カメラ)を使用する際には、画像撮影装置間に設定が困難であるという問題があった。
【0010】
また、上記非特許文献2に開示の方法では、3平面のうち上部2平面に均等にキャリブレーションマーカを配置し、それらを認識し易くするために、大きさの異なる円マーカを使用している。しかし、下方の平面には、上部2面とは異なるマーカ配置を行っている。具体的には、すべて同一の大きさを均等に配置しているに過ぎない。この方法では、画像撮影装置の光学的レンズ歪みが大きいときには、マーカの番号付けや認識に誤りが起こる可能性が高い。その理由としては、(1)上部2平面と下部1平面の間の境界が不明確なこと、(2)キャリブレーションマーカが存在する背景領域の境界が不明確なため、画像内にマーカと類似したものが撮影されると、それをキャリブレーションマーカと誤認識する可能性があること、(3)上部と下部とで異なるマーカ配置を行っているため、画像撮影装置であるカメラの撮影配置に制限があること、が挙げられ、実際的にキャリブレーションを行う際には、実用的な問題があった。
【0011】
そして、上記非特許文献3に開示の方法では、画像撮影装置のレンズ歪み(レンズディストーション)は無視しており、画像撮影装置をピンホールカメラモデルで近似しているにとどまり、レンズ歪みの影響が大きくなるとキャリブレーションパラメータの算出で問題が起こる。この理由は、(1)マーカが2平面に限定されて配置されていること、(2)正方形の頂点の画像検出は、いわゆるコーナーポイントの検出となり、画像検出誤差の検出成分が大きくなること、などを挙げることができる。
【0012】
本発明は、上記の点に鑑みてなされたもので、画像撮影装置が設置された様々な環境の中でも、ロバストにキャリブレーションに使用されるマーカが正確に同定できることを課題とし、特に、画像撮影装置が有する光学的歪み(レンズディストーション)が大きな場合でも、画像内からキャリブレーションマーカを容易に且つ正確に認識し、より精密なキャリブレーションパラメータを算出できるキャリブレーション装置、キャリブレーション方法、キャリブレーション用プログラム、及び、キャリブレーション治具を提供することを目的とする。
【0013】
【課題を解決するための手段】
上記の目的を達成するために、請求項1に記載の発明によるキャリブレーション装置は、
画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具と、
上記キャリブレーション治具を撮影する上記画像撮影手段と、
上記画像撮影手段により撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカ認識手段と、
上記キャリブレーションマーカ認識手段により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、上記画像撮影手段のキャリブレーションパラメータを推定するパラメータ推定手段と、
を具備することを特徴とする。
【0014】
また、請求項2に記載の発明によるキャリブレーション装置は、請求項1に記載の発明によるキャリブレーション装置において、上記キャリブレーションマーカが上記所定の規則に基づいて配置されている上記キャリブレーション治具は、所定の規則に基づいて番号付け可能にキャリブレーションマーカが配置されたキャリブレーション治具であることを特徴とする。
【0015】
また、請求項3に記載の発明によるキャリブレーション装置は、請求項1に記載の発明によるキャリブレーション装置において、上記キャリブレーション治具は、上記キャリブレーションマーカが配置された面の間に、キャリブレーションマーカが属する面を規定することが可能な面境界線あるいは面境界線群あるいは面境界曲線があることを特徴とする。
【0016】
また、請求項4に記載の発明によるキャリブレーション装置は、請求項3に記載の発明によるキャリブレーション装置において、上記キャリブレーション治具は、お互いに直交する3面から構成されることを特徴とする。
【0017】
また、請求項5に記載の発明によるキャリブレーション装置は、請求項4に記載の発明によるキャリブレーション装置において、上記キャリブレーション治具は、上記キャリブレーションマーカが配置された各面に、少なくとも2種類のキャリブレーションマーカが配置され、当該2種類のマーカの配置関係から各面におけるマーカの同定あるいは番号付けを行うように構成されたことを特徴とする。
【0018】
また、請求項6に記載の発明によるキャリブレーション装置は、請求項5に記載の発明によるキャリブレーション装置において、上記キャリブレーション治具は、大きさの異なる2種類以上のキャリブレーションマーカを有することを特徴とする。
【0019】
また、請求項7に記載の発明によるキャリブレーション装置は、請求項5に記載の発明によるキャリブレーション装置において、上記キャリブレーション治具は、色の異なる2種類以上のキャリブレーションマーカを有することを特徴とする。
【0020】
また、請求項8に記載の発明によるキャリブレーション装置は、請求項5に記載の発明によるキャリブレーション装置において、上記キャリブレーション治具は、形状の異なる2種類以上のマーカを有することを特徴とする。
【0021】
また、請求項9に記載の発明によるキャリブレーション装置は、請求項5に記載の発明によるキャリブレーション装置において、上記キャリブレーション治具は、上記キャリブレーションマーカのうちの少なくとも1種類が、3面が交わる原点付近に配置されたものであることを特徴とする。
【0022】
また、請求項10に記載の発明によるキャリブレーション装置は、請求項1に記載の発明によるキャリブレーション装置において、複数の視点から上記キャリブレーション治具が写っている複数枚の画像を撮影するために、上記画像撮影装置あるいはキャリブレーション治具を相対的に移動させる移動手段をさらに具備することを特徴とする。
【0023】
また、請求項11に記載の発明によるキャリブレーション装置は、請求項1に記載の発明によるキャリブレーション装置において、上記キャリブレーションマーカ認識手段は、上記キャリブレーション治具の各面におけるキャリブレーションマーカの番号付けの処理を所定の順番に基づいて行い、既に番号付けされた近傍マーカの画像位置の情報を利用して、次に番号付けされるべきマーカの画像内位置を予測するとともに、その予測に従って検出されたマーカ候補から最適な候補を選択するか、あるいは最適な候補が存在しないと判定するかの処理を行うことを特徴とする。
【0024】
また、請求項12に記載の発明によるキャリブレーション装置は、請求項11に記載の発明によるキャリブレーション装置において、上記キャリブレーションマーカ認識手段は、上記最適な候補の選択には、予測位置からの距離を利用することを特徴とする。
【0025】
また、請求項13に記載の発明によるキャリブレーション装置は、請求項11に記載の発明によるキャリブレーション装置において、上記キャリブレーションマーカ認識手段は、上記最適な候補が存在しないと判定するのに、予測位置からの距離を尺度とし、その距離が所定の閾値を超えていた場合に存在しないと判定することを特徴とする。
【0026】
また、請求項14に記載の発明によるキャリブレーション装置は、請求項11に記載の発明によるキャリブレーション装置において、上記キャリブレーションマーカ認識手段において、上記キャリブレーションマーカの番号付けは、螺旋状に行うことを特徴とする。
【0027】
また、請求項15に記載の発明によるキャリブレーション装置は、請求項1に記載の発明によるキャリブレーション装置において、上記キャリブレーションマーカ認識手段が認識したキャリブレーションマーカの認識結果を、上記画像撮影手段で撮影された画像あるいは別の画像にその結果を重畳して表示する表示手段をさらに具備することを特徴とする。
【0028】
また、請求項16に記載の発明によるキャリブレーション装置は、請求項1に記載の発明によるキャリブレーション装置において、上記画撮影装置が撮影する上記キャリブレーション治具の画像は、上記キャリブレーション治具上に配置された複数種類のキャリブレーションマーカのうち、少なくとも1種類のキャリブレーションマーカのすべてが写っているものであることを特徴とする。
【0029】
また、請求項17に記載の発明によるキャリブレーション装置は、請求項1に記載の発明によるキャリブレーション装置において、上記画像撮影装置が撮影する上記キャリブレーション治具の画像は、上記キャリブレーション治具上に配置された複数種類のキャリブレーションマーカのうち、少なくとも1種類のキャリブレーションマーカのすべてがほほ中央に写っているものであることを特徴とする。
【0030】
また、請求項18に記載の発明によるキャリブレーション装置は、請求項1に記載の発明によるキャリブレーション装置において、ステレオアダプタを装着した上記画像撮影装置が撮影する上記キャリブレーション治具の少なくとも一方の画像は、上記キャリブレーション治具上に配置された複数種類のキャリブレーションマーカのうち、少なくとも1種類のキャリブレーションマーカのすべてがほぼ中央に配置されるように撮影されたものであることを特徴とする。
【0031】
また、請求項19に記載の発明によるキャリブレーション装置は、請求項1に記載の発明によるキャリブレーション装置において、上記画像撮影装置が撮影する上記キャリブレーション治具の画像は、上記キャリブレーション治具を構成する複数の面の境界線あるいは境界曲線の一部が中央に位置するように撮影されたものであることを特徴とする。
【0032】
また、上記の目的を達成するために、請求項20に記載の発明によるキャリブレーション装置は、
複数の画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具と、
上記キャリブレーション治具を異なる位置から撮影する上記複数の画像撮影手段と、
上記複数の画像撮影手段により異なる位置から撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカ認識手段と、
上記キャリブレーションマーカ認識手段により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、上記複数の画像撮影手段のキャリブレーションパラメータを推定するパラメータ推定手段と、
を具備することを特徴とする。
【0033】
また、上記の目的を達成するために、請求項21に記載の発明によるキャリブレーション装置は、
ステレオアダプタ付きの画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具と、
ステレオアダプタを介して撮影することにより上記キャリブレーション治具を異なる位置から撮影する上記ステレオアダプタ付きの画像撮影手段と、
上記ステレオアダプタ付きの画像撮影手段により異なる位置から撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカ認識手段と、
上記キャリブレーションマーカ認識手段により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、上記ステレオアダプタ付きの画像撮影手段のキャリブレーションパラメータを推定するパラメータ推定手段と、
を具備することを特徴とする。
【0034】
また、上記の目的を達成するために、請求項22に記載の発明によるキャリブレーション装置は、
画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具を上記画像撮影手段で撮影した画像を入力する手段と、
上記撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカ認識手段と、
上記キャリブレーションマーカ認識手段により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利属して、上記画像撮影手段のキャリブレーションパラメータを推定するパラメータ推定手段と、
を具備することを特徴とする。
【0035】
また、上記の目的を達成するために、請求項23に記載の発明によるキャリブレーション方法は、
画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション方法において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具を上記画像撮影手段で撮影した画像を入力する工程と、
上記撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカを認識する工程と、
上記キャリブレーションマーカを認識する工程により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、上記画像撮影手段のキャリブレーションパラメータを推定する工程と、
を有することを特徴とする。
【0036】
また、上記の目的を達成するために、請求項24に記載の発明によるキャリブレーション用プログラムは、
画像撮影手段のキャリブレーションパラメータを推定するためにコンピュータに、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具を上記画像撮影手段で撮影した画像を入力する機能と、
上記撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカを認識する機能と、
上記番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、上記画像撮影手段のキャリブレーションパラメータを推定する機能と、
を実現させるためのものである。
【0037】
また、上記の目的を達成するために、請求項25に記載の発明によるキャリブレーション治具は、
画像撮影手段で所定のキャリブレーションマーカを有するキャリブレーション治具を撮影し、上記撮影された画像に基づいて上記撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置と組み合わせるキャリブレーション治具であって、
少なくとも複数の面と、
上記複数の面の各々に所定の規則に基づいて配置されるとともに、3次元位置が既知な複数種類のキャリブレーションマーカと、
を備えることを特徴とする。
【0038】
また、請求項26に記載の発明によるキャリブレーション治具は、請求項25に記載の発明によるキャリブレーション治具において、上記キャリブレーションマーカが配された面の間に、キャリブレーションマーカが属する面を規定することが可能な面境界線あるいは面境界線群あるいは面境界曲線があることを特徴とする。
【0039】
また、請求項27に記載の発明によるキャリブレーション治具は、請求項25に記載の発明によるキャリブレーション治具において、互いに直交する3面から構成されることを特徴とする。
【0040】
また、請求項28に記載の発明によるキャリブレーション治具は、請求項27に記載の発明によるキャリブレーション治具において、上記キャリブレーションマーカが配置された各面に少なくとも2種類のキャリブレーションマーカが配置され、当該2種類のマーカの配置関係から各面におけるマーカの同定あるいは番号付け可能なように構成されたことを特徴とする。
【0041】
また、請求項29に記載の発明によるキャリブレーション治具は、請求項28に記載の発明によるキャリブレーション治具において、大きさの異なる2種以上のキャリブレーションマーカを有することを特徴とする。
【0042】
また、請求項30に記載の発明によるキャリブレーション治具は、請求項28に記載の発明によるキャリブレーション治具において、色の異なる2種類以上のキャリブレーションマーカを有することを特徴とする。
【0043】
また、請求項31に記載の発明によるキャリブレーション治具は、請求項28に記載の発明によるキャリブレーション治具において、形状の異なる2種類以上のキャリブレーションマーカを有することを特徴とする。
【0044】
また、請求項32に記載の発明によるキャリブレーション治具は、請求項28に記載の発明によるキャリブレーション治具において、上記キャリブレーションマーカのうちの少なくとも1種類が、3面が交わる原点付近に配置されたものであることを特徴とする。
【0045】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して説明する。
【0046】
[第1の実施の形態]
図1の(A)は、本発明の第1の実施の形態に係るキャリブレーション装置の基本構成を示す図である。
【0047】
即ち、このキャリブレーション装置は、キャリブレーションを実行すべき画像撮影装置1により撮影される、キャリブレーションパターンが付加されているキャリブレーション治具2と、上記画像撮影装置1が撮影した画像(あるいは映像信号)3を処理して上記画像撮影装置1に関するキャリブレーションパラメータを算出する演算装置4と、から構成されるものである。
【0048】
ここで、上記画像撮影装置1は、ビデオカメラ、ディジタルカメラ、など画像を撮影あるいは入力する装置であれば何でも良い。
【0049】
また、上記演算装置4は、パーソナルコンピュータのような汎用の計算機でも良いし、専用の演算処理装置であっても良い。更に、上記画像(あるいは映像信号)3は、上記画像撮影装置1と上記演算装置4との間を通信により授受しても良いし、電子メディア(例えば、メモリ、コンパクトフラッシュ(登録商標)メモリ、フロッピー(登録商標)ディスク、スマートメディア(商標)、CD−ROM、光磁気ディスク)などによって手渡ししても良い。また、上記演算装置4は、上記画像撮影装置1内に存在しても良く、そのような場合には、画像撮影装置1内で、ハードウェア回路あるいはソフトウェア処理で行っても良い。
【0050】
また、上記キャリブレーション治具2は、3個の平面2Aが直交するコーナーキューブの形で構成されたものである。各面2Aは、例えば図2の(A)に示すように正方形形状でも構わないし、図2の(B)あるいは、図2の(C)に示すように三角形形状でもあるいは5角形の形状でも良いし、更には、図示していないが円弧形状であっても構わない。こららの直交する3面は、キャリブレーション治具2が規定する座標系においてxy平面、yz平面、zx平面を構成するように配慮されている。例えば、図2の(A)においては、下部に位置する面2A1が、xy平面、右上に位置する面2A2がyz平面、左上に位置する面2A3がzx平面として定義され、xy平面とyz平面が交わる直線がy軸、yz平面とzx平面が交わる直線がz軸、zx平面とxy平面が交わる直線がx軸、三平面が交わる点を原点Oと定義することができる。このように決定することで、各面の位置関係と座標系を決定することができる。即ち、xy平面はz=0平面として定義され、yz平面はx=0平面として定義され、zx平面はy=0と定義されるわけである。
【0051】
図3の(A)は、このキャリブレーション治具2を構成する1つの面2Aを表したものである。この面内には2種類の大きさの円マーカ5b,5sが存在する。具体的には、図2の(A)に示したような3面構成のキャリブレーション治具2の場合には、前述の通り3面が交わる原点付近に大きさの異なる3個の大マーカ5bが存在する。
【0052】
本キャリブレーション治具2の各面2Aでは、白色を背景とし、マーカ(大マーカ5b・小マーカ5s)は黒色で印刷されている。また、各面でマーカ全部を含む白色の背景のことを、以下、マーカ背景領域5と称する。そして、このマーカ背景領域5をさらに囲むように黒色で背景境界線(あるいは背景境界曲線)6が存在する。この背景境界線(あるいは背景境界曲線)6は、マーカが存在する領域を制限する意味で重要であり、この背景境界線6をどのように利用するかについては、後述する。
【0053】
ここでは、マーカを黒色で、また背景を白色で表したが、もちろん、これとは逆の色を使用しても良いことは明白である。また、カラーカメラを使用することができる際には、大マーカ5bと小マーカ5sのように大きさで2種類のマーカを区別したが、色によって2種類のマーカを区別することも可能であることは明白である。また、図3の(B)に示すように、大マーカ5bを、白黒2重円から構成するようにしても良い。また、別の構成としては、マーカを包含するマーカ背景領域5が灰色で、大マーカ5bが白、小マーカ5sが黒などのように、2階調の濃度値を利用するのではなく2階調以上の濃度値を利用するようなマーカ構成であっても構わない。
【0054】
次に、このような構成のキャリブレーション装置の動作を説明する。
【0055】
図1の(B)は、このキャリブレーション装置全体の動作フローチャートを示す図である。
【0056】
即ち、キャリブレーションすべき画像撮影装置1を、上記のようなキャリブレーション治具2を撮影できるような位置に設定し(ステップS1)、キャリブレーション治具2を画像撮影装置1で撮影する(ステップS2)。ここで、実際に画像撮影装置1で、このキャリブレーション治具2を撮影を撮影する際には、上記各面2Aの存在する大マーカ5bが撮影画像内に存在するように撮影するか、あるいはその大マーカ5bができるだけ画像の中央に配置されるように撮影することが、撮影者への指針となる。大マーカ5bの画像内位置をこのように撮影指針にすることは、後述するように、マーカ認識の精度を向上させることで重要な役割を果たす。これは、特に光学レンズのディストーションの影響が大きいときには、重要である。
【0057】
こうして撮影されたキャリブレーション治具2の画像(あるいは映像信号)3は、演算装置4に送出される。而して、演算装置4において、キャリブレーション治具2の幾何学的情報と、上記ステップS2で撮影された画像(あるいは映像信号)3とを利用して、上記画像撮影装置1に関するキャリブレーションパラメータを算出する(ステップS3)。
【0058】
図1の(C)は、このステップS3の上記演算装置4で行われるキャリブレーションパラメータ算出のためのサブルーチンのフローチャートを示している。
【0059】
即ち、まず、マーカ背景領域認識の処理として、上記画像撮影装置1から得られた画像(あるいは映像信号)3から、3個のマーカ背景領域5を抽出し、それぞれがxy平面、yz平面、zx平面のいずれに対応するかを同定(認識)する(ステップS31)。
【0060】
続いて、マーカ認識の処理として、上記ステップS31において同定された各面(xy平面、yz平面、zx平面)について、各面に配置された大小のマーカ5b,5sに対応する領域をマーカ背景領域5で囲まれた領域内から抽出し、それらを同定(レベル付け)する(ステップS32)。
【0061】
ここで、大マーカ5bである3個のマーカを図4の(A)に示すようにA,B,Cとし、この面2Aがキャリブレーション治具2のxy平面に対応すると仮定する。この場合、A−Bは3次元空間である世界座標系内のx軸を規定するものとして考えることができ、A−Cは3次元空間である世界座標系内のy軸を規定するものとして考えることができるわけである。従って、詳細は後述するように、画像内でのA,B,Cの位置関係を考えると、世界座標系のx軸y軸について画像内における大まかな方向ベクトルを算出することが可能となる。もちろん、この方向ベクトルは、A,B,Cの存在する近傍では正確な推定値であるが、A,B,Cから極端に離れていくと、画像撮影装置1(あるいは手段)の光学系のレンズの歪みの影響で方向ベクトルの推定値は誤差を含むものとなる。このような課題を解決する手段として、後述するような方法で、キャリブレーションマーカの同定(あるいは番号付け)を行うものである。
【0062】
さらに、図4の(B)は、各面におけるマーカのラベルと座標関係を表した図である。これらマーカ群は、A=M0を基点として、反時計回りに螺旋状にM1,M2,…,Mnという具合に番号付けされている。即ち、大マーカBはM4として、大マーカCはM8として番号付けされるわけである。
【0063】
そして、例えば図4の(B)に示すように、xy平面上のマーカ群に関しては、原点Oを基準として各マーカの3次元位置座標を付与することができる。例えば、原点OからM0までのx方向とy方向のオフセットを共にa(メートル)、x方向及びy方向のマーカ間の間隔をb(メートル)とすると、各代表的なマーカの3次元座標値(x,y,z)は、以下のように簡単に計算することができる。
【0064】
【数1】
【0065】
なお、M=0となるマーカAを容易に検出できるように、図5の(A)に示すように、原点Oに最も近い大マーカ5bだけを図3の(B)に示したような白黒2重円から構成するようにしても良い。
【0066】
以上のようなマーカ認識の処理によって、各マーカMi(i=0,1,2,…)について、そのキャリブレーション治具2が基準とする世界座標系におけるマーカ3次元位置(xi,yi,zi)の位置と、対応する画像内における2次元位置(ui,vi)を算出することができる。
【0067】
そしてその後、パラメータ算出の処理として、上記ステップS32において対応付けられたマーカの3次元位置(xi,yi,zi)と2次元位置(ui,vi)とを利用することによって、画像撮影装置1に関するカメラキャリブレーションパラメータを算出する(ステップS33)。
【0068】
以下、これらのステップS31,S32,S33について詳細に説明する。
【0069】
(マーカ背景領域認識方法)
まず、上記ステップS31のマーカ背景領域認識の方法について説明する。
【0070】
画像撮影装置1で撮影されたキャリブレーション治具2の画像(あるいは映像信号)3について、マーカ5b,5sはほぼ黒色に、マーカ背景領域5はほぼ白色に撮影されている。そこで、適切な閾値を設定して、この画像3に対して2値化処理を施すと、マーカ背景領域5は「1」に変換され、マーカ5b,5sを示す楕円あるいは円領域は「0」に、さらに背景境界線6の領域は「0」に変換される。ここで、「1」である2値領域を抽出すると、3個のマーカ背景領域5とその他白色に映し出されたキャリブレーション治具以外の物体がラベル「1」で指定される2値領域(対象領域)として抽出される。ここで注意しなければならないのは、3個のマーカ背景領域5は黒色の背景境界線6で区切られているため、画像内では、必ずこれらのマーカ背景領域5は閉領域として、お互いに区別できるわけである。
【0071】
画像撮影の典型的な場合は、図5の(B)に示すような場合である。この場合には、マーカ背景領域5である画像領域C,D,Eとその他の領域A,B,Fがラベル「1」の領域として登録される。
【0072】
そして次に、マーカ背景領域5あるいはその一部の領域だけが抽出される。この抽出の条件としては、マーカ背景領域5は、
1)画像の中心付近に、その一部が少なくとも位置し、
2)その面積はある閾値よりも大であり、
3)3面のマーカ背景領域5はその中央付近でお互いに隣接関係にある、などを使用すれば良い。このような抽出条件により、例えば、図5の(B)の場合には、C,D,Eの画像領域が抽出選択される。
【0073】
このようにして、複数のマーカ背景領域5が抽出された後、これらがそれぞれxy平面、yz平面、zx平面のいずれに対応するかを決定する。これには、以下のような方法を利用する。
【0074】
まず、マーカ背景領域5として抽出された画像領域をα、β、γとする。次に、これらの画像領域内における重心位置をPα、Pβ、Pγとすると、
【数2】
により、その平均位置を計算するとともに、ベクトル
【数3】
を考えて、それらのベクトルが反時計回りになるように並べ替える。そして、画像3内の最も下部に重心が位置するものをxy平面を構成するマーカ背景領域5とし、ベクトルが反時計回りになる順にyz平面、zx平面となるものを選択することにより、3個のマーカ背景領域5をxy平面、yz平面、zx平面とすることができるわけである。例えば、図5の(B)においては、このようにすることにより、画像領域Eがxy平面に、画像領域Dがyz平面に、画像領域Cがzx平面に対応するマーカ背景領域5であると認識できることになる。
【0075】
(マーカ認識方法)
次に、上記ステップS32のマーカ認識の方法について説明する。即ち、キャリブレーションに使用する大小のマーカの認識方法の概要に関して解説する。
【0076】
今まで説明してきたように、マーカ背景領域5の認識が終わると、それに囲まれる大小のマーカ5b,5sを正確に認識することが重要になる。大小のマーカ5b,5sは、定義上では、円形マーカであるが、画像撮影装置1が撮影した画像3内では、必ずしも正確な円とは撮像されない。しかしながら、その形状はほぼ楕円で近似することができる。
【0077】
図6は、このマーカ認識処理のフローチャートを示す図である。
【0078】
即ち、まず、マーカ背景領域5毎に、そのマーカ背景領域5内の穴埋め2値処理を行い、マーカ背景領域5とマーカ領域とを含む包含領域を生成し、さらに、この包含領域について適当な閾値を利用した2値化処理により平面内のマーカ領域と背景領域に領域分割するか、あるいは例えばRahardja/Kosakaの領域分割アルゴリズムなどを適用し、画像3内から円形状(楕円形状)の領域だけを高速に抽出する(ステップS320)。こうして、大小の楕円領域が抽出される。ここで、これらの楕円領域を、Ej(j=0,1,2,…)と表現するものとする。
【0079】
次に、大マーカ5bであるM0,M4,M8に対応する大楕円領域E0,E4,E8を選択する(ステップS321)。この際、マーカ間の幾何学的制約条件を考慮して、正確に対応付けが出来ているかを確認する。
【0080】
その後、大楕円領域E0の重心をP0としたとき、そのP0における方向ベクトルdx(P0)とdy(P0)を大楕円領域E4,E8の位置関係から算出する(ステップS322)。
【0081】
以上で、アルゴリズムの初期化が終わり、マーカM1,M2,M3,…の順に(らせん状の順番で)、マーカMk(k=1,2,…,N)に対応する楕円Ekを探索する。このため、インデックスkの値をまず「1」に初期設定した後(ステップS323)、以下のステップS324乃至ステップS329を繰り返す。
【0082】
即ち、マーカMNまでのすべてのマーカを認識したかどうかを判別するため、インデックスkがNを超えたか否かを判別する(ステップS324)。
【0083】
ここで、まだ越えていない、つまり、認識していないマーカが存在する場合には、マーカMkの5×5近傍において、すでに楕円と対応関係が確定しているマーカMj(j<k)を収集する(ステップS325)。なお、5×5近傍とは、注目しているマーカMkの座標位置(x,y)に対して、x軸方向の座標値の差が2間隔以内またはy軸方向の座標値の差が2間隔以内ということであり、従って、5×5近傍に存在するマーカの総数は、その注目マーカMkを除いて24個となる。
【0084】
次に、それら収集したマーカ群{Mj|j<k}及びそれらと対応関係が確定した楕円群{Ej|j<k}の座標値を利用して、マーカMkの画像内位置を予測する。予測に関しては、その予測期待値と限界領域を規定する。さらに、マーカMkに対応する楕円の重心における方向ベクトルdx,dyも予測する(ステップS326)。
【0085】
そして、マーカMkの限界領域内に存在し且つ予測期待値に最も近い楕円Ekを選択する(ステップS327)。
【0086】
その後、マーカの対応関係(Mk,Ek)を含めて、楕円Ekの重心Pkに対応するdx(Pk),dy(Pk)の値を更新する(ステップS328)。
【0087】
そして、インデックスkの値を「1」増やした後(ステップS329)、上記ステップS324へ戻る。
【0088】
こうして、ステップS324乃至S329を繰り返し、インデックスkの値がNを超えたならば(ステップS324)、このマーカ認識処理を終了する。
【0089】
以下、このようなマーカ認識アルゴリズムの詳細、特に、マーカと楕円との対応付け(ラベリング)の詳細について説明する。即ち、マーカMkと画像から抽出された楕円Ejの間のラベリングを如何にして行うかを以下で説明する。基本的には、マーカの中で主特徴となる大マーカ(M0,M4,M8)に対応する楕円をまず抽出し、その楕円群により、マーカの幾何学位置を規定するx軸方向とy軸方向の画像内における方向ベクトルdx,dyの初期推定値と原点P0を決定する。その後、再帰的にマーカM1,M2,M3,…に対応する楕円E1,E2,E3,…を順次決定する方法を採用する。
【0090】
なおここで、各用語の定義は、以下のようである。
【0091】
1)マーカMk:大マーカ(大円マーカ)5bと小マーカ(小円マーカ)5s
マーカとしては、M0,M4,M8からなる大マーカ5bと、その他の小マーカ5sからなる。
【0092】
2)楕円(大)と楕円(小)Ej
マーカの画像上への投影像は一般的には楕円で近似することができる。画像内から抽出される楕円は、その幾何学的特徴と重心位置(重心座標)により記述される。
【0093】
3)x軸とy軸、方向ステップ(sx,sy)と方向ベクトル(dx,dy)
マーカ間の相対位置はsx,syにより記述される。ここで、sx,syはそれぞれx軸方向にステップ数とy方向のステップ数を表す。dx,dyは隣接ランドマークの画像内でのx方向とy方向の距離を表す。より具体的には、対応する楕円がx軸方向での1ステップ進んだ距離がdxであり、y軸方向での1ステップ進んだ距離がdyとなる。dx,dyは画像内で均一ではないため、抽出された各楕円の重心に対して定義される。
【0094】
このような定義により、以下、アルゴリズム・ステップを説明する。
【0095】
1)3個の大楕円の認識(上記ステップS321の処理)
まず、上記ステップS320の処理により領域抽出された楕円の集合を、面積によって降べきの順にソーティングする。
【0096】
次に、面積が大な楕円3個を選択し、それらが以下の条件を満たすか否かを判定する:
i)面積がほぼ等しい(例えば、3個の楕円の面積のうち最大と最小の比がある範囲内)
この条件を満たすときには、3個の楕円が認識されたとする。そして、それら3個の楕円をM0,M4,M8として番号付けする。
【0097】
2)方向ベクトルdx,dyの初期値推定
M0,M4から隣接格子点間のx方向を規定する方向ベクトルdxの初期値を算出する。
【0098】
【数4】
【0099】
また、M0,M8から隣接格子間のy方向を規定する方向ベクトルdyの初期値を算出する。
【0100】
【数5】
3)中心点P0の認識(上記ステップS322の処理)
3個の大楕円の重心に最も近い大楕円をE0とラベリングし、E0の重心を点P0とする。この点P0の方向ベクトルdx(P0),dy(P0)としては、上述したdx,dyの初期値を利用する。
【0101】
4)再帰的楕円ラベリング法
今、マーカMk−1に対応する楕円Ek−1とその中心点Pk−1(k=1,2,…)までが求められたとし、各楕円の中心点における方向ベクトルdx(Pk−1),dy(Pk−1)が算出できたと仮定する。この際、あるマーカMiに対応する楕円Ei(0<i<k)は検出できていない可能性はもちろんある。このとき、マーカMkに対応する楕円Ekをラベリングすることを考える。
【0102】
a)マーカMkの5×5近傍のランドマークを収集する(上記ステップS325の処理)。
【0103】
b)近傍マーカMjに対応し、既にラベリングされた楕円Ejの中心点Pjとその方向ベクトルdx(Pj),dy(Pj)を利用して、マーカMkに対応する中心値Pkの予測値Pk 0を算出する(上記ステップS326の処理)。これには、LjとLk間のx方向y方向のステップをsx,syとしたとき(sx=−2,−1,0,1,2;sy=−2,−1,0,1,2)、
【数6】
【0104】
c)最近接楕円Ekを選択(上記ステップS327の処理)
マーカMkの予測値Pk 0に最も近接な楕円を求める。この際、予測値Pk 0と楕円間の距離が
【数7】
を満たすもののみを考慮に入れる。例えば、
【数8】
とする。(これを図7の(A)に示す。)
d)dx(Pk),dy(Pk)を更新(上記ステップS328の処理)
Ekに対応するマーカMkの5×5近傍の中で楕円対応が成功したマーカと楕円の組に関して、そのステップがx方向またはy方向のみの組を考える。即ち、sx(Pj),sy(Pj)のいずれかのみがゼロである近傍マーカMjでそれに対応する楕円Ejが確定しているものだけを選択し、dx,dyをその平均値により更新する。(これを図7の(B)に示す。)
以上のような方法によれば、マーカ背景領域5内にある大小マーカM0,M1,…に対応する楕円マーカを画像内から抽出することが可能である。マーカMiの3次元座標を(xi,yi,zi)とし、マーカMiに対応する画像位置を(ui,vi)とすれば、キャリブレーション治具2から得られるマーカの情報Rは、世界座標系における3次元座標値(xi,yi,zi)と2次元画像から得られる(ui,vv)の対として得ることができる。ここでさらに重要なのは、マーカ背景領域5内にあるマーカMiのすべてが画像内から検出されるとは限らないことである。即ち、
R={(xi,yi,zi;ui,vi)|i=1,2,3,…,n}
で表されるように、検出されたマーカ群だけを集合として表現する。
【0105】
図7の(C)は、演算装置4が備える又は接続された表示装置に表示された認識結果を示す図である。螺旋状に番号付けされている場合には、同図に示すように、その番号が幾何学的に隣接するマーカの重心同士を点線(あるいは直線)で接続することで、正確に番号付けがなされているかを、操作者あるいはユーザが目視で判断できるようになっている。
【0106】
もちろん、この図のように幾何学的に隣接するマーカ同士を点線あるいは直線で接続するばかりではく、各マーカの番号などを付加しても、その効果が得られることが明らかである。
【0107】
また、今までの説明では、マーカの近傍として5×5近傍を利用していたが、3×3近傍や7×7近傍を利用しても構わない。
【0108】
さらに、これまでは、マーカMkの画像内位置Pk(uk,vk)を予測するのに、今まで同定できた近傍のマーカMjの画像内位置Pj(uj,vj)を利用する方法を中心に説明した。しかしながら、こうした予測は、画像内位置Pj(uj,vj)を直接利用しなくても可能である。例えば、各マーカの動径rと角度θを利用するほう方法がある。即ち、
【数9】
となる関係式を利用して、各マーカMkにおける動径と角度(rk,θk)を予測するようにすれば良い。この方法は、画像内の位置Pk(uk,vk)の予測方法と同様であるので、ここでは詳しく述べない。
【0109】
(パラメータ算出方法)
次に、上記ステップS33のパラメータ算出の方法について説明する。
【0110】
前節で説明したように、マーカ認識方法によって認識されたマーカ情報Rは、3次元点(xi,yi,zi)と対応する2次元点(ui,vi)の対の集合として表現できた。この節では、これらを利用して画像撮影装置1のキャリブレーションパラメータを算出する方法を説明する。
【0111】
まず、カメラキャリブレーションの定義を説明する。
【0112】
世界座標系Wの3次元点(x,y,z)に対して、カメラ座標系Cへの座標変換を回転行列R=(rij)と並進ベクトルT=[tx,ty,tz]tを用いて表す。このとき、カメラ画像面上の点は、ディストーションを含めて、(u’,v’)と書くとすると、これらの関係は、
【数10】
で表現することができる。このとき、この表現のもとでカメラキャリブレーションで推定すべきパラメータは15次元のパラメータ
【数11】
として表現することができる。ここで、
【数12】
は、カメラの内部パラメータであり、
【数13】
は世界座標系に対するカメラの位置を規定するパラメータとして、外部パラメータと呼ばれる。カメラキャリブレーションでは、3次元点群(xi,yi,zi)とその画像対応点(ui’,vi’)(i=1,2,…,n)を利用して、キャリブレーションパラメータpを推定する問題となる。
【0113】
また、これらの定義式の中で、(αu,αv,u0,v0)はピンホールに関するパラメータであり、(k1,g1,g2,g3,g4)はレンズディストーションに関するパラメータと呼ばれる。勿論、レンズのディストーションパラメータは、より高次ディストーションに関するパラメータ(k2,k3,…)などを含んでも良い。しかしながら、以下で説明する方法では、高次のディストーションであっても、低次のディストーションであっても、発明の本質には関係ないことは明白である。
【0114】
また、これらのキャリブレーションパラメータpは、本発明において、画像撮影装置の光学的パラメータと等価な言葉として使用する。
【0115】
このような定義において、具体的な手法は、以下のようになる。
【0116】
1)まず、3次元点群(xi,yi,zi)とその画像対応点(ui’,vi’)(i=1,2,…,n)の一部あるいは全部を利用して、パラメータp内のピンホールパラメータ
【数14】
を推定する。
【0117】
2)次に、上記ピンホールパラメータ
【数15】
とレンズディストーションに関するパラメータ
【数16】
の初期推定値d0=[0,0,0,0,0]tを組み合わせて、pの初期値
【数17】
を生成する。
【0118】
3) 3次元点群(xi,yi,zi)とその画像対応点(ui’,vi’)(i=1,2,…,n)と、pの初期値p0を利用して、繰り返し法により、推定値pを更新する。
【0119】
繰り返し法では、カルマンフィルタなどを用いればよい。即ち、媒介変数を(up,vp)として、
【数18】
と
【数19】
を制約式として、更新すればよい。具体的には、カルマン制約式として、pの初期推定値を予測値として、平均と分散
【数20】
で表すとともに、各計測値q=(ui’,vi’)に対する測定値と誤差分散を
【数21】
で表すとすると、各3次元点(xi,yi,zi)とその画像対応点(ui’,vi’)に対して、pの統計量である平均と分散
【数22】
は、以下の
【数23】
に、カルマンフィルタにより更新される。(この際、fを推定値のまわりで線形化することで、いわゆる拡張カルマンフィルタを使用する。)即ち、
【数24】
なる式群で、(xi,yi,zi)とその画像対応点(ui’,vi’)で、i=1,2,…,nを変化させながら、推定値pを順次更新することによって、pの平均値
【数25】
と推定誤差分散Sを更新することができるわけである。
【0120】
この方法については、例えば非特許文献4:Y.Motai and A. Kosaka, ”SmartView: Hand−Eye Robotic Calibration for Active Viewpoint Generation and Object Grasping,” Proceedings of IEEE International Conference on Roboticsand Automation, Seoul, Korea, pp. 2183 −2190, May 2001、あるいは、非特許文献5:A. Kosaka and A. C. Kak, ”Fast Vision−Guided Mobile Robot Navigation Using Model−Based Reasoning and Prediction of Uncertaintis,” Computer Vision, Graphics, and Image Processing − Image Understanding, Vol. 56, No. 3, pp. 271 − 329, 1992に説明されているので、ここでは詳細を述べない。
【0121】
また、今までは、上記式(E1)で説明してきたが、カメラのモデル化には、他の方法もある。例えば、上記非特許文献1に開示の方法では、3次元点(xi,yi,zi)と対応する画像点(ui’,vi’)の間に、媒介変数(ud,vd)を利用して、
【数26】
なる拘束式が成立する。従って、式(E2)で表されるカルマンフィルタを利用することで、同様にpを推定することができるわけである。
【0122】
以上の方法では、測定される2次元点(ui’,vi’)に含まれる誤差成分が比較的小さいとして、推定を行ってきたが、このカルマンフィルタを各測定点に適用する際に、3次元点(xi,yi,zi)が現在のパラメータの推定値pの平均値を正しいと仮定したときに、そのあるべき測定点からある閾値以上の距離にあるときには、その測定値が異常値(outlier)であると判定して、その測定点をカルマンフィルタの適用から除外することも可能である。この方法の詳細に関しては、例えば上記非特許文献5に開示されているので、ここではその詳細を述べない。
【0123】
以上説明してきたように、キャリブレーション治具2を構成する平面2Aの境界線(背景境界線6)を付加することで、それぞれの平面2Aの認識を容易にさせ、且つ、平面内にあるキャリブレーションマーカの一部を特殊なマーカ(大きさや色が異なる)を設置することで、マーカの番号付け(同定)が容易になるため、キャリブレーションに必要となるデータ内に誤認識による異常値が含まれる確率が非常に小さくなり、ロバストにキャリブレーションパラメータを推定あるいは算出することができるようになる。また、キャリブレーションパラメータを推定する際には、例えばカルマンフィルタを採用することにより、数値計算的に少ない計算量でキャリブレーションパラメータを推定できることも、本実施の形態で見られる重要な効果である。
【0124】
[第2の実施形態]
次に、本発明の第2の実施の形態を説明する。
【0125】
上記第1の実施の形態では、コーナーキューブ形状のキャリブレーション治具2を1回だけ撮影してキャリブレーションパラメータpを推定してきた。本実施形態で説明する方法では、より精密な推定を行うために、キャリブレーション治具2の撮影に際し、画像撮影装置1あるいはキャリブレーション治具2を相対的に移動させて複数回撮影することにより、キャリブレーションパラメータを推定するものである。この場合、画像撮影装置1の移動方法としては、操作者が画像撮影装置1を手で移動させても良いし、あるいは特別な移動手段(例えばXステージや回転ステージやロボットを利用しても構わない)。以下に説明する方法では、即ちこの移動に関する詳細な移動パラメータが既知でなくても良い。従って、上記非特許文献4で示される方法より、さらに自由度のある方法として提案でき、且つ装置構成も容易となる。
【0126】
図8の(A)は、この移動手段に関する第1の構成例を示す図である。この構成例では、上記第1の実施の形態の構成に、画像撮影装置1を移動させることで画像撮影装置1の視点を変化させる画像撮影装置移動装置7を加えている。そして、上記画像撮影装置1及び演算装置4とこの画像撮影装置移動装置7とは、制御装置8により、移動と撮影の演算のタイミングが制御さるようにしている。制御信号9、制御信号10、制御信号11が、これらのタイミングを決定するものである。
【0127】
一方、図8の(B)は、キャリブレーション治具2を移動させるためのキャリブレーション治具移動装置12を付加した第2の構成例を示す図である。この場合、上記画像撮影装置1及び演算装置4とキャリブレーション治具移動装置12とは、制御装置8により、移動と撮影の演算のタイミングが制御さる。制御信号13乃至15が、これらのタイミングを決定するものである。
【0128】
これら第1及び第2の構成例のように、異なった視点からキャリブレーション治具2を撮影するのが特に有効なのは、キャリブレーション治具内に含まれるキャリブレーション用のマーカ(あるいは3次元点)の数が少ない時に有効となる。以下では、複数回の計測により、キャリブレーションパラメータを推定する方法について説明する。ここで、複数回の撮影は、コーナーキューブに対して、少なくとも大マーカ5bが撮影されるようになっていれば、自由な視点からの撮影で構わない。
【0129】
(1)まず、各視点kからキャリブレーション治具2を撮影し、3次元点(xi k,yi k,zi k)と対応する画像点(ui’k,vi’k)を計測し、その視点に関するキャリブレーションパラメータpkを推定する。この方法は、上記第1の実施形態と同様である。このように推定されたパラメータを
【数27】
とする。
【0130】
(2)次に、複数視点からのキャリブレーションパラメータを統合して、推定すべきパラメータpを生成する。
【0131】
【数28】
において、pkに共通なカメラ内部パラメータ(intrinsic parameters)
【数29】
とpkに共通しない外部パラメータ
【数30】
が存在する。ここで、pの初期推定値としては、
【数31】
に関しては、任意の視点の内部パラメータを利用し、外部パラメータに関しては、各視点から得られる値を用いる。
【0132】
(3)そして、各視点kで撮影された3次元点(xi k,yi k,zi k)と対応する画像点(ui’k,vi’k)を再度利用して、
【数32】
の更新を行う。例えば、視点の数がmとすると、pの次元は9+6mとなる。各3次元点と対応する画像点に関して、式(E3)と同様な2自由度の制約条件が成立するため、この制約条件をカルマンフィルタの制約方程式とすることで、上記第1の実施形態と同様に、パラメータpの更新を行うことができる。
【0133】
以上のようなステップを採用することで、複数の視点から得られるパラメータを利用することにより、より精密にカメラキャリブレーションパラメータを推定することができる。
【0134】
[第3の実施形態]
次に、本発明の第3の実施の形態を説明する。
【0135】
本第3の実施の形態では、1個のキャリブレーション治具2を用いて、複数のカメラのキャリブレーションを同時に行うというものである。
【0136】
図9の(A)は、本第3の実施の形態に係るキャリブレーション装置が適用される画像撮影装置でキャリブレーション治具2を撮影している様子を示す図で、画像撮影装置は、2個のカメラ16,17から構成される。
【0137】
図9の(B)は、このような2個のカメラ16,17のキャリブレーションを同時に行う本実施の形態に係るキャリブレーション装置全体の動作フローチャートを示す図である。
【0138】
即ち、まず、画像撮影装置(2個のカメラ16,17)をキャリブレーション治具2を撮影できる場所に設定する(ステップS5)。
【0139】
次に、キャリブレーション治具2を、2台のカメラ16,17で撮影する(ステップS6)。この2台のカメラによる撮影は、同期あるいは非同期のどちらでも構わない。このように撮影された2枚の画像は、演算装置4に送出される。
【0140】
そして、演算装置4では、各カメラ毎に、カメラキャリブレーションパラメータがまず算出される(ステップS7)。
【0141】
続いて、カメラ間の相対的な位置姿勢関係を表すパラメータが算出される(ステップS8)。これは、いわゆる2眼ステレオで良く利用されるレクティフィケーションのためのカメラパラメータを算出することに対応する。
【0142】
なお、各カメラ16,17についてカメラパラメータが算出された後に、レクティフィケーションに必要となるカメラパラメータを算出する方法については、例えば上記非特許文献3、あるいは、非特許文献6:E. Trucco and A. Verri, Introductory Techniques for 3−D Computer Vision, Prentice Hall, 1998に詳細で述べられているので、ここでは説明しない。ただし、重要なポイントとして、本発明の場合には、レンズのディストーションパラメータを同時に推定している。そこで、レクティフィケーション処理をする前に、レンズのディストーション成分を画像から除去する操作を加え、レクティフィケーションすることが、上記非特許文献3と上記非特許文献6の場合と異なる。
【0143】
一般的に、複数のカメラで同一のキャリブレーション治具を撮影する場合には、左右のカメラが撮影できる範囲が異なるため、左カメラであるカメラ16と右カメラであるカメラ17の両方に、キャリブレーションマーカが同時に撮影されているとは限らない。また、マーカや背景画像の写り方が異なるので、左右画像でのマーカの同定(同一のマーカには同一の番号を付与すること)が困難になることが問題である。しかしながら、本発明の方法では、キャリブレーション治具2を構成する3面の平面2Aに境界線(背景境界線6)が明確にあり、且つ、マーカを同定するために特徴的な大マーカ5bが存在するために、マーカの同定が容易になっているという新しい構成と効果があるため、カメラのキャリブレーションパラメータを算出する際によりロバストな推定(算出)が可能になるというメリットがある。
【0144】
また、図9の(A)では、画像撮影装置1を2個のカメラ16,17によって構成した場合について説明したが、そのような2個のカメラを利用せずに、図10の(A)に示すように、ステレオアダプタ付きカメラ18を利用して画像撮影装置1を構成した場合においても、本実施の形態は適用可能である。即ち、このようなステレオアダプタ付きカメラ18の場合には、図10の(B)に示すように、1枚の画像の中に視差の異なったキャリブレーション治具2の画像が撮影されることになり、1枚の画像を2枚分に切り出すことにより、あたかも2個のカメラで撮影したかのごとく画像を得ることができるものである。その他、作用効果ともに2個のカメラの場合と同様であるため、ここでは詳細は述べない。従って、画像撮影装置1をこのようなステレオアダプタ付きカメラ18により構成した場合にも、図9の(B)と同様な動作フローチャートに従った動作を行うキャリブレーション装置とすれば良い。
【0145】
[第4の実施形態]
次に、本発明の第4の実施の形態を説明する。
【0146】
上記第1乃至第3の実施の形態では、直交する3平面を含むキャリブレーション治具2を中心に説明してきた。しかしながら本発明では、必ずしも直交するコーナーキューブ型のキャリブレーション治具2でなくても構わない。基本的には、少なくとも2平面あるいは曲面から構成されるキャリブレーション治具であれば良く、且つ、平面あるいは曲面内のマーカの3次元位置が容易にモデリングあるいは登録できるものであれば良い。
【0147】
このような観点から、キャリブレーション治具としては、図11の(A)に示すような正四面体のキャリブレーション治具19であっても構わないし、図11の(B)に示すような凹形状でなく凸形状の直交する3平面を含むコーナーキューブ状のキャリブレーション治具20であっても良い。さらに、図2の(A)乃至(C)で示されるように、各面が各種の形状を有していても良い。基本的に、本発明の第1の実施の形態で説明したように、各面には、その面の原点あるいは方向ベクトルを容易に検出できるマーカが設置されていることが重要である。このような特徴的なマーカが各面にあり、番号付けが容易であれば、上記第1乃至第3の実施の形態で示された方法は、すべて適用可能である。
【0148】
以上実施の形態に基づいて本発明を説明したが、本発明は上述した実施の形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。
【0149】
(付記)
上記の具体的実施の形態から、以下のような構成の発明を抽出することができる。
【0150】
(1) 画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具と、
上記キャリブレーション治具を撮影する上記画像撮影手段と、
上記画像撮影手段により撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカ認識手段と、
上記キャリブレーションマーカ認識手段により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、上記画像撮影手段のキャリブレーションパラメータを推定するパラメータ推定手段と、
を具備することを特徴とするキャリブレーション装置。
【0151】
(対応する実施の形態)
(1)に記載のキャリブレーション装置に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0152】
(作用効果)
(1)に記載のキャリブレーション装置によれば、3次元位置が既知なキャリブレーションマーカを所定の規則に基づいて複数面に配置することで、必要最低限の撮影回数でキャリブレーション治具を撮影し、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0153】
(2) 上記キャリブレーションマーカが上記所定の規則に基づいて配置されている上記キャリブレーション治具は、所定の規則に基づいて番号付け可能にキャリブレーションマーカが配置されたキャリブレーション治具であることを特徴とする(1)に記載のキャリブレーション装置。
【0154】
(対応する実施の形態)
(2)に記載のキャリブレーション装置に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0155】
(作用効果)
(2)に記載のキャリブレーション装置によれば、所定の規則に基づいて番号付け可能にキャリブレーションマーカを複数面に配置することで、各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0156】
(3) 上記キャリブレーション治具は、上記キャリブレーションマーカが配置された面の間に、キャリブレーションマーカが属する面を規定することが可能な面境界線あるいは面境界線群あるいは面境界曲線があることを特徴とする(1)に記載のキャリブレーション装置。
【0157】
(対応する実施の形態)
(3)に記載のキャリブレーション装置に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0158】
(作用効果)
(3)に記載のキャリブレーション装置によれば、キャリブレーション治具を構成する複数面間の境界線があることで、複数面の同定及び各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0159】
(4) 上記キャリブレーション治具は、お互いに直交する3面から構成されることを特徴とする(3)に記載のキャリブレーション装置。
【0160】
(対応する実施の形態)
(4)に記載のキャリブレーション装置に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0161】
(作用効果)
(4)に記載のキャリブレーション装置によれば、キャリブレーション治具を構成する複数面の関係が容易になることで、複数面の同定及び各面に配置されたマーカの同定が簡単化され、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0162】
(5) 上記キャリブレーション治具は、上記キャリブレーションマーカが配置された各面に、少なくとも2種類のキャリブレーションマーカが配置され、当該2種類のマーカの配置関係から各面におけるマーカの同定あるいは番号付けを行うように構成されたことを特徴とする(4)に記載のキャリブレーション装置。
【0163】
(対応する実施の形態)
(5)に記載のキャリブレーション装置に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0164】
(作用効果)
(5)に記載のキャリブレーション装置によれば、各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0165】
(6) 上記キャリブレーション治具は、大きさの異なる2種類以上のキャリブレーションマーカを有することを特徴とする(5)に記載のキャリブレーション装置。
【0166】
(対応する実施の形態)
(6)に記載のキャリブレーション装置に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0167】
(作用効果)
(6)に記載のキャリブレーション装置によれば、各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0168】
(7) 上記キャリブレーション治具は、色の異なる2種類以上のキャリブレーションマーカを有することを特徴とする(5)に記載のキャリブレーション装置。
【0169】
(対応する実施の形態)
(7)に記載のキャリブレーション装置に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0170】
(作用効果)
(7)に記載のキャリブレーション装置によれば、各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0171】
(8) 上記キャリブレーション治具は、形状の異なる2種類以上のマーカを有することを特徴とする(5)に記載のキャリブレーション装置。
【0172】
(対応する実施の形態)
(8)に記載のキャリブレーション装置に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0173】
(作用効果)
(8)に記載のキャリブレーション装置によれば、各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0174】
(9) 上記キャリブレーション治具は、上記キャリブレーションマーカのうちの少なくとも1種類が、3面が交わる原点付近に配置されたものであることを特徴とする(5)に記載のキャリブレーション装置。
【0175】
(対応する実施の形態)
(9)に記載のキャリブレーション装置に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0176】
(作用効果)
(9)に記載のキャリブレーション装置によれば、基準となるマーカを3面が交わる原点付近に配置することで、画像撮影装置で撮影する際に、これらをすべて含むように、あるいはこれらが画像内のほぼ中央に配置されるように撮影することが可能となるので、マーカの認識率が向上するとともに、キャリブレーション方法の成功率を向上させることができる。
【0177】
(10) 複数の視点から上記キャリブレーション治具が写っている複数枚の画像を撮影するために、上記画像撮影装置あるいはキャリブレーション治具を相対的に移動させる移動手段をさらに具備することを特徴とする(1)に記載のキャリブレーション装置。
【0178】
(対応する実施の形態)
(10)に記載のキャリブレーション装置に関する実施の形態は、第2及び第3の実施の形態が対応する。
【0179】
(作用効果)
(10)に記載のキャリブレーション装置によれば、キャリブレーション治具の撮影を容易にすることができ、高速にキャリブレーションパラメータを算出することができる。
【0180】
(11) 上記キャリブレーションマーカ認識手段は、上記キャリブレーション治具の各面におけるキャリブレーションマーカの番号付けの処理を所定の順番に基づいて行い、既に番号付けされた近傍マーカの画像位置の情報を利用して、次に番号付けされるべきマーカの画像内位置を予測するとともに、その予測に従って検出されたマーカ候補から最適な候補を選択するか、あるいは最適な候補が存在しないと判定するかの処理を行うことを特徴とする(1)に記載のキャリブレーション装置。
【0181】
(対応する実施の形態)
(11)に記載のキャリブレーション装置に関する実施の形態は、第1の実施の形態が対応する。
【0182】
(作用効果)
(11)に記載のキャリブレーション装置によれば、画像撮影装置の光学系レンズ歪みが大きい場合でも、キャリブレーションマーカの番号付けが失敗する確率を小さくすることができ、ロバストなキャリブレーション方法を提供することができる。
【0183】
(12) 上記キャリブレーションマーカ認識手段は、上記最適な候補の選択には、予測位置からの距離を利用することを特徴とする(11)に記載のキャリブレーション装置。
【0184】
(対応する実施の形態)
(12)に記載のキャリブレーション装置に関する実施の形態は、第1の実施の形態が対応する。
【0185】
(作用効果)
(12)に記載のキャリブレーション装置によれば、予測位置からの距離を利用するので、最適な候補の選択を容易に行うことができる。
【0186】
(13) 上記キャリブレーションマーカ認識手段は、上記最適な候補が存在しないと判定するのに、予測位置からの距離を尺度とし、その距離が所定の閾値を超えていた場合に存在しないと判定することを特徴とする(11)に記載のキャリブレーション装置。
【0187】
(対応する実施の形態)
(13)に記載のキャリブレーション装置に関する実施の形態は、第1の実施の形態が対応する。
【0188】
(作用効果)
(13)に記載のキャリブレーション装置によれば、単純な閾値判定を行うようにしているので、最適な候補が存在しないことの判定を容易に行うことができる。
【0189】
(14) 上記キャリブレーションマーカ認識手段において、上記キャリブレーションマーカの番号付けは、螺旋状に行うことを特徴とする(11)に記載のキャリブレーション装置。
【0190】
(対応する実施の形態)
(14)に記載のキャリブレーション装置に関する実施の形態は、第1の実施の形態が対応する。
【0191】
(作用効果)
(14)に記載のキャリブレーション装置によれば、螺旋状に番号付けされるので、既に番号付けされた近傍マーカとして複数のマーカが利用でき、より最適な候補を予測できるようになる。
【0192】
(15) 上記キャリブレーションマーカ認識手段が認識したキャリブレーションマーカの認識結果を、上記画像撮影手段で撮影された画像あるいは別の画像にその結果を重畳して表示する表示手段をさらに具備することを特徴とする(1)に記載のキャリブレーション装置。
【0193】
(対応する実施の形態)
(15)に記載のキャリブレーション装置に関する実施の形態は、第1の実施の形態が対応する。
【0194】
(作用効果)
(15)に記載のキャリブレーション装置によれば、マーカ認識結果が正しいかどうかを、目視で簡単に確認することができる。
【0195】
(16) 上記画撮影装置が撮影する上記キャリブレーション治具の画像は、上記キャリブレーション治具上に配置された複数種類のキャリブレーションマーカのうち、少なくとも1種類のキャリブレーションマーカのすべてが写っているものであることを特徴とする(1)に記載のキャリブレーション装置。
【0196】
(対応する実施の形態)
(16)に記載のキャリブレーション装置に関する実施の形態は、第1の実施の形態が対応する。
【0197】
(作用効果)
(16)に記載のキャリブレーション装置によれば、キャリブレーションマーカの認識の基本となるマーカをすべて確実に認識することができるので、キャリブレーションの失敗を減少させることができる。
【0198】
(17) 上記画像撮影装置が撮影する上記キャリブレーション治具の画像は、上記キャリブレーション治具上に配置された複数種類のキャリブレーションマーカのうち、少なくとも1種類のキャリブレーションマーカのすべてがほほ中央に写っているものであることを特徴とする(1)に記載のキャリブレーション装置。
【0199】
(対応する実施の形態)
(17)に記載のキャリブレーション装置に関する実施の形態は、第1の実施の形態が対応する。
【0200】
(作用効果)
(17)に記載のキャリブレーション装置によれば、キャリブレーションマーカの認識の基本となるマーカをすべて確実に認識することができ、且つ、レンズディストーションの影響が大きい場合にも、他のマーカの認識が容易にできるようになるので、キャリブレーションの失敗を減少させることができる。
【0201】
(18) ステレオアダプタを装着した上記画像撮影装置が撮影する上記キャリブレーション治具の少なくとも一方の画像は、上記キャリブレーション治具上に配置された複数種類のキャリブレーションマーカのうち、少なくとも1種類のキャリブレーションマーカのすべてがほぼ中央に配置されるように撮影されたものであることを特徴とする(1)に記載のキャリブレーション装置。
【0202】
(対応する実施の形態)
(18)に記載のキャリブレーション装置に関する実施の形態は、第2の実施の形態が対応する。
【0203】
(作用効果)
(18)に記載のキャリブレーション装置によれば、ステレオアダプタを利用した場合にも、キャリブレーションマーカの認識の基本となるマーカをすべて確実に認識することができ、且つ、レンズディストーションの影響が大きい場合にも、他のマーカの認識が容易にできるようになるので、キャリブレーションの失敗を減少させることができる。
【0204】
(19) 上記画像撮影装置が撮影する上記キャリブレーション治具の画像は、上記キャリブレーション治具を構成する複数の面の境界線あるいは境界曲線の一部が中央に位置するように撮影されたものであることを特徴とする(1)に記載のキャリブレーション装置。
【0205】
(対応する実施の形態)
(19)に記載のキャリブレーション装置に関する実施の形態は、第1の実施の形態が対応する。
【0206】
(作用効果)
(19)に記載のキャリブレーション装置によれば、キャリブレーション治具の撮影を確実なものにすることができる。
【0207】
(20) 複数の画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具と、
上記キャリブレーション治具を異なる位置から撮影する上記複数の画像撮影手段と、
上記複数の画像撮影手段により異なる位置から撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカ認識手段と、
上記キャリブレーションマーカ認識手段により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、上記複数の画像撮影手段のキャリブレーションパラメータを推定するパラメータ推定手段と、
を具備することを特徴とするキャリブレーション装置。
【0208】
(対応する実施の形態)
(20)に記載のキャリブレーション装置に関する実施の形態は、第3の実施の形態が対応する。
【0209】
(作用効果)
(20)に記載のキャリブレーション装置によれば、複数の画像撮影装置があっても、必要最低限の撮影回数でキャリブレーション治具を撮影し、同一のキャリブレーション治具と各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0210】
(21) ステレオアダプタ付きの画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具と、
ステレオアダプタを介して撮影することにより上記キャリブレーション治具を異なる位置から撮影する上記ステレオアダプタ付きの画像撮影手段と、
上記ステレオアダプタ付きの画像撮影手段により異なる位置から撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカ認識手段と、
上記キャリブレーションマーカ認識手段により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、上記ステレオアダプタ付きの画像撮影手段のキャリブレーションパラメータを推定するパラメータ推定手段と、
を具備することを特徴とするキャリブレーション装置。
【0211】
(対応する実施の形態)
(21)に記載のキャリブレーション装置に関する実施の形態は、第3の実施の形態が対応する。
【0212】
(作用効果)
(21)に記載のキャリブレーション装置によれば、ステレオアダプタ形式の画像撮影装置であっても、必要最低限の撮影回数でキャリブレーション治具を撮影し、同一のキャリブレーション治具と各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0213】
(22) 画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具を上記画像撮影手段で撮影した画像を入力する手段と、
上記撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカ認識手段と、
上記キャリブレーションマーカ認識手段により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利属して、上記画像撮影手段のキャリブレーションパラメータを推定するパラメータ推定手段と、
を具備することを特徴とするキャリブレーション装置。
【0214】
(対応する実施の形態)
(22)に記載のキャリブレーション装置に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0215】
(作用効果)
(22)に記載のキャリブレーション装置によれば、3次元位置が既知なキャリブレーションマーカを所定の規則に基づいて複数面に配置することで、必要最低限の撮影回数でキャリブレーション治具を撮影し、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0216】
(23) 画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション方法において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具を上記画像撮影手段で撮影した画像を入力する工程と、
上記撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカを認識する工程と、
上記キャリブレーションマーカを認識する工程により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、上記画像撮影手段のキャリブレーションパラメータを推定する工程と、
を有することを特徴とするキャリブレーション方法。
【0217】
(対応する実施の形態)
(23)に記載のキャリブレーション方法に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0218】
(作用効果)
(23)に記載のキャリブレーション方法によれば、3次元位置が既知なキャリブレーションマーカを所定の規則に基づいて複数面に配置することで、必要最低限の撮影回数でキャリブレーション治具を撮影し、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0219】
(24) 画像撮影手段のキャリブレーションパラメータを推定するためにコンピュータに、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具を上記画像撮影手段で撮影した画像を入力する機能と、
上記撮影された1枚あるいは複数枚の画像において上記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカを認識する機能と、
上記番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、上記画像撮影手段のキャリブレーションパラメータを推定する機能と、
を実現させるためのキャリブレーション用プログラム。
【0220】
(対応する実施の形態)
(24)に記載のキャリブレーション用プログラムに関する実施の形態は、第1及び第2の実施の形態が対応する。
【0221】
(作用効果)
(24)に記載のキャリブレーション用プログラムによれば、3次元位置が既知なキャリブレーションマーカを所定の規則に基づいて複数面に配置することで、必要最低限の撮影回数でキャリブレーション治具を撮影し、コンピュータによって、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0222】
(25) 画像撮影手段で所定のキャリブレーションマーカを有するキャリブレーション治具を撮影し、上記撮影された画像に基づいて上記撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置と組み合わせるキャリブレーション治具であって、
少なくとも複数の面と、
上記複数の面の各々に所定の規則に基づいて配置されるとともに、3次元位置が既知な複数種類のキャリブレーションマーカと、
を備えることを特徴とするキャリブレーション治具。
【0223】
(対応する実施の形態)
(25)に記載のキャリブレーション治具に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0224】
(作用効果)
(25)に記載のキャリブレーション治具によれば、3次元位置が既知なキャリブレーションマーカを所定の規則に基づいて複数面に配置することで、必要最低限の撮影回数でキャリブレーション治具を撮影し、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0225】
(26) 上記キャリブレーションマーカが配された面の間に、キャリブレーションマーカが属する面を規定することが可能な面境界線あるいは面境界線群あるいは面境界曲線があることを特徴とする(25)に記載のキャリブレーション治具。
【0226】
(対応する実施の形態)
(26)に記載のキャリブレーション治具に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0227】
(作用効果)
(26)に記載のキャリブレーション治具によれば、キャリブレーション治具を構成する複数面間の境界線があることで、複数面の同定及び各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0228】
(27) 互いに直交する3面から構成されることを特徴とする(25)に記載のキャリブレーション治具。
【0229】
(対応する実施の形態)
(27)に記載のキャリブレーション治具に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0230】
(作用効果)
(27)に記載のキャリブレーション治具によれば、キャリブレーション治具を構成する複数面の関係が容易になることで、複数面の同定及び各面に配置されたマーカの同定が簡単化され、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0231】
(28) 上記キャリブレーションマーカが配置された各面に少なくとも2種類のキャリブレーションマーカが配置され、当該2種類のマーカの配置関係から各面におけるマーカの同定あるいは番号付け可能なように構成されたことを特徴とする(27)に記載のキャリブレーション治具。
【0232】
(対応する実施の形態)
(28)に記載のキャリブレーション治具に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0233】
(作用効果)
(28)に記載のキャリブレーション治具によれば、各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0234】
(29) 大きさの異なる2種以上のキャリブレーションマーカを有することを特徴とする(28)に記載のキャリブレーション治具。
【0235】
(対応する実施の形態)
(29)に記載のキャリブレーション治具に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0236】
(作用効果)
(29)に記載のキャリブレーション治具によれば、各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0237】
(30) 色の異なる2種類以上のキャリブレーションマーカを有することを特徴とする(28)に記載のキャリブレーション治具。
【0238】
(対応する実施の形態)
(30)に記載のキャリブレーション治具に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0239】
(作用効果)
(30)に記載のキャリブレーション治具によれば、各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0240】
(31)形状の異なる2種類以上のキャリブレーションマーカを有することを特徴とする(28)に記載のキャリブレーション治具。
【0241】
(対応する実施の形態)
(31)に記載のキャリブレーション治具に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0242】
(作用効果)
(31)に記載のキャリブレーション治具によれば、各面に配置されたマーカの同定が容易になり、キャリブレーションパラメータを算出するのに必要なマーカを容易に認識し、且つ、キャリブレーションパラメータをロバストに算出することができる。
【0243】
(32) 上記キャリブレーションマーカのうちの少なくとも1種類が、3面が交わる原点付近に配置されたものであることを特徴とする(28)に記載のキャリブレーション治具。
【0244】
(対応する実施の形態)
(32)に記載のキャリブレーション治具に関する実施の形態は、第1及び第2の実施の形態が対応する。
【0245】
(作用効果)
(32)に記載のキャリブレーション治具によれば、基準となるマーカを3面が交わる原点付近に配置することで、画像撮影装置で撮影する際に、これらをすべて含むように、あるいはこれらが画像内のほぼ中央に配置されるように撮影することが可能となるので、マーカの認識率が向上するとともに、キャリブレーション方法の成功率を向上させることができる。
【0246】
【発明の効果】
以上詳述したように、本発明によれば、画像撮影装置が設置された様々な環境の中でも、ロバストにキャリブレーションに使用されるマーカが正確に同定でき、特に、画像撮影装置が有する光学的歪み(レンズディストーション)が大きな場合でも、画像内からキャリブレーションマーカを容易に且つ正確に認識し、より精密なキャリブレーションパラメータを算出できるキャリブレーション方法、キャリブレーション装置、及びキャリブレーション治具を提供することができる。
【図面の簡単な説明】
【図1】(A)は本発明の第1の実施の形態に係るキャリブレーション装置の基本構成を示す図、(B)は第1の実施の形態に係るキャリブレーション装置全体の動作フローチャートを示す図であり、(C)はキャリブレーションパラメータ算出のためのサブルーチンのフローチャートを示す図である。
【図2】(A)乃至(C)はそれぞれキャリブレーション治具の例を示す図である。
【図3】(A)はキャリブレーション治具を構成する1つの面を示す図であり、(B)はキャリブレーションマーカの別の例を示す図である。
【図4】(A)は3個の大マーカの位置関係を説明するための図であり、(B)は各面におけるマーカのラベルと座標関係を表した図である。
【図5】(A)はキャリブレーション治具を構成する1つの面の別の例を示す図であり、(B)は撮影された画像の典型例を示す図である。
【図6】マーカ認識処理のフローチャートを示す図である。
【図7】(A)は最近接楕円の選択方法を説明するための図、(B)はdx,dyの更新を説明するための図であり、(C)は認識結果の表示例を示す図である。
【図8】(A)は本発明の第2の実施の形態に係るキャリブレーション装置の第1の構成例を示す図であり、(B)は第2の実施の形態に係るキャリブレーション装置の第2の構成例を示す図である。
【図9】(A)は本発明の第3の実施の形態に係るキャリブレーション装置が適用される画像撮影装置でキャリブレーション治具を撮影している様子を示す図であり、(B)は第3の実施の形態に係るキャリブレーション装置全体の動作フローチャートを示す図である。
【図10】(A)はステレオアダプタ付きカメラを利用した画像撮影装置でキャリブレーション治具を撮影している様子を示す図であり、(B)はその場合の撮影画像を示す図である。
【図11】(A)及び(B)はそれぞれ本発明の第4の実施の形態に係るキャリブレーション治具の例を示す図である。
【符号の説明】
1…画像撮影装置、2,19,20…キャリブレーション治具、2A…面、2A1…下部に位置する面、2A2…右上に位置する面、2A3…左上に位置する面、3…画像(あるいは映像信号)、4…演算装置、5…マーカ背景領域、5b…大マーカ(大円マーカ)、5s…小マーカ(小円マーカ)、6…背景境界線(あるいは背景境界曲線)、7…画像撮影装置移動装置、8…制御装置、9,10,11,13,14,15…制御信号、12…キャリブレーション治具移動装置、16,17…カメラ、18…ステレオアダプタ付きカメラ。
Claims (32)
- 画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具と、
前記キャリブレーション治具を撮影する前記画像撮影手段と、
前記画像撮影手段により撮影された1枚あるいは複数枚の画像において前記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカ認識手段と、
前記キャリブレーションマーカ認識手段により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、前記画像撮影手段のキャリブレーションパラメータを推定するパラメータ推定手段と、
を具備することを特徴とするキャリブレーション装置。 - 前記キャリブレーションマーカが前記所定の規則に基づいて配置されている前記キャリブレーション治具は、所定の規則に基づいて番号付け可能にキャリブレーションマーカが配置されたキャリブレーション治具であることを特徴とする請求項1に記載のキャリブレーション装置。
- 前記キャリブレーション治具は、前記キャリブレーションマーカが配置された面の間に、キャリブレーションマーカが属する面を規定することが可能な面境界線あるいは面境界線群あるいは面境界曲線があることを特徴とする請求項1に記載のキャリブレーション装置。
- 前記キャリブレーション治具は、お互いに直交する3面から構成されることを特徴とする請求項3に記載のキャリブレーション装置。
- 前記キャリブレーション治具は、前記キャリブレーションマーカが配置された各面に、少なくとも2種類のキャリブレーションマーカが配置され、当該2種類のマーカの配置関係から各面におけるマーカの同定あるいは番号付けを行うように構成されたことを特徴とする請求項4に記載のキャリブレーション装置。
- 前記キャリブレーション治具は、大きさの異なる2種類以上のキャリブレーションマーカを有することを特徴とする請求項5に記載のキャリブレーション装置。
- 前記キャリブレーション治具は、色の異なる2種類以上のキャリブレーションマーカを有することを特徴とする請求項5に記載のキャリブレーション装置。
- 前記キャリブレーション治具は、形状の異なる2種類以上のマーカを有することを特徴とする請求項5に記載のキャリブレーション装置。
- 前記キャリブレーション治具は、前記キャリブレーションマーカのうちの少なくとも1種類が、3面が交わる原点付近に配置されたものであることを特徴とする請求項5に記載のキャリブレーション装置。
- 複数の視点から前記キャリブレーション治具が写っている複数枚の画像を撮影するために、前記画像撮影装置あるいはキャリブレーション治具を相対的に移動させる移動手段をさらに具備することを特徴とする請求項1に記載のキャリブレーション装置。
- 前記キャリブレーションマーカ認識手段は、前記キャリブレーション治具の各面におけるキャリブレーションマーカの番号付けの処理を所定の順番に基づいて行い、既に番号付けされた近傍マーカの画像位置の情報を利用して、次に番号付けされるべきマーカの画像内位置を予測するとともに、その予測に従って検出されたマーカ候補から最適な候補を選択するか、あるいは最適な候補が存在しないと判定するかの処理を行うことを特徴とする請求項1に記載のキャリブレーション装置。
- 前記キャリブレーションマーカ認識手段は、前記最適な候補の選択には、予測位置からの距離を利用することを特徴とする請求項11に記載のキャリブレーション装置。
- 前記キャリブレーションマーカ認識手段は、前記最適な候補が存在しないと判定するのに、予測位置からの距離を尺度とし、その距離が所定の閾値を超えていた場合に存在しないと判定することを特徴とする請求項11に記載のキャリブレーション装置。
- 前記キャリブレーションマーカ認識手段において、前記キャリブレーションマーカの番号付けは、螺旋状に行うことを特徴とする請求項11に記載のキャリブレーション装置。
- 前記キャリブレーションマーカ認識手段が認識したキャリブレーションマーカの認識結果を、前記画像撮影手段で撮影された画像あるいは別の画像にその結果を重畳して表示する表示手段をさらに具備することを特徴とする請求項1に記載のキャリブレーション装置。
- 前記画撮影装置が撮影する前記キャリブレーション治具の画像は、前記キャリブレーション治具上に配置された複数種類のキャリブレーションマーカのうち、少なくとも1種類のキャリブレーションマーカのすべてが写っているものであることを特徴とする請求項1に記載のキャリブレーション装置。
- 前記画像撮影装置が撮影する前記キャリブレーション治具の画像は、前記キャリブレーション治具上に配置された複数種類のキャリブレーションマーカのうち、少なくとも1種類のキャリブレーションマーカのすべてがほほ中央に写っているものであることを特徴とする請求項1に記載のキャリブレーション装置。
- ステレオアダプタを装着した前記画像撮影装置が撮影する前記キャリブレーション治具の少なくとも一方の画像は、前記キャリブレーション治具上に配置された複数種類のキャリブレーションマーカのうち、少なくとも1種類のキャリブレーションマーカのすべてがほぼ中央に配置されるように撮影されたものであることを特徴とする請求項1に記載のキャリブレーション装置。
- 前記画像撮影装置が撮影する前記キャリブレーション治具の画像は、前記キャリブレーション治具を構成する複数の面の境界線あるいは境界曲線の一部が中央に位置するように撮影されたものであることを特徴とする請求項1に記載のキャリブレーション装置。
- 複数の画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具と、
前記キャリブレーション治具を異なる位置から撮影する前記複数の画像撮影手段と、
前記複数の画像撮影手段により異なる位置から撮影された1枚あるいは複数枚の画像において前記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカ認識手段と、
前記キャリブレーションマーカ認識手段により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、前記複数の画像撮影手段のキャリブレーションパラメータを推定するパラメータ推定手段と、
を具備することを特徴とするキャリブレーション装置。 - ステレオアダプタ付きの画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具と、
ステレオアダプタを介して撮影することにより前記キャリブレーション治具を異なる位置から撮影する前記ステレオアダプタ付きの画像撮影手段と、
前記ステレオアダプタ付きの画像撮影手段により異なる位置から撮影された1枚あるいは複数枚の画像において前記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカ認識手段と、
前記キャリブレーションマーカ認識手段により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、前記ステレオアダプタ付きの画像撮影手段のキャリブレーションパラメータを推定するパラメータ推定手段と、
を具備することを特徴とするキャリブレーション装置。 - 画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具を前記画像撮影手段で撮影した画像を入力する手段と、
前記撮影された1枚あるいは複数枚の画像において前記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカ認識手段と、
前記キャリブレーションマーカ認識手段により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利属して、前記画像撮影手段のキャリブレーションパラメータを推定するパラメータ推定手段と、
を具備することを特徴とするキャリブレーション装置。 - 画像撮影手段のキャリブレーションパラメータを推定するキャリブレーション方法において、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具を前記画像撮影手段で撮影した画像を入力する工程と、
前記撮影された1枚あるいは複数枚の画像において前記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカを認識する工程と、
前記キャリブレーションマーカを認識する工程により番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、前記画像撮影手段のキャリブレーションパラメータを推定する工程と、
を有することを特徴とするキャリブレーション方法。 - 画像撮影手段のキャリブレーションパラメータを推定するためにコンピュータに、
少なくとも2面を有し、各面には3次元位置が既知なキャリブレーションマーカが所定の規則に基づいて配置されているキャリブレーション治具を前記画像撮影手段で撮影した画像を入力する機能と、
前記撮影された1枚あるいは複数枚の画像において前記キャリブレーションマーカの画像内位置を計測し、番号付けするキャリブレーションマーカを認識する機能と、
前記番号付けされたキャリブレーションマーカの3次元位置と画像内位置を利用して、前記画像撮影手段のキャリブレーションパラメータを推定する機能と、
を実現させるためのキャリブレーション用プログラム。 - 画像撮影手段で所定のキャリブレーションマーカを有するキャリブレーション治具を撮影し、前記撮影された画像に基づいて前記撮影手段のキャリブレーションパラメータを推定するキャリブレーション装置と組み合わせるキャリブレーション治具であって、
少なくとも複数の面と、
前記複数の面の各々に所定の規則に基づいて配置されるとともに、3次元位置が既知な複数種類のキャリブレーションマーカと、
を備えることを特徴とするキャリブレーション治具。 - 前記キャリブレーションマーカが配された面の間に、キャリブレーションマーカが属する面を規定することが可能な面境界線あるいは面境界線群あるいは面境界曲線があることを特徴とする請求項25に記載のキャリブレーション治具。
- 互いに直交する3面から構成されることを特徴とする請求項25に記載のキャリブレーション治具。
- 前記キャリブレーションマーカが配置された各面に少なくとも2種類のキャリブレーションマーカが配置され、当該2種類のマーカの配置関係から各面におけるマーカの同定あるいは番号付け可能なように構成されたことを特徴とする請求項27に記載のキャリブレーション治具。
- 大きさの異なる2種以上のキャリブレーションマーカを有することを特徴とする請求項28に記載のキャリブレーション治具。
- 色の異なる2種類以上のキャリブレーションマーカを有することを特徴とする請求項28に記載のキャリブレーション治具。
- 形状の異なる2種類以上のキャリブレーションマーカを有することを特徴とする請求項28に記載のキャリブレーション治具。
- 前記キャリブレーションマーカのうちの少なくとも1種類が、3面が交わる原点付近に配置されたものであることを特徴とする請求項28に記載のキャリブレーション治具。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002382225A JP3735344B2 (ja) | 2002-12-27 | 2002-12-27 | キャリブレーション装置、キャリブレーション方法、及びキャリブレーション用プログラム |
US10/740,348 US7894661B2 (en) | 2002-12-27 | 2003-12-18 | Calibration apparatus, calibration method, program for calibration, and calibration jig |
EP03029294A EP1434169A3 (en) | 2002-12-27 | 2003-12-22 | Calibration apparatus, calibration method, program for calibration, and calibration jig |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002382225A JP3735344B2 (ja) | 2002-12-27 | 2002-12-27 | キャリブレーション装置、キャリブレーション方法、及びキャリブレーション用プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004213332A true JP2004213332A (ja) | 2004-07-29 |
JP3735344B2 JP3735344B2 (ja) | 2006-01-18 |
Family
ID=32463668
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002382225A Expired - Fee Related JP3735344B2 (ja) | 2002-12-27 | 2002-12-27 | キャリブレーション装置、キャリブレーション方法、及びキャリブレーション用プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US7894661B2 (ja) |
EP (1) | EP1434169A3 (ja) |
JP (1) | JP3735344B2 (ja) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006250889A (ja) * | 2005-03-14 | 2006-09-21 | Omron Corp | 3次元計測のためのキャリブレーション方法およびその方法を用いた3次元計測システム |
JP2006349586A (ja) * | 2005-06-17 | 2006-12-28 | Omron Corp | 3次元計測方法および3次元計測装置 |
JP2007256091A (ja) * | 2006-03-23 | 2007-10-04 | Space Vision:Kk | レンジファインダ校正方法及び装置 |
JP2008522268A (ja) * | 2004-11-30 | 2008-06-26 | アイイーイー インターナショナル エレクトロニクス アンド エンジニアリング エス.エイ. | 物体の位置をディジタル画像から特定する方法 |
JP2008289645A (ja) * | 2007-05-24 | 2008-12-04 | Shimadzu Corp | モーショントラッカ装置 |
JP2009109322A (ja) * | 2007-10-30 | 2009-05-21 | National Institute Of Information & Communication Technology | カメラ、カメラアレイ及びカメラアレイシステム |
JP2009123112A (ja) * | 2007-11-16 | 2009-06-04 | Canon Inc | 画像処理装置、画像処理方法 |
JP2012189551A (ja) * | 2011-03-14 | 2012-10-04 | Topcon Corp | マルチカメラのキャリブレーション用全周フィールド |
JP2015080190A (ja) * | 2013-09-11 | 2015-04-23 | 株式会社リコー | 抽出方法、プログラム、抽出装置および画像投影装置 |
JP2015106287A (ja) * | 2013-11-29 | 2015-06-08 | キヤノン株式会社 | キャリブレーション装置及び方法 |
WO2018029950A1 (ja) * | 2016-08-12 | 2018-02-15 | オリンパス株式会社 | 較正装置、較正方法、光学装置、撮影装置、および投影装置 |
US10127687B2 (en) | 2014-11-13 | 2018-11-13 | Olympus Corporation | Calibration device, calibration method, optical device, image-capturing device, projection device, measuring system, and measuring method |
WO2018235163A1 (ja) * | 2017-06-20 | 2018-12-27 | 株式会社ソニー・インタラクティブエンタテインメント | キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法 |
JP2018205212A (ja) * | 2017-06-07 | 2018-12-27 | 株式会社リコー | 撮影装置、ステレオカメラシステム、計測装置、及び計測システム |
US10565737B1 (en) | 2019-07-09 | 2020-02-18 | Mujin, Inc. | Method and system for performing automatic camera calibration for a scanning system |
KR20210003318A (ko) * | 2017-09-29 | 2021-01-11 | 웨이모 엘엘씨 | 카메라 캘리브레이션을 위한 타겟, 방법, 및 시스템 |
JP2021072634A (ja) * | 2016-06-28 | 2021-05-06 | マジック リープ, インコーポレイテッドMagic Leap,Inc. | 改良されたカメラ較正システム、標的、およびプロセス |
Families Citing this family (54)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6997387B1 (en) * | 2001-03-28 | 2006-02-14 | The Code Corporation | Apparatus and method for calibration of projected target point within an image |
JP3793100B2 (ja) * | 2002-02-14 | 2006-07-05 | キヤノン株式会社 | 情報処理方法、装置および記録媒体 |
EP1855607B1 (en) * | 2005-01-13 | 2017-10-25 | Mazor Robotics Ltd. | Image-guided robotic system for keyhole neurosurgery |
CN1294533C (zh) * | 2005-05-19 | 2007-01-10 | 上海交通大学 | 摄像机或照相机几何畸变的标定方法 |
DE102005035678A1 (de) * | 2005-07-27 | 2007-02-01 | Adc Automotive Distance Control Systems Gmbh | Vorrichtung zur Kalibrierung einer Kamera |
US7444752B2 (en) | 2005-09-28 | 2008-11-04 | Hunter Engineering Company | Method and apparatus for vehicle service system optical target |
US20080062266A1 (en) * | 2006-09-12 | 2008-03-13 | Mediatek Inc. | Image test board |
US7953247B2 (en) | 2007-05-21 | 2011-05-31 | Snap-On Incorporated | Method and apparatus for wheel alignment |
JP4418841B2 (ja) * | 2008-01-24 | 2010-02-24 | キヤノン株式会社 | 作業装置及びその校正方法 |
US8565487B2 (en) * | 2008-02-06 | 2013-10-22 | Meditouch Ltd. | Method and system for measuring motion |
US8121389B2 (en) * | 2008-06-11 | 2012-02-21 | Sirona Dental Systems Gmbh | System, apparatus, method and computer program product for optical position recognition |
US8290240B2 (en) * | 2008-06-11 | 2012-10-16 | Sirona Dental Systems Gmbh | System, apparatus, method, and computer program product for determining spatial characteristics of an object using a camera and a search pattern |
JP2010025759A (ja) * | 2008-07-18 | 2010-02-04 | Fuji Xerox Co Ltd | 位置計測システム |
KR101251372B1 (ko) * | 2008-10-13 | 2013-04-05 | 주식회사 고영테크놀러지 | 3차원형상 측정방법 |
JP5233601B2 (ja) * | 2008-11-07 | 2013-07-10 | セイコーエプソン株式会社 | ロボットシステム、ロボット制御装置およびロボット制御方法 |
JP4751939B2 (ja) * | 2009-03-31 | 2011-08-17 | アイシン精機株式会社 | 車載カメラの校正装置 |
WO2011009108A2 (en) * | 2009-07-17 | 2011-01-20 | Universal Robotics, Inc. | System and method for automatic calibration of stereo images |
PL2509875T3 (pl) * | 2009-12-12 | 2016-01-29 | Packsize Llc | Tworzenie opakowań na żądanie na podstawie dowolnego położenia przedmiotów |
IT1399988B1 (it) * | 2010-05-05 | 2013-05-09 | Space S R L Con Unico Socio | Sistema, e relativo metodo, di determinazione dell'allineamento delle ruote di un veicolo |
EP2588302B1 (en) * | 2010-06-29 | 2020-03-04 | Packsize LLC | Optimizing production of packaging products |
US8872897B2 (en) | 2011-05-11 | 2014-10-28 | Intel Corporation | Camera calibration using an easily produced 3D calibration pattern |
US8743214B2 (en) | 2011-05-11 | 2014-06-03 | Intel Corporation | Display screen for camera calibration |
CN102322826A (zh) * | 2011-05-24 | 2012-01-18 | 上海瑞伯德智能系统科技有限公司 | 一种物体三维表面数据的改进的测量方法 |
JP5832278B2 (ja) * | 2011-12-26 | 2015-12-16 | 三菱重工業株式会社 | カメラ計測システムのキャリブレーション方法 |
RU2601421C2 (ru) * | 2012-11-29 | 2016-11-10 | Ксир | Способ и система калибровки камеры |
JP6209833B2 (ja) * | 2013-03-12 | 2017-10-11 | 株式会社リコー | 検査用具、検査方法、ステレオカメラの生産方法及びシステム |
TWI509346B (zh) * | 2013-06-27 | 2015-11-21 | Etron Technology Inc | 應用於影像擷取系統的校正裝置和其相關的校正方法 |
US9582864B2 (en) * | 2014-01-10 | 2017-02-28 | Perkinelmer Cellular Technologies Germany Gmbh | Method and system for image correction using a quasiperiodic grid |
CN104101300B (zh) * | 2014-08-05 | 2016-06-29 | 吉林大学 | 基于面结构光主动视觉的汽车车体三维重建的标定系统 |
CN105118021B (zh) * | 2015-07-28 | 2019-04-19 | 深圳市汇川技术股份有限公司 | 基于特征点的图像配准方法及系统 |
JP6812095B2 (ja) * | 2015-10-22 | 2021-01-13 | キヤノン株式会社 | 制御方法、プログラム、記録媒体、ロボット装置、及び物品の製造方法 |
US9784576B2 (en) * | 2015-12-28 | 2017-10-10 | Automotive Research & Test Center | Calibration method for merging object coordinates and calibration board device using the same |
US10142544B1 (en) * | 2016-01-27 | 2018-11-27 | RAPC Systems, Inc. | Real time wide angle video camera system with distortion correction |
US10140687B1 (en) * | 2016-01-27 | 2018-11-27 | RAPC Systems, Inc. | Real time wide angle video camera system with distortion correction |
WO2017195801A1 (ja) | 2016-05-13 | 2017-11-16 | オリンパス株式会社 | 較正装置、較正方法、光学装置、撮影装置、投影装置、計測システムおよび計測方法 |
CN106568381B (zh) * | 2016-10-25 | 2019-05-24 | 西北工业大学 | 一种基于标准平面的线激光测量系统标定方法 |
JP6864500B2 (ja) * | 2017-03-01 | 2021-04-28 | 株式会社トプコン | 測定素子の補正方法、路面性状の評価方法、及び路面性状の評価装置 |
WO2018173551A1 (ja) | 2017-03-21 | 2018-09-27 | オリンパス株式会社 | 較正装置、較正方法、光学装置、撮影装置および投影装置 |
KR20190126458A (ko) * | 2017-04-17 | 2019-11-11 | 코그넥스코오포레이션 | 고정밀 교정 시스템 및 방법 |
US11410298B2 (en) * | 2017-12-05 | 2022-08-09 | Raytheon Technologies Corporation | System and method for determining part damage |
US10683596B2 (en) * | 2018-06-07 | 2020-06-16 | Zeng Hsing Industrial Co., Ltd. | Method of generating an image that shows an embroidery area in an embroidery frame for computerized machine embroidery |
CN108592953B (zh) * | 2018-06-29 | 2024-05-24 | 易思维(杭州)科技股份有限公司 | 立体标定靶及将其应用于视觉测量中定位被测物的方法 |
TWI677413B (zh) * | 2018-11-20 | 2019-11-21 | 財團法人工業技術研究院 | 用於機械手臂系統之校正方法及裝置 |
CN109348147B (zh) * | 2018-11-21 | 2021-06-29 | 思特威(上海)电子科技股份有限公司 | Cmos图像传感器局部黑电平校准方法 |
US11727597B2 (en) * | 2018-12-21 | 2023-08-15 | Sony Group Corporation | Calibrating volumetric rig with structured light |
US11881001B2 (en) * | 2019-05-23 | 2024-01-23 | Sony Interactive Entertainment Inc. | Calibration apparatus, chart for calibration, and calibration method |
US20200380725A1 (en) * | 2019-05-28 | 2020-12-03 | GM Global Technology Operations LLC | Calibration for vehicle cameras |
CN111699514A (zh) * | 2019-05-30 | 2020-09-22 | 深圳市大疆创新科技有限公司 | 相机的内参及相对姿态的标定方法、装置、无人机和存储装置 |
CN111307074A (zh) * | 2020-04-01 | 2020-06-19 | 深圳市道通科技股份有限公司 | 三维目标、车轮定位系统和车轮定位方法 |
US11417020B2 (en) * | 2020-04-07 | 2022-08-16 | Zebra Technologies Corporation | Detection of calibration errors |
USD976992S1 (en) * | 2020-05-22 | 2023-01-31 | Lucasfilm Entertainment Company Ltd. | Camera calibration tool |
US11172193B1 (en) * | 2020-12-04 | 2021-11-09 | Argo AI, LLC | Method and system to calibrate camera devices of a vehicle vision system using a programmable calibration target device |
US20220180559A1 (en) * | 2020-12-07 | 2022-06-09 | Zebra Technologies Corporation | On-Site Calibration for Mobile Automation Apparatus |
CN113406604A (zh) * | 2021-06-30 | 2021-09-17 | 山东新一代信息产业技术研究院有限公司 | 一种激光雷达和摄像机位置标定的装置和方法 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2672509B2 (ja) | 1987-06-13 | 1997-11-05 | オムロン株式会社 | カメラモデルの自動キャリブレーション方法およびその装置 |
JPH0512359A (ja) | 1991-07-09 | 1993-01-22 | Meidensha Corp | 図面入力装置 |
JP3394278B2 (ja) * | 1992-12-03 | 2003-04-07 | ファナック株式会社 | 視覚センサ座標系設定治具及び設定方法 |
JPH07249113A (ja) | 1994-03-14 | 1995-09-26 | Hitachi Ltd | 自動認識結果の確認方法 |
JPH08210816A (ja) | 1995-02-03 | 1996-08-20 | Fanuc Ltd | ロボット−視覚センサシステムにおいてセンサ座標系とロボット先端部の関係を定める座標系結合方法 |
JPH08328624A (ja) | 1995-06-06 | 1996-12-13 | Fanuc Ltd | センサとロボットとの結合方法及びロボットシステム |
US5768443A (en) * | 1995-12-19 | 1998-06-16 | Cognex Corporation | Method for coordinating multiple fields of view in multi-camera |
JP3696336B2 (ja) | 1996-06-12 | 2005-09-14 | 株式会社トプコン | カメラのキャリブレーション方法 |
JP3450704B2 (ja) | 1997-09-01 | 2003-09-29 | キヤノン株式会社 | 位置姿勢検出装置及び情報処理方法 |
JP2001082941A (ja) | 1999-09-16 | 2001-03-30 | Gen Tec:Kk | キャリブレーション用3次元パターン |
JP4590780B2 (ja) | 2001-05-25 | 2010-12-01 | コニカミノルタホールディングス株式会社 | カメラ校正用立体チャート、カメラの校正用パラメータの取得方法、カメラの校正用情報処理装置、およびプログラム |
-
2002
- 2002-12-27 JP JP2002382225A patent/JP3735344B2/ja not_active Expired - Fee Related
-
2003
- 2003-12-18 US US10/740,348 patent/US7894661B2/en not_active Expired - Fee Related
- 2003-12-22 EP EP03029294A patent/EP1434169A3/en not_active Withdrawn
Cited By (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008522268A (ja) * | 2004-11-30 | 2008-06-26 | アイイーイー インターナショナル エレクトロニクス アンド エンジニアリング エス.エイ. | 物体の位置をディジタル画像から特定する方法 |
JP4604774B2 (ja) * | 2005-03-14 | 2011-01-05 | オムロン株式会社 | 3次元計測のためのキャリブレーション方法 |
JP2006250889A (ja) * | 2005-03-14 | 2006-09-21 | Omron Corp | 3次元計測のためのキャリブレーション方法およびその方法を用いた3次元計測システム |
WO2006098258A1 (ja) * | 2005-03-14 | 2006-09-21 | Omron Corporation | 3次元計測のためのキャリブレーション方法およびその方法を用いた3次元計測システム |
JP2006349586A (ja) * | 2005-06-17 | 2006-12-28 | Omron Corp | 3次元計測方法および3次元計測装置 |
JP2007256091A (ja) * | 2006-03-23 | 2007-10-04 | Space Vision:Kk | レンジファインダ校正方法及び装置 |
JP2008289645A (ja) * | 2007-05-24 | 2008-12-04 | Shimadzu Corp | モーショントラッカ装置 |
JP2009109322A (ja) * | 2007-10-30 | 2009-05-21 | National Institute Of Information & Communication Technology | カメラ、カメラアレイ及びカメラアレイシステム |
JP2009123112A (ja) * | 2007-11-16 | 2009-06-04 | Canon Inc | 画像処理装置、画像処理方法 |
JP2012189551A (ja) * | 2011-03-14 | 2012-10-04 | Topcon Corp | マルチカメラのキャリブレーション用全周フィールド |
JP2015080190A (ja) * | 2013-09-11 | 2015-04-23 | 株式会社リコー | 抽出方法、プログラム、抽出装置および画像投影装置 |
JP2015106287A (ja) * | 2013-11-29 | 2015-06-08 | キヤノン株式会社 | キャリブレーション装置及び方法 |
US10127687B2 (en) | 2014-11-13 | 2018-11-13 | Olympus Corporation | Calibration device, calibration method, optical device, image-capturing device, projection device, measuring system, and measuring method |
JP7057454B2 (ja) | 2016-06-28 | 2022-04-19 | マジック リープ, インコーポレイテッド | 改良されたカメラ較正システム、標的、およびプロセス |
JP2021072634A (ja) * | 2016-06-28 | 2021-05-06 | マジック リープ, インコーポレイテッドMagic Leap,Inc. | 改良されたカメラ較正システム、標的、およびプロセス |
WO2018029950A1 (ja) * | 2016-08-12 | 2018-02-15 | オリンパス株式会社 | 較正装置、較正方法、光学装置、撮影装置、および投影装置 |
JPWO2018029950A1 (ja) * | 2016-08-12 | 2019-06-06 | オリンパス株式会社 | 較正装置、較正方法、光学装置、撮影装置、および投影装置 |
US10977830B2 (en) | 2016-08-12 | 2021-04-13 | Olympus Corporation | Calibration device, calibration method, optical device, image-acquisition device, and projection device |
JP2018205212A (ja) * | 2017-06-07 | 2018-12-27 | 株式会社リコー | 撮影装置、ステレオカメラシステム、計測装置、及び計測システム |
WO2018235163A1 (ja) * | 2017-06-20 | 2018-12-27 | 株式会社ソニー・インタラクティブエンタテインメント | キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法 |
US11039121B2 (en) | 2017-06-20 | 2021-06-15 | Sony Interactive Entertainment Inc. | Calibration apparatus, chart for calibration, chart pattern generation apparatus, and calibration method |
JPWO2018235163A1 (ja) * | 2017-06-20 | 2019-11-07 | 株式会社ソニー・インタラクティブエンタテインメント | キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法 |
KR20210003318A (ko) * | 2017-09-29 | 2021-01-11 | 웨이모 엘엘씨 | 카메라 캘리브레이션을 위한 타겟, 방법, 및 시스템 |
KR102446163B1 (ko) | 2017-09-29 | 2022-09-22 | 웨이모 엘엘씨 | 카메라 캘리브레이션을 위한 타겟, 방법, 및 시스템 |
JP2021012180A (ja) * | 2019-07-09 | 2021-02-04 | 株式会社Mujin | 走査システムのための自動カメラキャリブレーションを実行する方法及びシステム |
JP2021016153A (ja) * | 2019-07-09 | 2021-02-12 | 株式会社Mujin | 走査システムのための自動カメラキャリブレーションを実行する方法及びシステム |
US10565737B1 (en) | 2019-07-09 | 2020-02-18 | Mujin, Inc. | Method and system for performing automatic camera calibration for a scanning system |
US11074722B2 (en) | 2019-07-09 | 2021-07-27 | Mujin, Inc. | Method and system for performing automatic camera calibration for a scanning system |
JP7417866B2 (ja) | 2019-07-09 | 2024-01-19 | 株式会社Mujin | 走査システムのための自動カメラキャリブレーションを実行する方法及びシステム |
US11967113B2 (en) | 2019-07-09 | 2024-04-23 | Mujin, Inc. | Method and system for performing automatic camera calibration for a scanning system |
Also Published As
Publication number | Publication date |
---|---|
EP1434169A2 (en) | 2004-06-30 |
JP3735344B2 (ja) | 2006-01-18 |
EP1434169A3 (en) | 2005-07-20 |
US20040170315A1 (en) | 2004-09-02 |
US7894661B2 (en) | 2011-02-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3735344B2 (ja) | キャリブレーション装置、キャリブレーション方法、及びキャリブレーション用プログラム | |
CN110580723B (zh) | 一种利用深度学习和计算机视觉进行精准定位的方法 | |
JP5746477B2 (ja) | モデル生成装置、3次元計測装置、それらの制御方法及びプログラム | |
JP5671281B2 (ja) | 位置姿勢計測装置、位置姿勢計測装置の制御方法及びプログラム | |
US20210232845A1 (en) | Information processing apparatus, information processing method, and storage medium | |
US7336814B2 (en) | Method and apparatus for machine-vision | |
JP6503906B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
US20120294534A1 (en) | Geometric feature extracting device, geometric feature extracting method, storage medium, three-dimensional measurement apparatus, and object recognition apparatus | |
JP2016167229A (ja) | 座標変換パラメータ決定装置、座標変換パラメータ決定方法及び座標変換パラメータ決定用コンピュータプログラム | |
Vidas et al. | Real-time mobile 3D temperature mapping | |
KR101733116B1 (ko) | 고속 스테레오 카메라를 이용한 구형 물체의 비행 정보 측정 시스템 및 방법 | |
JP2011174879A (ja) | 位置姿勢推定装置及びその方法 | |
JP6894707B2 (ja) | 情報処理装置およびその制御方法、プログラム | |
JP2002024807A (ja) | 物体運動追跡手法及び記録媒体 | |
JP6860620B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
Yan et al. | Joint camera intrinsic and lidar-camera extrinsic calibration | |
US10902610B2 (en) | Moving object controller, landmark, and moving object control method | |
Lambrecht | Robust few-shot pose estimation of articulated robots using monocular cameras and deep-learning-based keypoint detection | |
JP6922348B2 (ja) | 情報処理装置、方法、及びプログラム | |
JP5976089B2 (ja) | 位置姿勢計測装置、位置姿勢計測方法、およびプログラム | |
JP2018022247A (ja) | 情報処理装置およびその制御方法 | |
JP2008309595A (ja) | オブジェクト認識装置及びそれに用いられるプログラム | |
JP3668769B2 (ja) | 対象物体の位置・姿勢算出方法及び観測カメラの位置・姿勢算出方法 | |
JP5530391B2 (ja) | カメラポーズ推定装置、カメラポーズ推定方法及びカメラポーズ推定プログラム | |
JP2011174891A (ja) | 位置姿勢計測装置、位置姿勢計測方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050616 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050621 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050822 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20051018 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051021 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091028 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101028 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101028 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111028 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111028 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121028 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131028 Year of fee payment: 8 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |