JPH08237541A - カメラぶれ補正機能付き画像処理装置 - Google Patents

カメラぶれ補正機能付き画像処理装置

Info

Publication number
JPH08237541A
JPH08237541A JP7056829A JP5682995A JPH08237541A JP H08237541 A JPH08237541 A JP H08237541A JP 7056829 A JP7056829 A JP 7056829A JP 5682995 A JP5682995 A JP 5682995A JP H08237541 A JPH08237541 A JP H08237541A
Authority
JP
Japan
Prior art keywords
camera
image
amount
cameras
shake
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP7056829A
Other languages
English (en)
Inventor
Takashi Jumonji
隆 十文字
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fanuc Corp
Original Assignee
Fanuc Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fanuc Corp filed Critical Fanuc Corp
Priority to JP7056829A priority Critical patent/JPH08237541A/ja
Publication of JPH08237541A publication Critical patent/JPH08237541A/ja
Withdrawn legal-status Critical Current

Links

Abstract

(57)【要約】 【目的】 カメラが振動していても、正確なカメラ視線
を得ることができ、対象物の位置を高精度に検出可能な
画像処理装置を提供する。 【構成】 各カメラから画像を取り込むと同期して各カ
メラに取付けられたぶれセンサからぶれ量α、β、γを
読み込む(S1,S2)。各カメラからの画像から特徴
点を抽出しその位置を求める(S5)。キャリブレーシ
ョンデータ(Q)とカメラ座標系の各軸のぶれ量α、
β、γに伴う回転マトリックスによりぶれを包含したカ
メラ座標系からワールド座標系への変換マトリックスQ
´を求める(S6)。特徴点位置と変換マトリックスQ
´より各カメラの視線を求める(S7)。3つの視線と
対象物の3つの特徴点の幾何配置により対象物の位置を
求める(S9)。カメラが振動していても、正確なカメ
ラ視線が求められ対象物の位置を高精度に検出可能とな
る。カメラの振動が停止するまで待つ必要がなくサイク
ルタイムが短くなる。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、カメラから対象物の画
像を取り込み、対象物の位置を検出する画像処理装置に
関する。
【0002】
【従来の技術】カメラで対象物を撮影し、得られた画像
を解析し対象物の位置を検出する画像処理装置において
は、カメラを何等かのジグに固定しカメラ自体が揺れな
いように固定し、カメラが撮影した画像におけるカメラ
座標系と撮影対象物がある空間における座標系との対応
関係をとるためのキャリブレーションを行い、撮影した
画像より対象物の位置を検出している。しかし、カメラ
の設置場所の条件によっては、カメラ自身が振動を受
け、取り込まれた画像の観測位置がキャリブレーション
時と異なってしまい、結果的に計測精度に影響を与える
ということが生じる。
【0003】例えば、図5に示すように、搬送手段で搬
送されてくる車体1の車体下部のゲージホールをカメラ
が捕らえる特徴点として、予め決められた各ゲージホー
ルH1〜H3を画像処理装置10の3台のカメラC1〜
C3でそれぞれ撮影し、得られた各画像の特徴点の位置
より各カメラC1〜C3の視線を求め、この3つの視線
と3つのゲージホールH1〜H3の幾何配置(3つのゲ
ージホールH1〜H3間の距離)より、車体1の位置を
検出する方法が採用されているが、車体1が搬送されて
来て停止位置に停止した時、その停止により発生する振
動がカメラC1〜C3にも伝達されカメラC1〜C3も
振動する場合がある。このような場合、カメラC1〜C
3が振動中に対象物を撮影すると、カメラC1〜C3の
撮影方向がキャリブレーション時とは異なり、視線が異
なって正確な対象物の位置を検出できないという問題が
ある。
【0004】そのため、従来は、カメラC1〜C3の振
動が収まる時間を予め予測し、該予測された時間経過し
た後に、撮影し画像を取り込むようにしている。
【0005】
【発明が解決しようとする課題】カメラの振動が収まる
まで待って画像を取り込むことでは、それだけサイクル
タイムが長くなり、作業効率を悪くする。また、この待
時間が短いとカメラの振動中に画像を取り込むことにな
り計測精度が低下することになる。さらには、振動が収
まる時間を測定し、この待時間を設定する等の作業も必
要となりシステム全体に悪影響を及ぼすという問題があ
る。
【0006】そこで、本発明の目的は、カメラが振動し
ていても、正確なカメラ視線を得ることができ、対象物
の位置を高精度に検出可能な画像処理装置を提供するこ
とにある。
【0007】
【課題を解決するための手段】本発明の画像処理装置
は、該画像処理装置に接続されたカメラに該カメラのぶ
れ量を計測するセンサを取り付けると共に、カメラから
取り込んだ画像から抽出した特徴点の位置とカメラから
画像を取り込み時に該センサで計測したぶれ量とキャリ
ブレーションデータとに基づきカメラの視線を求める手
段とを設けることにより、カメラにぶれが生じても、こ
のぶれによるカメラの視線を較正して求めることができ
るようにした。特に、カメラのぶれが回転であるときに
は、上記カメラのぶれ量を計測するセンサを、カメラの
画像画面上に設けられたカメラ座標系における各軸回り
の角加速度より各軸回りのぶれ量を求めるセンサとし、
ぶれが直線移動の場合には、カメラの直線移動の加速度
よりブレ量を求めるセンサとする。
【0008】
【作用】カメラからの画像の取り込みと同期して当該カ
メラのぶれ量を計測するセンサで検出されるぶれ量(カ
メラ座標系における各軸回りのぶれ量、もしくは直線移
動のぶれ量)を検出する。該ぶれ量とキャリブレーショ
ンデータとに基づいて、カメラのぶれを含んだカメラ座
標系からワールド座標系への変換マトリックスが求めら
れ、さらに検出された特徴点位置と該変換マトリックス
により該カメラの視線が求められる。よって、該視線に
基づいて求める対象物の位置を正確に計測することが可
能になる。
【0009】
【実施例】図1は本発明の一実施例の画像処理装置のブ
ロック図である。画像処理装置10は、該画像処理装置
10全体を制御するプロセッサ(CPU)11を有し、
該プロセッサ11にはバス22を介して、後述するカメ
ラのぶれ量を検出するブレセンサが接続されたぶれセン
サインタフェイス12、カメラが接続されるカメライン
タフェイス13、画像処理プロセッサ14、モニタイン
タフェイス15、通信インタフェイス16、ROMで構
成されたコントロールソフト用メモリ17、不揮発性R
AMで構成されたデータメモリ18、画像メモリ19、
RAMで構成されたプログラムメモリ20、コンソール
インタフェイス21が接続されている。本実施例におい
ては、カメラインタフェイス13には、3台のカメラC
1〜C3が接続され、図5に示す例のように、各カメラ
C1〜C3で対象物(車体1)の3箇所の特徴点(ゲー
ジホールH1〜H3)をそれぞれ撮影し画像を取り込
み、対象物(車体1)の位置を検出するようになってい
る。各カメラC1〜C3には、カメラの振動によるぶれ
を検出するぶれセンサSe1〜Se3が取付けられており、
これらぶれセンサSe1〜Se3は上記ぶれセンサインタフ
ェイス12に接続されている。
【0010】モニタインタフェイス15には図示しない
TVモニタが接続され、各カメラC1〜C3で撮影され
た画像あるいは画像メモリ19に格納されている画像を
選択的に写し出すことができるようになっている。通信
インタフェイス16には、該画像処理装置10が検出し
た対象物の位置情報を利用するロボット等の自動機械や
対象物が検出位置に到達したことを検出するセンサ等の
各種アクチュエータ、センサに接続されている。
【0011】コントロールソフト用メモリ17には、プ
ロセッサ11が該画像処理装置10を制御するためのコ
ントロールプログラムが格納され、プログラムメモリ2
0には、ユーザが作成するプログラムが格納されるよう
になっている。
【0012】データメモリ18には、本実施例と関係し
ては、各ぶれセンサSe1〜Se3が検出するぶれ量が記憶
されるようになっている。
【0013】画像メモリ19には、各カメラC1〜C3
が撮影した画像がグレイスケールに変換され濃淡画像で
格納され、画像処理プロセッサ14は、該画像メモリに
格納された画像データを処理して対象物の特徴点を認識
し、その位置を検出するようになっている。
【0014】また、コンソールインタフェイス21に
は、コンソール30が接続され、該コンソール30に
は、液晶表示装置の他、各種指令キー、アリケーション
プログラムの入力、編集、実行なとの操作を行うための
テンキー等を有している。そして、液晶表示装置には、
各種データの設定のためのメニューやプログラムのリス
トなどを表示できるようになっている。
【0015】ぶれセンサSe1〜Se3は、各カメラの画像
画面(CCD素子画面)上に設定されるカメラ座標系に
おけるz軸回り(ロール軸)、y軸回り(ピッチ軸)、
x軸回り(ヨー軸)の回転量(ぶれ量)を測定するもの
で、本実施例においては角加速度を検出し、2階積分し
てぶれ量を検出するぶれセンサを用いている。
【0016】以下、図5に示すような車体1の位置を検
出するものとして、本発明の一実施例を説明する。ま
ず、各カメラC1〜C3をそれぞれジグに固定し、キャ
リブレーションを行って、従来と同様にコンソール30
を介して各カメラC1〜C3の画像面(CCD画素画
面)上に設定されるカメラ座標系と作業空間において設
定されているワールド座標系との関係(カメラ座標系か
らワールド座標系へ変換する変換マトリックスのパラメ
ータ)を示すキャリブレーションデータを設定すると共
に、各カメラC1〜C3が特徴点としてとらえるゲージ
ホールH1〜H3の幾何配置関係(各ゲージホールH1
〜H3間の距離)を教示し、データメモリ18に格納す
る。
【0017】次に、対象物検出処理を開始させると、各
ぶれセンサSe1〜Se3及びぶれセンサインタフェイス1
2は、図3に示す動作を所定周期毎に行い、カメラの振
動に伴う角加速度に基づいてカメラ座標系上の各軸回り
のぶれ量を求めデータメモリ18に記憶する。例えば、
図2に示すように、カメラの画像画面(CCD素子画
面)上に設けられたカメラ座標系のz軸回り(ロール
軸)のぶれ量α、y軸回り(ピッチ軸)のぶれ量β、x
軸回り(ヨー軸)のぶれ量γを各カメラC1〜C3ごと
にデータメモリ18に格納する。
【0018】一方、検出対象物の車体1が、検出対象位
置に到達したことが検出されると、プロセッサ11は、
図4に示す処理を開始する。まず、各カメラC1〜C3
で対象物の車体1を撮影し画像を取り込み画像メモリ1
9に格納すると共に同期してデータメモリ18に記憶さ
れている各カメラC1〜C3のぶれ量αi 、βi 、γi
を読み込む(ステップS1,S2)。次に、指標iを
「0」にセットした後該指標を「1」インクリメントし
(ステップS3、S4)、画像プロセッサ14にカメラ
Ciからの画像から特徴点の抽出処理を実行させ特徴点
の位置を検出する(ステップS5)。そして、ステップ
S2で読み込まれたカメラCiのぶれ量αi 、βi 、γ
i とキャリブレーションで設定されているカメラCiの
カメラ座標系からワールド座標系への変換マトリックス
を求める(ステップS6)。
【0019】キャリブレーションによって与えられてい
るカメラCiのカメラ座標系からワールド座標系への変
換マトリックスQi は数式1で表され、z軸回りのぶれ
量αi による回転マトリックスSzi は数式2、y軸回
りのぶれ量βi による回転マトリックスSyi は数式
3、x軸回りのぶれ量γi による回転マトリックスSγ
i は数式4で表される。
【0020】
【数1】
【0021】
【数2】
【0022】
【数3】
【0023】
【数4】 これらのマトリックスを掛け合わせることによって、カ
メラCiのぶれ量をも包含するカメラCiのカメラ座標
系からワールド座標系への変換マトリックスQi'が求ま
る。
【0024】Qi'=Sxi ・Syi ・Szi ・Qi ステップS5で求めた特徴点(ゲージホールHi)の位
置とこの変換マトリックスQi'よりカメラCiの視線ベ
クトルを求めデータメモリ16に記憶する(ステップS
7)。次に、指標iが「3」に達したか否か判断し(ス
テップS8)、達していなければ、指標iが「3」に達
するまで上記ステップS4〜S8の処理を実行し、各カ
メラC1〜C3の視線ベクトルを求める。こうしてカメ
ラC1〜C3の視線ベクトルが求まると、教示されてい
る3つの特徴点(ゲージホールH1〜H3)間の距離に
よる幾何配置を当てはめ対象物の3次元位置を求め(ス
テップS9)、対象物の位置検出処理は終了する。な
お、こうして求められた対象物の3次元位置は、対象物
に対して加工等を行うロボット等に出力される。
【0025】上記実施例では、ぶれセンサSe1〜Se3と
して、角加速度を検出するセンサを用いたが、カメラの
ぶれが直線移動分の変位が大きい場合には加速度を検出
するセンサを用いてもよい。
【0026】また、上記実施例は、各カメラC1〜C3
で画像を取り込むタイミングと同期してカメラのぶれ量
を検出するために、ぶれセンサSe1〜Se3で検出される
ぶれ量を所定周期で検出しデータメモリ18に書き込む
方式を採用したが、プロセッサ11の処理が速いもので
あれば、該プロセッサ11が各カメラC1〜C3でそれ
ぞれ画像を取り込むと共に当該カメラに取付けられたぶ
れセンサからぶれ量を直接読み取るようにしてもよい。
【0027】なお、上述したぶれセンサは、角加速度も
しくは加速度を2階積分してぶれ量を求めるものである
から、センサ側でこの積分等を行ってぶれ量を求めるよ
うにすれば、画像処理装置の負担を少なくし、画像処理
装置の処理時間を節約することができる。
【0028】
【発明の効果】本発明は、カメラが振動している状態で
画像が取り込まれても、カメラから画像を取り込むと同
時にカメラのぶれ量を検出し、このぶれ量によってカメ
ラの視線を較正させることになるから、カメラが振動し
ている状態であっても対象物の位置を正確に計測するこ
とが可能になる。そのため、カメラの振動が収束するま
での待時間が不要となり対象物の位置を検出して対象物
に対して何等かの加工等を行うシステムのサイクルタイ
ムを短くすることができる。
【図面の簡単な説明】
【図1】本発明の一実施例のブロック図である。
【図2】カメラ座標系の説明図である。
【図3】本発明の一実施例におけるカメラのぶれ量を求
める処理動作説明図である。
【図4】同実施例におけるカメラ視線を求める処理のフ
ローチャートである。
【図5】対象物の3次元位置を求める例の説明図であ
る。
【符号の説明】
10 画像処理装置 C1〜C3 カメラ Se1〜Se3 ぶれセンサ 30 コンソール 40 カメラ画像面(CCD素子面)

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】 画像処理装置において、カメラに取付け
    られ該カメラのぶれ量を計測するセンサと、カメラから
    取り込んだ画像から抽出した特徴点の位置、カメラから
    画像を取り込み時に上記センサで計測したぶれ量及びキ
    ャリブレーションデータとに基づきカメラの視線を求め
    る手段とを備えたカメラぶれ補正機能付き画像処理装
    置。
  2. 【請求項2】 上記カメラのぶれ量を計測するセンサ
    は、カメラの画像画面上に設けられたカメラ座標系にお
    ける各軸回りの角加速度より各軸回りのぶれ量を求める
    センサである請求項1記載のカメラぶれ補正機能付き画
    像処理装置。
  3. 【請求項3】 上記カメラのぶれ量を計測するセンサ
    は、カメラの直線移動の加速度よりブレ量を求めるセン
    サである請求項1記載のカメラぶれ補正機能付き画像処
    理装置。
JP7056829A 1995-02-22 1995-02-22 カメラぶれ補正機能付き画像処理装置 Withdrawn JPH08237541A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP7056829A JPH08237541A (ja) 1995-02-22 1995-02-22 カメラぶれ補正機能付き画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP7056829A JPH08237541A (ja) 1995-02-22 1995-02-22 カメラぶれ補正機能付き画像処理装置

Publications (1)

Publication Number Publication Date
JPH08237541A true JPH08237541A (ja) 1996-09-13

Family

ID=13038276

Family Applications (1)

Application Number Title Priority Date Filing Date
JP7056829A Withdrawn JPH08237541A (ja) 1995-02-22 1995-02-22 カメラぶれ補正機能付き画像処理装置

Country Status (1)

Country Link
JP (1) JPH08237541A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100763521B1 (ko) * 2006-10-31 2007-10-04 한국전자통신연구원 이동 로봇의 시선 안정화 장치
CN108986161A (zh) * 2018-06-19 2018-12-11 亮风台(上海)信息科技有限公司 一种三维空间坐标估计方法、装置、终端和存储介质
CN109108962A (zh) * 2017-06-23 2019-01-01 卡西欧计算机株式会社 机器人、机器人的控制方法以及存储介质

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100763521B1 (ko) * 2006-10-31 2007-10-04 한국전자통신연구원 이동 로봇의 시선 안정화 장치
CN109108962A (zh) * 2017-06-23 2019-01-01 卡西欧计算机株式会社 机器人、机器人的控制方法以及存储介质
CN108986161A (zh) * 2018-06-19 2018-12-11 亮风台(上海)信息科技有限公司 一种三维空间坐标估计方法、装置、终端和存储介质
CN108986161B (zh) * 2018-06-19 2020-11-10 亮风台(上海)信息科技有限公司 一种三维空间坐标估计方法、装置、终端和存储介质

Similar Documents

Publication Publication Date Title
US7359817B2 (en) Method of and device for re-calibrating three-dimensional visual sensor in robot system
CN109940662B (zh) 具备拍摄工件的视觉传感器的摄像装置
JP6836571B2 (ja) ロボット装置
JP2000241120A (ja) 計測装置
JP2008021092A (ja) ロボットシステムのシミュレーション装置
JP2008012604A (ja) 計測装置及びキャリブレーション方法
WO2005088250A1 (en) Method and system of measuring an object in a digital image
JP6622765B2 (ja) ロボットシステム
CN109556510B (zh) 位置检测装置以及计算机可读存储介质
CN109531604B (zh) 进行校准的机器人控制装置、测量系统以及校准方法
JP5457665B2 (ja) 電子部品装着装置
JP5573537B2 (ja) ロボットのティーチングシステム
JP2014085156A (ja) ひずみ計測方法及びひずみ計測システム
JPH08237541A (ja) カメラぶれ補正機能付き画像処理装置
JP5545139B2 (ja) 材料試験機および材料試験機における変位量測定方法
JPH09174468A (ja) ロボット教示装置
JPH0882505A (ja) カメラパラメーターのキャリブレーション方法および物体の位置計測方法
JP2013239720A (ja) 画像歪補正方法
JP2008014857A (ja) プリント板の検査用座標取得装置、検査用座標取得方法、及び検査用座標取得プログラム
CN111479407A (zh) Pcb板可视化选择性波峰焊方法及系统
JP4240215B2 (ja) ビデオ式3次元位置計測装置およびビデオ式伸び計並びにビデオ式幅計
WO2023053395A1 (ja) 位置姿勢計測システム
JP7376227B2 (ja) 複数の撮像条件を用いた画像処理装置
JP2023011467A (ja) コンベアトラッキング情報を校正する校正方法、校正システム、及び、コンピュータープログラム
JPH05301195A (ja) 視覚センサにおけるカメラ位置ずれ検出方法

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20020507