JPH02140073A - カメラの自動追尾制御装置,対象物の自動追尾装置,追尾制御を利用した対象物の方向検出装置,ならびに追尾制御を利用したロボット制御装置 - Google Patents

カメラの自動追尾制御装置,対象物の自動追尾装置,追尾制御を利用した対象物の方向検出装置,ならびに追尾制御を利用したロボット制御装置

Info

Publication number
JPH02140073A
JPH02140073A JP1152425A JP15242589A JPH02140073A JP H02140073 A JPH02140073 A JP H02140073A JP 1152425 A JP1152425 A JP 1152425A JP 15242589 A JP15242589 A JP 15242589A JP H02140073 A JPH02140073 A JP H02140073A
Authority
JP
Japan
Prior art keywords
camera
image
tracking control
robot
tracking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP1152425A
Other languages
English (en)
Inventor
Hiroshi Teramoto
寺本 浩志
Megumi Karashima
唐島 めぐみ
Tsutomu Kamizake
神酒 勤
Osamu Motooka
本岡 修
Toshimichi Masaki
俊道 政木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Tateisi Electronics Co filed Critical Omron Tateisi Electronics Co
Publication of JPH02140073A publication Critical patent/JPH02140073A/ja
Pending legal-status Critical Current

Links

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 発明の要点 対象物像が常に撮像画面のほぼ中心に映り、また画面に
占める大きさがほぼ一定となるように。
視覚装置で計測したデータ(対象物像の重心の偏位量2
重心の移動速度、対象物像の大きさなど)からファジィ
推論によってカメラの向き、ズーム倍率等を制御するカ
メラの自動追尾制御装置。カメラから対象物体までの距
離が変化しても同じルールで制御可能である。
対象物の自動追尾装置は一緒に動くカメラと作用部(捕
獲部)とを備えている。カメラと作用部の位置が違うた
めに必要な物体の接近にともなう追尾位置補正と、カメ
ラの追尾速度制御とを、撮像画像から得られる情報を用
いてファジィ推論により行う。これにより簡単な構成で
比較的迅速に対象物を追尾でき、対象物に作用部を作用
させることができる。
対象物の方向検出装置は、静止または移動対象物がカメ
ラの視野内に収まるように追尾制御するとともに、対象
物の所定方向が画面の所定方向と一致するようにカメラ
の回転を制御し、そのカメラの回転角を検出して対象物
の方向(向き、傾き)を検出する。
対象物とロボットとの間の距離とその変化分に関する情
報にもとづいて所定のルールに従ってロボットの加速度
を推論し、それによってロボットの制御量を演算し、ロ
ボットを対象物に位置決め制御する。これにより、対象
物が動いているときでも、撮像と制御の遅れ時間を考慮
した簡単なルールで、精度の良い位置決めが迅速にでき
る。
発明の背景 この発明は、移動する対象物の像が常に視野の所定位置
にあるように対象物を追尾しながら撮像するカメラの追
尾制御装置、移動する対象物像の大きさが常にほぼ一定
に保たれるようにズーム倍率を変えながら対象物を追尾
撮影する装置、相対的に接近してくる対象物をカメラで
撮像し、カメラと一体に動く作用部で対象物に作用でき
るように対象物を追尾する装置、対象物の追尾制御を利
用して対象物をカメラの視野内に捉え、かつその対象物
の方向(向きまたは傾き)を検出する装置、ならびに対
象物とロボットとを常に視野内に収めるようにカメラを
追尾制御し1 カメラから得られる画像データに基づい
てロボットが運動する対象物にアクセスするように制御
するロボット制御装置に関する。
上記のような追尾制御を行なうためには、対象物をカメ
ラによって撮像し、この撮像画像から対象物像の重心位
置、大きさ、それらの変化等の特徴量を抽出し、この得
られた特徴量に基づいて対象物の方向(角度)、距離等
のデータを得、このデータを用いてカメラを動かす方向
、その速度ズーム倍率等を算出しなければならない。し
かしながら、方向、距離等に基づいて行なう追尾制御の
ための計算はきわめて複雑である。そのために制御装置
のプログラムが複雑になったり、処理のために時間がか
かったりするという問題がある。
また、対象物の捕獲などの何らかの作用を対象物に加え
る作用部がカメラと一緒に動くように構成し、接近する
対象物の像をカメラで捉えながら対象物が作用部に到達
するように追尾する装置においては、カメラと異なる位
置に作用部があるために、対象物が接近するにつれて作
用部の画面上の位置(すなわち追尾位置)が変化するの
で、追尾位置補正が必要となる。この補正処理はきわめ
て複雑な計算を必要とするので、制御プログラムが複雑
になったり、処理のために時間がかかるという問題かあ
る。
さらに移動するまたは静止している物体を追尾しながら
その物体の方向(向き、傾きを含む)を認識するために
は複雑でかつ時間のかかる画像処理1画像解析が要求さ
れるので、大型計算機が必要となり、またリアル・タイ
ムでの処理は困難である。
一方、移動する対象物にロボットの手先を位置決めする
方法として、ロボットのアームに取り付けられた視覚装
置から得られた対象物の位置データをもとにして、その
時点での対象物やロボットの位置、速度、加速度などを
計算し、対象物に追従するようにリアル・タイムでロボ
ットの軌道を修正する方法がある。ここで問題となるの
は。
1)視覚装置で画像を取り込んでから軌道を修正するま
でに遅れ(画像処理時間+軌道修正の演算時間)が生じ
、その間に対象物とロボットの位置関係が画像を取り込
んだ時点とは変化してしまう。
2)対象物の速度によって上記の遅れの影響が変化する
3)対象物にロボット手先を位置決め完了するときは対
象物がカメラ画面の視野から外れてしまう、ということ
である。
上記の問題点1)、2)については、軌道修正の周期を
短くするとか、遅れが小さくなるように制御装置を工夫
するとか、遅れを打ち消すように制御プログラム上で補
正を加える。などの方法があるが、そのために別の測定
器が必要になったり、アルゴリズムが複雑になったりす
る。アルゴリズムがあまり複雑になると修正周期が長く
なる。また、上記3)の問題についても、対象物の動き
から次の動きを予測することはできるが、やはりアルゴ
リズムが複雑になるという問題が残る。
発明の概要 この発明は比較的簡単な構成でかつ比較的迅速に追尾制
御が可能な装置を提供することを目的とする。
この発明はまた。追尾位置補正を含む対象物の追尾を比
較的迅速に行なうことが可能な装置を提供することを目
的とする。
この発明はさらに、比較的簡素な構成でかつリアル・タ
イムに物体の向きを検出できる。ファジィ追尾制御を利
用した方向検出装置を提供することを目的とする。
この発明はさらに1時間遅れを充分に考慮し比較的簡単
なアルゴリズムで移動する対象物にロボットをアクセス
させるよう制御できるロボット制御装置を提供すること
を目的とする。
第1の発明によるカメラの自動追尾制御装置は、少なく
とも一方向に動きうるカメラを同方向に動かすための駆
動手段、カメラで撮像した対象物像のカメラ画面上の位
置に関する情報および位置の変化に関する情報の少なく
ともいずれか一方を作成する手段1作成された位置に関
する情報およびその変化に関する情報の少なくともいず
れか一方を用いて所定のルールにしたがって、カメラ画
面上の対象物像が所定位置にほぼ保たれるようにするた
めに、上記駆動手段を制御すべき量を演算する推論手段
、ならびに推論手段による推論結果に基づいて駆動手段
を制御する手段を備えていることを特徴とする。
第1の発明によると、動いている対象物に対してその像
が常にほぼカメラ画面の所定位置、たとえば中心位置に
映し出されるようにカメラの向きまたは位置が制御され
る。しかもファジィ推論を行ない、その推論結果に基づ
いて制御しているので、従来のような追尾制御のための
複雑な計算処理は不要であり、比較的迅速な応答速度が
得られる。
第2の発明によるカメラの自動追尾制御装置は、ズーム
機能をもつカメラの撮像画面における対象物像の大きさ
をほぼ一定に保つようズーム倍率を制御する装置であり
、ズーム・レンズを動かすための駆動手段、カメラで撮
像した対象物像のカメラ画面上の大きさに関する情報お
よび大きさの変化に関する情報の少なくともいずれか一
方を作成する手段1作成された大きさに関する情報およ
びその変化に関する情報の少なくともいずれか一方を用
いて所定のルールにしたがって、対象物像の大きさをほ
ぼ一定に保つようズーム倍率に関する量を演算する推論
手段、ならびに推論手段による推論結果に基づいて駆動
手段を制御する手段を備えていることを特徴とする。
第2の発明によると、動いている対象物に対してその像
のカメラ画面における大きさ、換言すればカメラ画面に
占める対象物像の割合が常にほぼ一定になるようにズー
ム制御される。しかも第1の発明と同じように複雑な計
算処理が不要で比較的高速応答が達成できる。
第3の発明による対象物の自動追尾装置は。
少なくとも一方向に移動可能に支持され、相対的に接近
する対象物の像を撮像するカメラ、カメラと一緒に移動
する作用部、カメラおよび作用部を上記の少なくとも一
方向に動かすための駆動手段、カメラで撮像した対象物
像のカメラ画面上の位置に関する情報および大きさに関
する情報を作成する手段、大きさに関する情報に基づい
て、対象物の接近にともなって変化するカメラ画面上の
追尾位置を補正する手段、カメラ画面上における対象物
像の位置と補正された追尾位置との偏差。
およびその変化分に関する情報を用いて所定のルールに
したがって、接近する対象物と作用部とが所定の位置関
係になるようにするために、上記駆動手段を制御すべき
量を演算する推論手段、ならびに推論手段による推論結
果に基づいて駆動手段を制御する手段を備えていること
を特徴とする。好ましくは、上記補正手段はファジィ推
論装置により実現される。
第3の発明によると1画面における対象物像の大きさに
応じて追尾位置補正が好ましくはファジィ推論により行
なわれ、またこの補正された追尾位置に対する対象物像
位置の偏差に基づいてファジィ推論により対象物の追尾
が行なわれるので、比較的簡単な構成でしかも比較的迅
速に追尾を達成できる。
第4の発明による追尾制御を利用した対象物の方向検出
装置は、少なくとも一方向に移動可能に支持されかつ光
軸のまわりに回転可能なカメラ。
カメラによる対象物の撮像データに基づいて、対象物像
がカメラ画面の所定領域内に位置するように5 カメラ
を上記の少なくとも一方向に移動させるファジィ追尾制
御手段、上記撮像データに基づいて 対象物の所定方向
がカメラ画面の所定方向と一致するように、カメラをそ
の光軸のまわりに回転させるファジィ回転制御手段、お
よびカメラの光軸のまわりの回転角を検出し、対象物の
方向を表わすデータを発生する方向検出手段を備えてい
ることを特徴とする。
第4の発明によると、対象物の追尾制御とカメラの回転
制御のためにファジィ推論を利用しているから、少ない
撮像データですみかつ対象物の形状の自由度を大きくす
ることができる上に、リアル・タイムの処理が可能で、
そのために大型計算機を必要とすることもない。
第5の発明による追尾制御を利用したロボット制御装置
は、ロボットの所定箇所と対象物の所定箇所とが常にカ
メラの視野内に収まるようにカメラを追尾制御する追尾
制御手段、カメラで撮像したロボットの所定箇所と対象
物の所定箇所との間の距離に関する情報を作成する手段
、および作成された距離に関する情報を用いて所定のル
ールにしたがって、ロボットの所定箇所が対象物の所定
箇所にアクセスするように、ロボットを制御する手段を
備えていることを特徴とする。上記の距離に関する情報
には距離とその変化分に関する情報を含ませることが好
ましい。
第5の発明によると1位置決め完了するまで対象物は常
にカメラ画像中にあり、遅れ時間の影響はルールの中に
吸収させるため、複雑なアルゴリズムが不要となるので
1位置決め精度が向上するという効果が得られる。
実施例の説明 第1実施例 第1実施例はカメラの自動追尾制御装置に関するもので
あり、その全体構成が第1図に示されている。
撮像機構にはビデオ・カメラ1が含まれ、このビデオ・
カメラ]は 垂直軸のまわりを回転させる第1の回転機
構3と、第1の回転機構3上に設けられ、水平軸のまわ
りを回転させるカメラ1を載置した第2の回転機構4と
によって2方向に回転自在に支持されている。第1の回
転機構3はモータM1によって駆動され、第2の回転機
構4はモータM2によって駆動される。第1の回転機構
3によるカメラ1の回転角をθ 、第2の回転機横4に
よるカメラ1の回転角をθ とする。
回転角θ 、θ の原点位置は適宜定められていy る。
ビデオ・カメラ1にはまたズーム機構2が設けられてい
る。ズーム機構2のズーム・レンズはモータM3によっ
て駆動され、その光軸方向の位置を2とする。位置2の
原点位置はたとえば中間の値のズーム倍率を与えるレン
ズ位置に定められている。
これらのモータM、M、M  はそれぞれ速文制御を行
なうモータ・コントローラ12.22.32によって別
個に制御される。
ビデオ・カメラ1によって撮像された対象物の像を表わ
すビデオ信号は画像計ifJ処理装置5に与えられる。
この処理装置5はCPUおよびメモリを含み、撮像ビデ
オ信号をA/D変換してメモリに格納し、対象物像に関
する次に述べるデータを作成する。
ビデオ・カメラ1によって撮像された対象物像の一例が
第2図にハツチングで示されている。カメラ画面の中心
にXY座標系の原点をとる。対象物像は背景から分離さ
れその輪郭が追跡される。
そして輪郭データ、その他のデータを用いて対象物像の
重心位置が求められる。重心位置のX、 Y座標を(X
Y座標系の原点からのX方向およびY方向への変位量)
ΔX、Δyとする。また対象物像のX方向およびY方向
の長さが求められ、これをX 、Y とする。カメラ画
面のX方向およびAA Y方向の長さをX  、Y  とする。画像針i’)I
II処理処理 製05からは、対象物像の重心位置データΔX。
Δy、対象物像の相対的な大きさに関するデータX  
/X  、Y  /Yoがそれぞれ出力される。
OA このようなデータを作成する画像計測処理装置は画像計
測コントローラ等と呼ばれる公知の手段で実現される。
重心位置データΔXに関していうと、このデータΔXは
ファジィ処理装置IOに与えられる。また位置データΔ
Xの変化分Δ灸が微分手段11で求められ、この変化分
Δ灸もまたファジィ処理装置10に入力する。位置デー
タΔXがアナログ信号で表現されているときには微分手
段は通常の微分回路で実現される。サンプリングされた
ディジタル量として表現されているときには前回の位置
データと今回の位置データとの偏差が変化分Δ交となる
。したがってこの場合には微分手段は偏差を算出するデ
ィジタル演算回路で実現される。もっともこの偏差算出
処理は画像針1TII処理装置5内のCPUによるソフ
トウェア処理によっても達成できる。
重心位置データΔyについても同じように、微分手段2
1によってその変化分Δ9が求められ1両データΔy、
Δ9がファジィ処理装置20に与えられる。
画像計測処理装置5から出力される対象物像の相対的大
きさに関するデータX  /X  、YA/O YoはMAX回路(手段)33に入力し、その大きい方
が選択される。選択された大きさに関するデータは差動
回路(手段)34において基準の大きさを表わす所定の
設定値と比較され、その偏差Aが求められる。基準の大
きさとの偏差Aの変化分Aが微分手段31で求められる
。この偏差Aとその変化分Aはファジィ処理装置30に
入力する。
MAX手段33.差動手段34および微分手段31はデ
ータに応じてアナログもしくはディジタル回路で実現さ
れるか、もしくはソフトウェアによってその機能が実行
されるのはいうまでもない。
ファジィ処理装置10.20.30はファジィ推論ない
しはファジィ演算を実行するもので、ファジィ−コンピ
ュータ、ファジィ・コントローラ。
ファジィ推論デイバイス、ファジィ推論演算装置等とい
われるものである。これは、ファジィ推論のための専用
デイバイス(アナログ・タイプ。
ディジタル・タイプを問わず)(たとえば「日経エレク
トロニクスJ 1987年7月27日、第148頁〜第
152頁2日経マグロウヒル社を参照)のみならず、フ
ァジィ推論を実行するようにプログラムされたパイナリ
イ拳タイプのコンピュータ、プロセッサ等によっても実
現できるのはいうまでもない。
モータM1の制御のためのファジィ処理装置10を例に
とってその構成、動作ないしは機能について説明する。
ファジィ処理装置10は入力するデータΔX。
Δ交に基づいて所与のルールにしたがってファジィ推論
を行ない、モータ・コントローラー2に与えるべき速度
指令θ を導き出す。このルールはいわゆる If’、
 then  (もし、ならば)ルールといわれるもの
で、たとえば次のようなルールを含む。
(ルール1) もしくIf)ΔXが負で中くらいの値でかつΔ交か零で
あるならば(then)速度θ を正の中くらいの値に
せよ このルール1は次のように簡略化して表現される。
If   Δ x−NMand   Δ 、x−ZR。
then  θ −P M 他の代表的ないくつかのルールを挙げれば次のようにな
る。
(ルール2) 1r  Δx−NSand  ΔM−NS。
then   Δ θ  −PS (ルール3) Ir Δx−NSand  Δ灸−PS。
t h e n   Δ θ   −ZRこれらのルー
ルの例が第3図に表の形で表現されている。縦方向にΔ
Xが、横方向にΔ交がそれぞれ配列され、それらが交差
する欄にΔθ が示X されている。ここでNLは負の大きな値、NMは負の中
くらいの値、NSは負の小さな値、ZRはほぼ零、PS
は正の小さな値、PMは正の中くらいの値、PLは正の
大きな値をそれぞれ表わしている。第3図において正(
P)および負(N)は変数(ΔX、ΔX、θ )の軸の
方向に応じて設定されるので、軸が反対向きに設定され
ればPとNは交換される。
これらの言語表現はメンバーシップ関数によって表わさ
れる。ΔXおよびΔ交のメンバーシップ関数が第4図に
、Δθ のメンバーシップ関数が第5図にそれぞれ示さ
れている。これらの図において、横軸はΔX、ΔX、Δ
θ 等の変数を表わし、縦軸はこれらの変数が上記言語
表現NL。
NM等によって表わされるファジィ集合に属する度合(
グレード)を表わしている。
ファジィ処理装置10において、与えられる入力ΔX、
Δ交が設定された各ルールの対応するメンバーシップ関
数に適合する度合が求められる。各ルールにおいて、Δ
Xと6女の適合度の小さい方が選択され(M I N演
算)、この選択された適合度によってそのルールのΔθ
 に関するメンバーシップ関数が裁断される。これらの
裁断されたすべてのルールのΔθ に関するメンバーシ
ップ関数が重ね合わされて(MAX演算)、最終的なメ
ンバーシップ関数が得られる。最終的なメンバーシップ
関数のたとえば重心を求めることにより確定した速度指
令Δθ が得られ、これがモータ・コントローラー2に
与えられる。
以上はMIN−MAX演算規則にしたがうファジィ推論
の説明であるが、もちろん他の演算規則にしたがうファ
ジィ推論を行なうことも可能である。またメンバーシッ
プ関数は第4図、第5図に示すように三角形状のものに
限らず、任意の形のものが採用されうる。さらにメンバ
ーシップ関数やルールは制御結果等に応じて適宜変更な
いしは修正可能である。
ファジィ制御装置20においても同じように、第3図に
示すルール、第4図および第5図に示すメンバーシップ
関数を用い、入力するΔy、Δ9に応じてファジィ推論
が行なわれ、モータ・コントローラ22に対する速度指
令Δθ が得られる。
、y これらの速度指令Δθ 、Δθ に応じてコンy トローラ12. 22がモータM、M2を制御する結果
、動いている対象物の像が常にカメラ画面のはぼ中央位
置に存在するようにカメラ1の向きが2次元的に駆動制
御される。
さらにファジィ制御装置30においても同じように、第
3図に示すルールにしたがい、第4図および第5図に示
すメンバーシップ関数を用いて入力AおよびAを処理し
て、モータ・コントローラ32に対する速度指令2が推
論される。そしてこの指令2に応答してコントローラ3
2によってモータM3が制御されることにより、対象物
像のカメラ画面における大きさが常にほぼ一定となるよ
うにズーム倍率が変更される。
カメラの角度θ 、θ およびズーム会レンズy 位置2の制御のために3台のファジィ処理装置10、2
0.30が示されているが、1台のファジィ処理装置に
よって3つの制御対象θ 、θ、1 zを時分割で制御
するようにすることも可能である。
第2実施例 第2実施例は5相対的に移動する物体を追尾しかつ物体
に対して何らかの作用を行なう装置に関するものであり
、その全体構成が第6図に示されている。この図におい
て第1図に示すものと同一物には同一符号が付けられて
いる。
この実施例は、投げられたボール(移動物体)OBをビ
デオ・カメラ1で追尾しながら捕獲部(ミツト)(作用
部)6で捕獲(キャッチ)するように動作するものであ
る。カメラ1と捕獲部6とは一緒に動くように一体とな
っている。カメラ1と捕獲部6はX方向およびY方向に
移動自在に支持され、かつモータM1によってX方向に
モータM2によってY方向に移送される。
ビデオ・カメラ1は移動物体OBを撮像し、その撮像ビ
デオ信号を画像計測処理装置5に与える。ビデオ・カメ
ラ1で撮像した移動物体OBの像の例が第7図(^)、
(B)および(C)に示されている。移動物体OBはカ
メラ1および捕獲部6の方向(Z方向)に近づいてくる
。第7図(A)は移動物体OBが遠くにあるときの画像
、第7図(B)は中位いの距離にあるときの画像、第7
図(C)はカメラ1にかなり近づいたときの画像である
。画像針4(lj処理装置5によって移動物体像の重心
位置の座標と面積とが求められる。カメラ画面の中心を
XY座標系の原点とし、移動物体像の重心位置の座標を
(x、y)とする。また移動物体像の面積をSとする。
第7図(A)〜(C)において白丸B(屹 yo)で表
わされている位置は捕獲部6の画面上における位置であ
る。
接近してくる移動物体をビデオ・カメラ1で追尾しかつ
カメラ1と一体に動く捕獲部6で移動物体を捕獲するた
めには、カメラ1と捕獲部6との位置が異なるので(こ
の実施例ではY方向にのみ異なる)、移動物体の重心位
置が捕獲部6の位置B (帆y o)  (追尾位置)
に近づくようにしなければならない しかもこの追尾位
置B(0,yo)は4第7図(A) 、 (B) 、 
(C)の比較から分るように1画面上で移動物体のカメ
ラまでの距離に応じて変化するのでその補正処理を施す
必要がある。移動物体がカメラ1に近づくとその面積S
が増大するので1面積Sによってカメラ1から移動物体
までの距離に関する情報を得ることができる。
画像計測処理装置5から出力される面積Sを表わすデー
タはファジィ処理装置24に与えられる。
このファジィ処理装置24は入力する面積Sに応じて画
面上における追尾位置の座標(特にY座標yo)を推論
して出力する。このファジィ推論のための面積Sと追尾
位置座標3’Oのメンバーシップ関数の例が第8図(A
) 、 (B)にそれぞれ示されている。この推論のた
めのルールにはたとえば次のようなものが用いられる。
IrS −Z R,then  y o −Z RIr
S −P S 、  then  y o−N SIf
 S−PM、then  yo−NM追尾位置の座標y
。はファジィ推論でなく、他の演算処理によっても得る
ことかできるのはいうまでもない。
このようにして得られた追尾位置のY座標y。
と移動物体の重心位置のY座標yとの偏差Δy −Y 
 Yoが減算回路(減算手段)23で求められる。ファ
ジィ処理装置20はこの偏差Δyとその変化分Δyとを
入力として、第1実施例の場合と金く同じようにして(
全く同じルールとメンバーシップ関数を用いて)、モー
タM2を制御するための速度指令θ を出力する。
画像計測処理装置5から出力される移動物体の重心位置
のX座標Xは偏差ΔXとしてそのままファジィ処理装置
10に与えられる(回路13は回路23との対比の上で
描かれているもので、必ずしも必要ない)。ファジィ処
理装置10も人力するΔXとΔXを用いて、第1実施例
の場合と全く同じようにしてモータM1を制御する。
このようにして、移動物体OBがカメラ1の方向に接近
するにつれて捕獲部6は物体OBを受ける位置に移動制
御され、最終的に物体OBは捕獲部6に捕獲される。
上記実施例では、ボールを作用部で捕獲するキャッチン
グ・マシンが示されているか、ボールを作用部で打ち返
すバッティング・マシン等にも応用可能であるなど1作
用部の作用は任意である。また1作用部が対象物に接近
する構成としてもよい。
第3実施例 第3実施例は対象物の向き(傾きを含む)を検出する装
置に関し、第9図から第11図に示されている。既述し
たものと同一物には同一符号を付し説明を省略する。
第9図においてビデオやカメラ1は垂直軸。
水平軸のまわりを回転自在で、それぞれモータMM  
により回転制御、駆動されるととも1′2 に、カメラ1の光軸(Z軸)のまわりに回転自在となる
ように支持され、この回転制御、駆動は第11図に示す
モータ・コントローラ42とモータM4とによって行な
われる。カメラ1にはズーム機構2もまた設けられ、そ
のズーム・レンズはモータM3によって駆動される。
第10図はカメラ1によって撮像された対象物の像(ハ
ツチングが施された傾いた長方形)を示している。この
実施例では対象物の垂直軸(Y軸)に対する傾きθが測
定される。すなわち、静止または移動している対象物を
カメラの指定領域内に捉えるように追尾制御し、かつ対
象物の向き(傾き)がカメラの視野内で一定方向となる
ようにカメラを回転制御し、このカメラの回転角を測定
することにより対象物の向き(傾き)を測定するもので
ある。
X軸から上、下に等しい距離の位置において。
対象物の側辺と画面の側辺との間の距離A1゜1’  
 2”’2がそれぞれ測定される。そしA て、A  /A  、B  /B  がそれぞれほぼ1
となるようにカメラ1がZ軸のまわりに回転させられる
。対象物の像は破線で示すようにその縦、横が画面の縦
、横と一致する。このときのカメラ1の回転角が求める
べき対象物の向き(傾き)角θである。
このような向き(傾き)角の測定を行なうためには対象
物をカメラの視野内に収める必要があり、これは対象物
の追尾制御によって達成される。また、対象物像が画面
内で適当な大きさに保たれるようにするためにズーム倍
率の制御も必要である。追尾制御およびズーム制御は上
述の第1実施例の装置によって実現される。この実施例
ではこれらの制御のためのパラメータが少し異なってい
る。
第11図は対象物の方向検出装置の構成を示している。
カメラ1の出力ビデオ信号が入力する画像計測処理装置
5は、第10図に示すように1画面のX軸、Y軸、X軸
から±Y力方向それぞれ等しい所定距離はなれたa線お
よびb線のみを走査して、対象物の側辺と画面の側辺と
の間のこれらの各軸、線上における距離x、x、y、。
Y  、A  、A  、B  、B  を測定する。
4I11定値x   x  はそれぞれ微分手段11A
1′2 11Bで微分されて灸、灸  としてファジィ処理装置
10に与えられる。ファジィ処理装置10は入力灸1.
灸。に基づいてそれぞれX方向追尾のための2つの速度
指令メンバーシップ関数を得、これらのMAX演算の重
心をとることにより、X方向の速度指令θ をモータ・
コントローラー2に与える。第1実施例の場合と同じよ
うに変化分量、。
灸 に加えて位置データx  、x  を用いるように
してもよい。
同じように測定値y1.y2.その微分値’/1.Y2
を用いてファジィ処理装置20によりY方向の速度指令
θ が得られる。
以上で対象物の追尾が行なわれる。
ズーム制御のために測定値x  、x  、yl。
y2のうちの最も小さいものがMIN回路35で選択さ
れる。この選択された測定値が設定値C6と等しくなる
ようにズーム倍率が調整される。このズーム制御は第1
の実施例と全く同じである。
一方、演算回路(演算手段)44および45においてそ
れぞれD 璽(A  −A  )/x  、D  =(
B  −B  )/X2が算出される。また微分手段で
この演算結果D  、D  か微分され、Dl。
D2が得られる。ファジィ処理装置40はこれ図に示す
ものと同じようなルールにしたがって。
A  /A  、B  /B2がともにほぼ1となるよ
うにカメラ1を回転させるだめの速度指令θ、を作成し
てモータ・コントローラ42に与える。これにより、対
象物の像がカメラの画面に対して一定の方向に向く。こ
のときのカメラ1の傾き角θがロータリー・エンコーダ
43により検出される。この傾き角は対象物の傾き方向
を表わしている。
この実施例では、対象物の二辺を用いて対象物の方向の
検出(カメラの回転制御)を行なっているので、対象物
は長方形に限らず1種々の形状の対象物に適用可能であ
る。
モータM  、M  の回転角をロータリー・エンコー
グ等で検出するようにしてもよい。
第4実施例 第4実施例は追尾制御を利用したロボット制御装置に関
するものであり、その詳細が第12図から第17図に示
されている。
第12図は全体的な構成を概略的に示すものである。
ベルト・コンベア等の搬送装置によって対象物OBが搬
送されてくる。この搬送路の近くにロボット9が配置さ
れ、ロボット9が対象物OBに対して何らかの作業を行
なうために、ロボット9の手先R8が移動している対象
物OBに対して接近して位置決めされる。
カメラ1は少なくとも一方向に、好ましくは2方向に、
そしてさらに好ましくはその光軸のまわりに回転自在に
支持され、ロボット9の手先RSおよび対象物OBを撮
像する。カメラ1が撮像した画像の例が第13図に示さ
れている。カメラ1の視野内に対象物OBの像POとロ
ボット手先R5の像PRがともに捉えられるように、カ
メラ1の向き2回転角およびさらに望ましくはズーム倍
率が制御される。カメラによるロボット手先と対象物の
追尾制御は第1実施例または第3実施例の装置を用いて
行なうことができる。この追尾制御を行なうのが追尾制
御装置7である。このように追尾制御することにより2
画面上における対象物像とロボット手先像のぶれを少な
くシ、計測精度を高めることができる。
カメラ1の出力ビデオ信号は画像計測処理装置5に与え
られ、その画像データは追尾制御装置7に与えられると
ともにロボット制御装置8に入力する。ロボット制御装
置8は上述したように移動している対象物OBに対して
ロボット手先R3を位置決めする制御を行なう。
ロボット制御装置8の構成が第14図に示されている。
ロボット9は少なくとも2軸(X、Y軸)の運動が可能
なものであり、その駆動はモータM、とM6によって行
なわれる。一方、画像計測処理装置5からは、第13図
からも分るように、ロボット手先像PRと対象物像PO
の所定点(たとえば重心)との間の距離をXY座標系で
与えるデータΔX、Δyが出力される。距離データΔX
、Δyはそれぞれ微分手段51.52で微分される。
距離データΔXとその変化分Δ交はファジィ処理装置5
0に入力し、後述するファジィ推論によってロボット手
先のX方向の目標加速度kを表わすデータか得られる。
同じように距離データΔyとその変化分Δ9はファジィ
処理装置60に入力し。
ロボット手先のY方向の目標加速度yを表わすデータか
得られる。
これらの加速度データ’X+”Yは制御量演算装置55
に入力する。この装置55では加速度マ、yを積分する
ことにより目標速度量、9および目標位置x、yが求め
られ、さらにこれらのデータから逆運勧学計算により関
節角目標値θ、θ、iが求められ、最終的にモータM 
 、Msを駆動する電流11.12が出力される。
ファジィ処理装置50と60は同じであるから一括して
説明する。ここでは距離データXまたはyをeで、その
変化分量または9をみで表わす。また目標加速度をEで
表現する。
ファジィ処理装置で用いられる入力データとしての距離
eおよびその変化分るのメンバーシップ関数の例が第1
5図に、出力としての目標加速度Eのメンバーシップ関
数の例が第16図にそれぞれ示されている。ファジィ処
理のだめのルールはカメラによる撮像とそれに基づく制
御の時間遅れを見込んで作成されている。ルールの一例
が第17図に示されている。第17図(A)は時間遅れ
の影響かほとんど無いときのルールの例であり、第17
図(B)は時間遅れの影響が大きいときのルールの例で
ある。第17図(A)のルールと比較してO印をつけた
ルールが変更されている。時間遅れはルールの前件部の
条件にいれてもよいし、はとんどの場合制御装置と制御
対象が決まれば時間遅れはほぼ一定であるので、その都
度ルールを変更してもよい。
これらのルールの一例について説明する。第7図(A)
において。
Ir e−NS、  5−NS、then  E=PM
というルール(これを便宜的にルール1とする)がある
。これは、もしロボット手先が対象物より少し負の位置
にあって(e−NS)かつその差が負方向に少し拡大し
ている(5−NS)なら、ロボットの加速度は正方向で
中位の大きさにする(E−PM)という意味であり、ロ
ボット手先と対象物とが相対的に離れつつあるときに1
両者をより近づけるように動作させるルールである。
また。
I「e−PS、  5−NS、  then  E−Z
Rというルール(ルール2)は、もしロボット手先が対
象物より少し正の位置にあって(e−PS)かつその差
が小さい速さで小さくなっている(e−NS)ならロボ
ットの加速度は0にする(E−ZR)、つまり今のまま
の速度で動かすということを意味する。これはロボット
手先と対象物とが接近しつつある状態のときのルールの
例である。
上述のルール1と2は、第7図(B)に示す時間遅れの
大きい制御系ではそれぞれ次のように変更される。すな
わち、ルール1は。
1[’  e −N S 、  5− N S 、  
 then  E −P Lと変更される。遅れ時間が
大きいので、操作量を出力するときは距離e、その変化
分eともさらに大きくなっていると考えられるので加速
度の大きさを大にする(E−PL)。
ルール2は。
Ife −P S 、  5− N S 、  the
n  E −P Sと変更される。遅れ時間が大きいの
で、操作量出力時には距fieが零または負になってい
ると考えられ、正方向に少し加速する(E−PS)。
以上のようにして、ロボットの二輪が並行して同時に制
御され、迅速なロボット手先の対象物への位置決めが達
成される。
上記実施例ではカメラは少なくとも一方向に向きを変更
可能に設けられ、かつ追尾制御が行なわれている。カメ
ラを対象物とともに運動させかつ追尾制御するようにし
てもよいし、逆に対象物とロボット手先が常に視野内に
入る位置に固定してもよい。
【図面の簡単な説明】
第1図から第5図はこの発明の第1の実施例を示すもの
である。 第1図はカメラの自動追尾制御装置の機構的および電気
的構成を示す構造およびブロック図である。 第2図はカメラ画面における対象物像およびそのパラメ
ータを示すものである。 第3図はファジィ推論のためのルールをまとめて表わし
たものである。 第4図および第5図はそれぞれ入力および出力のメンバ
ーシップ関数を示すグラフである。 第6図から第8図(B)はこの発明の第2の実施例を示
すものである。 第6図は対象物の自動追尾装置の機構的および電気的構
成の概要を示すブロック図である。 第7図(A) 、 (B) 、 (C)はカメラの画像
における対象物と追尾位置の変化を表わすものである。 第8図(A) 、 (B)は入力および出力のメンバー
シップ関数を示すグラフである。 第9図から第11図はこの発明の第3の実施例を示すも
のである。 第9図はカメラの動きを示す斜視図である。 第10図はカメラの撮像画面の例を示している。 第11図は追尾制御を利用した対象物の方向検出装置の
電気的(1M成を示すブロック図である。 第12図から第17図(B)はこの発明の第4の実泡例
を示すものである。 第12図は追尾制御を利用したロボット制御装置の概略
構成を示すものである。 第13図はカメラによる撮像画面の例を示している。 第14図はロボット制御装置の電気的構成を示すブロッ
ク図である。 第15図および第16図は入力および出力のメンバーシ
ップ関数の例をそれぞれ示すグラフである。 第17図(A) 、  (B)はファジィ推論のための
ルールの例をまとめて示すものである。 1・・・ビデオ・カメラ。 2・・・ズーム機構1 3.4・・・回転機構。 5・・・画像計測処理装置。 6・・・捕獲部(ミツト)(作用部)。 7・・・追尾制御装置 8・・・ロボット制御装置。 9・・・ロボット。 10、 20. 24. 30. 40. 50. 6
0・・・ファジィ処理装置。 11、 IIA、 IIB、 21.21A、 21B
。 31、41A、 41B、 51.52・・・微分手段
。 12、22.32.42 ・・・モーターコントローラ。 23・・・減算回路(減算手段) 35・・・MIN回路。 43・・・ロータリーφエンコーダ。 44、45・・・演算回路(演算手段)。 55・・・制御量演算装置。 M、M  、M  、M  、M  、M2345B ・・・モータ。 OB・・・移動物体または対象物(ボール)。 R3・・・ロボットの手先。 PO・・・対象物の像。 PR・・・ロボット手先像。 以  上

Claims (9)

    【特許請求の範囲】
  1. (1)少なくとも一方向に動きうるカメラを同方向に動
    かすための駆動手段、 カメラで撮像した対象物像のカメラ画面上の位置に関す
    る情報および位置の変化に関する情報の少なくともいず
    れか一方を作成する手段、 作成された位置に関する情報およびその変化に関する情
    報の少なくともいずれか一方を用いて所定のルールにし
    たがって、カメラ画面上の対象物像が所定位置にほぼ保
    たれるようにするために、上記駆動手段を制御すべき量
    を演算する推論手段、ならびに 推論手段による推論結果に基づいて駆動手段を制御する
    手段、 を備えたカメラの自動追尾制御装置。
  2. (2)ズーム機能をもつカメラの撮像画面における対象
    物像の大きさをほぼ一定に保つようズーム倍率を制御す
    る装置であり、 ズーム・レンズを動かすための駆動手段、 カメラで撮像した対象物像のカメラ画面上の大きさに関
    する情報および大きさの変化に関する情報の少なくとも
    いずれか一方を作成する手段。 作成された大きさに関する情報およびその変化に関する
    情報の少なくともいずれか一方を用いて所定のルールに
    したがって、対象物像の大きさをほぼ一定に保つようズ
    ーム倍率に関する量を演算する推論手段、ならびに 推論手段による推論結果に基づいて駆動手段を制御する
    手段、 を備えたカメラの自動追尾制御装置。
  3. (3)少なくとも一方向に移動可能に支持され、相対的
    に接近する対象物の像を撮像するカメラ、カメラと一緒
    に移動する作用部、 カメラおよび作用部を上記の少なくとも一方向に動かす
    ための駆動手段、 カメラで撮像した対象物像のカメラ画面上の位置に関す
    る情報および大きさに関する情報を作成する手段、 大きさに関する情報に基づいて、対象物の接近にともな
    って変化するカメラ画面上の追尾位置を補正する手段、 カメラ画面上における対象物像の位置と補正された追尾
    位置との偏差、およびその変化分に関する情報を用いて
    所定のルールにしたがって、接近する対象物と作用部と
    が所定の位置関係になるようにするために、上記駆動手
    段を制御すべき量を演算する推論手段、ならびに 推論手段による推論結果に基づいて駆動手段を制御する
    手段、 を備えた対象物の自動追尾装置。
  4. (4)上記補正手段がファジィ推論装置である請求項(
    3)に記載の対象物の自動追尾装置。
  5. (5)少なくとも一方向に移動可能に支持されかつ光軸
    のまわりに回転可能なカメラ、 カメラによる対象物の撮像データに基づいて、対象物像
    がカメラ画面の所定領域内に位置するように、カメラを
    上記の少なくとも一方向に移動させるファジィ追尾制御
    手段、 上記撮像データに基づいて、対象物の所定方向がカメラ
    画面の所定方向と一致するように、カメラをその光軸の
    まわりに回転させるファジィ回転制御手段、および カメラの光軸のまわりの回転角を検出し、対象物の方向
    を表わすデータを発生する方向検出手段、 を備えた追尾制御を利用した対象物の方向検出装置。
  6. (6)上記ファジィ追尾制御手段がカメラのズーム倍率
    を制御する手段を含んでいる、請求項(5)に記載の追
    尾制御を利用した対象物の方向検出装置。
  7. (7)上記追尾制御および回転制御のための撮像データ
    が、対象物像の側辺と画面の側辺との間の所定位置にお
    ける距離である、請求項(5)に記載の追尾制御を利用
    した対象物の方向検出装置。
  8. (8)ロボットの所定箇所と対象物の所定箇所とが常に
    カメラの視野内に収まるようにカメラを追尾制御する追
    尾制御手段、 カメラで撮像したロボットの所定箇所と対象物の所定箇
    所との間の距離に関する情報を作成する手段、および 作成された距離に関する情報を用いて所定のルールにし
    たがって、ロボットの所定箇所が対象物の所定箇所にア
    クセスするように、ロボットを制御する手段、 を備えた追尾制御を利用したロボット制御装置。
  9. (9)上記の距離に関する情報が距離とその変化分に関
    する情報を含むものである、請求項(8)に記載の追尾
    制御を利用したロボット制御装置。
JP1152425A 1988-08-05 1989-06-16 カメラの自動追尾制御装置,対象物の自動追尾装置,追尾制御を利用した対象物の方向検出装置,ならびに追尾制御を利用したロボット制御装置 Pending JPH02140073A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP19462288 1988-08-05
JP63-194622 1988-08-05

Publications (1)

Publication Number Publication Date
JPH02140073A true JPH02140073A (ja) 1990-05-29

Family

ID=16327588

Family Applications (1)

Application Number Title Priority Date Filing Date
JP1152425A Pending JPH02140073A (ja) 1988-08-05 1989-06-16 カメラの自動追尾制御装置,対象物の自動追尾装置,追尾制御を利用した対象物の方向検出装置,ならびに追尾制御を利用したロボット制御装置

Country Status (1)

Country Link
JP (1) JPH02140073A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1994029670A1 (fr) * 1993-06-10 1994-12-22 Kabushiki Kaisha Oh - Yoh Keisoku Kenkyusho Appareil pour mesurer la position d'un objet en mouvement
US5801770A (en) * 1991-07-31 1998-09-01 Sensormatic Electronics Corporation Surveillance apparatus with enhanced control of camera and lens assembly
US5812193A (en) * 1992-11-07 1998-09-22 Sony Corporation Video camera system which automatically follows subject changes
KR100322751B1 (ko) * 1999-08-05 2002-02-07 김운용 팬/틸트 카메라 제어방법
JP2009211294A (ja) * 2008-03-03 2009-09-17 Nippon Hoso Kyokai <Nhk> ニューラルネットワーク装置及びそれを用いたロボットカメラ制御装置並びにニューラルネットワークプログラム
JP2015177470A (ja) * 2014-03-17 2015-10-05 富士通株式会社 抽出プログラム、方法、及び装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5801770A (en) * 1991-07-31 1998-09-01 Sensormatic Electronics Corporation Surveillance apparatus with enhanced control of camera and lens assembly
US5812193A (en) * 1992-11-07 1998-09-22 Sony Corporation Video camera system which automatically follows subject changes
WO1994029670A1 (fr) * 1993-06-10 1994-12-22 Kabushiki Kaisha Oh - Yoh Keisoku Kenkyusho Appareil pour mesurer la position d'un objet en mouvement
US5764786A (en) * 1993-06-10 1998-06-09 Kuwashima; Shigesumi Moving object measurement device employing a three-dimensional analysis to obtain characteristics of the moving object
KR100322751B1 (ko) * 1999-08-05 2002-02-07 김운용 팬/틸트 카메라 제어방법
JP2009211294A (ja) * 2008-03-03 2009-09-17 Nippon Hoso Kyokai <Nhk> ニューラルネットワーク装置及びそれを用いたロボットカメラ制御装置並びにニューラルネットワークプログラム
JP2015177470A (ja) * 2014-03-17 2015-10-05 富士通株式会社 抽出プログラム、方法、及び装置
US9892320B2 (en) 2014-03-17 2018-02-13 Fujitsu Limited Method of extracting attack scene from sports footage

Similar Documents

Publication Publication Date Title
Grosso et al. Robust visual servoing in 3-D reaching tasks
Hager et al. Robot feedback control based on stereo vision: Towards calibration-free hand-eye coordination
US5559695A (en) Apparatus and method for self-calibrating visual time-to-contact sensor
CN104786226A (zh) 抓取在线工件的机器人位姿及运动轨迹定位系统与方法
JP2000293695A (ja) 画像処理装置
JPH04344503A (ja) ロボットの数値制御装置
CN107223220A (zh) 云台控制方法、装置及云台
Elsheikh et al. Practical design of a path following for a non-holonomic mobile robot based on a decentralized fuzzy logic controller and multiple cameras
Sharma et al. A framework for robot motion planning with sensor constraints
JPH02140073A (ja) カメラの自動追尾制御装置,対象物の自動追尾装置,追尾制御を利用した対象物の方向検出装置,ならびに追尾制御を利用したロボット制御装置
Sharma et al. On the observability of robot motion under active camera control
Han et al. Grasping control method of manipulator based on binocular vision combining target detection and trajectory planning
Xu et al. Seam tracking and visual control for robotic arc welding based on structured light stereovision
JPH0755439A (ja) 三次元形状計測装置
Chen et al. Application of visual servoing to an X-ray based welding inspection robot
CN109542094B (zh) 无期望图像的移动机器人视觉镇定控制
JPH09146633A (ja) ロボットの誘導方法および誘導システム
JPH05318280A (ja) 研削ロボットの研削姿勢生成装置
JP2686685B2 (ja) ロボットによる物体操作のための能動的カメラ探索装置
JP2005186193A (ja) ロボットのキャリブレーション方法および三次元位置計測方法
Ma et al. Selection of observation position and orientation in visual servoing with eye-in-vehicle configuration for manipulator
JPH06270083A (ja) ワーク位置検知装置
CN116100562B (zh) 多机器人协同上下料的视觉引导方法及系统
WO2023012894A1 (ja) ロボットシステム、制御装置、診断方法および診断プログラム
Sharma et al. Integrating configuration space and sensor space for visionbased robot motion planning