JPH0788791A - ロボット装置およびその周辺装置 - Google Patents

ロボット装置およびその周辺装置

Info

Publication number
JPH0788791A
JPH0788791A JP5233784A JP23378493A JPH0788791A JP H0788791 A JPH0788791 A JP H0788791A JP 5233784 A JP5233784 A JP 5233784A JP 23378493 A JP23378493 A JP 23378493A JP H0788791 A JPH0788791 A JP H0788791A
Authority
JP
Japan
Prior art keywords
bit string
image
work
recognition
fitness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP5233784A
Other languages
English (en)
Other versions
JP3426002B2 (ja
Inventor
Manabu Hashimoto
橋本  学
Kazuhiko Washimi
和彦 鷲見
Miwako Hirooka
美和子 広岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP23378493A priority Critical patent/JP3426002B2/ja
Publication of JPH0788791A publication Critical patent/JPH0788791A/ja
Application granted granted Critical
Publication of JP3426002B2 publication Critical patent/JP3426002B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Manipulator (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Numerical Control (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【目的】 物体の表面に特別な識別用のマークを付加す
る必要がなく、対象物体を安定に識別して移載作業が正
確に行えるロボット装置、およびその周辺装置を得る。 【構成】 撮像された画像よりワークの2次元的な配置
を認識して距離計測プランを決定し、それに従って計測
したワークの高さの計測値を前記2次元配置情報と統合
してワークの3次元的な配置を認識し、ロボット動作プ
ランを計算するロボット装置、および、ハフ変換処理に
よる投票、輪郭テンプレートによるEPTM、あるいは
遺伝的アルゴリズムによるビット列操作などによって物
体認識の信頼度を向上させ、かつ処理を高速化した、物
体認識装置、画像処理装置、および情報処理装置。

Description

【発明の詳細な説明】 【産業上の利用分野】
【0001】この発明は、視覚装置を備えたロボット装
置、およびワークの認識などのための物体認識装置、画
像処理装置、情報処理装置等のロボット装置の周辺装置
に関するものである。
【0002】
【従来の技術】
従来の技術1.図55は例えば、特開平3−23449
1号公報に示された、従来のロボットを用いた自動移載
装置を示すブロック図である。図において、1は移載さ
れるワークとしての荷であり、2はこの荷1が載せられ
るパレット、3は荷1が載せられたパレット2を移送す
るコンベアである。4はコンベア3で移送される荷1を
移載するロボットであり、5はこのロボット4のロボッ
ト動作を制御するロボットコントローラである。6はパ
レット2が第1の位置に達したことを検出する第1の光
センサ、7はパレット2が第2の位置に達したことを検
出する第2の光センサであり、8は荷1に投射されたレ
ーザ光、9はこのレーザ光8の投射を行うレーザ光源で
ある。10は第2の位置に達した荷1を前記レーザ光8
とともに撮像する第1のカメラ、11はこの第1のカメ
ラ10で撮像された画像の処理を行う第1の画像処理装
置であり、12は第1の位置に達した荷1を撮像する第
2のカメラ、13は第2のカメラ12で撮像された画像
の処理を行う第2の画像処理装置である。14はこれら
第1および第2の画像処理装置11,13の処理結果な
どをもとに、当該自動移載装置全体の制御を行う統括コ
ントローラであり、15は荷1に予めつけられた固有マ
ークである。16はコンベア3を移動させるモータ、1
7はその回転速度を監視するパルスエンコーダであり、
18はコンベア3の制御を行うコンベアコントローラで
ある。
【0003】次に動作について説明する。ここで、図5
6はその動作の流れを示すフローチャートである。ロボ
ット4により移載されるべき荷1はパレット2上に載
り、パレット2はコンベア3の上に置かれている。コン
ベア3はコンベアコントローラ18の制御によって矢印
aで示す図の右方向に移動しており、まず第2の光セン
サ7によってパレット2が第2の位置に到達したことが
確認され(ステップST1)、それによってレーザ光源
9よりレーザ光8が荷1に対して照射される(ステップ
ST2)。そして、このレーザ光8を含む荷1の映像が
第1のカメラ10によって斜め上方より撮像されて(ス
テップST3)、その画像が第1の画像処理装置11で
処理され、レーザ光8の画像上の位置を検出することに
より荷1の高さが検出される(ステップST4)。次
に、コンベア3がさらに右方向に移動し、パレット2が
第1の位置に到達したことが第1の光センサ6によって
検出される(ステップST5)。この第1の位置では、
第2のカメラ12によって荷1の画像が上方より撮像さ
れ(ステップST6)、第2の画像処理装置13で処理
されて、荷1に予めつけられている固有マーク15が検
出される(ステップST7)。次いで、前記レーザ光8
の位置検出によって得られた荷1の高さと、固有マーク
15の認識により得られた荷1の位置および姿勢(向
き)の情報が統括コントローラ14に送られ、統括コン
トローラ14はそれをもとに、ロボットコントローラ5
に対してロボット4の動作指令を出力し、移載作業を実
行する(ステップST8)。
【0004】従来の技術2.また、図57は例えば、特
開平4−244391号公報に示された、従来のロボッ
トを用いた自動移載装置を示すブロック図である。図に
おいて、20はロボットによって移載される箱状のワー
クであり、21はこのワーク20が載せられるパレット
である。22はワーク20の平面配置を撮像するカメラ
であり、23はカメラ22の撮像した画像を処理する画
像処理装置、24はこの画像処理装置23が参照する箱
サイズ情報ファイルである。25は画像処理装置23の
処理結果に従ってロボットを制御するロボット制御部、
26はこのロボット制御部25によって制御されるロボ
ット、27はそのロボットハンドであり、28はワーク
20の高さを測定するためにロボットハンド27に取り
付けられた距離センサである。29はワークが移載され
る目的のコンベアである。
【0005】次に動作について説明する。この装置は上
記公開特許公報内では「段バラシ装置」と呼ばれてお
り、段積みされたワーク20をロボットハンド27によ
って把持し、取り出すという動作を行う装置で、従来の
技術1で説明した自動移載装置と同様の目的で使用され
る技術である。なお、図58はこの従来の技術2による
自動移載装置の動作の流れを示すフローチャートであ
る。
【0006】ロボット26によって移載されるべき荷で
あるワーク20はパレット21の上に載せられており、
カメラ22によってその平面的な配置が撮影されて取り
込まれる(ステップST11)。取り込まれた画像は画
像処理装置23に送られ、図示を省略した箱輪郭抽出手
段によってワーク20のエッジ部が抽出される(ステッ
プST12)。このとき、箱サイズ情報ファイル24に
記憶されている箱サイズ情報が画像処理装置23によっ
て参照される。続いて、以後の処理を簡単にするための
ラベルを、図示を省略した箱ラベリング手段によってワ
ーク20に付与する(ステップST13)。次いで、抽
出されたワーク20の輪郭よりその高さを計測するにあ
たって、距離センサ28を効率的に操作させるための最
少数のスキャン位置が決定される(ステップST1
4)。
【0007】ここで、図59は箱状のワーク20がパレ
ット21に載っている様子を模式的に示した斜視図であ
り、図中にLで示した走査ラインは、決定されたスキャ
ン位置の一部分である。距離センサ28はこの走査ライ
ンLに沿って移動してワーク20の高さを測定し(ステ
ップST15)、距離計測結果が取り出される(ステッ
プST16)。また、図60はこの走査ラインLに沿っ
てワーク20の高さを測定した距離計測結果を示すもの
で、横軸は走査ラインLの延長方向(x)、縦軸は測定
結果の距離(z)である。この例においては、高い位置
にある箱(ワーク20)の高さが距離z1、低い位置に
ある箱の高さが距離z2であり、y軸に平行な輪郭線の
位置がe1〜e4に表われている。得られた箱の形状情
報と高さ情報とから、順次取り出すべきワーク20とそ
の取り出しの方向を決定する(ステップST17)。目
的のワーク20はロボットハンド27によってハンドリ
ングされて、目的のコンベア29に移載される(ステッ
プST18)。所望のワーク20が全て移載されるまで
以上の処理が繰り返され、全ての移載の完了が検出され
ると(ステップST19)一連の処理が終了する。
【0008】従来の技術3.また、図61は例えば、実
開平61−110640号公報に示された、従来のロボ
ットを用いた自動移載装置を示すブロック図である。図
において、30はロボットによって移載されるワークと
しての荷であり、31はこの荷30が載せられるパレッ
ト、32は荷30が載せられたパレット31を昇降させ
るテーブルリフレクタである。33は荷30の積載レベ
ルを検出するレベル検知装置、34はこのレベル検知装
置33の検知出力に基づいてテーブルリフレクタ32の
昇降を制御するテーブルリフレクタコントローラであ
り、35はその荷30の移載作業を実行するロボットで
ある。36は荷30の平面配置を撮像するイメージセン
サであり、37はマイクロコンピュータやロボットコン
トローラよりなり、イメージセンサ35からの画像を処
理してロボット35を制御する制御装置、38はこの制
御装置37が接続されたホストコンピュータである。ま
た、図62は前記ワークとしての荷30の一例を示す斜
視図であり、図中、39はこの荷30の上面に記された
固有マークである。この固有マーク39は荷30の上面
の対角線にそって2つ配置され、荷30の積載方向を識
別可能とするために互いに異なる形状を持っている。
【0009】次に動作について説明する。ここで、図6
3はその動作の流れを示すフローチャートである。荷3
0を移載するに際して、まず最初にパレット31の位置
決めが行われる(ステップST21)。荷を積載したパ
レット31はテーブルリフレクタ32によって上昇させ
られ、最上段の荷30が移載レベルに達したことがレベ
ル検知装置33によって検知されると、テーブルリフレ
クタコントローラ34の制御によってテーブルリフレク
タ32の上昇は停止する。次に、イメージセンサ36に
よって荷30の上面の画像が撮像されて制御装置37に
入力される(ステップST22)。一方、移載対象とな
る荷30には図62に示したような固有マーク39が設
けられており、制御装置37はこの固有マーク39を認
識することにより(ステップST23)、その固有マー
ク39の位置と方向から荷30の位置と向きとを認識す
る(ステップST24)。最後に、制御装置37よりロ
ボット35に対して、荷30の位置と向きより算出した
荷30の中心部の座標が与えられ、所望の移載作業が実
行される(ステップST35)。
【0010】従来の技術4.また、図64は例えば、1
990年電子情報通信学会春季全国大会の発表論文D−
507「エッジ点列を用いたテンプレートマッチング
法」(橋本 学 他2名 予稿集 7−259頁)に示
された、従来の物体認識装置を示すブロック図である。
図において、40はテンプレート画像のエッジを検出す
るエッジ検出手段、41は検出されたエッジ画像を追跡
してエッジ点列を列挙・抽出するエッジ点追跡手段、4
2はそのエッジ点列を格納するエッジ点バッファであ
り、43はオフセット値を加算するオフセット加算手段
である。44はサンプル画像のエッジを検出するエッジ
検出手段、45はそのエッジ画像の膨張処理を行う画像
膨張手段であり、46は膨張処理されたエッジ画像が格
納される膨張画像格納手段である。47はオフセット値
が加算されたテンプレートのエッジ点列と膨張処理され
たエッジ画像とを重ね合わせてマッチングスコアを計算
するマッチングスコア計算手段であり、48は計算され
たマッチングスコアをマッチングスコアマップに格納す
るマッチングスコアマップ格納手段である。
【0011】次に動作について説明する。ここで、図6
5はその動作の流れを示すフローチャートである。ま
ず、テンプレートのもととなる原画像であるテンプレー
ト画像よりそのエッジをエッジ検出手段40で検出し、
さらに検出されたエッジ画像をエッジ点追跡手段41で
追跡してエッジ点列Xi,Yiの抽出を行い、その1次
元点列データ(テンプレート)をエッジ点バッファ42
に格納する(ステップST31)。一方、マッチング対
象の画像であるサンプル画像よりそのエッジをエッジ検
出手段44で検出し(ステップST32)、標本化やエ
ッジ検出の際に生ずる誤差を吸収するために、この検出
されたエッジ画像に対して必要に応じて膨張処理を施す
(ステップST33)。この膨張処理されたエッジ画像
は膨張画像格納手段46に一旦格納される。次に、エッ
ジ点バッファ42に格納されていたテンプレートXi,
Yiに適当なオフセット値dx,dyが加算されて、膨
張画像格納手段46に格納されていたエッジ画像を重ね
合わされ、次の式(1)で定義されるマッチング度M
(dx、dy)がマッチングスコア計算手段47におい
て計算される(ステップST34)。
【0012】 M(dx,dy)=ΣR(Xi+dx,Yi+dy) ‥‥‥‥‥(1) i=0,1,2,‥‥‥‥,n
【0013】なお、上記式(1)においてRは膨張処理
後のエッジ画像であり、この式(1)で求められたマッ
チングスコアMはマッチングスコアマップ格納手段48
に格納される(ステップST35)。このマッチングス
コアMのピーク点を求めることでマッチングが完了す
る。
【0014】従来の技術5.また、図66は例えば「画
像解析ハンドブック」(監修;高木 幹雄、下田陽久
発行;1991年1月17日 東京大学出版会)の第5
72〜573頁に示された、従来の画像処理装置におけ
るハフ(Hough )変換による画像処理の内容を示す説明
図であり、図67はそのハフ変換処理の流れを示すフロ
ーチャートである。以下、それらをもとにハフ変換によ
る画像処理について説明する。ハフ変換を行うために
は、まず原画像のエッジ検出を行う(ステップST4
1)。検出されたハフ変換すべきエッジ画像のエッジ点
A〜Gをx−y平面上に示したものが図66(a)であ
る。次に、ハフ平面としてρ−θ平面(画像)を用意
し、以下の手順でハフ変換を実行する。即ち、図66
(a)に示したエッジ画像中の各エッジ点(i,j)に
ついて次の式(2)に従ってρとθの関係を求め、対応
するハフ平面であるρ−θ平面上の画素に投票する(ス
テップST42)。
【0015】 ρ=i・cos(θ)+j・sin(θ) ‥‥‥‥‥(2)
【0016】ここで、図66(b)は図66(a)にA
〜Gで示された各エッジ点に対応するハフ平面上の投票
軌跡を描いたものである。このステップST42による
投票操作はエッジ画像中の全てのエッジ点画素A〜Gに
ついてそれぞれ実行される。次にハフ平面上を操作して
ピーク点を検出する(ステップST43)。そのピーク
位置に対応するρとθの値から、上記式(2)によって
iとjとの関係、即ち、エッジ画像平面における直線の
方程式が求められる(ステップST44)。
【0017】従来の技術6.また、図68は例えば「ロ
ボットビジョン」(著;谷内田 正彦 発行;1990
年10月30日 昭晃堂)の第195〜197頁に示さ
れた、従来の画像処理装置における3次元認識処理の流
れを示すフローチャートである。物体を認識するため
に、まずシーンから特徴の抽出を行う(ステップST5
1)。この場合には、生成した距離画像の2次微分を行
ってゼロ交叉点を求め、同一平面上にのっているものに
グループ化して直線や円弧にて記述する。この特徴量と
して、ここではエッジの長さや形、さらにはそれを構成
する両隣の面の形などが使用される。次に、シーンの解
釈のために重要そうな特徴の選択が行われる(ステップ
ST52)。即ち、認識を行うのに重要そうな特徴から
順にモデルとの照合を行ってゆく。この重要そうな特徴
とモデルとの照合によって解釈の候補を求める(ステッ
プST53)。解釈の候補が得られたならば、モデルを
当てはめることによって解釈の正しさを検証する(ステ
ップST54)。検証の結果、正しい解釈であると確認
されると、シーン内の全ての特徴に対して解釈が終了し
たか否かを判定し(ステップST55)。終了していな
ければ上記の処理を繰り返す。シーン内の全ての特徴が
解釈されたことが検出されると、一連の処理を終了す
る。
【0018】従来の技術7.また、図69は例えば「パ
ート5 遺伝的アルゴリズム 最適化問題を繰り返し操
作で解く」(松原 仁 日経バイト 1992年6月号
第264〜267頁)に示された、従来の情報処理装
置の遺伝的アルゴリズムにおける遺伝子の集団を示す説
明図、図70はその遺伝子の交叉を示す説明図であり、
図71はその処理の流れを示すフローチャートである。
まず最初に、図69に示すように解くべき問題を1次元
の遺伝子に割り付けて遺伝子の集団を決定する。なお、
この集団の遺伝子の数nや各遺伝子のビット数kをどれ
くらいにするかは問題によって異なるものである。次
に、集団の各遺伝子の適合度関数の値を計算する(ステ
ップST61)。そして、得られた適合度に応じて、高
い適合度をもつ遺伝子ほど高い期待値となるように、遺
伝子の複製を行う(ステップST62)。次に、その複
製された遺伝子集合に対して、予め定められているある
確率に従って遺伝子の交叉を行わせる(ステップST6
3)。この遺伝子の交叉は図70に示すように、2つの
遺伝子の同じ位置、例えば図70に1点鎖線で示した位
置において切断し、それぞれを入れ替えるという操作に
よって実現される。次に、その遺伝子にさらにある確率
で突然変異を起こさせる(ステップST64)。この突
然変異には、遺伝子の適当な位置のビットの“1”と
“0”とを反転させる「反転」の他にも、「削除」や
「挿入」などのバリエーションが上記文献中にもいくつ
か例示されている。得られた遺伝子による新しい世代を
もとに、前述のステップST61〜ST64の処理を繰
り返す。その結果、徐々に適合度の高い遺伝子が出現し
て集団の中で増殖してゆく。この適合度の高い遺伝子こ
そが求める遺伝子、即ち情報である。
【0019】
【発明が解決しようとする課題】従来の技術1に示され
たロボットを使用した自動移載装置は前述のように構成
されているので、帯状のレーザ光8を投光することで荷
1の高さ方向を得ており、荷1の2次元的配置が既知、
またはずれの許容度が既知でないと物体それぞれを同定
することが困難であり、高さ情報と配置パターンとの統
合を誤る可能性があるばかりか、荷1の上面に固有マー
ク15を必要とし、固有マーク15を付加するために余
分なコストを必要とするなどの問題点があった。
【0020】また、従来の技術2に示された段バラシ装
置によるロボットを用いた自動移載装置は前述のように
構成されているので、エッジを見つけるのに距離センサ
28を走査して得られる高さ分布情報を使用しており、
隣接するワーク20と密着しているワーク20の場合に
はエッジが見つけにくく、また、高さ計測に連続した距
離データを必要とするため、データ処理のコストがかか
るばかりか、ワーク20の向きによらずx軸に平行なス
キャン位置を生成するため、2次元的に傾いたワーク2
0などでは認識の信頼性が劣化するなどの問題点があっ
た。
【0021】また、従来の技術3に示されたロボットを
使用した自動移載装置は前述のように構成されているの
で、最上段の荷30の上面が所定の位置にきたことをレ
ベル検知装置33で検出して荷30の移載を行うもので
あるため、荷30が積載されたパレット31をテーブル
リフレクタ32で上下させ、所定位置で停止させる制御
を行うことが必要となり、また、荷30の上面に固有マ
ーク39を設けておく必要もあり、そのために余分なコ
ストがかかるなどの問題点があった。
【0022】また、従来の技術4に示された物体認識装
置は前述のように構成されているので、物体の認識を行
う場合に、物体の輪郭または画像パターン上のエッジの
存在する部分についてのみがテンプレートとして登録さ
れて、マッチングに使用されるため、マッチング対象と
なる物体の方にテンプレートの一部と類似したパターン
が存在する場合には、マッチングの信頼性が低下すると
いう問題点があった。
【0023】また、従来の技術5に示された画像処理装
置は、前述のようにハフ変換による画像処理を行ってい
るので、エッジ画像上の全ての点それぞれについて、ハ
フ平面での曲線に対応して投票を行うことが必要とな
り、投票に時間がかかり、しかもピーク点が探索しにく
いという問題点があった。
【0024】また、従来の技術6に示された画像処理装
置は、前述のように3次元的認識処理を行っているので
認識すべき対象画像の特徴量は重要な順に認識に用いら
れ、特徴の信頼性が低いものは認識にはほとんど使用さ
れず、シーン全体として合理的な解釈を求めることが必
要な場合には不向きであるという問題点があった。
【0025】また、従来の技術7に示された情報処理装
置は、前述のように遺伝的アルゴリズムを用いて処理し
ているので、適合度というひとつの指標のみによって世
代交代のもととなる親の複製を生成しているため、あっ
てはいけない遺伝子の形、即ち致死遺伝子を表現するこ
とが困難であり、また、世代交代の途中で現れて淘汰さ
れていった遺伝子を解とすることが困難であるなどの問
題点があった。
【0026】請求項1〜5に記載した発明は、従来の技
術1および2における上記のような問題点を解消するた
めになされたもので、認識用の固有マークを設ける必要
がなく、認識対象の2次元的な配置やずれの許容度が既
知ではなく、また隣接した認識対象が密着していたり2
次元的に傾いていても、高さ測定を精度よく、低コスト
で高速に行える視覚装置を備えたロボットを得ることを
目的とする。
【0027】また、請求項6〜8に記載した発明は、従
来の技術3における上記のような問題点を解消するため
になされたもので、認識用の固有マークを設ける必要が
なく、認識対象の位置や姿勢を高い精度で認識できる物
体認識装置を得ることを目的とする。
【0028】また、請求項9に記載した発明は、従来の
技術4における上記のような問題点を解消するためにな
されたもので、マッチングの信頼性が高い物体認識装置
を得ることを目的とする。
【0029】また、請求項10に記載した発明は、従来
の技術5における上記のような問題点を解消するために
なされたもので、エッジ画像上のエッジ点をハフ平面に
投票するための時間が短く、ピーク点も探索しやすい画
像処理装置を得ることを目的とする。
【0030】また、請求項11および12に記載した発
明は、従来の技術6における上記のような問題点を解消
するためになされたもので、シーン全体の合理的な解釈
にも適した画像認識装置を得ることを目的とする。
【0031】また、請求項13および14に記載した発
明は、従来の技術7における上記のような問題点を解消
するためになされたもので、致死遺伝子などの表現、さ
らには淘汰されてしまった遺伝子の表現も容易な情報処
理装置、あるいは画像処理装置を得ることを目的とす
る。
【0032】
【課題を解決するための手段】請求項1に記載の発明に
係るロボット装置は、撮像手段、画像認識手段、距離計
測プラン部、距離計測手段、ワーク配置認識手段、およ
びロボット動作プラン部を有し、撮像された画像よりワ
ークの2次元配置を認識して距離計測プランを決定し、
それに従って計測した計測結果を2次元配置情報と統合
してワークの3次元配置を認識し、ロボットの動作プラ
ンを計算するものである。
【0033】また、請求項2に記載の発明に係るロボッ
ト装置は、標準距離計測手段を付加し、その測定結果を
用いた粗い3次元配置認識を行い、その認識結果に基づ
く距離計測プランで計測した結果により、その粗い3次
元配置認識の結果を補正するようにしたものである。
【0034】また、請求項3に記載の発明に係るロボッ
ト装置は、法線方向認識手段を付加し、1つのワークあ
たり3点以上の計測点で距離を計測してワーク上面の法
線方向を計算し、その法線方向よりロボットの動作プラ
ンを計算するものである。
【0035】また、請求項4に記載の発明に係るロボッ
ト装置は、ワークモデル格納部に複数の標準モデルを格
納しておき、粗い2次元配置認識結果に基づいて選択し
た標準モデルにより精密な2次元配置認識を行うもので
ある。
【0036】また、請求項5に記載の発明に係るロボッ
ト装置は、光ビーム投光手段を付加し、距離センサの距
離計測ビームと平行に撮像手段で撮像可能なポインタビ
ームを投光するようにしたものである。
【0037】また、請求項6に記載の発明に係る物体認
識装置は、画像入力手段、エッジ検出手段、座標交換手
段、物体候補抽出手段、信頼度計算手段、および画像認
識手段を有し、エッジ画像の座標変換・投票結果をもと
に抽出した認識対象の物体候補についてそれぞれの信頼
度を計算し、それに基づいて物体の位置と配置パターン
を認識するものである。
【0038】また、請求項7に記載の発明に係る物体認
識装置は、テンプレート格納手段とパターン検出手段を
付加し、座標変換・投票による物体候補の抽出と、テン
プレートマッチングによる物体候補の抽出が行えるよう
にしたものである。
【0039】また、請求項8に記載の発明に係る物体確
認装置は、信頼度計算手段に認識対象物体の輪郭を表現
した輪郭テンプレートを持たせ、各物体候補についてそ
の輪郭テンプレートによるエッジ点列テンプレートマッ
チング(Edge Point Tempel-ate Matching, 以下EPT
Mという)を行い、それによって得られた類似度よりそ
の物体候補の信頼度を算出するものである。
【0040】また、請求項9に記載の発明に係る物体確
認装置は、信頼度計算手段に、上記輪郭テンプレートの
他に、物体輪郭の存在しない部分を表現するテンプレー
トも持たせたものである。
【0041】また、請求項10に記載の発明に係る画像
処理装置は、エッジ検出手段、水平線投票手段、垂直線
投票手段、および水平・垂直線以外投票手段を有し、エ
ッジ画像を水平および垂直に走査して、水平線分または
垂直線分である可能性の高い点列についてはまとめて点
としてハフ投票平面に投票し、そのいずれである可能性
も低い点列については、ハフ変換式に基づいて曲線とし
てハフ投票平面に投票するものである。
【0042】また、請求項11に記載の発明に係る画像
処理装置は、画像入力手段、物体候補抽出手段、ビット
列定義手段、初期ビット列生成手段、適応度計算手段、
およびビット列操作手段を有し,画像の解釈をビットの
列で表現し、予め設定した手順で複数のビット列を発生
させて、各ビット列の適応度を算出して、適応度の高い
ビット列から新たなビット列を生成したり、予め設定さ
れた割合でビット列の変換を行う操作を繰り返し、より
適応度の高いビット列を得ることで画像の解釈を行うも
のである。
【0043】また、請求項12に記載の発明に係る画像
処理装置は、上記ビット列の配列を全て2次元配列とし
たものである。
【0044】また、請求項13に記載の発明に係る画像
処理装置は、最大適応度ビット列計算手段と結果ビット
列格納手段を付加し、最大適応度をもつビット列が一定
時間以上不変であった場合にその当該ビット列を随時付
加保存し、最終的に保存された複数のビット列に対応す
る複数の画像解釈結果をもって当該画像処理装置の出力
とするものである。
【0045】また、請求項14に記載の発明に係る情報
処理装置は、初期ビット列生成手段、適応度計算手段、
不適応度計算手段、ビット列選択手段、新ビット列生成
手段、ビット列操作手段、ビット列格納手段、およびビ
ット列削除手段を有し、各々のビット列について適応度
と不適応度を算出し、不適応度が一定値以上の場合には
そのビット列を削除し、高い適応度を持つビット列ほど
選択確率が高くなるように設定して選択した複数のビッ
ト列より新しいビット列を生成し、そのビット列に対し
て交叉や突然変異などのビット操作を行い、その適応度
と不適応度を計算し、算出された不適応度が一定値以上
ならそのビット列を削除し、一定値以下ならビット列群
に追加して適応度の低いビット列をそのビット列群より
削除し、この一連の動作の繰り返しによって、より適応
度の高いビット列を生成するものである。
【0046】
【作用】請求項1に記載の発明におけるロボット装置
は、撮像手段により撮像された画像からワークの2次元
的な配置を認識し、その認識結果に基づいて決定された
距離計測プランに従って計測された距離情報を2次元配
置情報と統合してワークの3次元的な配置を認識し、ロ
ボット動作のための動作プランを計測するように作用す
る。
【0047】また、請求項2に記載の発明におけるロボ
ット装置は、撮像手段により撮像された画像に対する処
理が開始されると同時に、別途格納された標準的距離計
測プランに基づく距離計測が開始され、画像認識は前記
標準的距離計測プランに基づく距離計測結果を使用して
粗い3次元認識を行い、さらにその結果に基づく距離計
測プランに従って再度距離計測を実行し、その距離計測
結果により前記粗い3次元認識結果を修正してロボット
動作のための動作プランを計算するように作用する。
【0048】また、請求項3に記載の発明におけるロボ
ット装置は、決定された距離計測プランに基づいて1つ
のワークあたり3点以上の計測点について距離計測を行
ってワークごとの法線方向を計算し、前記距離情報を2
次元配置情報と統合してワークの3次元的な配置を認識
し、さらに前記法線情報をもとにロボットハンドの位置
と姿勢を含めたロボット動作のための動作プランを計算
するように作用する。
【0049】また、請求項4に記載の発明におけるロボ
ット装置は、ワークの粗い2次元的な配置の認識結果に
基づく距離計測プランに従って実行された距離計測の計
測結果を使用して、個々のワークに対する標準モデルを
選択し、その標準モデルによって精密な2次元配置認識
を行い、その情報と距離計測結果を統合してワーク3次
元的な配置を認識し、ロボット動作のための動作プラン
を計算するように作用する。
【0050】また、請求項5に記載の発明におけるロボ
ット装置は、ワークの2次元的な配置の認識結果をもと
に決定された距離計測プランに従って、超音波センサな
どの光学的手段を用いないセンサによる距離計測を行
い、その時、超音波ビームと平行して光ビームを投光し
て、その光ビームの位置を画像処理により検出すること
により距離計測点を検出し、その2次元配置認識結果と
距離計測結果を統合してワークの3次元的な配置を認識
し、ロボット動作のための動作プランを計算するように
作用する。
【0051】また、請求項6に記載の発明における物体
認識装置は、対象物体を撮像して得られた原画像をエッ
ジ検出し、それを座標変換して投票平面に投票した投票
結果をもとに認識対象の物体候補を抽出し、さらに、物
体候補各々に関して信頼度の計算を行い、その信頼度を
もとに画像中の物体の位置と配列パターンを認識するよ
うに作用する。
【0052】また、請求項7に記載の発明における物体
認識装置は、物体のモデル登録時に、座標変換・投票に
よるパターンの抽出が選択された場合には、原画像から
検出されたエッジの座標変換・投票により投票平面が生
成されて、その投票平面から物体候補が抽出され、テン
プレートマッチングによるパターンの抽出が選択された
場合には、原画像に対してテンプレートマッチングによ
り物体候補が抽出され、そのどちらの場合でも物体候補
各々の信頼度の計算を行って、その信頼度をもとに画像
中の物体の位置と配列パターンを認識するように作用す
る。
【0053】また、請求項8に記載の発明における物体
認識装置は、予め認識対象の物体輪郭を表現した輪郭テ
ンプレートを登録しておき、対象物体を撮像して得られ
た原画像をエッジ検出し、座標変換して投票平面に投票
した投票結果をもとに物体候補の抽出を行い、さらに、
物体候補各々に関して、前記輪郭テンプレートによるE
PTMにより信頼度の計算を行って、その信頼度をもと
に画像中の物体の位置と配列パターンを認識するように
作用する。
【0054】また、請求項9に記載の発明における物体
認識装置は、認識対象の物体輪郭を表現した輪郭テンプ
レートと、物体の輪郭が存在しない部分を登録したテン
プレートを予め登録しておき、エッジ検出された対象物
体の投票平面への投票結果をもとに物体候補の抽出を行
い、さらに、物体候補各々に関して、前記2種類のテン
プレートによるEPTMにより信頼度を計算して、その
信頼度をもとに画像中の物体の位置と配列パターンを認
識するように作用する。
【0055】また、請求項10に記載の発明における画
像処理装置は、原画像より検出されたエッジ画像を水平
に走査して検出した水平線分を水平線投票手段により、
また、垂直に走査して検出した垂直線分を垂直線投票手
段により、それぞれハフ投票平面に点として投票すると
ともに、水平線分または垂直線分のどちらでもないエッ
ジ画像上のエッジ点については従来のハフ変換操作によ
り前記ハフ投票平面に曲線として投票し、最後にそのハ
フ投票平面を探索して局所的ピークを検出し、対応する
原画像上の直線を検出するように作用する。
【0056】また、請求項11に記載の発明における画
像処理装置は、撮像された原画像から抽出された複数の
物体候補の画像上での、存在有無を1ビットの情報(有
=1、無=0など)で表現したビット列を生成し、初期
ビット列として複数のビット列群を生成して、それぞれ
のビット列に対して正しいシーン解釈である可能性を示
す適応度の計算を行い、その適応度をもとに適応度の高
いビット列ほど高い確率で選択するように前記ビット列
群の中から複数のビット列を選択し、さらに予め設定し
た割合で一定の手順によるビット列操作を行い、結果と
して発生した新しいビット列を前記ビット列群に加える
とともに、適応度の低いビット列を削除することで前記
ビット列群の更新を行い、この適応度計算からビット列
群更新までの処理を繰り返すことにより、より適応度の
高いビット列を生成するように作用する。
【0057】また、請求項12に記載の発明における画
像処理装置は、撮像された原画像から抽出された複数の
物体候補の画像上での、存在有無を1ビットの情報(有
=1、無=0など)で表現した2次元のビット列を、2
次元の原画像中の物体候補の位置に対応させて生成し、
初期ビット列として複数の2次元ビット列群を生成し
て、それぞれのビット列に対して正しいシーン解釈であ
る可能性を示す適応度の計算を行い、その適応度をもと
に適応度の高いビット列ほど高い確率で選択するように
前記ビット列群の中から複数のビット列を選択し、さら
に予め設定した割合で一定の手順によるビット列操作を
行い、結果として発生した新しいビット列を前記ビット
列群に加えるとともに、適応度の低いビット列を削除す
ることで前記ビット列群の更新を行い、この適応度計算
からビット列群更新までの処理を繰り返すことにより、
より適応度の高い2次元ビット列を生成するように作用
する。
【0058】また、請求項13に記載の発明における画
像処理装置は、請求項11に記載した発明における適応
度計算からビット列群更新までの処理を繰り返す過程に
おいて、各段階でのビット列群における最大適応度をも
つビット列の番号を記憶し、そのビット列が一定時間以
上不変であった場合に、当該ビット列を結果ビット列格
納手段に随時付加保存し、最終的に結果ビット列保存手
段に格納された複数のビット列に対応する画像の解釈を
もって出力結果とするように作用する。
【0059】また、請求項14に記載の発明における情
報処理装置は、最適化問題をコーディングした初期ビッ
ト列群に属する各々のビット列について、ビット列が最
適である可能性としての度合いを示す適応度と、最適で
ない度合いを示す不適応度を算出し、その不適応度を検
査してそれが一定以上であった場合にはそのビット列の
削除を行い、次に前記適応度に基づいて、高い適応度を
持つビット列ほど選択される確率が高くなるように複数
のビット列の選択を行って、交叉および突然変異の操作
を行い、新しく生成した前記ビット列の適応度と不適応
度を計算して、不適応度が一定以上ならそのビット列を
削除し、一定以下ならそれをビット列群に加えて、適応
度の低いビット列の削除を行い、この一連の操作を繰り
返すことにより、より適応度の高いビット列を生成する
ように作用する。
【0060】
【実施例】
実施例1.以下、この発明の実施例1を図について説明
する。図1は請求項1に記載した発明の一実施例を示す
構成図である。図において、50は例えばパレット(図
示省略)上に積載された複数のワークであり、51はこ
のワーク50の移載作業を実行するロボット、52はこ
のロボット51のロボットハンドである。53はワーク
50の上面の画像を撮像する撮像手段としてのテレビカ
メラであり、54はこのテレビカメラ53によって撮像
されたワーク50の2次元的な配置を認識する画像認識
手段である。55はこの画像認識手段54によって認識
されたワーク50の配置に基づいて、ワーク50の高さ
を測定するための最適な測定点を算出し、距離計測プラ
ンの作成を行う距離計測プラン部であり、56はこの距
離計測プラン部55が作成した距離計測プランに従っ
て、1つのワーク50に対して少なくとも1点のワーク
高さ測定点の高さを計測する距離計測手段、57はこの
距離計測手段56の距離センサ(超音波センサ)であ
る。58は画像認識手段54の認識結果と距離計測手段
56の計測結果より、ワーク50の3次元的な配置を認
識するワーク配置認識手段であり、59はこのワーク配
置認識手段58の認識結果に基づいて、ワーク50を移
載するためのロボット51の動作プランを算出するロボ
ット動作プラン部である。
【0061】次に動作について説明する。ここで、図2
はこのように構成されたロボット装置の動作の流れを示
すフローチャートであり、以下、例えばパレット上に積
載された複数のワーク50が、テレビカメラ53の視野
内にあるという前提で動作を説明する。処理の最初の段
階で、鉛直下向きに設置されたテレビカメラ53によっ
て、パレット上のワーク50の画像が撮像される(ステ
ップST71)。次に、画像認識手段54によってワー
ク50の2次元的な配置が認識される(ステップST7
2)。図3はこの実施例1における入力原画像の一例で
ある。画像視野内に#1から#6までの6個の箱状のワ
ーク50が映っている。ワーク50の高さは、図1にあ
るように、#2のワーク50のみが他の5つのワーク5
0より1段高い位置にある。この図3に示した画像を処
理した結果得られたワーク50の位置と姿勢の関係を次
の表1に示す。
【0062】
【表1】
【0063】つまり、画像認識手段54による処理の結
果を示している。例えば、#1のワーク50は、位置が
(x1,y1)、姿勢(向き)が2次元的に角度a1で
あることを示している。このx1,y1,a1などの変
数には認識データが格納されている。この表1のデータ
では各ワーク50の高さ情報のみが未計測である。
【0064】次に、距離計測プラン部55はワーク50
の高さを計測をすべき距離計測点と計測シーケンスを決
定する(ステップST73)。図4における点P1,P
2,P3,P4,P5,P6の各点は決定された距離計
測点であり、認識された各ワーク50の重心として計算
される。また、計測シーケンスとしてはP1から順にP
6まで順次計測する。距離センサ57はロボットハンド
52に取り付けられており、レーザビームにより三角測
量の原理で距離を計測する。そのため、ロボット動作を
行わせて(ステップST74)、各計測点の真上に距離
センサ57を移動させ、距離の計測を行う(ステップS
T75)。距離計測はこの場合P1からP6まで6回行
われる。全ての距離計測点の計測が完了したことを検出
すると(ステップST76)この距離計測を終了し、ワ
ーク配置認識手段58によって各ワーク50の高さが計
算される。最終的な配置認識結果を示したものが次の表
2であり、位置・姿勢の他に、高さ情報が格納されてい
る。
【0065】
【表2】
【0066】このような一連の処理により、視野内の全
てのワーク50に対する3次元情報が計算され(ステッ
プST79)、ロボット動作プラン部59でロボット5
1がワーク50を移載作業するのに必要なロボット動作
が決定され、それに従ってロボット51が動作する(ス
テップST78)。
【0067】なお、上記実施例1では、距離計測のため
の距離センサ57としてレーザビーム型のものを使用し
たが、超音波式のものであっても、あるいはまた、複数
のテレビカメラを使用してステレオ視の距離を計測する
ものであってもよく、上記実施例と同様の効果を奏す
る。
【0068】また、上記実施例1では距離計測点を各ワ
ーク50の重心としたが、それ以外の複数の点を計測点
として決定してもよく、その場合はより高さ計測の信頼
性が向上する。
【0069】実施例2.次に、この発明の実施例2を図
について説明する。図5は請求項2に記載した発明の一
実施例を示す構成図であり、相当部分には図1と同一符
号を付してその説明を省略する。図において、60は撮
像手段としてのテレビカメラ53がワーク50の画像を
撮像した後に、撮像されたワーク50の画像データの処
理と平行して、予め定められている標準的な計測コース
に従って距離計測手段56と共用される距離センサ57
を移動させながらワーク50の高さを計測する標準距離
計測手段である。
【0070】次に動作について説明する。ここで、図6
はこのように構成されたロボット装置の動作の流れを示
すフローチャートであり、以下、実施例1の場合と同様
に各ワーク50がテレビカメラ53の視野内にあるとい
う前提で動作を説明する。処理の最初の段階で、鉛直下
向きに設置されたテレビカメラ53によりワーク50の
画像が撮像される(ステップST81)。次に、画像認
識手段54によってワーク50の2次元的な配置の認識
が開始されるが(ステップST82)、この画像認識処
理が開始されると同時に、標準距離計測手段60によっ
て標準距離計測が実行される(ステップST83)。こ
の標準距離計測とは、予め決められた複数の固定距離計
測点を、これも予め決められた距離計測シーケンスに従
って計測するものである。図7は標準距離計測点とその
シーケンスの例を示している。即ち、画像上のワーク5
0の位置や姿勢、ワーク50の個数などに依存せず、標
準距離計測点P1からP16までの全16点について番
号順にワーク50の高さを計測する。距離計測センサ5
7は実施例1の場合と同様に、ロボットハンド52に取
り付けられたレーザ式距離センサであり、三角測量の原
理で距離を計測する。図7によれば、この場合にはワー
ク50が#1のワークから#6のワークまで6個存在
し、例えば#1のワークについては標準距離計測点P1
およびP8の2点が計測され、#2のワークについては
標準距離計測点P2,P3,P6,P7の4点が計測さ
れることになる。標準距離計測点の位置やピッチは、認
識対象とするワーク50の寸法や位置ずれ許容量などか
ら予め決定しておく。
【0071】ここで、2次元配置認識とこの標準距離計
測にかかる処理時間のどちらが長いかについては視野内
の物体の個数や距離計測点数などによって異なるが、こ
の実施例2では標準距離計測が先に終了する。画像認識
手段54は標準距離計測によって得られた距離情報を使
って粗い3次元認識を行う。
【0072】画像認識が終了すると、より精密な認識を
行うために、先の標準距離計測で計測した標準距離計測
点が不足していればさらに距離計測を行う距離計測点を
距離計測プラン部55により決定する。ここでは、例え
ば各ワークの重心に相当する位置を距離計測点として追
加する。この場合もロボットハンド52に取り付けられ
た距離センサ57により、各距離計測点の距離が追加計
測され(ステップST84)、ワーク配置認識手段58
により、前述した粗い認識結果と統合されて最終的にワ
ーク50の精密で信頼性の高い3次元配置が認識される
(ステップST85)。この3次元配置の認識結果はロ
ボット動作プラン部59に送られて移載のためのロボッ
ト動作シーケンスが自動的に計算され、ロボット51は
当該動作シーケンスのデータを受け取って所定の移載作
業を行う(ステップST86)。
【0073】ここで、図8は図6に示した各処理の実際
の時間関係を示すタイミング図である。同図で時刻t1
において画像撮像が開始され、時刻t2に撮像が終了す
る。時刻t2では撮像された画像を使って2次元の粗い
配置認識が開始されると同時に、標準距離計測プランに
よる標準距離計測も開始される。前述のように、2次元
の配置認識と標準距離計測にかかる処理時間のどちらが
長いかについては視野内の物体の個数や距離計測点数な
どによって異なるが、この実施例2では時刻t3でまず
標準距離計測が完了する。画像認識手段54ではその標
準距離計測結果を使って認識処理を続行し、時刻t4で
粗い配置認識を完了する。この時刻t4では追加距離計
測が開始され、この追加距離計測が時刻t5で終了する
と、信頼性の高いワーク50の3次元配置認識が開始さ
れ、前記粗い配置認識の認識結果と追加距離計測結果と
が統合される。時刻t6においてこの3次元配置認識が
終了すると、最後にロボット動作のための制御信号生成
とロボット動作が開始され、時刻t7で移載作業を完了
する。
【0074】なお、上記実施例2では標準距離計測点の
選び方として格子状に計測点を設定し、また計測シーケ
ンスも波状に設定したが、必ずしも規則的でなくてもよ
く、例えば中心部ほど計測ピッチを狭く、かつ中心部か
ら順次周辺部へと螺旋状に計測するシーケンスを設定し
てもよい。計測点が多いほど計測の信頼性が向上するこ
とはいうまでもないが、ロボット動作による計測時間を
短縮するために、ロボット軌跡が最短になるようなシー
ケンスを自動的に算出する方式でも効果がある。
【0075】また、上記実施例2では追加距離計測とし
て、各ワーク50について、ワーク50の重心部分1点
のみを計測するものとしたが、その他にワーク50の輪
郭部分やコーナー部分を複数箇所計測するようにしても
よく、それによってより正確な認識が可能となる。
【0076】実施例3.次に、この発明の実施例3を図
について説明する。図9は請求項3に記載した発明の一
実施例を示す構成図であり、相当部分には図1と同一符
号を付してその説明を省略する。図において、61は距
離計測手段56にて計測した、1つのワーク50あたり
3点以上設定した距離計測点における高さの計測結果か
ら、ワーク50の法線方向を計算する法線方向認識手段
である。なお、このワーク配置認識手段58は、法線方
向認識部61の計算した法線方向と画像認識手段54の
認識結果とを用いてワーク50の3次元的な配置の認識
を行うものである点で、実施例1のものとは異なってい
る。
【0077】次に動作について説明する。ここで、図1
0はこのように構成されたロボット装置の動作の流れを
示すフローチャートで、以下、実施例1の場合と同様に
各ワーク50がテレビカメラ53の視野内にあるという
前提で動作を説明する。最初の段階で、鉛直下向きに設
置されたテレビカメラ53によりワーク50の画像が撮
像される(ステップST91)。次に、画像認識手段5
4によって、ワーク50の2次元的な配置が認識される
(ステップST92)。この2次元配置認識の認識結果
ではワーク50の位置と姿勢(向き)が計測されてい
る。次に、各ワーク50ごとに距離計測プラン部55に
よりワーク50の高さを計測すべき距離計測点が決定さ
れる(ステップST93)。図11は、この距離計測点
が決定される様子を示す説明図である。同図において、
画像中の点Pcは、画像認識手段54によって計測され
たワーク50の位置、即ち物体の重心に相当する位置で
ある。距離計測プラン部55では、この点Pcと矢印A
で示した物体の向きとから、ワーク50のコーナー近傍
の2点P1およびP2の位置を計算し、Pcと併せた合
計3点を距離計測点として出力する。
【0078】次に、距離計測手段56により各ワーク5
0についてそれぞれ上記距離計測プラン部55で決定さ
れた3点づつの距離計測点において距離計測が行われる
(ステップST94)。さらに、各ワーク50の上面の
法線方向が法線方向認識手段61によって計算される
(ステップST95)。なお、この法線方向の決定は次
のように行われる。ここで、距離計測点の2次元的な位
置は画像処理で行われている。即ち、点Pc,P1,P
2の3点の2次元位置は既知である。また、距離計測手
段56による計測結果から、前記3点の高さも既知とな
る。今、Pc,P1,P2の各点をそれぞれ3次元空間
上の点であるとし、3次元のベクトルで表現すると、法
線ベクトルnは次の式(3)で表される。
【0079】
【数1】
【0080】処理はさらに続き、ワーク配置認識手段5
8によって前記2次元配置の認識結果と距離計測結果が
統合され、ワーク50の3次元的配置パターンが認識さ
れる(ステップST96)。次いで、ロボット動作プラ
ン部59によって、ワーク50をロボット51がハンド
リングするための位置、向きおよび移載シーケンスロボ
ット動作プランが決定される(ステップST97)。こ
のとき、すでに求めた各ワーク50上面の法線方向を使
用して、ロボットハンド52のワーク50との接触面を
計算する。例えば、段ボール箱のような上面が平面に近
いワーク50でも、梱包時の失敗などの理由で、上面が
水平でないことがある。しかも、段ボール箱の移載装置
では、ロボットハンド52としてよく真空式の吸着ハン
ドが使用される。これらのことから、ロボットハンド5
2のワーク50の上面との位置関係は、ワーク50のハ
ンドリングの信頼性に大きな影響を与えるものである
が、この実施例3によれば、ワーク50の上面の傾きが
既知となるので、うまく吸着ハンドをワーク50に接近
させることが可能である。最後に、ロボット51が作動
してワーク50の移載作業を行い(ステップST9
8)、一連の動作を完了する。
【0081】なお、上記実施例3では、ワーク50上面
の法線を決定するのに、図11におけるPc,P1,P
2の3点を用いたが、同図におけるP3,P4を含めた
5点を使用、または直線上に並ばない任意の3点を選ん
で使用してもよい。ワーク50の2次元的配置が既知で
あるから、同一ワーク50、即ち同一平面上に存在する
ことが明らかな直線上にない3点以上の計測点であれ
ば、法線を決定することが可能であることはいうまでも
ない。
【0082】また、上記実施例3では、あるワーク50
の上面は完全に平面であるものとして法線を求めている
が、ワーク50によっては上面をさらにいくつかの部分
領域に分割し、各部分領域毎に法線を算出する方が合理
的な場合もあり、ワーク50の形状によって法線の算出
方法を適宜選択する方式をとっても、上記実施例と同様
に効果を奏する。
【0083】実施例4.次に、この発明の実施例4を図
について説明する。図12は請求項4に記載した発明の
一実施例を示す構成図であり、相当部分には図1と同一
符号を付してその説明を省略する。図において、62は
ロボット動作プラン部59にて決定されたロボットの動
作プランに従ってロボットを制御するロボット制御部
で、実施例1〜3ではその図示が省略されている。ま
た、63はワークの2次元的な認識に用られる複数の基
準モデルが格納されているワークモデル格納手段であ
る。なお、画像認識手段54は、距離計測手段56で計
測されたワーク50の高さの情報を使用して、撮像手段
53で撮像された画像におけるワーク50の大きさを推
測し、それによりワークモデル格納手段63に格納され
た標準モデルのデータを切り換えて、ワークの精密な2
次元配置認識を行うものである点で、実施例1のものと
は異なっている。
【0084】次に動作について説明する。ここで、図1
3はこのように構成されたロボット装置の動作の流れを
示すフローチャートで、以下、実施例1の場合と同様に
各ワークがテレビカメラ53の視野内にあるという前提
で動作を説明する。最初の段階で、鉛直下向きに設置さ
れたテレビカメラ53によって、パレット上のワーク画
像が撮像される(ステップST100)。次に、画像認
識手段54によって、ワーク50の2次元的な配置が認
識される(ステップST101)。このとき、ワークモ
デル格納手段63に格納されているのは、複数の標準モ
デルのデータである。ここで、テレビカメラ53のパレ
ットからの距離は既知であるが、パレットに積載された
ワーク50の配列やそれぞれのパレットからの高さは未
知である。ただし、ワーク50の寸法は既知であるの
で、ワーク50それぞれのパレットからの高さについて
は、ワーク高さ寸法の整数倍であることは利用できる。
このことから、ワークモデル格納手段63に格納されて
いる標準モデルとしては、各々のワーク50の高さに応
じたモデルを合わせ持っている。
【0085】以下、図14を用いてこの標準モデルの説
明を行う図14ではパレット上に積載された同一種類の
#1〜#3の3つのワーク50が示されている。つま
り、情景を真横からみた様子を模式的に示している。上
部にはテレビカメラ53を代表させて、レンズ中心の位
置を示している。また、撮像された画像に対応する仮想
撮像面の位置を説明が容易なのでパレット上面と同一と
しているが、これはカメラ光軸に垂直でさえあれば何等
説明の内容に変わりはない。ワーク50の個々の寸法に
ついては、長さL、高さHである。このとき、撮像され
るワーク50の仮想撮像面上でのサイズは、#1のワー
クに対応するものがLa、#2のワークに対応するもの
がLb、#3のワークに対応するものがLcとなる。こ
のように、ワーク上面のパレットからの高さによって撮
像面上のサイズは異なる。そこで、ワークモデル格納手
段63内の標準モデルとしては、この場合、寸法Laに
対応するもの、Lbに対応するもの、Lcに対応するも
のの3種類を合わせ持つ。
【0086】画像認識手段54による粗い2次元配置認
識では、まず上記のようにワークモデル格納手段63に
複数格納されている標準モデルの中の1種類を代表させ
て用いる。撮像された画像を領域分割し、面積と主軸方
向といった特徴を抽出して標準モデルの同じ特徴と比較
することで認識する。そのため、物体の2次元的な位置
と向きについては概略を知ることが可能であるが、標準
モデルの寸法と実際に撮像されているワーク50の寸法
とが異なる可能性があるために信頼性は低い。また、ワ
ーク50の高さについては計算することはできない。
【0087】次に、距離計測プラン部55ではこの狙い
2次元配置認識の結果を使って距離計測のための計測点
の位置や計測順序を決定する(ステップST102)。
この実施例4では粗い2次元配置認識で得られた各ワー
ク50の重心位置に対応するワーク50上の位置を計測
点とし、計測順序は複数の計測点を結ぶ一連の順序経路
が最短になるように決定する。距離計測は距離計測手段
56によってロボットハンド52に取り付けられた光ビ
ームセンサなどの距離センサを用いて、三角測量の原理
で計測される(ステップST103)。
【0088】この距離計測が完了すると各々のワーク5
0の高さが決定し、再び画像認識手段54によって精密
な2次元配置認識が行われる。このとき、まずワークモ
デル格納手段63に格納された標準モデルのなかから、
各ワーク50の高さをもとに選択されたモデル1つを選
択し(ステップST104)、それを用いて精密な2次
元配置認識を実行する(ステップST105)。図15
はこのワーク50の形状に合った標準モデルを用いて行
われる信頼性の高い2次元配置認識の概念を示す説明図
である。
【0089】前記精密な2次元配置認識結果は、距離計
測手段56によって得られた各ワーク50の距離(高
さ)情報と統合され、ワーク配置認識手段58によって
ワークの3次元配置認識が行われる(ステップST10
6)。ロボット動作プラン部59ではこの3次元配置認
識結果を使ってワーク移載動作のためのロボット動作制
御信号を自動的に生成し、それをロボット制御部62に
転送する。ロボット制御部62はこの信号を受け取って
ロボットを制御し、所定のワーク移載作業を実行する
(ステップST107)。
【0090】なお、上記実施例4では距離計測手段56
の距離センサ57として光りビーム利用したものについ
て説明したが、超音波センサによるものや、複数のテレ
ビカメラを用いたステレオ視の原理によるものなどであ
ってもよく、上記実施例と同様の効果を奏する。
【0091】また、上記実施例4では、ワークの標準モ
デルとして同一種類のワークに対して3つのモデルを使
用したが、異なるワークそれぞれに対して複数の標準モ
デルを用意しておくようにしてもよい。
【0092】また、この実施例4では、距離計測点とし
てワークの重心に対応する1点のみを計測したが、必ず
しも重心でなくてもよく、2点以上計測してもよい。さ
らに、計測シーケンスについては、ロボット動作時間短
縮の観点から、ロボット動作時間が最短になる経路を計
算することとしたが、その他のシーケンスを採用しても
同様であることはいうまでもない。
【0093】実施例5.次に、この発明の実施例5を図
について説明する。図16は請求項5に記載した発明の
一実施例を示す構成図であり、相当部分には図1および
図12と同一符号を付してその説明を省略する。図にお
いて、64は距離センサ57として使用されている超音
波センサの発生する計測ビームと平行で、テレビカメラ
53で撮像可能なポインタビームを投光する光ビーム投
光手段であり、65はテレビカメラ53にて撮像された
画像の中からこの光ビーム投光手段64にて投光された
ポインタビームを検出するポインタビーム検出手段であ
る。なお、ワーク配置認識手段58は、画像認識手段5
4の認識結果および距離計測手段56の計測結果ととも
に、このポインタビーム検出手段65の検出結果も用い
てワークの3次元配置認識を行うものである点で、実施
例1のものとは異なっている。
【0094】次に動作について説明する。ここで、図1
7はこのように構成されたロボット装置の動作の流れを
示すフローチャートで、以下、実施例1の場合と同様に
各ワークがテレビカメラ53の視野内にあるという前提
で動作を説明する。最初の段階で、鉛直下向きに設置さ
れたテレビカメラ53によって、パレット上のワーク画
像が撮像される(ステップST110)。次に、画像認
識手段54によってワーク50の2次元的な配置が認識
される(ステップST111)。
【0095】次に、この認識された2次元配置パターン
をもとに、距離計測プラン部55によって距離計測プラ
ンが決定される(ステップST112)。ここでは、距
離計測を行う点と、複数の距離計測点の計測順序を決定
する。各ワーク50の2次元位置と向きが認識されてい
るので、ここでは距離計測点として各ワークの重心に相
当する位置が決定される。また、計測の順序について
は、計測精度や計測時間の観点から決定される。
【0096】次に各距離計測点について距離計測手段5
6によって距離を計測する(ステップST113)。こ
の実施例5で使用される距離センサ57には前述のよう
に超音波センサが用いられている。この超音波センサ5
7はロボットハンド52に取り付けられた、送信モジュ
ールと受信モジュールからなる送受一体型となってお
り、送信モジュールから発射された音波が対象物に反射
して戻ってくる信号(エコー)を観測してその時間差か
ら距離を計測するものである。また、光ビーム投光手段
64によって超音波センサ57の発射する超音波ビーム
と平行なポインタビームを投光する(ステップST11
4)。図18はこの超音波センサ57より発射された超
音波ビームによる距離計測ビームと、この距離計測ビー
ムと平行なレーザビームによるポインタビームとの関係
を示す説明図である。ロボットハンド52にこの超音波
センサ57と光ビーム投光手段64の両方が一体的に取
り付けられており、ロボットハンド52の移動にともな
って両手段57,64は同時に移動する。図示のよう
に、計測対象のワーク50には超音波ビームによる距離
計測ビームがあたって反射されるとともに、レーザビー
ムによるポインタビームもまたその距離計測点に投光さ
れる。
【0097】この光ビーム投光手段64によって投光さ
れたポインタビームは、テレビカメラ53により撮像さ
れた画像を処理することで、ポインタビーム検出手段6
5によって検出される(ステップST115)。このポ
インタビームは超音波センサ57の発する距離計測ビー
ムの到達範囲にあるため、検出されたポインタビームの
位置を調べることにより、超音波センサ57によって計
測されている被計測平面上の点を知ることが可能であ
る。これら一連の処理は、決定された距離計測プランに
従って、必要な全てのワーク50上の計測点が計測され
るまで繰り返される。
【0098】次に、画像認識手段54による2次元配置
認識情報と、ポインタビームによってその位置が確認さ
れた距離計測点における距離計測手段56の測定したワ
ーク50の高さ情報は、ワーク配置認識手段58によっ
て統合され、最終的にワークの3次元配置認識が行われ
る(ステップST116)。
【0099】ロボット動作プラン部59では前記ワーク
50の3次元配置認識情報を使ってワーク50を移載す
るためのロボットの動作プランを決定し(ステップST
117)、それに必要なロボット動作制御信号を生成し
てロボット制御部62に送信する。ロボット制御部62
では受け取った信号に基づいてロボット制御し、ワーク
の移載作業を実行する(ステップST118)。以上で
この実施例5の一連の動作が完了する。
【0100】なお、上記実施例5では、距離センサ57
として超音波センサを用いたが、光学的手法によらない
テレビカメラで映像化が困難な他の計測手段であっても
よく、またポインタビームとしてレーザビームを用いた
が、これも同様の光ビームであれば他のものであっても
よく上記実施例と同様の効果を奏する。
【0101】また、上記実施例5では、距離計測は超音
波ビームだけで行い、光ビームは超音波ビームによって
計測されている点を確認するための手段として用いた
が、光ビームを距離計測に併用することにより、計測の
信頼性および精度を向上させることもできる。
【0102】また、上記実施例5では、距離計測に超音
波ビームを用いていることから、計測点がそれほど精度
よく決定されないことが想像されるため、距離計測点の
位置を決定する際に各ワークの重心位置に相当する位置
としたが、指向性の強い超音波センサ57を使用できる
状況では、例えば、ワーク50のコーナー付近など複数
の点を計測するようにしてもよい。
【0103】実施例6.次に、この発明の実施例6を図
について説明する。図19は請求項6に記載した発明の
一実施例を示す構成図である。図において、70はこの
実施例6による物体認識装置にて認識される認識対象物
体としての箱状物体であり、71はこの箱状物体70の
画像を入力する画像を入力する手段としてのテレビカメ
ラである。72はこのテレビカメラ71より入力された
原画像のエッジを抽出するエッジ検出手段であり、73
はこのエッジ検出手段72によって得られたエッジ画像
上の各エッジ点について座標変換操作を行い、順次投票
平面上に投票する座標変換手段である。74はその投票
平面から情報を読み出して複数の認識対象の物体候補を
抽出する物体候補抽出手段、75は抽出された物体候補
のそれぞれについての信頼度を計算する信頼度計算手段
であり、76は算出された信頼度に基づいて原画像中の
物体の位置、およびその配列パターンを認識する画像認
識手段である。
【0104】次に動作について説明する。なお、図20
はこのように構成された物体認識装置の動作の流れを示
すフローチャートである。ここで、この実施例6におけ
る認識の対象は、図19に示すような、パレット上に複
数の段にわたって積載された箱状物体70である。処理
の最初の段階で、箱状物体70に対して鉛直下向きに設
置されたテレビカメラ71により箱状物体70の画像が
撮像される(ステップST120)。次に、エッジ検出
手段72によってその撮像された原画像に対しエッジ検
出が行われる(ステップST121)。当該エッジ検出
のアルゴリズムはこの実施例6では、例えば空間フィル
タの一種であるラプラシアン・オブ・ガウシアンフィル
タを用いたゼロクロス輪郭検出アルゴリズムを用いてい
るが、他のエッジ検出アルゴリズムでも本発明の作用を
説明する上では何等問題はない。
【0105】座標変換手段73はこのエッジ検出によっ
て得られたエッジ画像をもとに、ハフ変換によりハフ平
面への投票を行う(ステップST122)。図21はこ
のハフ変換処理を模式的に表現した説明図であり、同図
(a)はエッジ画像の画像平面を同図(b)はハフ投票
平面をそれぞれ表している。ハフ変換処理は、エッジ画
像中の全てのエッジ点(i,j)についてそれぞれ、従
来の技術5において説明した式(2)で表される座標変
換をおこない、対応する全てのハフ平面(ρ−θ平面)
上の点に投票することで行われる。
【0106】ここで、図21(a)中のエッジ点P1,
P2,P3はそれぞれ、同図(b)に示したハフ平面で
は曲線L1,L2,L3に対応する。ハフ平面では、例
えば図21(b)における点Pk(θk,ρk)のよう
に、局所的に周囲より投票値の高い点が生じる。この点
は、即ちエッジ画像(図21(a))では直線Lkに対
応する。この直線Lkの方程式は、式(2)にPkの座
標(θk,ρk)を代入することで求められる。このよ
うに、単純な投票操作によって、エッジ画像中に含まれ
る直線成分が検出される。
【0107】次に物体候補抽出手段74によりハフ平面
から認識対象の物体候補の抽出が行われる(ステップS
T123)。図22はこの物体候補の抽出の様子を示す
説明図である。いま、抽出したい物体は箱状であり、原
画像上では矩形パターンである。したがって、ハフ平面
では、例えば同図の点P1,P2,P3,P4のような
相互関係にある4点を探索することが、エッジ画像にお
ける矩形パターンを囲む4つの輪郭直線を見つけること
に相当するのである。図22では点P1,P2がまず検
出される。これは同じθの値θ1をもつことから平行線
を意味する。また、点P1,P2のρの値はそれぞれρ
1,ρ2であり、その差(ρ1−ρ2)は平行線の間隔
(距離)を表している。見つけたい矩形パターンの寸法
を予め格納しておくことで、ハフ平面上でこのような2
点を見つけることが可能である。また、同様に、点P
3,P4についても物体のモデルを利用してみつけるこ
とができる。さらに、ここで点P1とP3のθの値の差
(θ2−θ1)=90(度)であることを利用してい
る。即ち、これはエッジ画像上では2組の平行線が互い
に直行することを意味し、矩形パターンを検出すること
になる。以上の処理を繰り返すことで、ハフ平面から箱
状物体70の候補を物体候補として抽出することができ
る。
【0108】次に、このようにして抽出された各物体候
補の信頼度が信頼度計算手段75によって計算される
(ステップST124)。この実施例6では、物体候補
である矩形パターンを構成する4つの直線、即ちハフ平
面では4点の投票値の合計をもって信頼度とする。
【0109】次に、画像認識手段76により、複数の物
体候補の合理的な組み合わせによる画像記述を解釈し、
画像認識を行う(ステップST125)。即ち、複数の
物体候補からどれを選択してシーンを構成すべきかを判
断する。図23はこの画像認識手段76によるシーン解
釈の流れを示すフローチャートである。以下、この図2
3を用いてシーン解釈の動作について説明する。
【0110】まず最初に各物体候補について信頼度テー
ブルCf〔n〕が生成される(ステップST130)。
この信頼度テーブルの引数nは、物体候補の番号を示し
ている。なお、上記のように信頼度はハフ平面での投票
値であり、図24(a)にこの信頼度テーブルCfの一
例を示す。図示のように、候補1の信頼度は265、候
補2の信頼度は199,……となる。この信頼度テーブ
ルCfはその内容によって降順にソートされる。ソート
されたテーブルを図24(b)に示す。また、その際同
時に候補テーブルCt〔n〕を生成する(ステップST
131)。この候補テーブルCtは図24(c)に示す
ような1次元テーブルであり、ソートされた信頼度テー
ブルCfのインデックスを格納している。例えば、候補
3は信頼度309であるが、ソートした結果、順位が2
番目であったため、Ct〔2〕=3がセットされる。次
にカウンタ変数nが初期値“1”にセットされ(ステッ
プST132)。物体Ct〔1〕は無条件に認識リスト
に登録される(ステップST133)。これは、最大信
頼度をもつ物体候補は無条件に認識結果として採用され
るということである。
【0111】次にnは“1”だけ増加され(ステップS
T134)、続いて物体Ct〔n〕がそれ以前に認識リ
ストに登録されている物体と干渉しないかどうか検査さ
れる(ステップST135)。認識リストに登録されて
いる物体の中に一つでもCt〔n〕と干渉するものがあ
れば、物体Ct〔n〕は認識結果として採用されないの
で、nをさらに1だけインクリメントして処理を続け
る。また、認識リストの中に物体Ct〔n〕と干渉する
ものが全くない場合は、新しく物体Ct〔n〕を認識リ
ストに追加登録する(ステップST136)。この操作
を全ての物体候補について行うことにより(ステップS
T137)、最終的に相互干渉しない信頼度の高い物体
候補の組み合わせからなるシーンの解釈結果が得られ
る。なお、ここで、干渉とはたとえば2つの異なる物体
候補が空間内に存在するときに、物体の一部が同じ空間
を占有することを言う。
【0112】以上のような動作により、箱状物体70の
組み合わせからなる画像シーンが解釈され、動作は終了
する。
【0113】なお、上記実施例6では、エッジ検出アル
ゴリズムとしてラプラシアン・オブ・ガウシアンフィル
タによるゼロクロス輪郭検出を用いたが、他のエッジ検
出方を使用してもよく、上記実施例と同様の効果を奏す
る。
【0114】また、上記実施例6では、物体候補を抽出
するためにハフ変換を用いたが、座標変換・投票による
手法としてスポークフィルタによるパターン検出を用い
てもよく、この場合も上記実施例と同様の効果が得られ
ることはいうまでもない。
【0115】実施例7.次に、この発明の実施例7を図
について説明する。図25は請求項7に記載した発明の
一実施例を示す構成図で、相当部分には図19と同一符
号を付してその説明を省略する。図において、77はハ
フ変換によるパターン検出に際して、物体検出に必要な
物体の寸法が格納される物体モデル情報格納手段であ
り、78はテンプレートマッチングによるパターン検出
に際して、テンプレートマッチングに必要なモデルを格
納するテンプレート格納手段、79は入力された原画像
について、このテンプレート格納手段78に格納された
モデルを使用したテンプレートマッチングにより物体の
位置と姿勢を検出し、認識対象の物体候補を抽出するパ
ターン検出手段である。なお、信頼度計算手段75は、
物体候補抽出手段74とパターン検出手段79とによっ
て抽出された物体候補について、それぞれ信頼度の計算
を行う点で実施例6のものとは異なっている。
【0116】次に動作について説明する。なお、図26
はこのように構成された物体認識装置の動作の流れを示
すフローチャートであり、認識の対象は実施例6のもの
と同様である。処理の最初の段階で、ユーザが認識の対
象を当該物体認識装置に登録するが、その際にハフ変換
によるパターン検出をするか、テンプレートマッチング
によるパターン検出をするかを選択する(ステップST
140)。
【0117】ハフ変換によるパターン検出を選択した場
合は、前記実施例6に記載した方法により物体候補が抽
出される。即ち、物体モデルとして、ハフ平面での物体
検出に必要な、物体の寸法を物体モデル情報格納手段7
7に格納する(ステップST141)。さらに、原画像
からエッジ検出手段72によりエッジを検出し(ステッ
プST142)、ハフ変換式にそって、座標変換手段7
3により座標変換およびハフ平面への投票を行い、(ス
テップST143)、物体候補抽出手段74によりハフ
平面を操作して矩形パターンとして物体候補を抽出する
(ステップST144)。
【0118】一方、テンプレートマッチングによるパタ
ーン検出を選択した場合は、テンプレートマッチングに
必要なモデルをパターン検出用テンプレート格納手段7
8により登録する(ステップST145)。図27は認
識対象物体の一例(ダンボール箱)と、物体を認識する
ために必要な複数の2次元テンプレート群の一部を示し
た説明図である。図27(a)は、箱状物体70として
の段ボール箱を模式的に描いたものである。梱包に使用
される段ボール箱は例えば図示のように中央付近にテー
プが貼付される。テンプレート群は図27(b)に示さ
れており、ちょうど物体のコーナー部に対応するような
パターンになっている。図示の例ではテンプレート群の
一部のみを示したが、テンプレートは少しづつ回転させ
た複数個が用意される。
【0119】認識対象物体の画像が入力されると、テン
プレートマッチングが行われる(ステップST14
6)。このテンプレートマッチングは、まずテンプレー
ト#1から順に原画像上を探索され、2次元の相互相関
値を求めてもっとも高い位置で検出とみなす。この探索
を#2以降のテンプレートについても同様におこない、
用意した全てのテンプレートとの相関係数をもとめ、原
画像中の段ボール箱のコーナーを検出する。このテンプ
レートマッチングの処理はパターン検出手段79によっ
て行われ、得られたコーナー部の相互関係や各々に対応
するテンプレートの種類から、認識対象となる段ボール
箱の候補を検出する。
【0120】続いて、抽出された各物体候補の信頼度が
信頼度計算手段75により計算される(ステップST1
47)。この実施例7では、ハフ変換によるパターン検
出の場合は物体候補を構成する4つの輪郭直線に対応す
るハフ平面での投票値の平均として信頼度を計算する。
また、テンプレートマッチングによるパターン検出の場
合は4ヵ所のコーナー部にマッチしたテンプレートマッ
チングのスコアである相互相関値の合計値として計算す
る。
【0121】最後に、画像認識手段76において、前記
実施例6において説明した方法と同様の手法で、上記物
体候補の最適な組み合わせを求めて、画像解釈・認識を
行う(ステップST148)。即ち、信頼度の高い物体
から順に認識結果リストに登録してゆき、もしある物体
候補がそれ以前に認識結果リストに登録されているどれ
かの物体候補と位置的に干渉する場合は登録を中断する
というものである。以上の一連の処理によりこの実施例
7の動作は終了する。
【0122】なお、上記実施例7では、座標変換・投票
によるパターン検出手法としてハフ変換を用いたが、ス
ポークフィルタによるパターン検出手法を用いてもよ
く、上記実施例と同様の効果が期待できる。
【0123】また、この実施例7では、処理の最初の段
階でユーザがハフ変換またはテンプレートマッチングに
よるパターン検出のどちらかを選択する場合について説
明したが、これは認識対象物体の形状や属性によって装
置が自動的に判断するようにしてもよい。
【0124】また、上記実施例7では、テンプレートマ
ッチングによるパターン検出として、物体のコーナー部
分にマッチする複数のテンプレートを用意したが、コー
ナー部分以外、例えば物体表面に描かれた特徴ある模様
にマッチするテンプレートであってもよく、上記実施例
と同様の効果を奏する。
【0125】さらに、上記実施例7では、複数の回転し
ながら生成したテンプレートを用いたものを示したが、
例えば円形のテンプレートを一つ使用して物体の円形パ
ターンを検出するようにしても物体候補の抽出が可能で
あることはいうまでもない。
【0126】実施例8.次に、この発明の実施例8を図
について説明する。図28は請求項8に記載した発明の
一実施例を示す構成図で、相当部分には図19と同一符
号を付してその説明を省略する。図において、80は認
識対象物体である箱状物体70のモデルとして登録され
ている、当該箱状物体70の輪郭点をもとにした輪郭テ
ンプレートである。なお、信頼度計算手段75は、認識
対象の物体候補の原画像上の輪郭点とこの輪郭テンプレ
ート80を輪郭マッチングして得られた類似度より、そ
の物体候補の信頼度を算出する点で実施例6のものとは
異なっている。
【0127】次に動作について説明する。なお、図29
はこのように構成された物体認識装置の動作の流れを示
すフローチャートであり、認識の対象は図28に示すよ
うに実施例6のものと同様である。当該物体認識装置を
起動するのに先立って、認識対象物体のモデルを登録し
ておく必要がある。モデルは、図30に示したような輪
郭テンプレート80として格納する(ステップST15
0)。同図においては、(a)に原画像の一例が、
(b)にテンプレート画像としての段ボール箱の輪郭画
像が模式的に示されている。輪郭テンプレート80は、
前記輪郭画像の輪郭部分の点列の座標を同図(c)のよ
うな1次元のアレイに格納したものである。即ち、輪郭
テンプレート80には、輪郭の存在する部分を表現した
点列の座標(i,j)が格納される。
【0128】処理の最初の段階で、箱状物体70に対し
て鉛直下向きに設置されたテレビカメラ71により、箱
状物体70の画像が撮像される(ステップST15
1)。次に、撮像された画像に対して、前記実施例6に
て説明した手法で、エッジ検出と座標変換・投票処理が
なされ(ステップST152,ST153)、認識対象
の物体候補が抽出される(ステップST154)。この
物体候補のデータは、各箱状物体70の2次元的位置と
姿勢(向き)とからなる。
【0129】次に、信頼度計算手段75で、EPTMに
よる各物体候補の信頼度が計算される(ステップST1
55)。この信頼度計算の流れを図31に示すフローチ
ャートにそって、図30を使って以下に説明する。図3
0(a)に示されているのは、画像C(i,j)上に存
在する物体候補の一例である。実際には複数の物体候補
が存在することが多いが、ここでは説明が簡単になるよ
うに画像中にひとつだけ候補があるとしている。前記認
識対象候補の物体について、位置と姿勢が計測されてい
るので、図30(b)のようなテンプレートを画像C上
の物体候補に重ね合わせるために、まず、位置と姿勢の
補正量を計算し(ステップST160)、それに基づい
てテンプレートの位置と姿勢の補正を行い(ステップS
T161)、画像C上の物体候補にテンプレートを重ね
合わせる(ステップST162)。ここで、物体候補の
位置として物体の重心をPc(Pcx,Pcy)、ま
た、姿勢として段ボール箱の長手方向の軸方向A(θ
A)とする。また、テンプレート画像についても同様に
位置としての重心Pt(Ptx,Pty)、軸方向B
(θB)とする。なお、図30(c)に示すように、輪
郭テンプレート80は1次元であるが、ここでは説明が
容易なように2次元であるかのように記述することにす
る。重ね合わせは、重心PcとPtを一致させ、かつ姿
勢AとBを一致させるように行われる。信頼度計算手段
75は次に次の式(4)に従って類似度、即ち信頼度M
計算する(ステップST163)。
【0130】
【数2】
【0131】ここで、C(i,j)は認識対象画像、X
(k),Y(k)は図30に示した1次元テンプレー
ト、Adは物体候補と輪郭テンプレート80の姿勢を補
正する角度、関数Ri,Rjはそれぞれテンプレートに
格納された座標列をAdだけ補正する回転補正関数であ
る。
【0132】なお、画像C(i,j)は2値(1/0)
で表現されている。信頼度Mは上記式(4)のまま使用
してもよいが、テンプレート点数Nで割ることで正規化
も可能である。以上のようにして信頼度の計算が完了す
る。
【0133】続いて、画像認識手段76により前記実施
例6で説明した方法により、複数の物体候補の組み合わ
せを最適化して画像認識を行う(ステップST15
6)。即ち、信頼度の高い物体から順に認識結果リスト
に登録していき、もしある物体候補がそれ以前に認識結
果リストに登録されているどれかの物体候補と位置的に
干渉する場合は登録を中断するというものである。以上
の処理により、本実施例における一連の動作を全て終了
する。
【0134】なお、上記実施例8では、EPTMによる
マッチングの際に、認識対象画像Cを、原画像から得ら
れたエッジ画像として生成したが、マッチングに先立っ
てエッジ画像を2回以上膨張させておくこともできる。
膨張とは画像中の輪郭の部分の太さを太める処理であ
り、このようにすることで物体候補の位置Pcと姿勢A
に多少の計測誤差があっても安定に信頼度を求めること
が可能になる。
【0135】また、上記実施例8では、EPTMによる
マッチングの際に、テンプレートとして物体の外形を示
す輪郭部分の他、上面に現れた輪郭画素も登録している
が、さらに物体に幾何学的にユニークな模様が存在する
場合には、その模様部分の輪郭もテンプレートに追加す
ることでより信頼度の信頼性が向上する。また、逆に連
続する輪郭画素を全てテンプレートとして登録するので
はなく、間引き処理を施すことによりテンプレートの長
さを短縮でき、マッチングに要する時間を短縮すること
も可能である。
【0136】実施例9.次に、この発明の実施例9を図
について説明する。図32は請求項9に記載した発明の
一実施例を示す構成図で、相当部分には図28と同一符
号を付してその説明を省略する。図において、81は輪
郭テンプレート80が認識対象物体に関する輪郭点をも
とにした物体輪郭の存在する部分を表現するものである
のに対して、物体輪郭の存在しない部分を表現するテン
プレートである。なお、信頼度計算手段75は、この輪
郭テンプレート80とテンプレート81の両方を使用し
た輪郭マッチングによって類似度を得ている点で、実施
例8のものとは異なっている。
【0137】次に動作について説明する。なお、図33
はこのように構成された物体認識装置の動作の流れを示
すフローチャートであり、認識の対象は実施例6の場合
と同様である。当該物体認識装置を起動するのに先立っ
て、EPTMのための認識対象物体のモデルを登録する
(ステップST170,ST171)。このモデルはテ
ンプレートとして登録され、そのテンプレートには物体
輪郭の存在する部分を表現する輪郭テンプレート80
と、物体輪郭の存在しない部分を表現するテンプレート
81の2種類がある。図34はこれら輪郭テンプレート
80およびテンプレート81を説明する説明図であり、
同図(a)には認識対象となる段ボール箱の原画像が、
同図(b)には輪郭テンプレート80の概念が、同図
(c)にはテンプレート81の概念が、同図(d)には
テンプレートの格納形式がそれぞれ示されている。この
図34(b)に示すように、輪郭テンプレート80は認
識対象物体の輪郭画素集合としての点列であり、実際に
当該物体認識装置に格納される形式は図34(d)のよ
うな1次元形式である。また、図34(c)のように、
テンプレート81は物体の輪郭が存在しない部分を表現
した画素集合としての点列であり、同様に図34(d)
のような1次元形式で格納されている。
【0138】次に、鉛直下向きに設置されたテレビカメ
ラ71により、認識対象物体の画像が撮像される(ステ
ップST172)。次に、この撮像された画像に対して
実施例6で説明した手法により、エッジ検出と座標変換
・投票処理がなされ(ステップST173,ST17
4)、認識対象の物体の候補が抽出される(ステップS
T175)。この物体候補のデータは、各物体候補の2
次元的位置と姿勢(向き)とからなる。
【0139】次に信頼度計算手段75で、EPTMによ
る各物体候補の信頼度が計算される(ステップST17
6)。この信頼度計算の流れを、図35に示すフローチ
ャートにそって、図34を併用して以下に説明する。信
頼度計算が開始されるとまず、すでに計測された物体候
補の位置と姿勢データから、マッチングのための位置と
姿勢の補正量を計算する(ステップST180)。図3
4(a)に示されているのは、画像C(i,j)上に存
在する物体候補の一例である。図中、点C1と方向θ1
は候補#1を表している。同様に点C2と方向θ2は候
補#2を表している。候補#1は正しいが、候補#2は
誤った候補である。マッチングのための補正量が計算さ
れるとその値に基づいて輪郭テンプレート80およびテ
ンプレート81の座標が補正されて位置と姿勢が補正さ
れ(ステップST181)、画像Cに重ね合わされる
(ステップST182)。次に、次の式(5)にそっ
て、類似度Maと、非類似度Mbが計算される(ステッ
プST183,ST184)。
【0140】
【数3】
【0141】類似度Maは画像上のパターンがテンプレ
ートと類似している度合いを表したもので、非類似度M
bは同じく類似していない度合いを表したものである。
まず候補#1の信頼度を求める過程を説明する。候補#
1の重心C1(Pc1x,Pc2x)および姿勢として
の物体の長手方向の軸の傾きθ1は既知である。また、
輪郭テンプレート80に示された物体の重心SA(PS
Ax,PSAy)および軸方向θAも既知である。
【0142】ここで、C(i,j)は認識対象画像、X
(k)、Y(k)は図34に示した1次元テンプレー
ト、Adは物体候補と輪郭テンプレート80の姿勢を補
正する角度、Bdは物体候補とテンプレート81の姿勢
を補正する角度、関数Ri,Rjはそれぞれテンプレー
トに格納された座標列をAdまたはBdだけ補正する回
転補正関数である。次に、これら類似度Maと非類似度
Mbは統合され(ステップST185)、次の式により
信頼度Mが求められる。なお、Na,Nbはそれぞれ輪
郭テンプレート80およびテンプレート81に登録され
たエッジ点数である。
【0143】M = Ma/Na − Mb/Nb
【0144】候補#1の場合には、輪郭テンプレート8
0に登録された輪郭点が全て画像Cに存在し、かつテン
プレート81に登録された画素点列に相当する画像C上
の点は全く存在しないため、信頼度MはM=1となる。
【0145】次に候補#2に対して同様のマッチングを
行うと、テンプレート81に対応する画像C上の輪郭点
が主に候補#1と候補#2の境界や、それらの上に書か
れた文字(“ABC”)などによって多数存在するため
に、非類似度Mbが高まり、信頼度Mは低く評価される
ことになる。なお、画像C(i,j)は2値(1/0)
で表現されている。以上のようにして信頼度の計算が完
了する。
【0146】続いて、画像認識手段76により実施例6
で説明した方法により、複数の物体候補の組み合わせを
最適化して画像認識を行う(ステップST177)。即
ち、信頼度の高い物体から順に認識結果リストに登録し
ていき、もしある物体候補がそれ以前に認識結果リスト
に登録されているどれかの物体候補と位置的に干渉する
場合は登録を中断するというものである。以上の処理に
より、本実施例における一連の動作を全て終了する。
【0147】なお、上記実施例9では、EPTMによる
マッチングの際に、認識対象画像Cを、原画像から得ら
れたエッシ画像として生成したが、マッチングに先立っ
てエッジ画像を2回以上膨張させておくこともできる。
【0148】また、上記実施例9では、EPTMによる
マッチングの際に、輪郭テンプレート81として物体の
外形を示す輪郭部分の他、上面に現れた輪郭画素も登録
しているが、さらに物体に幾何学的にユニークな模様が
存在する場合には、その模様部分の輪郭も輪郭テンプレ
ート81に追加することでより信頼度の信頼性が向上す
る。また、逆に連続する輪郭画素を全てテンプレートと
して登録するのではなく、間引き処理を施すことにより
テンプレートの長さを短縮でき、マッチングに要する時
間を短縮することも可能である。
【0149】また、上記実施例9では、テンプレート8
1として物体の中央部に集中して「輪郭の存在しない部
分を表現する画素」を登録しているが、輪郭テンプレー
ト80に登録された輪郭に密着して平行した画素列を用
いてもよい。
【0150】実施例10.次に、この発明の実施例10
を図について説明する。図36は請求項10に記載した
発明の一実施例を示す構成図である。図において、90
は入力された原画像のエッジを抽出するエッジ検出手段
である。91はこのエッジ検出手段90によって抽出さ
れたエッジ画像の水平走査を行って、水平線分である可
能性の高い点列を検出するとそれを点としてハフ投票平
面に投票する水平線投票手段、92は前記エッジ画像の
垂直走査を行って、垂直線分である可能性の高い点列を
検出するとそれを点としてハフ投票平面に投票する垂直
線投票手段であり、93は残った水平線分または垂直線
分である可能性の低い点列を、曲線としてハフ投票平面
に投票する水平・垂直線以外投票手段である。94は前
記ハフ変換された点や曲線が投票されたハフ投票平面が
格納されたハフ平面格納メモリである。
【0151】次に動作について説明する。ここで、図3
7はこのように構成された画像処理装置の動作の流れを
示すフローチャートである。処理の最初の段階で、原画
像がエッジ検出手段90に入力される(ステップST1
90)。エッジ検出手段90は入力された原画像に対し
てエッジ検出処理を実行し、画像中のエッジ部分を抽出
する(ステップST191)。ハフ変換はこのエッジ検
出されたエッジ画像に対して行われる。
【0152】次に、水平線投票手段91によってそのエ
ッジ画像が水平に走査され(ステップST192)、水
平線セグメントが抽出される(ステップST193)。
図38(a)にはこのエッジ画像の一例を示す。このエ
ッジ画像中で水平走査により、水平線分である水平線セ
グメントH1がまず検出される。この水平線セグメント
H1は従来の技術5において説明した式(2)に基づく
ハフ変換によりρ−θが計算され(ステップST19
4)、図38(b)に示したハフ平面上に点P1(ρ
1,θ1)として投票される(ステップST195)。
この実施例10では、水平セグメントH1の方程式がj
=−jc(jc>0)となるので、式(2)がいかなる
i,jをとってもj=−jsに等しくなるためには、θ
=90度、ρ=−js、またはθ=270度、ρ=js
のどちらかでなければならない。従ってハフ平面上の点
P1(θ1=90,ρ1=−js)および点P1’(θ
1’=270,ρ1’=js)に投票する。なお、図3
8(b)では点P1のみを表示した。さらに、投票直後
に、投票に関与したエッジ画像上のエッジ点列、即ち水
平線セグメントH1を構成する点列をエッジ画像中から
削除する(ステップST196)。同様にして、図38
(a)の水平線セグメントH2に対応するハフ平面上の
点のひとつはP2であるので、この水平線セグメントH
2を点P2に投票し、水平線セグメントH2に属する点
列を全て削除する。上記一連の処理を、エッジ画像全体
の水平走査が終了するまで続ける(ステップST19
7)。
【0153】次に、垂直線投票手段92によってエッジ
画像が垂直に走査され(ステップST198)、垂直線
セグメントが抽出される(ステップST199)。この
エッジ画像の垂直走査により、垂直線分である垂直線セ
グメントV1が検出される。この垂直線セグメントV1
についても同様にハフ変換されてρ−θが計算され(ス
テップST200)、図38(b)に示したハフ平面上
に点P3として投票される(ステップST201)。そ
のとき同時に、エッジ画像上の垂直線セグメントV1に
属する点列は削除される(ステップST202)。上記
一連の処理を、エッジ画像全体の垂直走査が終了するま
で続ける(ステップST203)。
【0154】次に、前記水平線投票手段91による処
理、および垂直線投票手段92による処理の終了後にエ
ッジ画像上に残っているエッジ点に関して、水平・垂直
線以外投票手段93によりハフ平面に投票する(ステッ
プST204)。これは、前記実施例6において説明し
た方法による。即ち、エッジ点をひとつづつハフ変換式
によって変換してゆく。図38(a)におけるエッジ点
列PLに対応する同図(b)のハフ平面上の投票軌跡は
Sである。
【0155】上述の水平線投票手段91、垂直線投票手
段92、および水平・垂直線以外投票手段93によるハ
フ平面への投票処理は、すべて同一のハフ平面に対して
おこなわれ、その結果がハフ平面格納メモリ94に格納
される。この実施例10においては、以上の投票操作に
よって生成されたハフ平面に対し、局所的ピークを持つ
位置を求めることで、該ピーク位置に対応する直線の方
程式が求められることになり、当該実施例6の動作を完
了する。
【0156】なお、上記実施例10では、ハフ平面にお
いて、θ>180度の範囲にも投票したが、ρの正負を
考えることでθ<180度の範囲でのみ投票することが
可能である。
【0157】また、上記実施例10では、投票に使用し
たエッジ点を画像から逐次削除してゆくものについて説
明したが、削除せずに再び投票に使用してもよく、また
削除する場合でも別途用意したエッジ画像と同じサイズ
のフラグ画像を用いて削除フラグを付加することも可能
である。
【0158】また、上記実施例10では、完全に水平の
線セグメントと完全に垂直の線セグメントを検出して投
票するものを示したが、幅2画素または3画素の線セグ
メントを検出して投票に使用してもよく、上記実施例と
同様の効果を奏することはいうまでもない。
【0159】実施例11.次に、この発明の実施例11
を図について説明する。図39は請求項11に記載した
発明の一実施例を示す構成図である。図において、10
0は認識対象物体の画像を入力する画像入力手段として
のテレビカメラであり、101はこのテレビカメラ10
0より入力された原画像より認識対象の物体候補を抽出
する物体候補抽出手段である。102は原画像中の物体
候補の存在の有無を1ビットの情報で表現して、原画像
の解釈をそのビットの列で表現したビット列を定義する
ビット列定義手段であり、103は予め設定した手順で
初期値たる複数のビット列を生成する初期ビット列生成
手段である。104は初期ビット列生成手段103にて
生成されたビット列が格納されるビット列格納手段であ
り、105は各々のビット列についてそれが正しい解釈
である可能性を示す指標である適応度を算出する適応度
計算手段である。106,107は適応度計算手段10
5で算出された適応度の高いビット列から新たなビット
列を生成したり、予め設定された割合でビット列を変換
するなどのビット列操作を行うビット列操作手段で、1
06は2つのビット列を同じビット位置で切断して交叉
させる交叉操作手段、107はビット列中の適当なビッ
トについて、その“1”と“0”とを反転させる突然変
異手段である。108はこれらビット列操作手段として
の交叉操作手段106および突然変異操作手段107の
動作を規定するための乱数を発生する乱数発生手段であ
る。
【0160】次に動作について説明する。ここで、図4
0はこのように構成された画像認識装置の動作の流れを
示すフローチャートである。処理の最初の段階で、テレ
ビカメラ100により認識対象物体の画像が入力される
(ステップST210)。図41(a)はこの入力され
た画像を模式的に示したものである。この場合、認識対
象物体は段ボール箱であり、その中央部分には梱包のた
めのテープが貼付されていて、物体#1および物体#2
がそれ以外の物体の上に積載されている。この実施例1
1では積載された複数の物体中の最上段に置かれたもの
の認識を課題としているので、この物体#1と物体#2
の認識を目的としている。また、同図で物体#1と物体
#2の濃度がそれ以外の物体のものと異なるのは、説明
を容易にするためであって、物体としては同一種類のも
のである。
【0161】次に、入力された原画像から物体候補抽出
手段101によって、認識対象の物体候補が抽出される
(ステップST211)。図41(b)には抽出された
12の物体候補が示されている。図から容易にわかると
おり、物体#1は候補#6に相当し、物体#2は候補#
12に相当する。なお、候補#2,候補#4,候補#
8,候補#10は全て、実際の物体とは対応しない誤っ
た候補である。
【0162】次に、物体候補リストCL〔n〕が生成さ
れる(ステップST212)。この候補リストの一例を
次の表3に示す。当該候補リストには候補番号をインデ
ックスとして、前記物体候補抽出手段101によって認
識された各物体候補の2次元的位置と姿勢(向き)が格
納されている。
【0163】
【表3】
【0164】次に、ビット列定義手段102によって、
画像中の各物体候補の存在有無をそれぞれ1ビットの情
報で表現したビット列が定義される(ステップST21
3)。図41(c)は定義されたビット列の一例を示す
もので、12ビットからなるビット列の各ビットは、そ
れぞれに対応する物体候補の存在有無が、存在する場合
は“1”、存在しない場合は“0”として表現されてい
る。図41(c)の例では、左から第1,第3,第6,
第7,第10,第11の各ビットが“1”になっており
それ以外は“0”である。従って、候補#1,候補#
3,候補#6,候補#7,候補#10,候補#11が画
像中に存在し、候補#2,候補#4,候補#5,候補#
8,候補#9,候補#12は画像中には存在しないよう
な画像を意味している。また、図41(d)は同様に候
補#6,候補#12に対応するビットのみ1になってお
り、この実施例11で求めたい結果に相当する。
【0165】次に、初期ビット列生成手段103によっ
て複数の初期ビット列群が生成され、それがビット列格
納手段104に格納される(ステップST214)。こ
の実施例11では、初期ビット列として100個のビッ
ト列を乱数発生手段108の発生するランダムなデータ
に基づいてランダムに生成する。
【0166】続いて、適応度計算手段105によってこ
の初期ビット列生成手段103の生成した各ビット列の
適応度が計算され、ビット列格納手段104にそのデー
タが格納される(ステップST215)。第n番目のビ
ット列に対応する適応度F〔n〕は次の式(6)で計算
される。
【0167】
【数4】
【0168】ここで、Fc〔m〕は候補#mの信頼度、
Fh〔m〕は候補#mの高さ信頼度であり、L〔n〕
〔m〕は第n番目のビット列の第m番目のビットを表
す。高さ信頼度は、当該物体候補が高い位置であると判
定されているほど高い信頼度をもつように値が決められ
ている。適応度を高速に計算するために、この実施例1
1では次の表4に示したようなテーブルを使用する。こ
の表4に示すように、各物体候補をインデックスとして
信頼度と高い信頼度が格納されており、適応度計算時に
は本テーブルを参照することで計算を高速に実行しう
る。
【0169】
【表4】
【0170】続く処理では、ビット列格納手段104に
格納された100個のビット列の中から適応度に応じ
て、適応度が高いほど選択される確率が高くなるように
2つの親ビット列を選択する(ステップST216)。
さらに、その選択されたそれぞれの親ビット列と同一の
ビット列として、2つの子ビット列を生成する(ステッ
プST217)。
【0171】ここで、乱数発生手段108により決めら
れた範囲の乱数を発生させ、発生した乱数を予め設定し
たしきい値th cと比較する(ステップST21
8)。そして、しきい値th cより大きな乱数が発生
した場合には交叉操作手段106によって交叉操作を行
なう。この実施例11では、発生する乱数値の範囲を0
から1までとし、しきい値th cとしては0.6を用
いた。しかし、確率的に交叉操作を行なう同等の手段で
あれば同等の作用を得ることはいうまでもない。
【0172】以下にこの交叉操作手段162により実行
される交叉操作について説明する。図42に交叉操作の
様子を模式的に示す。交叉操作は2つの子ビット列P1
およびP2に対してまず、交叉位置を決定し(ステップ
ST219)、この交叉位置において子ビット列P1と
P2を交叉させる(ステップST220)。図42に示
したビット列C1は交叉位置より左のP1と交叉位置よ
り右のP2をビット列として接続して生成し、ビット列
C2は交叉位置より左のP2と交叉位置より右のP1を
ビット列として接続して生成したものである。なお、交
叉位置は乱数発生手段によって発生された乱数に基づい
て確率的に決定する。このような操作は、ビット列を遺
伝子にたとえると、ちょうど生物学における遺伝子の交
叉現象に類似しているために交叉操作と呼ばれる。
【0173】図43は交叉操作の別の一例を示す説明図
であり、この実施例11では用いなかったが、上述の方
法に代えて用いても同様の効果がある。この図43に示
した交叉操作では、ビット列P1およびP2に対してマ
スクビット列をランダムに発生する。ビット列C1はマ
スクビット列の値1の位置に対応するP1のビットと、
同じく値0の位置に対応するP2のビットとの組み合わ
せで生成する。ビット列C2はマスクビット列の値1の
位置に対応するP2のビットと、同じく値0の位置に対
応するP1のビットとの組み合わせで生成する。
【0174】この交叉操作が終了した場合、あるいは発
生した乱数の値がしきい値th cより小さかった場合
には、さらに乱数発生手段108によって突然変異操作
のための乱数を発生させ、その乱数値としきい値th
mの大小関係を判定する(ステップST221)。そし
て、発生した乱数の値がしきい値th mより大きけれ
ば突然変異操作手段107による突然変異操作を行な
う。この突然変異操作について図44を使って以下に説
明する。まず、図44(a)では反転型の突然変異操作
を説明する。操作対象のビット列Aに対して、突然変異
位置を乱数発生手段108により発生させた乱数値に基
づいてランダムに決定し(ステップST222)、その
突然変異位置に対応するビットを反転させることによっ
てビット列Bを得る(ステップST223)。また、図
44(b)は2点置換型の突然変異操作を示す説明図で
あり、操作対象のビット列Aに対して2ヵ所の突然変異
位置を、乱数発生手段108によって発生させた乱数値
に基づいてランダムに決定し(ステップST222)、
当該位置のビットを置換(交換)することによってビッ
ト列Bに変化させる(ステップST223)。この実施
例11では、前記反転型突然変異操作を行い、さらに2
点置換型突然変異操作を行なう。この操作も、ビット列
を遺伝子による突然変異現象のアナロジーとして捉え、
突然変異操作と呼んでいる。
【0175】次に、ビット列格納手段104に格納され
た100個のビット列それぞれの適応度を調べ、もっと
も低い適応度を持つ2つのビット列を削除する(ステッ
プST224)。そして、代わりに上述の一連の処理で
生成された2つの新しいビット列を新たにビット列格納
手段104に追加登録する(ステップST225)。
【0176】以降、以上説明した適応度計算(ステップ
ST215)から新ビット列追加登録(ステップST2
25)までの処理を、終了条件が満足されるまで繰り返
す(ステップST226)。なお、この実施例11では
その終了条件として、100個のビット列群の中の最大
適応度を持つビット列パターンの変化がない状態が継続
する時間を用いている。即ち、前記継続時間が一定しき
い値以上になった時に、ビット列群の動きが止まったと
して一連の処理を終了させる。処理終了時点で、ビット
列格納手段104に格納されているビット列の中で最大
適応度をもつビット列が最終結果として出力され、前記
物体候補リストCLと組み合わせることで、最終的な物
体認識結果が出力される。
【0177】なお、上記実施例11では、交叉操作のあ
とに突然変異操作を行うものを示したが、どちらか一方
だけを実行するようにしてもよく、また突然変異操作に
関しては、反転型と2点置換型の2種類とも行うことと
したが、ランダムに発生した値に基づいてどちらか片方
だけ実行するようにしても、あるいは両方とも実行しな
くてもよく、その効果が変わることはない。
【0178】また、上記実施例11では、終了条件とし
て最大適応度をもつビット列に変化のない継続時間をも
とにしているが、予め設定した繰り返し回数の処理後に
終了するようにしてもよく、その効果は上記実施例の場
合と同等である。
【0179】また、上記実施例11では、適応度を計算
するのに物体の信頼度と高さ信頼度をもとに計算する場
合について説明したが、それ以外に画像の解釈に使用可
能な情報をもとに計算するようにしても差し支えないこ
とはいうまでもない。
【0180】また、上記実施例11では、ビット列格納
手段104に格納されるビット列の数を100個に固定
し、常に一定としたが、ビット列の数はいくらでもよ
く、また常に不変にする必要もない。これらの制約はこ
の実施例の効果に特に本質的な影響を与えるものではな
い。
【0181】また、上記実施例11では、乱数発生手段
108によってその都度乱数を発生させるものを示した
が、予め乱数テーブルを用意してメモリ等に格納してお
き、随時その乱数テーブルを参照してランダムな振る舞
いをさせるようにしてもよく、上記実施例と同様の効果
を奏する。
【0182】実施例12.次に、この発明の実施例12
を図について説明する。図45は請求項12に記載した
発明の一実施例を示す構成図であり、各部には図39に
示した実施例11の相当部分と同一の符号を付している
が、ビット列定義手段102で定義されるビット列、初
期ビット列生成手段103で生成されるビット列、ビッ
ト列格納手段104に格納されるビット列、適応度計算
手段105、あるいは交叉操作手段106や突然変異操
作手段107などで処理されるビット列の並びが2次元
配列である点で、実施例11とは異なっている。
【0183】次に動作について説明する。ここで、図4
6はこのように構成された画像認識装置の動作の流れを
示すフローチャートである。処理の最初の段階で、テレ
ビカメラ100によって認識対象物体の画像が入力され
(ステップST230)、物体候補抽出手段101によ
って認識対象の物体候補が抽出される(ステップST2
31)。なお、認識対象は図41(a)に示すような積
載された段ボール箱であり、最終的に認識したい物体は
実施例11の場合と同様に、図41(b)に示した候補
#6および候補#12である。また、候補#2,#4,
#8,#10は誤った認識であり、候補#1,#3,#
5,#7,#11は正しい認識ではあるがこの実施例1
2においては認識目標ではない。次に、物体候補リスト
CLが生成される(ステップST232)。この物体候
補リストCLは、候補番号をインデックスとして各候補
の2次元的位置と姿勢(向き)が格納された、前記表3
に示した実施例11と同様のものである。
【0184】次に、ビット列定義手段102により2次
元配列のビット列が定義される(ステップST23
3)。即ち、前記図41(b)に示された各物体候補#
1〜#12の、画像中の存在有無をそれぞれ1ビットで
表現し、図47に示すような2次元のビット列を用いて
これを表現する。この図41では縦5、横3の合計15
個のビットからなるビット集合(ビット列)が描かれて
いるが、12個の物体候補をそれぞれのビットに割り付
け、存在するなら“1”、存在しないなら“0”、もと
もと空のビットなら“−1”を与える。言い換えれば、
前記ビット列は画像の解釈を表現しており、画像中に、
“1”になっているビットに対応する物体候補は存在
し、“0”になっているビットに対応する物体候補は存
在しないことを意味する。なお、“−1”のビットに対
応する候補はもともと定義していない。各ビットは1ビ
ットであるので、“1”か“0”のみを取りうるもので
あり、この実施例12では説明が容易なように“−1”
も取りうるとしているが、実際には“−1”が格納され
ているビット自体が存在していない。
【0185】次に、初期ビット列生成手段103によっ
て2次元の初期ビット列が生成され、それがビット列格
納手段104に格納される(ステップST234)。こ
のとき、乱数発生手段108によって発生されたランダ
ムなデータに基づいて、ランダムに初期ビット列を発生
させる。この実施例12においても発生させるビット列
の個数は100である。
【0186】次に、適応度計算手段105によって、こ
の初期ビット列生成手段103の生成した各ビット列の
適応度が計算され、ビット列格納手段104にそのデー
タが格納される(ステップST235)。第n番目のビ
ット列に対応する適応度F〔n〕は実施例11に記載の
方法で、前記式(6)によって計算される。なお、高さ
信頼度は当該物体候補が高い位置であると判定されてい
るほど高い信頼度をもつように値が決められており、こ
の適応度を高速に計算するため、この実施例12におい
ても実施例11と同様に、表4に示したテーブルを使用
している。
【0187】続く処理では、ビット列格納手段104に
格納された100個の2次元ビット列の中から適応度に
応じて、適応度が高いほど選択される確率が高くなるよ
うに2つの親ビット列が選択される(ステップST23
6)。さらに、その選択されたそれぞれの親ビット列と
同一のビット列として、2次元の子ビット列を2つ生成
する(ステップST237)。
【0188】次に、乱数発生手段108により決められ
た範囲の乱数を発生させて予め設定したしきい値th
cと比較し(ステップST238)、それより大きけれ
ば交叉操作手段106によって交叉操作を行なう。この
実施例11でも、発生する乱数値の範囲を0から1まで
とし、しきい値th cとしては0.6を用いた。しか
し、確率的に交叉操作を行なう同等の手段であれば同等
の作用を得ることは実施例11の場合と同様である。
【0189】なお、この交叉操作は図48に示すように
して実行される。即ち、2つのビット列P1とP2に対
して交叉領域の位置と形状、サイズがランダムに決定さ
れる(ステップST239)。図中の×印は図47にお
ける−1のビットを意味し、操作にはいっさい関与しな
い。前記交叉領域の内容について、ビット列P1および
P2で置換をおこない、得られた2つの2次元のビット
列をC1,C2とする(ステップST240)。このよ
うな操作は、ビット列を遺伝子にたとえると、ちょうど
生物学における遺伝子の交叉現象に類似しているために
交叉操作と呼ばれる。
【0190】次に、さらに乱数発生手段108によって
突然変異操作のための乱数を発生させ、その乱数値とし
きい値th_mの大小関係に基づいて、突然変異手段1
07による突然変異操作を行なうかどうかを決定する
(ステップST241)。以下にこの突然変異操作につ
いて図49を使って説明する。図49(a)は反転型の
突然変異操作を説明するもので、操作対象のビット列A
に対して、突然変異領域の位置とサイズを乱数発生手段
108により発生させた乱数値に基づいてランダムに決
定し(ステップST242)、その位置に対応するビッ
トを反転させることによって、ビット列Bに変化させる
(ステップST243)。また、図49(b)は置換型
の突然変異操作を説明するものであり、操作対象のビッ
ト列Aに対して2ヵ所の突然変異領域の位置とサイズ
を、乱数発生手段108によって発生させた乱数値に基
づいてランダムに決定し(ステップST242)、当該
位置のビットを置換(交換)することによってビット列
Bに変化させる(ステップST243)。このとき、2
ヵ所の突然変異領域のサイズは一致している必要があ
る。この実施例12では、前記反転型突然変異操作を行
い、さらに置換型突然変異操作を行なう。この操作も、
ビット列を遺伝子による突然変異現象のアナロジーとし
て捉え、突然変異操作と呼んでいる。
【0191】次に、ビット列格納手段104に格納され
た100個のビット列それぞれの適応度を調べ、もっと
も低い適応度を持つ2つの2次元のビット列を削除する
(ステップST244)。そして、代わりに上述の一連
の処理で生成された2つの新しい2次元のビット列を新
たにビット列格納手段104に追加登録する(ステップ
ST245)。
【0192】上記の適応度計算(ステップST235)
から、新ビット列追加(ステップST245)までの処
理を、終了条件が満足されるまで繰り返す(ステップS
T246)。なお、この実施例12ではその終了条件と
して、100個のビット列群の中の最大適応度を持つビ
ット列パターンの変化がない状態が継続する時間を用い
る。即ち、前記継続時間が一定しきい値以上になった時
に、ビット列群の動きが止まったとして一連の処理を終
了させる。処理終了時点で、ビット列格納手段104に
格納されている2次元のビット列の中で最大適応度をも
つビット列が最終結果として出力され、前記物体候補リ
ストCLと組み合わせることで、最終的な物体認識結果
が出力される。
【0193】なお、上記実施例12では、交叉操作のあ
とに突然変異操作を行うものを示したが、どちらか一方
だけを実行するようにしてもよく、また突然変異操作に
関しては、反転型と置換型の2種類とも行うこととした
が、ランダムに発生した値に基づいてどちらか片方だけ
実行するようにしても、あるいは両方とも実行しなくて
もよく、その効果が変わることはない。
【0194】また、上記実施例12では、交叉操作や突
然変異操作における交叉領域、または突然変異領域の形
状を、矩形領域としたが、必ずしも矩形でなくてもよ
く、円形や十字型などの任意の形状を用いてもよく、そ
の効果はなんら変わることはない。
【0195】また、上記実施例12では、終了条件とし
て最大適応度をもつビット列に変化のない継続時間をも
とにしているが、予め設定した繰り返し回数の処理後に
終了するようにしてもよく、上記実施例と同様の効果を
奏する。
【0196】また、上記実施例では、ビット列格納手段
104に格納されるビット列の数を100個に固定し、
常に一定としたが、ビット列の数はいくらでもよく、ま
た常に不変にする必要もない。これらの制約はこの実施
例の効果に特に本質的な影響を与えるものではない。
【0197】また、上記実施例12では、適応度を計算
するのに物体の信頼度と高さ信頼度をもとに計算する場
合について説明したが、それ以外に画像の解釈に使用可
能な情報をもとに計算するようにしても差し支えないこ
とはいうまでもない。
【0198】また、上記実施例では、乱数発生手段10
8によってその都度乱数を発生させるものを示したが、
予め乱数テーブルを用意してメモリ等に格納しておき、
随時その乱数テーブルを参照してランダムな振る舞いを
させるようにしてもよく、上記実施例と同様の効果を奏
する。
【0199】実施例13.次に、この発明の実施例13
を図について説明する。図50は請求項13に記載した
発明の一実施例を示す構成図で、相当部分には図39と
同一符号を付してその説明を省略する。図において、1
09は図39に示した交叉操作手段106や突然変異操
作手段107などによるビット列操作手段である。11
0はそれぞれの適応度が大きいほど高い確率で選択され
るように、ビット列格納手段104に格納されているビ
ット列の選択を行うビット列選択手段である。111は
ビット列格納手段104に格納されているビット列の中
で最も適応度の高いビット列を算出する最大適応度ビッ
ト列計算手段であり、112は最大適応度をもつビット
列が一定時間以上不変であった場合に、そのビット列を
随時付加保存する結果ビット列格納手段である。
【0200】次に動作について説明する。ここで、図5
1はこのように構成された画像処理装置の動作の流れを
示すフローチャートである。なお、この実施例14では
最適化問題をあつかう。まず、最適化したい問題をもと
に、解を複数のビットからなるビット列として表現す
る。ここでは、図41(a)に示した段ボール箱を認識
する場合に、それより抽出された同図(b)に示す12
の物体候補について、実施例11に記載されているよう
な方式で、同図(c)に示されているビット列を得る。
処理の最初の段階では、初期ビット列生成手段103に
よって初期ビット列群がランダムに生成される(ステッ
プST250)。なお、この実施例13ではビット列は
100個生成される。このビット列の生成には乱数を発
生させ、ビット列の“1”の値を取る位置をランダムに
決定する。生成されたビット列は全てビット列格納手段
104に格納される。
【0201】次に、ビット列格納手段104に格納され
た100個のビット列それぞれの適応度Fを、適応度計
算手段105によって計算し(ステップST251)、
ビット列格納手段104にそのデータを格納する。この
適応度Fは前記実施例11に記載したものと同様のもの
を用いる。続く処理では、この適応度が大きいほど選択
される確率が高くなるように、ビット列選択手段110
によってビット列が選択され(ステップST252)、
さらに、新ビット列が前記選択されたビット列のコピー
として生成される(ステップST253)。
【0202】次に、ビット列操作手段109では実施例
11の場合と同様に2種類のビット列の操作が行なわれ
る(ステップST254)。即ち、乱数発生手段108
により発生された乱数と、あらかじめ設定されたしきい
値th cとを比較して子ビット列に対して交叉位置を
決定し、交叉操作を施したり、また同じく乱数としきい
値th mとの比較により突然変異位置を決定して子ビ
ット列の突然変異操作を行なうものである。ここで、乱
数を発生させたのは、子ビット列に対してかかるビット
列操作を行なうかどうか、また行なうとして交叉の位置
や突然変異の位置をビット列のどの部分に対して行なう
かを、ランダムに決定するためである。従って、この実
施例13ではその都度乱数を発生させたが、あらかじめ
乱数テーブルを作成してメモリ等に格納しておき、随時
その乱数テーブルを参照する方式でも差し支えない。
【0203】このビット例操作の結果得られたビット列
はビット列格納手段104に格納され、同時にこのビッ
ト列格納手段104に格納された全てのビット列の中で
最も適応度の低い2つのビット列が削除される。さら
に、最大適応度ビット列計算手段111により、このビ
ット列格納手段104に格納されているビット列の中で
最も適応度の高いビット列Sが算出され(ステップST
255)、最大適応度ビット列としてその番号が記憶さ
れる。また、このビット列Sがどのくらいの時間、最大
適応度ビット列として継続的に記憶されているかを示す
継続時間tも併せて計算され(ステップST256)、
その継続時間tが予め設定されたしきい値thされて
(ステップST257)、しきい値thよりも大ならば
そのビット列Sを結果ビット列格納手段112に格納す
る(ステップST258)。一方、しきい値thより大
でないなら結果ビット列格納手段112へのビット列S
の保存は行わない。
【0204】図52は、時間とともに前記最大適応度の
ビット列Sの持つ適応度がどのように変化するかの一例
を示す説明図である。なお、横軸は時間であるが、遺伝
子による世代交代とのアナロージーからこの実施例14
では世代と呼んでいる。図において、世代0における適
応度はF1である。世代G1までの過程で徐々に適応度
は増加し、世代G1においては適応度はF2に急激に変
化している。これは交叉操作や突然変異操作の結果とし
て適応度が高いビット列が新たに生成され、全ビット列
群のなかでの最大適応度ビット列に変化が生じたからで
ある。さらに、世代G2までの期間で、適応度はF2の
まま不変である。即ち最大適応度ビット列Sが(G2−
G1)の時間だけ不変であるということであるから、前
記時間がしきい値thより大ならば、この適応度F2を
持つビット列Sは結果ビット列格納手段112に追加登
録されることになる。一方、同図において、世代G2か
らG3までは適応度F3で一定であるが、時間(G3−
G2)がしきい値thより大でなければ、結果ビット列
格納手段112に格納されることはない。
【0205】図51のフローチャートにおいて、適応度
算出(ステップST251)から、最大適応度ビット列
Sの継続時間tとしきい値thとの比較(ステップST
257)あるいはビット列Sの保存(ステップST25
8)での各処理は、予め定義された終了条件が満足され
るまで繰り返される(ステップST259)。なお、こ
の実施例13では終了条件として、前記継続時間tが一
定しきい値th t以上になった時に、ビット列群の動
きが完全に止まったとして一連の処理を終了させ、この
実施例14における動作は完了する。
【0206】なお、上記実施例13では、終了条件とし
て最大適応度をもつビット列に変化のない継続時間をも
とにしているが、予め設定した繰り返し回数の処理後に
終了するようにしてもよく、上記実施例と同等の効果を
期待することができる。
【0207】また、上記実施例14では、ビット列格納
手段104に格納されるビット列の数を100個に固定
し、常に一定としたが、ビット数はいくらでもよく、ま
た常に不変にする必要もない。これらの制約はこの実施
例の効果に特に本質的な影響を与えるものではない。
【0208】実施例14.次に、この発明の実施例14
を図について説明する。図53は請求項14に記載した
発明の一実施例を示す構成図である。図において、12
0は複数のビット列を予め設定した方法で生成する初期
ビット列生成手段であり、121は生成されたビット列
の情報としての適応の度合いを表現した適応度を計算す
る適応度計算手段である。122はその適応度の高いビ
ット列より複数のビット列の選択を行うビット列選択手
段であり、123はこのビット列選択手段122にて選
択されたビット列から新しいビット列を生成する新ビッ
ト列生成手段である。124はこの新ビット列生成手段
123によって生成されたビット列に対して、予め設定
されているビット列の交叉操作や突然変異操作などのビ
ット列操作を行うビット列操作手段であり、125はこ
れらビット列を全て格納できるビット列格納手段であ
る。126はビット列の情報としての不適応の度合いを
表現した不適応度を計算する不適応度計算手段であり、
127はこの不適応度計算手段126の計算した不適応
度を検査する不適応度検査手段、128は不適応度検査
手段127の検査結果に基づいてビット列格納手段12
5に格納されているビット列の削除を行うビット列削除
手段である。
【0209】次に動作について説明する。ここで、図5
4はこのように構成された情報処理装置の動作の流れを
示すフローチャートである。なお、この実施例14では
実施例13の場合と同様に最適化問題をあつかう。ま
ず、最適化したい問題をもとに、解を複数のビットから
なるビット列として表現する。ここでも、図41(a)
に示した段ボール箱を認識する場合に、それより抽出さ
れた同図(b)に示す12の物体候補について、実施例
11に記載されているような方式で、同図(c)に示さ
れているビット列を得る。処理の最初の段階では、この
ビット列を複数個、この実施例14では100個、初期
ビット列生成手段120によって生成する(ステップS
T260)。生成には乱数を発生させ、ビット列の
“1”の値を取る位置をランダムに決定する。生成され
たビット列は全てビット列格納手段125に格納され
る。
【0210】次に、格納された100個のビット列それ
ぞれの適応度Fを適応度計算手段121によって計算し
(ステップST261)、ビット列格納手段125にそ
のデータを格納する。この適応度Fは前記実施例11に
記載したものと同様のものを用いる。さらに、不適応度
計算手段126により、各ビット列について不適応度G
が計算される(ステップST262)。ビット列nに対
応する不適応度G〔n〕は、以下の式(7)によって計
算される。
【0211】
【数5】
【0212】ここで、I〔n〕〔m〕は物体候補#nと
物体候補#mとの干渉度合いを表しており、1を最大と
して、重なり度合いが大きいほど値は大きくなり、物体
候補#nと#mが完全に位置的に離れている場合は0に
なる。この干渉の度合いIの一例は次の表5に示されて
いる。なお、この表5ではIの値を干渉あり(I=1)
と干渉なし(I=0)に2値化して示している。
【0213】
【表5】
【0214】次に、ビット列格納手段125に格納され
ている全ビット列を検査し(ステップST263)、こ
の不適応度が予め設定された値より大きければ、再び初
期ビット列生成処理(ステップST260)からやり直
す。不適応度検査が“OK”となければ、ビット列群は
ビット列格納手段125に登録される(ステップST2
64)。
【0215】続く処理では、ビット列格納手段125に
格納されている各ビット列の適応度が計算され(ステッ
プST265)、適応度が大きいほど選択される確率が
高くなるように、ビット列選択手段122によって親ビ
ット列が選択される(ステップST266)。子ビット
列は、新ビット列生成手段123によって、前記選択さ
れた親ビット列のコピーとして生成される(ステップS
T267)。
【0216】ビット列操作手段124では、実施例11
において説明したビット列の操作が行なわれる。即ち、
乱数発生手段(図示省略)により発生された乱数と、あ
らかじめ設定されたしきい値th cとを比較して(ス
テップST268)子ビット列に対して交叉位置を決定
し(ステップST269)、交叉操作を施したり(ステ
ップST270)、また乱数としきい値th mとの比
較により(ステップST271)突然変異位置を決定し
て(ステップST272)子ビット列の突然変異操作を
行なう(ステップST273)ものである。ここで、乱
数を発生させたのは、子ビット列に対して、かかるビッ
ト列操作を行なうかどうか、また行なうとして交叉の位
置や突然変異の位置をビット列のどの部分に対して行な
うかを、ランダムに決定するためである。従って、この
実施例14ではその都度乱数を発生させたが、あらかじ
め乱数テーブルを作成してメモリ等に格納しておき、随
時その計数テーブルを参照する方式でも差し支えない。
【0217】このビット列操作が施されたビット列は一
旦ビット列格納手段125に格納され、さらに、不適応
度計算手段126によって、すでに説明した方法による
当該子ビット列の不適応度が計算される(ステップST
274)。次に、その不適応度が不適応度検査手段12
7によって予め設定されたしきい値th xと比較され
(ステップST275)、不適応度がしきい値th
より大きければ、当該子ビット列はいわゆる致死遺伝子
即ち集団なかでは生存できないほど適応度が低いビット
列であると判定され、前記ビット列格納手段125から
ビット列削除手段128によって削除される(ステップ
ST276)。不適応度がしきい値th xより小さけれ
ばその子ビット列はそのままビット列格納手段125に
残され、かわりにビット列格納手段125に格納されて
いる全てのビット列の中で最も適応度の低い2つのビッ
ト列がビット列削除手段128によって削除される(ス
テップST277)。この処理によって子ビット列が前
記ビット列格納手段125に追加登録されたことになる
(ステップST278)。
【0218】上記の各ビット列の適応度計算(ステップ
ST265)から子ビット列追加(ステップST27
8)までの処理を、終了条件が満足されるまで繰り返す
(ステップST279)。なお、この実施例14ではそ
の終了条件として、100個のビット列群の中の最大適
応度を持つビット列パターンの変化がない状態が継続す
る時間を用いている。即ち、前記継続時間が一定しきい
値以上になった時に、ビット列群の動きが止まったとし
て一連の処理を終了させる。処理終了時点で、ビット列
格納手段125に格納されているビット列の中で最大適
応度をもつビット列が最終結果として出力され、最適化
されたビット列が出力されることになる。
【0219】なお、上記実施例14では、不適応度を定
義するのに2つの物体候補の2次元的干渉度合いをもと
に算出するように定義したが、別の手法として別途計測
された各物体候補の高さ情報をも利用して干渉度合いを
決定するようにしてもよい。
【0220】また、上記実施例14では、終了条件とし
て最大適応度をもつビット列に変化のない継続時間をも
とにしているが、予め設定した繰り返し回数の処理後に
終了するようにしてもよく、上記実施例と同様の効果を
奏する。
【0221】また、上記実施例14では、ビット列格納
手段125に格納されるビット列の数を100個に固定
し、常に一定としたが、ビット列の数はいくらでもよ
く、また常に不変にする必要もない。これらの制約はこ
の実施例の効果に特に本質的な影響を与えるものではな
い。
【0222】また、上記実施例14では、乱数発生手段
108によってその都度乱数を発生させるものとして説
明したが、予め乱数テーブルを用意してメモリ等に格納
しておき、随時その乱数テーブルを参照してランダムな
振る舞いをさせるようにしてもよく、上記実施例と同様
の効果を奏する。
【0223】
【発明の効果】以上のように、請求項1に記載の発明に
よれば、撮像された画像よりワークの2次元配置を認識
して距離計測プランを決定し、それに従って計測した計
測結果を2次元配置情報と統合してワークの3次元配置
を認識し、ロボットの動作プランを計算するように構成
したので、物体の表面になんら特別な識別用のマークを
付加する必要がなくなり、また、識別対象物体を2次元
的および3次元的に識別することが可能となって、移載
作業を正確に行うことができるロボット装置が得られる
効果がある。
【0224】また、請求項2に記載の発明によれば、標
準距離計測手段の測定結果を用いた粗い3次元配置認識
を行い、その認識結果に基づく距離計測プランで計測し
た結果により、その粗い3次元配置認識の結果を補正す
るように構成したので、画像データ処理中に並行して距
離計測の一部を実行することが可能となって、より高速
な識別対象物体の識別が可能となる効果がある。
【0225】また、請求項3に記載の発明によれば、1
つのワーク毎に3点以上で距離を計測してワーク上面の
法線方向を計算し、その法線方向よりロボットの動作プ
ランを計算するように構成したので、移載作業を物体上
面の法線方向に基づいたより確実なものとすることがで
きる効果がある。
【0226】また、請求項4に記載の発明によれば、ワ
ークモデル格納部に格納しておいた複数の標準モデルの
中から、粗い2次元配置認識結果に基づいて選択した標
準モデルを用いて精密な2次元配置認識を行うように構
成したので、物体認識における撮像手段と物体との距離
が未知であることに起因する2次元配置認識の信頼性の
低下を抑制することも可能となって、2次元配置認識を
高信頼度で行うことができる効果がある。
【0227】また、請求項5に記載の発明によれば、距
離センサの距離計測ビームに平行して撮像手段で撮像可
能なポインタビームを投光するように構成したので、距
離センサとして超音波センサ等の非光学的手法を適用し
たものを用いた場合でも、物体表面における距離計測点
を正確に把握することができ、より高精度に物体を認識
することが可能となる効果がある。
【0228】また、請求項6に記載の発明によれば、エ
ッジ画像の座標変換・投票結果をもとに抽出した認識対
象の物体候補についてそれぞれの信頼度を計算し、それ
に基づいて物体の位置と配置パターンを認識するように
構成したので、物体の表面になんら特別な識別用のマー
クを付加する必要がなくなり、また、物体の位置と姿勢
を正確に認識することが可能な物体認識装置が得られる
効果がある。
【0229】また、請求項7に記載の発明によれば、座
標変換・投票とテンプレートマッチングのそれぞれによ
る物体候補の抽出を行えるように構成したので、物体上
面の模様などの絵柄パターンに応じて最適な認識アルゴ
リズムを適用することが可能となり、さらに信頼性の高
い認識が可能となる効果がある。
【0230】また、請求項8に記載の発明によれば、各
物体候補についてその輪郭テンプレートによるEPTM
を行って、得られた類似度よりその物体候補の信頼度を
算出するように構成したので、複数の物体候補の信頼度
を高速に計算することが可能となって、高精度の認識を
短時間で行うことが可能となる効果がある。
【0231】また、請求項9に記載の発明によれば、上
記輪郭テンプレートとともに、物体輪郭の存在しない部
分を表現するテンプレートも信頼度計算手段に持たせる
ように構成したので、さらに、物体表面上に紛らわしい
模様が存在しても、複数の物体候補の信頼性を、高い精
度で算出できる効果がある。
【0232】また、請求項10に記載の発明によれば、
エッジ画像を水平および垂直に走査して、水平線分また
は垂直線分である可能性の高い点列についてはまとめて
点として、またそのいずれである可能性も低い点列につ
いてはハフ変換式に基づいて曲線として、それぞれハフ
投票平面に投票するように構成したので、画像中に水平
または垂直な線分要素が存在する場合に、高速かつ高信
頼度の投票を行うことができ、投票平面からのパターン
抽出の信頼性が高い、ハフ変換技術を利用した画像処理
装置が得られる効果がある。
【0233】また、請求項11に記載の発明によれば、
予め設定した手順で複数のビット列を発生させて各ビッ
ト列の適応度を算出し、適応度の高いビット列から新た
なビット列を生成したり、予め設定された割合でビット
列の変換を行うビット列操作を繰り返して、より適応度
の高いビット列を得ることによって画像の解釈を行うよ
うに構成したので、画像から抽出した複数の物体パター
ンの組み合わせで画像を認識する場合に、信頼度の高い
画像認識を高速に行うことができる画像処理装置が得ら
れる効果がある。
【0234】また、請求項12に記載の発明によれば、
上記ビット列の全てを2次元配列とするように構成した
ので、画像認識をさらに高速かつ高信頼度で行うことが
できる効果がある。
【0235】また、請求項13に記載の発明によれば、
最大適応度をもつビット列が一定時間以上不変であった
場合にその当該ビット列を随時付加保存し、最終的に保
存された複数のビット列に対応する複数の画像解釈結果
をもって当該画像処理装置の出力とするように構成した
ので、繰り返し行われる世代交代において、各世代で最
も適応度の高い遺伝子を保存し、対応する局所的最適解
を適宜追加登録することで、複数の画像解釈が可能な画
像解釈問題において複数の解を出力することができる、
いわゆる遺伝的アルゴリズムを利用した画像処理装置が
得られる効果がある。
【0236】また、請求項14に記載の発明によれば、
各ビット列について適応度と不適応度を算出し、不適応
度が一定値以上の場合にはそのビット列削除し、高い適
応度を持つビット列ほど選択確率が高くなるように設定
して選択した複数のビット列より新しいビット列を生成
し、そのビット列に対して交叉や突然変異などのビット
操作を行い、その適応度と不適応度を計算し、算出され
た不適応度が一定値以上ならそのビット列を削除し、一
定値以下ならビット列群に追加して適応度の低いビット
列をそのビット列群より削除し、この一連の動作の繰り
返しによってより適応度の高いビット列を生成するよう
に構成したので、遺伝子としての生存が非常に困難な固
体を早い段階で削除できて無駄な処理時間が節約でき、
高速処理が可能な、いわゆる遺伝的アルゴリズムを利用
した情報処理装置が得られる効果がある。
【図面の簡単な説明】
【図1】この発明の実施例1によるロボット装置を示す
構成図である。
【図2】上記実施例の動作の流れを示すフローチャート
である。
【図3】上記実施例における認識対象物体の画像を示す
説明図である。
【図4】上記実施例における距離測定点を示す説明図で
ある。
【図5】この発明の実施例2によるロボット装置を示す
構成図である。
【図6】上記実施例の動作の流れを示すフローチャート
である。
【図7】上記実施例における基準距離計測経路を示す説
明図である。
【図8】上記実施例における各処理の時間関係を示すタ
イミング図である。
【図9】この発明の実施例3によるロボット装置を示す
構成図である。
【図10】上記実施例の動作の流れを示すフローチャー
トである。
【図11】上記実施例における距離測定点を示す説明図
である。
【図12】この発明の実施例4によるロボット装置を示
す構成図である。
【図13】上記実施例の動作の流れを示すフローチャー
トである。
【図14】上記実施例における撮像手段と対象物との位
置関係を示す説明図である。
【図15】上記実施例における距離計測の概念を示す説
明図である。
【図16】この発明の実施例5によるロボット装置を示
す構成図である。
【図17】上記実施例の動作の流れを示すフローチャー
トである。
【図18】上記実施例における距離計測の概念を示す説
明図である。
【図19】この発明の実施例6による物体認識装置を示
す構成図である。
【図20】上記実施例の動作の流れを示すフローチャー
トである。
【図21】上記実施例におけるハフ変換を示す説明図で
ある。
【図22】上記実施例における矩形抽出を示す説明図で
ある。
【図23】上記実施例における画像解釈処理の流れを示
すフローチャートである。
【図24】上記実施例における信頼度および候補テーブ
ルの一例を示す説明図である。
【図25】この発明の実施例7による物体認識装置を示
す構成図である。
【図26】上記実施例の動作の流れを示すフローチャー
トである。
【図27】上記実施例におけるテンプレートマッチング
の説明図である。
【図28】この発明の実施例8による物体認識装置を示
す構成図である。
【図29】上記実施例の動作の流れを示すフローチャー
トである。
【図30】上記実施例におけるEPTMの説明図であ
る。
【図31】上記実施例におけるEPTMの流れを示すフ
ローチャートである。
【図32】この発明の実施例9による物体認識装置を示
す構成図である。
【図33】上記実施例の動作の流れを示すフローチャー
トである。
【図34】上記実施例におけるEPTMの説明図であ
る。
【図35】上記実施例におけるEPTMの流れを示すフ
ローチャートである。
【図36】この発明の実施例10による画像処理装置を
示す構成図である。
【図37】上記実施例の動作の流れを示すフローチャー
トである。
【図38】上記実施例におけるハフ変換を説明するため
の説明図である。
【図39】この発明の実施例11による画像処理装置を
示す構成図である。
【図40】上記実施例の動作の流れを示すフローチャー
トである。
【図41】上記実施例における認識対象とビット列の一
例を示す説明図である。
【図42】上記実施例におけるビット列の交叉操作の一
例を示す説明図である。
【図43】上記実施例におけるビット列の交叉操作の他
の例を示す説明図である。
【図44】上記実施例におけるビット列の突然変異操作
の一例を示す説明図である。
【図45】この発明の実施例12による画像処理装置を
示す構成図である。
【図46】上記実施例の動作の流れを示すフローチャー
トである。
【図47】上記実施例におけるビット列の一例を示す説
明図である。
【図48】上記実施例におけるビット列の交叉操作の一
例を示す説明図である。
【図49】上記実施例におけるビット列の突然変異操作
の一例を示す説明図である。
【図50】この発明の実施例13による画像処理装置を
示す構成図である。
【図51】上記実施例の動作の流れを示すフローチャー
トである。
【図52】上記実施例における世代と適応度の関係を示
す説明図である。
【図53】この発明の実施例14による情報処理装置を
示す構成図である。
【図54】上記実施例の動作の流れを示すフローチャー
トである。
【図55】従来の技術1による自動移載装置を示す構成
図である。
【図56】その動作の流れを示すフローチャートであ
る。
【図57】従来の技術2による自動移載装置を示す構成
図である。
【図58】その動作の流れを示すフローチャートであ
る。
【図59】そのワークの積載例を示す斜視図である。
【図60】その距離計測データの一例を示す説明図であ
る。
【図61】従来の技術3による自動移載装置を示す構成
図である。
【図62】そのワークの一例を示す斜視図である。
【図63】その動作の流れを示すフローチャートであ
る。
【図64】従来の技術4による物体認識装置を示す構成
図である。
【図65】その動作の流れを示すフローチャートであ
る。
【図66】従来の技術5による画像処理装置によるハフ
変換を示す説明図である。
【図67】その動作の流れを示すフローチャートであ
る。
【図68】従来の技術6による画像処理装置における動
作の流れを示すフローチャートである。
【図69】従来の技術7による情報処理装置の遺伝的ア
ルゴリズムにおける遺伝子集団を示す説明図である。
【図70】上記遺伝子アルゴリズムにおける遺伝子の交
叉を示す説明図である。
【図71】その動作の流れを示すフローチャートであ
る。
【符号の説明】
50 ワーク 51 ロボット 52 ロボットハンド 53 撮像手段(テレビカメラ) 54 画像認識手段 55 距離計測プラン部 56 距離計測手段 57 距離センサ(超音波センサ) 58 ワーク配置認識手段 59 ロボット動作プラン部 60 標準距離計測手段 61 法線方向認識手段 63 ワークモデル格納手段 64 光ビーム投光手段 65 ポインタビーム検出手段 70 認識対象物体(箱状物体) 71 画像入力手段(テレビカメラ) 72 エッジ検出手段 73 座標変換手段 74 物体候補抽出手段 75 信頼度計算手段 76 画像認識手段 78 テンプレート格納手段 79 パターン検出手段 80 輪郭テンプレート 81 テンプレート 90 エッジ検出手段 91 水平線投票手段 92 垂直線投票手段 93 水平・垂直線以外投票手段 100 画像入力手段(テレビカメラ) 101 物体候補抽出手段 102 ビット列定義手段 103 初期ビット列生成手段 105 適応度計算手段 106 ビット列操作手段(交叉操作手段) 107 ビット列操作手段(突然変異操作手段) 109 ビット列操作手段 111 最大適応度ビット列計算手段 112 結果ビット列格納手段 120 初期ビット列生成手段 121 適応度計算手段 122 ビット列選択手段 123 新ビット列生成手段 124 ビット列操作手段 125 ビット列格納手段 126 不適応度計算手段 127 不適応度検査手段 128 ビット列削除手段
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.6 識別記号 庁内整理番号 FI 技術表示箇所 G06T 7/00 9287−5L G06F 15/62 415

Claims (14)

    【特許請求の範囲】
  1. 【請求項1】 ロボットハンドによって把持されて移載
    されるワークを撮像する撮像手段と、前記撮像手段にて
    撮像されたワークの2次元的な配置を認識する画像認識
    手段と、前記画像認識手段にて認識されたワークの配置
    に基づいて最適なワーク高さ測定点を算出して距離計測
    プランを作成する距離計測プラン部と、前記距離計測プ
    ラン部の作成した距離計測プランに基づいて、1つのワ
    ーク毎に少なくとも1点のワーク高さ測定点の高さを計
    測する距離計測手段と、前記画像認識手段の認識結果と
    前記距離計測手段の計測結果を用いて、ワークの3次元
    的な配置を認識するワーク配置認識手段と、前記ワーク
    配置認識手段の認識結果に基づいて、ワーク移載のため
    のロボットの動作プランを算出するロボット動作プラン
    部とを備えたロボット装置。
  2. 【請求項2】 前記撮像手段がワークの画像を撮像した
    後に、撮像されたワークの画像データの処理と並行し
    て、予め定められた標準的な計測コースに従って距離セ
    ンサを移動させながらワークの高さの計測を行う標準距
    離計測手段を付加したことを特徴とする請求項1に記載
    のロボット装置。
  3. 【請求項3】 前記距離計測手段にて高さを計測するワ
    ーク高さ計測点の数を1つのワークあたり3点以上と
    し、前記距離計測手段の計測結果からワークの法線方向
    を計算する法線方向認識手段を付加し、前記ワーク配置
    認識手段が、前記画像認識手段の認識結果と前記法線方
    向認識手段の計算した法線方向を用いて、ワークの3次
    元的な配置の認識を行うものであることを特徴とする請
    求項1に記載のロボット装置。
  4. 【請求項4】 前記ワークの2次元的な配置の認識に用
    いる複数の標準モデルのデータが格納されたワークモデ
    ル格納手段を付加し、前記画像認識手段が、前記距離計
    測手段で計測されたワークの高さの情報を使用して、前
    記撮像手段で撮像された画像におけるワークの大きさを
    推測し、それに基づいて用いる前記基準モデルの切り換
    えを行うものであることを特徴とする請求項1に記載の
    ロボット装置。
  5. 【請求項5】 前記距離計測手段の距離センサによる距
    離計測ビームと平行で、前記撮像手段にて撮像すること
    が可能なポインタビームを投光する光ビーム投光手段
    と、前記撮像手段にて撮像された画像中より、前記光ビ
    ーム投光手段より投光されたポインタビームを検出する
    ポインタビーム検出手段とを付加したことを特徴とする
    請求項1に記載のロボット装置。
  6. 【請求項6】 認識対象物体の画像を入力する画像入力
    手段と、前記画像入力手段より入力された原画像のエッ
    ジを抽出するエッジ検出手段と、前記エッジ検出手段に
    て得られたエッジ画像上の各エッジ点について、座標変
    換操作を行って投票平面上に順次投票する座標変換手段
    と、前記投票平面から情報を読み出して複数の認識対象
    の物体候補を抽出する物体候補抽出手段と、抽出された
    前記物体候補のそれぞれについて信頼度の計算を行う信
    頼度計算手段と、算出された前記信頼度に基づいて前記
    原画像中の物体の位置、およびその配列パターンを認識
    する画像認識手段とを備えた物体認識装置。
  7. 【請求項7】 テンプレートマッチングに必要な前記認
    識対象物体のモデルを格納するテンプレート格納手段
    と、入力された前記原画像について、前記テンプレート
    格納手段に格納されたモデルを使用したテンプレートマ
    ッチングを行って物体の位置と姿勢を検出し、認識対象
    の物体候補を抽出するパターン検出手段とを付加し、前
    記信頼度計算手段が、前記物体候補抽出手段と前記パタ
    ーン検出手段とによって抽出された前記物体候補につい
    て信頼度の計算を行うものであることを特徴とする請求
    項6に記載の物体認識装置。
  8. 【請求項8】 前記信頼度計算手段が、認識対象物体に
    関する輪郭点をもとにした輪郭テンプレートを備え、前
    記物体候補の原画像上の輪郭点と前記輪郭テンプレート
    との輪郭マッチングによって得られた類似度より、その
    物体候補の信頼度を算出するものであることを特徴とす
    る請求項6に記載の物体認識装置。
  9. 【請求項9】 前記信頼度計算手段が、認識対象物体に
    関する輪郭点をもとにした物体輪郭の存在する部分を表
    現する輪郭テンプレートと、物体輪郭の存在しない部分
    を表現するテンプレートとを備え、前記類似度を、これ
    ら両方のテンプレートを使用した輪郭マッチングによっ
    て得るものであることを特徴とする請求項8に記載の物
    体認識装置。
  10. 【請求項10】 入力された原画像のエッジを抽出する
    エッジ検出手段と、前記エッジ検出手段にて抽出された
    エッジ画像を水平に走査し、水平線分である可能性の高
    い点列を検出すると、それを点としてハフ投票平面に投
    票する水平線投票手段と、前記エッジ画像を垂直に走査
    して垂直線分である可能性の高い点列を検出すると、そ
    れを点として前記ハフ投票平面に投票する垂直線投票手
    段と、前記水平線分または垂直線分である可能性の低い
    点列を、曲線として前記ハフ投票平面に投票する水平・
    垂直線以外投票手段とを備えた画像処理装置。
  11. 【請求項11】 認識対象物体の画像を入力する画像入
    力手段と、前記画像入力手段より入力された原画像より
    認識対象の物体候補を抽出する物体候補抽出手段と、前
    記原画像中の前記物体候補の存在の有無を1ビットの情
    報で表現して、前記原画像の解釈をそのビットの列で表
    現したビット列を定義するビット列定義手段と、予め設
    定した手順で初期値たる複数のビット列を生成する初期
    ビット列生成手段と、前記初期ビット列生成手段にて生
    成された各々のビット列について、それが正しい解釈で
    ある可能性を示す指標である適応度を算出する適応度計
    算手段と、前記適応度計算手段で算出された適応度の高
    い前記ビット列から新たなビット列を生成したり、予め
    設定された割合で前記ビット列を変換するなどのビット
    列操作を行うビット列操作手段とを備えた画像処理装
    置。
  12. 【請求項12】 前記ビット列が全て2次元に配列され
    ていることを特徴とする請求項11に記載の画像処理装
    置。
  13. 【請求項13】 前記ビット列格納手段に格納されてい
    るビット列の中で最も適応度の高いビット列を算出する
    最大適応度ビット列計算手段と、前記最大適応度ビット
    列計算手段で算出された最大適応度をもつビット列が一
    定時間以上不変であった場合に、当該ビット列を随時付
    加保存する結果ビット列格納手段とを付加したことを特
    徴とする請求項11に記載の画像処理装置。
  14. 【請求項14】 情報を表現したビット列を予め設定し
    た方法で複数生成する初期ビット列生成手段と、前記初
    期ビット列生成手段で生成されたビット列の情報として
    の適応の度合いを表現した適応度を計算する適応度計算
    手段と、前記適応度の高いビット列から複数のビット列
    を選択するビット列選択手段と、前記ビット列選択手段
    によって選択されたビット列から新しいビット列を生成
    する新ビット列生成手段と、前記新ビット列生成手段の
    生成したビット列に対して、予め設定されている方法で
    ビット列操作を行うビット列操作手段と、前記ビット列
    を全て格納可能なビット列格納手段と、前記ビット列の
    情報としての不適応の度合いを表現した不適応度を計算
    する不適応度計算手段と、前記不適応度計算手段の計算
    した不適応度の検査を行う不適応度検査手段と、前記不
    適応度検査手段の検査結果に基づいて前記ビット列を前
    記ビット列格納手段より削除するビット列削除手段とを
    備えた情報処理装置。
JP23378493A 1993-09-20 1993-09-20 物体認識装置 Expired - Fee Related JP3426002B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP23378493A JP3426002B2 (ja) 1993-09-20 1993-09-20 物体認識装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP23378493A JP3426002B2 (ja) 1993-09-20 1993-09-20 物体認識装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2000166588A Division JP2001034765A (ja) 2000-01-01 2000-06-02 物体認識装置および情報処理装置

Publications (2)

Publication Number Publication Date
JPH0788791A true JPH0788791A (ja) 1995-04-04
JP3426002B2 JP3426002B2 (ja) 2003-07-14

Family

ID=16960520

Family Applications (1)

Application Number Title Priority Date Filing Date
JP23378493A Expired - Fee Related JP3426002B2 (ja) 1993-09-20 1993-09-20 物体認識装置

Country Status (1)

Country Link
JP (1) JP3426002B2 (ja)

Cited By (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0991441A (ja) * 1995-09-26 1997-04-04 Matsushita Electric Works Ltd 物品の干渉検出方法
JPH1094991A (ja) * 1996-09-24 1998-04-14 Mazda Motor Corp 物品位置検出方法及び装置
JPH11126254A (ja) * 1997-10-24 1999-05-11 Pfu Ltd 画像処理装置及びプログラム記憶媒体
JPH11144036A (ja) * 1997-11-10 1999-05-28 Fuji Xerox Co Ltd 画像撮像装置
JPH11175729A (ja) * 1997-12-17 1999-07-02 Mitsubishi Electric Corp 物品認識装置
JP2000137822A (ja) * 1998-04-08 2000-05-16 Trisen Systems Inc 現実強調システム
JP2000221037A (ja) * 1999-01-29 2000-08-11 Topcon Corp 自動測量機と3次元測定方法
JP2001317911A (ja) * 2000-05-02 2001-11-16 Daifuku Co Ltd 物品位置認識装置
WO2003036617A1 (fr) * 2001-10-22 2003-05-01 Sony Corporation Appareil de reconnaissance vocale et procede de reconnaissance de la parole
JP2005183573A (ja) * 2003-12-18 2005-07-07 Matsushita Electric Ind Co Ltd 電子部品装着装置、電子部品装着方法および電子部品供給装置
JP2006337276A (ja) * 2005-06-03 2006-12-14 Mitsutoyo Corp 画像測定方法及びシステム
JP2007183908A (ja) * 2005-12-05 2007-07-19 Yaskawa Electric Corp 物体検出方法
JP2007241304A (ja) * 2007-04-20 2007-09-20 Sony Corp 音声認識装置および音声認識方法、並びにプログラムおよび記録媒体
JP2010009437A (ja) * 2008-06-30 2010-01-14 Hitachi High-Technologies Corp パターンの消失に対応したマッチング方式及びそれを用いた検査装置
JP2010032258A (ja) * 2008-07-25 2010-02-12 Ihi Corp デパレタイズ用のワーク位置認識装置および方法
JP2010071743A (ja) * 2008-09-17 2010-04-02 Yaskawa Electric Corp 物体検出方法と物体検出装置およびロボットシステム
JP2010203826A (ja) * 2009-03-02 2010-09-16 Fujitsu Ltd 測定方法、測定装置、測定制御プログラム
JP2010256209A (ja) * 2009-04-27 2010-11-11 Ihi Corp 袋状ワーク認識装置および方法
JP2011033575A (ja) * 2009-08-05 2011-02-17 Mitsubishi Electric Corp 部材の位置認識装置、位置決め装置、接合装置および部材の接合方法
JP2013086915A (ja) * 2011-10-17 2013-05-13 Yaskawa Electric Corp ロボット仕分けシステム及び仕分け済み物品の製造方法
JP2013086914A (ja) * 2011-10-17 2013-05-13 Yaskawa Electric Corp ロボット仕分けシステム、ロボット装置、及び仕分け済み物品の製造方法
JP2013142670A (ja) * 2012-01-12 2013-07-22 Honda Motor Co Ltd 画像認識装置およびこれを用いたワークの移載方法
JP2014149182A (ja) * 2013-01-31 2014-08-21 Honda Motor Co Ltd ワークとの相関位置決め方法
US9067744B2 (en) 2011-10-17 2015-06-30 Kabushiki Kaisha Yaskawa Denki Robot system, robot, and sorted article manufacturing method
US9104980B2 (en) 2011-03-31 2015-08-11 Sony Corporation Information processing device, information processing method, and program
US9111172B2 (en) 2012-03-15 2015-08-18 Sony Corporation Information processing device, information processing method, and program
JP2015194477A (ja) * 2014-03-20 2015-11-05 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP2017058130A (ja) * 2015-09-14 2017-03-23 株式会社東芝 対象物検出装置、方法及びデパレタイズ自動化装置並びに梱包箱
US9811759B2 (en) 2012-12-10 2017-11-07 Mitsubishi Electric Corporation NC program searching method, NC program searching unit, NC program creating method, and NC program creating unit
JP2018051652A (ja) * 2016-09-27 2018-04-05 株式会社日立製作所 ロボットシステム
JP2019046095A (ja) * 2017-08-31 2019-03-22 キヤノン株式会社 情報処理装置、情報処理装置の制御方法及びプログラム
JP2019509559A (ja) * 2016-02-26 2019-04-04 キネマ システムズ インコーポレイテッド センサ誘導式ロボットを用いたボックスの位置特定、分離、およびピッキング
JP2019168473A (ja) * 2013-02-07 2019-10-03 キヤノン株式会社 位置姿勢計測装置及び方法
US10614340B1 (en) 2019-09-23 2020-04-07 Mujin, Inc. Method and computing system for object identification
WO2020121399A1 (ja) * 2018-12-11 2020-06-18 株式会社Fuji ロボット制御システム及びロボット制御方法
JPWO2020189154A1 (ja) * 2019-03-19 2020-09-24
JP2021109257A (ja) * 2020-01-07 2021-08-02 株式会社東芝 荷役制御装置、及びセンサ装置
JP2021111354A (ja) * 2020-01-10 2021-08-02 株式会社Mujin 画像分類に基づく物体認識または物体登録のための方法および計算システム
WO2022102533A1 (ja) * 2020-11-10 2022-05-19 ファナック株式会社 マスク設定装置
WO2022137509A1 (ja) * 2020-12-25 2022-06-30 日本電気株式会社 物体認識装置、物体認識方法、非一時的なコンピュータ可読媒体及び物体認識システム
EP3961149A4 (en) * 2019-04-26 2023-05-31 OMRON Corporation DEVICE, METHOD AND PROGRAM FOR DETECTING THE POSITION AND ORIENTATION OF AN OBJECT
US11772271B2 (en) 2020-01-10 2023-10-03 Mujin, Inc. Method and computing system for object recognition or object registration based on image classification
WO2024180601A1 (ja) * 2023-02-27 2024-09-06 日本電気株式会社 情報処理装置、情報処理方法、記憶媒体

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61190680A (ja) * 1985-02-19 1986-08-25 Fujitsu Ltd ハフ変換演算回路
JPS6225385A (ja) * 1985-06-19 1987-02-03 インタ−ナショナル ビジネス マシ−ンズ コ−ポレ−ション 2次元像による3次元物体の同定方法
JPS62282882A (ja) * 1986-05-31 1987-12-08 株式会社東芝 三次元位置計測装置
JPS6375984A (ja) * 1986-09-19 1988-04-06 Hitachi Ltd 画像認識装置
JPS63225881A (ja) * 1987-03-16 1988-09-20 Fujitsu Ltd 線分抽出装置
JPS63238414A (ja) * 1987-03-27 1988-10-04 Toshiba Corp 三次元位置計測装置
JPS6431188A (en) * 1987-07-28 1989-02-01 Agency Ind Science Techn Image recognition equipment for mobile robot
JPH01155202A (ja) * 1987-12-14 1989-06-19 Yamaha Motor Co Ltd 部品取付装置
JPH04364403A (ja) * 1991-06-12 1992-12-16 Matsushita Electric Ind Co Ltd 物体位置ステレオ計測装置
JPH05127724A (ja) * 1991-10-30 1993-05-25 Nippondenso Co Ltd 山積み部品の高速ピツキング装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61190680A (ja) * 1985-02-19 1986-08-25 Fujitsu Ltd ハフ変換演算回路
JPS6225385A (ja) * 1985-06-19 1987-02-03 インタ−ナショナル ビジネス マシ−ンズ コ−ポレ−ション 2次元像による3次元物体の同定方法
JPS62282882A (ja) * 1986-05-31 1987-12-08 株式会社東芝 三次元位置計測装置
JPS6375984A (ja) * 1986-09-19 1988-04-06 Hitachi Ltd 画像認識装置
JPS63225881A (ja) * 1987-03-16 1988-09-20 Fujitsu Ltd 線分抽出装置
JPS63238414A (ja) * 1987-03-27 1988-10-04 Toshiba Corp 三次元位置計測装置
JPS6431188A (en) * 1987-07-28 1989-02-01 Agency Ind Science Techn Image recognition equipment for mobile robot
JPH01155202A (ja) * 1987-12-14 1989-06-19 Yamaha Motor Co Ltd 部品取付装置
JPH04364403A (ja) * 1991-06-12 1992-12-16 Matsushita Electric Ind Co Ltd 物体位置ステレオ計測装置
JPH05127724A (ja) * 1991-10-30 1993-05-25 Nippondenso Co Ltd 山積み部品の高速ピツキング装置

Cited By (53)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0991441A (ja) * 1995-09-26 1997-04-04 Matsushita Electric Works Ltd 物品の干渉検出方法
JPH1094991A (ja) * 1996-09-24 1998-04-14 Mazda Motor Corp 物品位置検出方法及び装置
JPH11126254A (ja) * 1997-10-24 1999-05-11 Pfu Ltd 画像処理装置及びプログラム記憶媒体
JPH11144036A (ja) * 1997-11-10 1999-05-28 Fuji Xerox Co Ltd 画像撮像装置
JPH11175729A (ja) * 1997-12-17 1999-07-02 Mitsubishi Electric Corp 物品認識装置
JP2000137822A (ja) * 1998-04-08 2000-05-16 Trisen Systems Inc 現実強調システム
JP2000221037A (ja) * 1999-01-29 2000-08-11 Topcon Corp 自動測量機と3次元測定方法
JP2001317911A (ja) * 2000-05-02 2001-11-16 Daifuku Co Ltd 物品位置認識装置
US7031917B2 (en) 2001-10-22 2006-04-18 Sony Corporation Speech recognition apparatus using distance based acoustic models
WO2003036617A1 (fr) * 2001-10-22 2003-05-01 Sony Corporation Appareil de reconnaissance vocale et procede de reconnaissance de la parole
JP2003131683A (ja) * 2001-10-22 2003-05-09 Sony Corp 音声認識装置および音声認識方法、並びにプログラムおよび記録媒体
JP2005183573A (ja) * 2003-12-18 2005-07-07 Matsushita Electric Ind Co Ltd 電子部品装着装置、電子部品装着方法および電子部品供給装置
JP2006337276A (ja) * 2005-06-03 2006-12-14 Mitsutoyo Corp 画像測定方法及びシステム
JP4634868B2 (ja) * 2005-06-03 2011-02-16 株式会社ミツトヨ 画像測定方法及びシステム
JP2007183908A (ja) * 2005-12-05 2007-07-19 Yaskawa Electric Corp 物体検出方法
JP2007241304A (ja) * 2007-04-20 2007-09-20 Sony Corp 音声認識装置および音声認識方法、並びにプログラムおよび記録媒体
JP2010009437A (ja) * 2008-06-30 2010-01-14 Hitachi High-Technologies Corp パターンの消失に対応したマッチング方式及びそれを用いた検査装置
JP2010032258A (ja) * 2008-07-25 2010-02-12 Ihi Corp デパレタイズ用のワーク位置認識装置および方法
JP2010071743A (ja) * 2008-09-17 2010-04-02 Yaskawa Electric Corp 物体検出方法と物体検出装置およびロボットシステム
JP2010203826A (ja) * 2009-03-02 2010-09-16 Fujitsu Ltd 測定方法、測定装置、測定制御プログラム
JP2010256209A (ja) * 2009-04-27 2010-11-11 Ihi Corp 袋状ワーク認識装置および方法
JP2011033575A (ja) * 2009-08-05 2011-02-17 Mitsubishi Electric Corp 部材の位置認識装置、位置決め装置、接合装置および部材の接合方法
US9104980B2 (en) 2011-03-31 2015-08-11 Sony Corporation Information processing device, information processing method, and program
US9067744B2 (en) 2011-10-17 2015-06-30 Kabushiki Kaisha Yaskawa Denki Robot system, robot, and sorted article manufacturing method
JP2013086914A (ja) * 2011-10-17 2013-05-13 Yaskawa Electric Corp ロボット仕分けシステム、ロボット装置、及び仕分け済み物品の製造方法
JP2013086915A (ja) * 2011-10-17 2013-05-13 Yaskawa Electric Corp ロボット仕分けシステム及び仕分け済み物品の製造方法
JP2013142670A (ja) * 2012-01-12 2013-07-22 Honda Motor Co Ltd 画像認識装置およびこれを用いたワークの移載方法
US9111172B2 (en) 2012-03-15 2015-08-18 Sony Corporation Information processing device, information processing method, and program
US9811759B2 (en) 2012-12-10 2017-11-07 Mitsubishi Electric Corporation NC program searching method, NC program searching unit, NC program creating method, and NC program creating unit
JP2014149182A (ja) * 2013-01-31 2014-08-21 Honda Motor Co Ltd ワークとの相関位置決め方法
JP2019168473A (ja) * 2013-02-07 2019-10-03 キヤノン株式会社 位置姿勢計測装置及び方法
JP2015194477A (ja) * 2014-03-20 2015-11-05 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP2017058130A (ja) * 2015-09-14 2017-03-23 株式会社東芝 対象物検出装置、方法及びデパレタイズ自動化装置並びに梱包箱
JP2019509559A (ja) * 2016-02-26 2019-04-04 キネマ システムズ インコーポレイテッド センサ誘導式ロボットを用いたボックスの位置特定、分離、およびピッキング
JP2018051652A (ja) * 2016-09-27 2018-04-05 株式会社日立製作所 ロボットシステム
JP2019046095A (ja) * 2017-08-31 2019-03-22 キヤノン株式会社 情報処理装置、情報処理装置の制御方法及びプログラム
JPWO2020121399A1 (ja) * 2018-12-11 2021-09-02 株式会社Fuji ロボット制御システム及びロボット制御方法
WO2020121399A1 (ja) * 2018-12-11 2020-06-18 株式会社Fuji ロボット制御システム及びロボット制御方法
CN113015604B (zh) * 2018-12-11 2024-03-08 株式会社富士 机器人控制系统及机器人控制方法
CN113015604A (zh) * 2018-12-11 2021-06-22 株式会社富士 机器人控制系统及机器人控制方法
JPWO2020189154A1 (ja) * 2019-03-19 2020-09-24
WO2020189154A1 (ja) * 2019-03-19 2020-09-24 株式会社豊田自動織機 物品検出装置、物品検出方法、及び産業車両
EP3961149A4 (en) * 2019-04-26 2023-05-31 OMRON Corporation DEVICE, METHOD AND PROGRAM FOR DETECTING THE POSITION AND ORIENTATION OF AN OBJECT
US10614340B1 (en) 2019-09-23 2020-04-07 Mujin, Inc. Method and computing system for object identification
JP2021051721A (ja) * 2019-09-23 2021-04-01 株式会社Mujin 物体識別のための方法および計算システム
US11763459B2 (en) 2019-09-23 2023-09-19 Mujin, Inc. Method and computing system for object identification
JP2021051712A (ja) * 2019-09-23 2021-04-01 株式会社Mujin 物体識別のための方法および計算システム
JP2021109257A (ja) * 2020-01-07 2021-08-02 株式会社東芝 荷役制御装置、及びセンサ装置
JP2021111354A (ja) * 2020-01-10 2021-08-02 株式会社Mujin 画像分類に基づく物体認識または物体登録のための方法および計算システム
US11772271B2 (en) 2020-01-10 2023-10-03 Mujin, Inc. Method and computing system for object recognition or object registration based on image classification
WO2022102533A1 (ja) * 2020-11-10 2022-05-19 ファナック株式会社 マスク設定装置
WO2022137509A1 (ja) * 2020-12-25 2022-06-30 日本電気株式会社 物体認識装置、物体認識方法、非一時的なコンピュータ可読媒体及び物体認識システム
WO2024180601A1 (ja) * 2023-02-27 2024-09-06 日本電気株式会社 情報処理装置、情報処理方法、記憶媒体

Also Published As

Publication number Publication date
JP3426002B2 (ja) 2003-07-14

Similar Documents

Publication Publication Date Title
JPH0788791A (ja) ロボット装置およびその周辺装置
Thompson et al. Three-dimensional model matching from an unconstrained viewpoint
US7822264B2 (en) Computer-vision system for classification and spatial localization of bounded 3D-objects
JP2919284B2 (ja) 物体認識方法
US8311342B2 (en) Classification of objects as well as recognition of their position and orientation in space
JPH0676062A (ja) 画像処理装置
JP3170299B2 (ja) 画像読取処理装置
JP5088278B2 (ja) 物体検出方法と物体検出装置およびロボットシステム
US6847859B2 (en) Method for locating articles on a support plane
JP5716433B2 (ja) 形状認識装置、形状認識方法、および、そのプログラム
JP2012002683A (ja) ステレオ画像処理方法およびステレオ画像処理装置
JP2010541065A (ja) 3次元飲料容器位置決定装置
JP2018091656A (ja) 情報処理装置、計測装置、システム、算出方法、プログラムおよび物品の製造方法
JP7454132B2 (ja) ロボットシステムの制御装置、ロボットシステムの制御方法、コンピュータ制御プログラム、及びロボットシステム
US5864779A (en) Strict recognizing apparatus using observation point
WO2022102239A1 (ja) 計測システム、計測装置、計測方法及び計測プログラム
JP2555824B2 (ja) 山積み部品の高速ピッキング装置
Yang et al. Determination of the identity, position and orientation of the topmost object in a pile: Some further experiments
JPH0644282B2 (ja) 物体検索方式
JPH05134731A (ja) 山積み部品の高速ピツキング装置
CN113592976B (zh) 地图数据的处理方法、装置、家用电器和可读存储介质
CN114901441B (zh) 机器人系统的控制装置、机器人系统的控制方法、计算机控制程序及机器人系统
JP5347798B2 (ja) 物体検出装置、物体検出方法及び物体検出プログラム
JP2555823B2 (ja) 山積み部品の高速ピッキング装置
JP2992446B2 (ja) 画像認識方法およびその装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080509

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090509

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100509

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees