JP2810152B2 - ポイントパターンマッチング方法 - Google Patents

ポイントパターンマッチング方法

Info

Publication number
JP2810152B2
JP2810152B2 JP1264916A JP26491689A JP2810152B2 JP 2810152 B2 JP2810152 B2 JP 2810152B2 JP 1264916 A JP1264916 A JP 1264916A JP 26491689 A JP26491689 A JP 26491689A JP 2810152 B2 JP2810152 B2 JP 2810152B2
Authority
JP
Japan
Prior art keywords
points
correspondence
point
energy
neuron
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP1264916A
Other languages
English (en)
Other versions
JPH03127185A (ja
Inventor
裕 酒匂
ダリン・ユーカ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP1264916A priority Critical patent/JP2810152B2/ja
Priority to US07/595,099 priority patent/US5259038A/en
Priority to DE69025693T priority patent/DE69025693T2/de
Priority to EP90119522A priority patent/EP0422654B1/en
Publication of JPH03127185A publication Critical patent/JPH03127185A/ja
Application granted granted Critical
Publication of JP2810152B2 publication Critical patent/JP2810152B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/757Matching configurations of points or features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/192Recognition using electronic means using simultaneous comparisons or correlations of the image signals with a plurality of references
    • G06V30/194References adjustable by an adaptive method, e.g. learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

【発明の詳細な説明】 【産業上の利用分野】
本発明は、ある物理量を表現した複数個のデータから
なる2つのグループ間における、個々のデータ間の最適
な対応付けを可能とする照合方法、特に、物体の自動認
識のために、画像内から得られた複数個の特徴点座標と
予め定めてあるモデルの特徴点座標の対応付けを可能と
する照合方法に関するものである。
【従来の技術】
生産工場のオートメーション化において、パターン認
識技術は重要なものである。これまで、これらの技術を
用いた、製品や部品の位置決め装置やパターン外観検査
装置等が数多く開発されている。しかしながら、これら
の技術は、製品や部品の形状の同一性や照明等の周囲の
雰囲気の不変性をうまく利用することで、単純な認識機
能を高速に実現することを目的としたものであった。例
えば、半導体素子の組立て(ワイヤボンディング)にお
ける素子の位置決めでは、電極部形状に対応したテンプ
レートパターンを予め登録しておき、得られた半導体素
子の外観パターン画像の中から電極部のパターンをテン
プレートパターンとのパターンマッチングで検出してい
る。しかし、この方法では、素子の種類や電極の形状が
異なる場合はテンプレートを変更しないかぎり、認識で
きない。この例のように、従来の認識技術はやや柔軟性
にかけるものであった。そこで、最近、より柔軟な認識
を目指したモデル規範型の画像理解技術が研究されつつ
ある。このモデル規範型の画像理解では、簡単にいえ
ば、物体の形状や見え方等に関する一般的な知識を予め
計算機にもたせ、画像処理を行う際、処理結果とこれら
の知識の比較照合によるフィードバックを行なう点に特
徴がある。このようにすることで、姿勢や見え方が異な
っている物体に対しても、適応的な画像処理が可能とな
る。 この画像理解技術における基本的な問題に対応付け問
題がある。この問題の一例として、知識として予め記憶
してあるモデル特徴点群qi(i=1,n)と、画像処理で
求まった画像内の特徴点群pi(i=1,n)との対応付け
がある。この対応付け問題は、画像内の物体の有無や姿
勢を決定を行う際、重要な問題である。これらの特徴点
には、通常、物体の外形の特徴的な位置、たとえば、外
形線上の曲率が0や最大,最小位置等が選ばれる。例え
ば、第10図に示した例の照合を人間が行う場合には、モ
デル特徴点群(○)の空間的分布、通常、これは人間の
物に対する一般的な形状的知識として持っているもので
あるが、それと入力特徴点群(●)の空間的分布を無意
識に比較照合して、最適な対応付けを行い、その物体の
部分の意味を把握する。一方、計算機で実現する場合に
も、特徴点群間には姿勢の違いによる角度方向のズレや
物体までの距離の違いに選る全体的な大きさのズレがあ
るため、特徴点群の全体的な空間的分布を比較評価する
機構が必要となる。すなわち、計算機にとって画像処理
で得られた物体の特徴点の一連の座標群は順不同な位置
データにすぎないため、ある座標とモデル特徴点座標群
のどれとが対応するかを他の座標の対応を評価しながら
決定していく必要がある。最も、単純な方法としては、
すべての特徴点間の対応を機械的にとってみる方法であ
る。そして、各特徴点間の組合せにおける対応誤差を計
算し、最も誤差の小さい組合せを正解とするものであ
る。しかしながら、この方法では、対応組合せ数がn!と
なるため、電子計算機を用いても相当に計算時間のかか
るものである。何故なら、特徴点数nが1,2,3,4,5,6,7,
8,9,10,11,12,……………の場合、組合せ数n!は1,2,6,2
4,120,720,5040,40320,362880,3628800,399168000,4790
020000,……………となり、このn!の数に対応誤差計算
時間をかけたものが必要な処理時間となるためである。
例えば、対応誤差計算時間が1msとしても、特徴点個数
が高々12個の場合でも4790020000ms=1331時間もかかっ
てしまう。そのため、従来、この種の対応問題では、最
適な対応は累積対応誤差が一定値以下であるべきだとい
う仮定を設定し、その値以上に誤差が大きくなった場合
には、そこで照合を打ち切るということで照合回数を減
らしてきた。この従来例については、電子情報通信学会
春季大会(1989)D−567、“点パターンマッチングア
ルゴリズムを用いた重なりあった物体の認識”において
論じられている。
【発明が解決しようとする課題】
以上説明した従来方法では、対応誤差の大小にかかわ
らず、すべての組合せの中で最も良い対応付けを求めた
い場合には、対処できない。何故なら、ある許容累積対
応誤差を定めても、入力される認識物体の形状によって
は、最も良い対応付けの誤差自体がその値を超える場合
が存在する可能性があるためである。さらに、問題によ
っては許容累積対応誤差を推測できない場合もある。 本発明の目的は、n!の組合せによる対応誤差計算を行
うことなく、しかも、最も良い対応付けが可能な方法を
提供することにある。特に、物体の自動認識のために、
画像内から得られた複数個の特徴点群と予め定めてある
モデルの特徴点群の対応付けを可能とする照合方法を提
供することにある。
【課題を解決するための手段】
上記目的を達成するために、本発明では次のような特
徴を持つホップフィールド型ネットワークを用いる。2
つの点集合、すなわち、モデル特徴点qi(i=1,n)と
物体の境界線の特徴点pj(j=1,n)を考える。次に、
モデル特徴点qiと各入力特徴点qjの対応線上にニューロ
ンNijを配置する。もちろん、これは現実にニューロン
を作って結線するというのではなく、あくまでも概念上
の話である。そして、ニューロンNijの出力Vijは0から
1の値をもち、0の場合は“特徴点qiとqjは対応しな
い”、1の場合は“特徴点qiとqjが対応する”と解釈す
る。このとき、ニューラルネットワークの総合エネルギ
ーEを、各モデル特徴線qiが入力特徴点pjと一対一対応
したときに最小値をもつように定めたエネルギー と、入力特徴点群pj=(Xj,Yj)をモデル特徴点群qi
(xi,yi)のアフィン変換(平行移動,回転)と微小変
動を受けたものであると考えたとき、最適対応時に最小
二乗の意味で対応誤差が最小となるように定めたエネル
ギー の和とする。ただし、変換係数a,b,c,A,B,Cは次式を満
足するものとする。K1,K2,K3,mは適切に定めた正の定数
である。この第2のエネルギーが本発明特徴の1つであ
る。 以上のようにネットワークのエネルギーEを定義し、
このエネルギーが最小、すなわち、E1とE2がともに最小
となるようなVijの組を求めれば、それが最適組合せ解
となることは明らかである。 さて、エネルギーEを最小とするようなVijの組を得
るためにニューロンNijの出力Vijを時間tの関数と考
え、次のような力学系を解くようにする。なお、uij
ニューロンへの入力である。 duij/dt=−∂E/∂Vij ただし、Vij=1/(1+exp{−uij}) E=E1+E2
【作用】
前述の力学系のエネルギーEは時間とともに減少する
ことが数学的に証明できる。したがって、適当な初期条
件の元で、この力学系をコーシー・オイラー法を用いて
解いていき、平衡点に達したときのVijの組を解と考え
る。すなわち、上式を差分化して、 Vij(t+Δt)=Vij(t) −Δt・Vij(t)(1−Vij(t))・∂E/∂Vij として、数値計算で各Vijの収束値を求めるようにす
る。そして、各Vijの収束値が1であるiとjを求めれ
ば、特徴点間の対応が決められる。さらに、各Vijが収
束するのに必要な繰返し回数、すなわち、tの更新回数
は、実験の結果、特徴点個数nに比例することが判明し
た。これは、本ニューラルネットの局所並列演算による
効果であると考えられる。したがって、n!に比例する処
理時間が必要な従来方法に比べて、格段に処理時間の低
減が図れることになる。
【実施例】
以下、本発明の実施例を図面に基づいて詳細に説明す
る。ここでは、生産工場等における製品の自動選別に物
体認識装置を適用し、自動化を実現した例を用いて説明
する。工場における生産ラインでは、同種ではあるが若
干形状が異なる製品がベルトコンベア等の搬送機構で搬
送され、それらを必要に応じて選別する工程が存在す
る。選別機構としてロボットハンドを用いる場合、製品
の予め定められた強度的に問題のない特定の部位を認識
し、そこをつかむ必要がある。一方、搬送機構上の各製
品は姿勢が異なっているし、形状自身も他干異なってい
る。従って、その様な条件下でも正確に製品の部位を特
定できる高度な認識機能を有した物体認識システムが必
要となる。 第1図に、物体認識システムの全体構成を示す。以降
に説明するように、この構成で前述の高度な認識を実現
できる。 まず、このシステムでの概略の処理過程を説明する。
形状や姿勢がやや異なる製品1,2等(図では、玩具の飛
行機1,2)は、搬送機構3により搬送される。そして、
各製品が特定位置Aに達すると搬送が一端停止し、製品
の静止画像がTVカメラ4により補らえられ、その画像デ
ータは画像処理装置5に送られる。画像処理装置5で
は、製品の画像データから製品の外形の凹凸を表現した
特徴点座標群が抽出され、それらのデータは照合装置6
に送られる。照合装置6では、これらの特徴点座標群と
モデル特徴点座標群とが照合される。このモデル特徴点
座標群は、正規の大きさで正規の姿勢の典型的な製品の
外形形状の凹凸を表現したものである。また、このモデ
ル特徴点には、それぞれの特徴点の名称やその特徴点付
近をロボットハンド7がつかむとき必要とされる各種デ
ータ、例えば、その特徴点の一般的高さ、強度等が付随
して登録されている。当然、入力された製品の各特徴点
座標はそのときの製品種類や姿勢でモデル特徴点座標と
は異なっている。照合装置6では、モデル特徴点座標の
空間的配置と入力特徴点座標の空間的配置を比較し、そ
れぞれの特徴点の最適な対応を求める。そして、予め指
定してあるロボットハンド7がつかむべき“名称”をも
つモデル特徴点をさがし、それに対応した入力特徴点座
標とそのモデル特徴点に付随した各種データをロボット
ハンド制御装置8に送る。ロボットハンド制御装置8で
は、これらのデータと及びTVカメラ4,搬送機構3,ロボッ
トハンド7との相対位置関係を元にして製品のつかむべ
き“名称”の3次元座標を計算した後、その部位をつか
み、製品を所定の場所に移動させる。そして、搬送機構
が再び稼働し次の製品の選別過程に入る。 本物体認識システムの特徴の一つは、同種製品の一般
的知識がモデル特徴点座標とそれに付随したデータとし
て格納されている点にある。もし、全く異なる種類の製
品群を認識する場合には、この知識のみを変更すれば良
い。次に、本システムの主要部分である画像処理装置5
と照合装置6に関して説明する。 第2図に画像処理装置5の具体的構成を示す。まず、
TVカメラ4からのアナログ画像信号は、コンパレータで
構成された2値化回路9によって2値ディジタル画像デ
ータに変換される。そして、この画像データは2値画像
メモリ10に格納される。次に、計算ユニット(ALU)11
でのソフトウェア処理により、この2値画像から製品の
輪郭線が抽出され、その輪郭線の凹凸状態の特徴に対応
した特徴点座標が計算される。このソフトウェア処理の
具体的な手順を第3図に示す。 第1ステップでは、製品の輪郭画素の座標を抽出す
る。なお、ここでは画像データ内に製品に対応した値1
をもったかたまりが1つあり、他の部分の画像データは
0であるものとする。第4図に示したように、画像の上
のラスタから下に向かって、値1の画素を探す。その画
素を起点Bとする。この起点から、境界に沿ってトレー
スすることで境界画素の座標列を求める。そのトレース
方法に関しては、“ディジタル画像処理”(長尾真監
訳,近代科学社)第9章ディジタル幾何学、境界追跡に
詳しく述べられている。第2ステップでは、各境界座標
列(X,Y)を起点Bからの境界線上の距離dを媒介変数
とした次のような表現に変換する。 X=f(d) (1) Y=g(d) (2) 第3ステップでは、これらの関数に次のようなガウス
フィルタを作用される。 ここで、sはガウスフィルタの標準偏差値である。こ
のようなフィルタを作用させることで、元の境界線から
微小なノイズ的な凹凸を消去し、大局的な形状のみで構
成された境界を求めることができる。第5図に得られた
境界線を示す。第4ステップでは、この外形境界線の次
の式を満足する特徴点pi(i=1,n)を求める。 この点は幾何学的には境界線の変曲線を意味する。こ
のようにして求めた特徴点座標群は、第2図の特徴点格
納メモリ12に蓄えられる。なお、入力特徴点群pjの座標
(Xj,Yj)とモデル特徴点群qiの座標(xi,yi)は、以下
に説明する照合が座標の絶対的な大きさに影響されない
ように次のように正規化されているものとする。 xbar=(1/n)Σxi′ ybar=(1/n)Σyi′ xi″=xi′−xbar yi″=yi′−ybar xmax=max{xi″} ymax=max{yi″} xymax=max{xmax,ymax} xmin=min{xi″} ymin=min{yi″} xymin=min{xmin,ymin} xi=(xi″−xymin)/(xymax−xymin) yi=(yi″−xymin)/(xymax−xymin) Xbar=(1/n)ΣXi′ Ybar=(1/n)ΣYi′ Xi″=Xi′−Xbar Yi″=Yi′−Ybar Xi=(Xi″−xymin)/(xymax−xymin) Yi=(Yi″−xymin)/(xymax−xymin) なお、(Xj′,Yj′)と(xi′,yi′)はそれぞれの元
座標とする。 第6図(a)に照合装置6の具体的構成例を示す。こ
の回路の目的は、先に説明した画像処理装置5で求めら
れた特徴点格納メモリ12内の製品境界形状の特徴点座標
群と予め定めているモデル特徴点座標群とを照合し、製
品の特徴点の意味を知ることである。そのために、モデ
ル特徴点座標群を格納してあるモデル特徴点格納メモリ
13と照合を実行するニューラルネットワーク14とからな
っている。制御ユニット(CPU)15は、ニューラルネッ
トワークによって得られた特徴点間の対応結果情報と予
め定められているロボットハンドがつかむべき部位名情
報16を用いて、特徴点格納メモリからは指定部位の実際
の座標値、モデル特徴点格納メモリからは指定部位に対
応したモデル特徴点座標に付随して格納されている各種
データを選択する。これらのデータは、第1図のロボッ
トハンド制御装置8に送られる。なお、第6図(b)
は、モデル特徴点格納メモリ内の具体的なテーブル構成
例を示したものである。 ここでは、本照合装置の主機能を果たすニューラルネ
ットワーク14の原理とその実現のため回路構成例を説明
する。まず、第7図を用いて、モデル特徴点qi(i=1,
n)と入力境界線の特徴点pj(j=1,n)の照合方法を説
明する。この照合では、ホップフィールド型ネットワー
クを用いる。第7図にニューロンの配置の仕方を示す。
すなわち、モデル特徴点qiと各入力特徴点qjの対応線上
にニューロンNijを配置する。もちろん、これは現実に
ニューロンを作って結線するというのではなく、あくま
でも概念上の話である。そして、ニューロンNijの出力V
ijは0から1の値をもち、0の場合は“特徴点qiとqj
対応しない”、1の場合は“特徴点qiとqjが対応する”
と解釈する。このとき、ニューラルネットワークの総合
エネルギーEを、各モデル特徴点qiが入力特徴点pjと一
対一対応したときに最小値をもつように定めたエネルギ
と、入力特徴点群pj=(Xj,Yj)をモデル特徴点群qi
(xi,yi)のアファン変換(平行移動,回転)と微小変
動を受けたものであると考えたとき、最適対応時に最小
二乗の意味で対応誤差が最小となるように定めたエネル
ギー の和とする。ただし、変換係数a,b,c,A,B,Cは次式を満
足するものとする。K1,K2,K3,mは適切に定めた正の定数
である。この第2のエネルギーが本発明特徴の1つであ
る。 以上のようにネットワークのエネルギーEを定義し、
このエネルギーが最小、すなわち、E1とE2がともに最小
となるようなVijの組を求めれば、それが最適組合せ解
となる。このとき、(8)(9)式でのVijは0または
1の値をもつので、(8)(9)式は明らかに通常での
最小二乗法での係数解法と同等なものとなる。 さて、エネルギーEを最小とするようなVijの組を得
るために、公知のように、ホップフィールド型ネットワ
ークではニューロンNijの出力Vijを時間tの関数と考
え、次のような力学系を解くようにする。なお、uij
ニューロンへの入力である。 duij/dt=−∂E/∂Vij ただし、Vij=1/(1+exp{−uij}) (11) E=E1+E2 ところで、 であり、さらに(11)式から、 dVij/dt=−Vij(1−Vij)・∂E/∂Vij (12) となるので、 よって、(11)式で定義された力学系のエネルギーEは
時間とともに減少することが分かる。そこで、この力学
系を公知のコーシー・オイラー法を用いて解いていき、
平衡点に達したときのVijの組を解と考える。すなわ
ち、(12)式を差分化して、 Vij(t+Δt)=Vij(t) −Δt・Vij(t)(1−Vij(t))・∂E/∂Vij (13) として、数値計算で各Vijの収束値を求めるようにす
る。 第8図にニューラルネットワークのこの繰返し計算を
具体化する回路例を示す。この回路は、n2個のニューロ
ンの出力Vijの収束値を求めるための回路ユニット群か
らなる。図内、点線で囲んだ部分が1つの回路ユニット
にあたる。以降、この回路ユニットの構成例を中心に説
明する。レジスタ17と18は、それぞれ、(13)式の右辺
第1項に対応するニューロンの出力Vijの値と右辺第2
項に対応するニューロンの出力Vijの変化分ΔVij=−Δ
t・Vij(1−Vij)・∂E/∂Vijの値を格納するための
ものである。これらの値は加算器19で加算されて、(1
3)式の左辺に対応する次のVijが求められる。このVij
は、あるタイミングで再度レジスタ17に書き込まれる。
一方、各回路ユニットで計算されたVijは、まず、計算
ユニット(マトリクス計算用ALU)20に入力される。こ
の計算ユニットでは、これらのVij、および、モデル特
徴格納メモリ(第6図(a)、13)内のモデル特徴座標
(xi,yi)(i=1,n)と特徴点格納メモリ内の入力特徴
点座標(Xj,Yj)(j=1,n)を用いて、(8)(9)式
のマトリクス計算がマイクロプログラムによって実行さ
れ、係数a,b,c,A,B,Cが求められる。回路ユニット内の
各計算ユニット(ΔVij計算用ALU)21では、これらの係
数Vijから、Vijに対する変化分ΔVij=−Δt・Vij(1
−Vij)・∂E/∂Vijがマイクロプログラムにより計算さ
れ、その結果が再度レジスタ18に書き込まれる。なお、
計算ユニット21の起動は、計算ユニット20の計算処理が
完全に終了した時、また、レジスタ17,18につぎのVij
よび変化分ΔVijを書き込むタイミングは、計算ユニッ
ト21の計算処理が完全に終了した時とする。これらのタ
イミングはタイミング発生回路22で統括的に行われる。
一方、制御ユニット(第6図(a)、15)は、すべての
回路ユニットのレジスタ17の値、すなわち、すべてのV
ijが1または0に収束したかを繰返し計算時ごとにチェ
ックする。そして、すべてのVijが収束した後、Vij=1
を満足する(i,j)の組を求めれば特徴点間の対応付け
が完了する。次に、予め定められているロボットハンド
がつかむべき部位名情報(第6図(a)、16)をもった
モデル特徴格納メモリ(第6図(a)、13)内のモデル
特徴点座標qiに対応した特徴点格納メモリ内の入力特徴
点座標pjと、モデル特徴座標に付随している各種データ
を、ロボットハンド制御装置(第1図、8)に送る。な
お、この制御ユニット(第6図(a)、15)は、Vij
ΔVijの初期値をレジスタ17と18に設定し、計算ユニッ
ト21で使われる定数Δt,K1,K2,K3を繰返し計算前に計算
ユニット21に設定する役目ももっている。なお、以上の
説明では、定まったΔVijの初期値の場合で繰返し計算
を一回行い、対応を求める例を挙げたが、ΔVijの初期
値を変えた繰返し計算を幾通りか行い、収束時に最も小
さいE2((7)式)をもつ場合での対応を正解とするよ
うにしても良い。 次に、ニューラルネットワーク14のもう1つの回路構
成方法を説明する。この回路はアナログ回路である。こ
の回路の一般的な構成方法は、「ニューロ・コンピュー
ティングの基礎理論」((社)日本工業技術振興協会、
ニューロ・コンピュータ研究部会、第4回講習会)等で
公知である。この文献には、ネットワークのエネルギー
Eがニューロンの出力Vijに関して多重一次形式である
場合には、アナログ・ニューロネットワーク回路を構成
できることを示してある。しかし、この回路の特性上で
最も重要な各ニューロン間の結合係数に対応する各抵抗
値や電流値の値に関しては、それぞれの目的ごとに最適
に決めておく必要がある。そこで、ここでは本発明の目
的に最も適したニューロン結合係数の決め方を中心に説
明する。特に、本発明の場合、認識すべき製品の入力特
徴点座標群ごとにモデル特徴点座標との関係でニューロ
ン結合係数を変更させる点に特徴がある。 アナログ・ニューラルネットワーク回路の場合、ネッ
トワークの力学系は(11)式と同様に次のように定義さ
れる。 duij/dt=−∂E/∂Vij ただし、Vij=σ(uij)=1/(1+exp{−uij})
(14) E=E1+E2 そして、総エネルギーEを次のような多重一次形式で
表されているとする。 ただし、τは正の定数 wijij=0,wijkl=wklij 前の説明と同様にdE/dt≦0を証明できるので(14)
式を解いていけば、エネルギーEを最小にする解を求め
ることができる。第9図に(14)式を解くための回路例
を示す。この回路は、n2個のニューロンの出力Vijの収
束値を求めるための回路ユニット群からなる。図内、点
線で囲んだ部分が1つの回路ユニットにあたる。以降、
この回路ユニットの構成例を中心に説明する。この回路
ユニットは、入力uijに対して出力Vij(=σ(uij)を
作る増幅器23、各ニューロンを結合するための可変抵抗
群Rijij、可変抵抗rijとコンデンサC、および、制御ユ
ニット16(第6図(b))がVijの値を読み取るためのA
/D変換器25とレジスタ26からなる。なお、各回路ユニッ
トには他回路ユニットからの電流の他に一定電流Iij
結合係数決定回路24から供給されている。このとき、回
路ユニット内のD点で電流に関するキルヒホッフの法則
を適用すると次式が成立する。 上式を変形すると、 一方、(14)式に(15)式を代入すると、 したがって、 を満足するようにrij,Rijkl,Iijを決めれば、前述の力
学系を解くためのニューラルネットワークの各回路ユニ
ットを具体化できる。 次に、本発明の照合でのエネルギーE(=E1+E2)が
近似的に(15)式のような多重一次形式で表現できるこ
とを示す。 (8)式と(9)式を係数a,b,c,A,B,Cに関して解く
と次式のようになる。 ただし、 aij=(Da1/D)Xjxi−(Da2/D)Xjyi+(Da3/D)Xj bij=(Db1/D)Xjxi−(Db2/D)Xjyi+(Db3/D)Xj cij=(Dc1/D)Xjxi−(Dc2/D)Xjyi+(Dc3/D)Xj Aij=(Da1/D)Yjxi−(Da2/D)Yjyi+(Da3/D)Yj Bij=(Db1/D)Yjxi−(Db2/D)Yjyi+(Db3/D)Yj Cij=(Dc1/D)Yjxi−(Dc2/D)Yjyi+(Dc3/D)Yj これらの式を(7)式の第一項と第二項に代入し整理
すると次式のようになる。 ただし、ekli=aiklxi+bklyi+ckl Ekli=Aiklxi+Bklyi+Ckl (21)式を、さらに、式の特徴を変えない、すなわ
ち、最小値をもつ解を変えないように変形すると、次式
のようになる。 ただし、δklpq=1:k=p and l=q =0:その他 これらの式を(7)式に代入し、さらに、式の特徴を
変えないように変形すると、(7)式は次のような多重
一次形式に変換される。 同様にして、(6)式を多重一次形式に変換すると次
のようになる。 ただし、δkp=1:k=p =0:その他 したがって、(22)(23)式を加算して総エネルギー
Eを求めると次式となる。 ただし、 なお、γは正定数であり、エネルギーEが最小となる
解を求める場合には影響しないので、省くことができ
る。また、(24)式の係数αklpqは明らかにαklkl=0,
αklpq=αpqklとなり、(15)式のwijklの条件を満足
する。さらに、(15)式の第3項はτを大きくすれば省
くことができる。したがって、(24)式は(15)式と全
く同様な多重一次形式となる。すなわち、 を満足するように、第9図の各抵抗値や電流値を決めれ
ば、本発明における照合に適合したアナログ・ニューラ
ルネットワークを実現できる。係数αijklとβijは、
(25)式から分かるようにモデル特徴点座標と入力特徴
点座標の関数で表現される。したがって、これらの係数
で表されている各抵抗値や電流値は、異なる入力特徴点
座標では変更する必要がある。そこで、第9図の結合係
数決定回路24を設け、ここで(25)(26)式に基づき、
異なるモデル特徴点座標と入力特徴点座標に対応した各
抵抗値や電流値をもとめ、各回路ユニットに設定するよ
うにする。また、第9図には各回路ユニットのuijの初
期電位を設定するための電源およびスイッチ回路27を設
けてある。これらの初期電位も結合係数決定回路24によ
り設定される。このようにすれば、アナログ・ニューラ
ルネットワーク14を用いた照合装置6を確実に具体化で
きる。なお、各回路ユニットのuijの初期電位を変えた
繰返し計算を幾通りか行い、収束時に最も小さいE
2((22)式)をもつ場合での対応を正確とするように
しても良い。 第10図に、以上説明した照合装置6で照合した、特徴
点間の対応結果の例を幾つか示す。各例とも、左のモデ
ル特徴点(○)と入力特徴点(●)とが最小二乗の意味
で最適に対応付けられている。また、第11図は、第8図
のニューラルネットワークを使用したときの特徴点個数
nと対応付けに要する繰返し回数(tの更新回数)の関
係を示したものである。特徴点個数nに比例した結果と
なり、n!に比例した処理時間の必要な従来方法より、格
段の処理スピードアップが期待できる。 以上の説明では、入力特徴点群がモデル特徴点群に対
して最も一般的なアフィン変換と微小変動を受けたもの
であるとしてきたが、(7)式の係数a,b,c,A,B,Cの間
に一定の関係がある変換、例えば、変換後も直交性が保
持される変換やxi,yiに関して非線形な変換の場合に対
しても本発明と同様な方法で解決できる。例えば、前者
の場合は、エネルギーE2と定義すれば良い。この場合、変換係数a,b,c,Cは次式
を満足するものとなる。この式は、Vijが1また0に収
束した場合、その組合せでの最小二乗法の解法と一致す
る。 後者の非線形変換の場合も、エネルギーE2とすれば良い。ただし、非線形変換関数f(xi,yi;a,b,
c)とF(xi,yi;A,B,C)は、それぞれ、係数a,b,c,A,B,
Cに関しては一次式とする。この場合、(8)(9)式
に対応した式を最小二乗法に基づいて作ることができ
る。 さらに、本実施例では2次元座標の特徴点間の対応付
けに関して説明したが、それ以上のK次元座標空間での
特徴点間の対応付けにも容易に拡張できる。この場合に
は、エネルギーE2とする。ただし、(Xj1,Xj2,Xj3,…,Xjk)と(xi1,xi2,
xi3,…,xik)は入力特徴点座標とモデル特徴点座標を、
a11,a12,a13,…,akk、および、c1,c2,c3,…,ckはアフィ
ン変換係数を意味する。また、変換係数は次式を満足す
るものとする。 ただし、上式においてpは1からKまでの値をとるの
で、計K個の式となる。当然、K=2の場合は、表記を
xi=xi1,yi=xi2,Xj=Xj1,Yj=Xj2,a11=a,a12=b,c1
c,a21=A,a22=B,c2=Cとすれば、二次元の場合の
(8)(9)式に一致する。 また、本実施例ではモデル特徴点個数nと入力特徴点
個数nを同じ場合に関して説明したが、異なる個数の場
合、例えば、入力特徴点個数N(≠n)の場合には、本
実施例で挙げたjに関するΣの上限値をnからNに変更
すれば良い。
【発明の効果】
以上説明した様に、本発明によれば、n個の特徴点間
の対応に関して、n!の組合せによる対応誤差計算を行な
うことなく、nに比例する計算量で最も良い対応付けを
求めることができる。その結果、物体の自動認識に必要
な、画像内から得られた複数個の特徴点群と予め定めて
あるモデルの特徴点群の対応付けのための高速照合が可
能となる。
【図面の簡単な説明】
第1図は、本発明を用いた物体認識システムの全体構成
を示した図、第2図は、画像処理装置5の具体的構成を
示す図、第3図は、特徴点を抽出するためのソフトウェ
ア処理の各ステップを説明するための図、第4,5図は、
製品の画像例と得られた特徴点を示した図、第6図
(a)は、照合装置6の具体的構成を示した図、第6図
(b)はモデル特徴点格納メモリ内の具体的なテーブル
構成例を示した図、第7図は、照合する特徴点群とニュ
ーロンの配置の仕方を示した図、第8図は、ニューラル
ネットワークの繰返し計算を具体化する回路を示した
図、第9図は、ニューラルネットワークの繰返し計算を
具体化する他の回路を示した図、第10図は、特徴点間の
対応結果の例を示した図、第11図は、特徴点個数nと対
応付けに要する繰返し回数の関係を示した図である。 符号の説明 1,2……製品、3……搬送機構、4……TVカメラ、5…
…画像処理装置、6……照合装置、7……ロボットハン
ド、8……ロボットハンド制御装置、9……2値化回
路、10……2値画像メモリ、11……ALU、12……特徴点
格納メモリ、13……モデル特徴点格納メモリ、14……ニ
ューラルネットワーク、15……CPU、16……部位名情
報、17,18……Vij,ΔVij格納用レジスタ、19……加算
器、20……マトリクス計算用ALU、21……ΔVij計算用AL
U、22……タイミング発生回路、23……増幅器、24……
結合係数決定回路、25……A/D変換器、26……レジス
タ。

Claims (4)

    (57)【特許請求の範囲】
  1. 【請求項1】あるK次元空間内のn個の点集合pj(座標
    (Xj1,Xj2,Xj3,…,Xjk)、j=1,n)と他のK次元空間
    内のn個の点集合qi(座標(xi1,xi2,xi3,…,xik)、i
    =1,n)を、それぞれの空間内の点同士の位置関係を参
    照して一対一対応させるパターンマッチング方法におい
    て、ニューロンNijの出力Vij(0≦Vij≦1,1≦i≦n、
    1≦j≦n)を点pjと点qiの対応度合い(Vij=1のと
    きpjとqiが対応、Vij=0のときpjとqiは対応しないと
    する)とし、各pjとqiが一対一対応したときに最小値を
    もつように定めたエネルギーE1と、次のような最小二乗
    の意味で対応誤差を最小化するためのエネルギーE2 の線形結合を総合エネルギーEとする第1の特徴、総合
    エネルギーEを最小とするVijを求めるためにホップフ
    ィールド型ネットワークを用いる第2の特徴、求めたV
    ijの値を用いてpiとqiの対応を求める第3の特徴、を有
    するポイントパターンマッチング方法。 (ただし、アフィン変換係数a11,a12,a13,…,akk、およ
    び、c1,c2,c3,…,ckは次のようなK個の式(p=1,K)
    を満足するものとする。)
  2. 【請求項2】ある2次元空間内のn個の点集合pj(座標
    (Xj,Yj)、j=1,n)と他の2次元空間内のn個の点集
    合qi(座標(xi,yi)、i=1,n)を、それぞれの空間内
    の点同士の位置関係を参照してpjとqiを一対一対応させ
    るパターンマッチング方法において、ニューロンNij
    出力Vij(0≦Vij≦1,1≦i≦n、1≦j≦n)を点pj
    と点qiの対応度合い(Vij=1のときpjとqiが対応、Vij
    =0のときpjとqiは対応しないとする)とし、各pjとqi
    が一対一対応したときに最小値をもつように定めたエネ
    ルギーE1と、次のような最小二乗の意味で対応誤差を最
    小化するためのエネルギーE2 の線形結合を総合エネルギーEとする第1の特徴、総合
    エネルギーEを最小とするVijを求めるためにネットワ
    ークを用いる第2の特徴、求めたVijの値を用いてpiとq
    iの対応を求める第3の特徴、を有するポイントパター
    ンマッチング方法。 (ただし、変換係数a,b,c,A,B,Cは次式を満足するもの
    とする。)
  3. 【請求項3】画像内の対象物の各部位を画像処理にて認
    識する物体認識装置において、画像内の対象物から特徴
    点qi(座標(xi,yi)、i=1,n)を抽出する第1の手段
    と、対象物に対応した理想モデルの特徴点pj(座標Xj,Y
    j)、j=1,n)及びその点の名称などの属性データ群を
    予め記憶しておく第2の手段と、ニューロンNijの出力V
    ij(0≦Vij≦1,1≦i≦n、1≦j≦n)を点pjと点qi
    の対応度合い(Vij=1のときpjとqiが対応、Vij=0の
    ときpjとqiは対応しないとする)とし、各pjとqiが一対
    一対応したときに最小値をもつように定めたエネルギー
    E1と、次のような最小二乗の意味で対応誤差を最小化す
    るためのエネルギーE2 の線形結合を総合エネルギーEとし、その総合エネルギ
    ーEを最小とするVijを求めるためにネットワークを用
    い、求めたVijの値を用いてpjとqiの対応を求める第3
    の手段、pjとqiの対応結果から、対象物の各特徴点の名
    称などの属性データ群を求める4の手段を有する物体認
    識装置。 (ただし、変換係数a,b,c,A,B,Cは次式を満足するもの
    とする。)
  4. 【請求項4】K次元空間内のn個の第1の点の群からな
    る第1の点集合Xjと、n個の第2の点の群からなる第2
    の点集合xi(Kは2以上の整数、nは2以上の整数、j
    とiは1とnの間の整数)との間の関係を決定するパタ
    ーンマッチング方法であって、第1の点の群と第2点の
    群のそれぞれの点の間に一つづつ合計n2個のニューロン
    を準備し、ニューロンの出力が“1"のときに点同士がマ
    ッチしニューロンの出力が“0"のときに点同士がマッチ
    しないと判断し、ニューロン同士をニューラルネットワ
    ーク内で結合して一つのニューロンの入力が他のニュー
    ロンの出力であるようにし、該ニューラルネットワーク
    はニューロンの総合エネルギーの最小値をを求めるよう
    に動作し、該総合エネルギーは、第1の点の群と第2の
    点の群が一対一に対応する場合に最小値をとる第1の値
    と第1の点の群と第2の点の群が一対一に対応する場合
    最小二乗の意味で対応誤差が最小値をとる第2の値との
    線形結合として表されることを特徴とするパターンマッ
    チング方法。
JP1264916A 1989-10-13 1989-10-13 ポイントパターンマッチング方法 Expired - Lifetime JP2810152B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP1264916A JP2810152B2 (ja) 1989-10-13 1989-10-13 ポイントパターンマッチング方法
US07/595,099 US5259038A (en) 1989-10-13 1990-10-10 Point pattern matching method and system as well as picture recognizing method and system using the same
DE69025693T DE69025693T2 (de) 1989-10-13 1990-10-11 Verfahren und System zum Vergleichen von Punktmustern sowie Bilderkennungsverfahren und -system mit Verwendung desselben
EP90119522A EP0422654B1 (en) 1989-10-13 1990-10-11 Point pattern matching method and system as well as picture recognizing method and system using the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP1264916A JP2810152B2 (ja) 1989-10-13 1989-10-13 ポイントパターンマッチング方法

Publications (2)

Publication Number Publication Date
JPH03127185A JPH03127185A (ja) 1991-05-30
JP2810152B2 true JP2810152B2 (ja) 1998-10-15

Family

ID=17409986

Family Applications (1)

Application Number Title Priority Date Filing Date
JP1264916A Expired - Lifetime JP2810152B2 (ja) 1989-10-13 1989-10-13 ポイントパターンマッチング方法

Country Status (4)

Country Link
US (1) US5259038A (ja)
EP (1) EP0422654B1 (ja)
JP (1) JP2810152B2 (ja)
DE (1) DE69025693T2 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2724374B2 (ja) * 1989-10-11 1998-03-09 株式会社鷹山 データ処理装置
EP0532052B1 (en) * 1991-09-12 2008-02-13 FUJIFILM Corporation Method for extracting object images and method for detecting movements thereof
US8352400B2 (en) 1991-12-23 2013-01-08 Hoffberg Steven M Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore
US6400996B1 (en) 1999-02-01 2002-06-04 Steven M. Hoffberg Adaptive pattern recognition based control system and method
US6850252B1 (en) 1999-10-05 2005-02-01 Steven M. Hoffberg Intelligent electronic appliance system and method
US6418424B1 (en) 1991-12-23 2002-07-09 Steven M. Hoffberg Ergonomic man-machine interface incorporating adaptive pattern recognition based control system
US10361802B1 (en) 1999-02-01 2019-07-23 Blanding Hovenweep, Llc Adaptive pattern recognition based control system and method
US5903454A (en) 1991-12-23 1999-05-11 Hoffberg; Linda Irene Human-factored interface corporating adaptive pattern recognition based controller apparatus
US5956413A (en) * 1992-09-07 1999-09-21 Agrovision Ab Method and device for automatic evaluation of cereal grains and other granular products
JP3163185B2 (ja) * 1992-11-27 2001-05-08 株式会社東芝 パターン認識装置およびパターン認識方法
KR960014201B1 (ko) * 1993-02-08 1996-10-14 김재창 움직이는 표적의 검출 방법 및 그 시스템
US5459636A (en) * 1994-01-14 1995-10-17 Hughes Aircraft Company Position and orientation estimation neural network system and method
US5991430A (en) * 1996-11-26 1999-11-23 Wen-Hsing Hsu Method and device for automatic matching of planar point patterns
US6687402B1 (en) * 1998-12-18 2004-02-03 Cognex Corporation Machine vision methods and systems for boundary feature comparison of patterns and images
US7904187B2 (en) 1999-02-01 2011-03-08 Hoffberg Steven M Internet appliance system and method
JP2003263104A (ja) * 2002-03-11 2003-09-19 Mitsubishi Electric Corp 撮像情報認識システム
US8111904B2 (en) 2005-10-07 2012-02-07 Cognex Technology And Investment Corp. Methods and apparatus for practical 3D vision system
US8162584B2 (en) 2006-08-23 2012-04-24 Cognex Corporation Method and apparatus for semiconductor wafer alignment
JP6037134B2 (ja) * 2011-08-16 2016-11-30 日本電気株式会社 特徴点対応付けシステム、特徴点対応付け方法、およびプログラム
CN111091144B (zh) * 2019-11-27 2023-06-27 云南电网有限责任公司电力科学研究院 基于深度伪孪生网络的图像特征点匹配方法及装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3638188A (en) * 1969-10-17 1972-01-25 Westinghouse Electric Corp Classification method and apparatus for pattern recognition systems
US4177448A (en) * 1978-06-26 1979-12-04 International Business Machines Corporation Character recognition system and method multi-bit curve vector processing
JPS5923467B2 (ja) * 1979-04-16 1984-06-02 株式会社日立製作所 位置検出方法
US4774677A (en) * 1981-08-06 1988-09-27 Buckley Bruce S Self-organizing circuits
US4660166A (en) * 1985-01-22 1987-04-21 Bell Telephone Laboratories, Incorporated Electronic network for collective decision based on large number of connections between signals
JPS6340802A (ja) * 1986-08-06 1988-02-22 Nissan Motor Co Ltd 座標変換方法
US5014219A (en) * 1988-05-06 1991-05-07 White James A Mask controled neural networks
US5093803A (en) * 1988-12-22 1992-03-03 At&T Bell Laboratories Analog decision network
US4954963A (en) * 1989-03-02 1990-09-04 Texas Instruments Incorporated Neural network and system
US4982439A (en) * 1989-03-17 1991-01-01 Hughes Aircraft Company Fine-grained microstructure processor
US5091965A (en) * 1990-07-16 1992-02-25 Sony Corporation Video image processing apparatus

Also Published As

Publication number Publication date
JPH03127185A (ja) 1991-05-30
EP0422654A2 (en) 1991-04-17
DE69025693D1 (de) 1996-04-11
EP0422654A3 (en) 1993-01-13
EP0422654B1 (en) 1996-03-06
US5259038A (en) 1993-11-02
DE69025693T2 (de) 1996-10-31

Similar Documents

Publication Publication Date Title
JP2810152B2 (ja) ポイントパターンマッチング方法
Martinetz et al. Three-dimensional neural net for learning visuomotor coordination of a robot arm
Chung et al. Polygonal approximation using a competitive Hopfield neural network
Thompson et al. Neighborhood sequential and random training techniques for CMAC
Ritter Parametrized self-organizing maps
US5796925A (en) Neural digital processor utilizing an approximation of a non-linear activation function
JPH02268380A (ja) 視覚認識装置
US5572628A (en) Training system for neural networks
Kim et al. Object recognition of one-DOF tools by a back-propagation neural net
KR20210050168A (ko) 딥러닝 모델에 적용하기 위한 학습 데이터 확장방법, 딥러닝을 이용한 이미지 분류장치 및 그 방법
US5396565A (en) Pattern recognition neural net insensitive to disturbances in inputs
de Angulo et al. Self-calibration of a space robot
Glanz et al. Shape recognition using a CMAC based learning system
CN115100136B (zh) 基于YOLOv4-tiny模型的工件类别与位姿估计方法
Hou et al. Neural units with higher-order synaptic operations for robotic image processing applications
de Figueiredo An optimal matching-score net for pattern classification
Lynch et al. The use of feedforward neural networks for machine vision calibration
Karlik A neural network image recognition for control of manufacturing plant
JP2588499B2 (ja) ニューラルネットワークトレーニング方法及びその装置
Shen et al. A fast learning algorithm of neural network with tunable activation function
CN112464740A (zh) 一种用于自顶向下姿态识别过程的图像处理方法及系统
Armitage Neural networks in measurement and control
Tarassenko et al. On-chip learning with analogue VLSI neural networks
Nikitin et al. Research of recognition algorithm for sheet metal marking
September Centering scheme for pattern recognition