JP2007287145A - 形状比較装置および形状比較方法 - Google Patents

形状比較装置および形状比較方法 Download PDF

Info

Publication number
JP2007287145A
JP2007287145A JP2007103298A JP2007103298A JP2007287145A JP 2007287145 A JP2007287145 A JP 2007287145A JP 2007103298 A JP2007103298 A JP 2007103298A JP 2007103298 A JP2007103298 A JP 2007103298A JP 2007287145 A JP2007287145 A JP 2007287145A
Authority
JP
Japan
Prior art keywords
outline
primitive
primitives
shape
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007103298A
Other languages
English (en)
Other versions
JP4924165B2 (ja
Inventor
Rujie Liu
ルジエ リュウ
Takayuki Baba
孝之 馬場
Susumu Endo
進 遠藤
Shuichi Shiitani
秀一 椎谷
Yusuke Uehara
祐介 上原
Daiki Masumoto
大器 増本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of JP2007287145A publication Critical patent/JP2007287145A/ja
Application granted granted Critical
Publication of JP4924165B2 publication Critical patent/JP4924165B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/469Contour-based spatial representations, e.g. vector-coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】2つの対象物体の外形情報に基づいてそれら対象物体の類似度を計算することができる形状比較装置および形状比較方法を提供する。
【解決手段】画像に描かれた物体の外形を順序付き外形プリミティブシーケンスに変換して表現し、外形プリミティブおよび外形プリミティブの構成に関する属性値を計算し、多角形のプリミティブの順番を保ちながら、外形間の類似度を計算する。また、入力が画像に描かれた物体の外形ではなく画像に描かれた物体の場合、入力された画像に描かれた物体における画像に描かれた物体の外形を抽出する。
【選択図】図1

Description

本発明は、形状比較装置および形状比較方法に関し、特に、外形の分解および一致に基づいて形状認識および形状比較を行う方法およびその方法に関する。
(関連分野の考察)
画像認識および画像検索は、例えば、エンターテインメント、ビジネス、アート、ならびにエンジニアリングおよびサイエンス等の多くの応用分野において増え続ける画像アプリケーションの重要性、および、増え続ける画像数が要因となって、近年、主要な研究分野になっている。画像認識および画像検索における根本的な問題は、画像比較に用いられる技術にある。現在、画像認識および画像検索に用いられる3つの一般的な特徴は、形状、色およびテクスチャである。画像検索に関する最近のユーザ調査は、ユーザが色およびテクスチャによる検索よりも形状による検索により関心があることを示している。物体の形状情報は、画像の検索および認識を大変強力に支援し得るが、人が画像コンテンツをキャプチャーしそのコンテンツに基づいて検索することの容易性については、完全に理解されていなかった。結果としてこれまでのところ、人の認識方法に基づいて、自動的に検索および認識を行うことが不可能であった。したがって、どのように画像に描かれた物体の形状特徴を十分かつ効果的に描写するかに関しては、未だ、解決すべき懸案事項のままである。
形状マッチング(shape matching)は、例えば、コンピュータ・ビジョン、パターン認識およびロボット工学等の多くのビデオ情報処理システムにおいて、中心的な問題である。形状マッチングの応用としては、工業生産の検査、指紋照合、画像認識および画像検索が挙げられる。この挑戦的な形状マッチングに関する問題に取り組むために、研究者が多くの方法を提案している。
既存の形状特徴のうちの1つとして、非特許文献1に記載されているフーリエ記述子は、周波数領域の特徴に従って、外形を描写する。この方法は、画像に描かれた物体の外形についてフーリエ変換し、その画像に描かれた物体を変換係数で記述する。
米国特許第6,801,661号明細書 米国特許第4,783,829号明細書 米国特許第6,004,171号明細書 H.Kauppinen、T.Seppanen、およびM.Pietikainen著、「An Experimental Comparison of Autoregressive and Fourier−based Descriptors in 2−D Shape Classification」、IEEE Transcation on Pattern Analysis and Machine Intelligence、第17巻、1995年、201〜207頁 F.Mokhlarian著、「Silhouette−Based Isolated Object Recognition through Curvature Scale Space」、IEEE Transaction on Pattern Analysis and Machine Intelligence,第17巻、1995年、539〜544頁 E.Milios、E.Petrakis著、「Shape Retrieval Based on Dynamic Programming」、IEEE Transcation on Pattern Analysis and Machine Intelligence、第9巻、2000年、141〜147頁
しかしながら、フーリエ記述子それ自体は、アフィン不変量(affine invariant)ではない。回転および位置の不変性を得るための一般的な解決方法は、得られた結果の位相情報を取捨することである。尺度不変性(scale invariance)は、変換因子の振幅を規格化することで得られる。ユークリッド距離は、類似度を測定するために用いられる。
別の形状特徴として、Farzin Mokhlarian(非特許文献2を参照のこと)は、形状特徴を抽出する曲率尺度空間(CSS)法を提案している。この方法は、異なる尺度のもとで外形線の曲率を計算し、この曲率情報に従って形状特徴を構築し、その結果、アフィン不変量およびより良いノイズ除去特性を獲得する。しかしながら、この方法は、単にイメージの外形を処理される物体として取得するだけであり、この外形に含まれるコンテンツを考慮できていない。したがって、取得された特徴が全ての辺に関する特徴ではないため、これらの特徴だけでは、通常、画像をマッチングさせる十分な効果を得ることは困難である。
特許文献1では、特定の関連するセグメントの形状属性を使って、画像のコンテンツを描写する方法が提示されている。この方法は、自動的に知覚的に重要な構成要素を1つ以上同定するために、画像内の各セグメントを分析し、フーリエ記述子を使って各構成要素を描写する。このプロセスを繰り返すことにより、画像は、その画像の特徴付けられたセグメントの構成要素へ変換される。この技術は、これらのセグメントの形状特徴に基づいて画像を取得し検索するために使用され得る。
特許文献2では、姿勢回転(attitude rotation)を伴うパターンマッチングの問題を解決するための垂直領域ベースのマッチング方法が提示されている。まず、物体パターンの内部外形および外部外形が多角形近似され、パターンの姿勢回転を描写するために、多角形近似された外形内で特徴のある多角形頂点が決定される。マッチングにおいて、ピクセルを用いるかわりに多角形頂点を用いて2つの多角形の共通領域を取得し、これらの2つの形状の類似度を取得する。
特許文献3では、物体の形状を記述するための複数尺度空間ベース方法(multiple scale space based method)が提示されている。外形曲線を認識するために、反復的なパラメータ化処置および変換処置が、互いに独立なフーリエ記述子セットを作るために使用され、対象物体の外形が、この記述子セットの空間に従って記述される。フーリエ記述子セットベースの方法は、効果的な認識および比較を可能にする特性を有すると言われていた。
上述のようなグローバルな属性ベースの方法は、多くの場合、形状の知覚的側面をモデリングすることに限定される。最近では、例えば、エッジおよび外形等のローカルな属性ベースの方法にますます注目が集まっている。これらの方法の基本的な考え方は、対象物体から突出した可視部分を抽出し、2つの対象物体の部分の間で一致を確立し、それらに基づいて類似度を計算するものである。
非特許文献3を参照すると、MiliosおよびPetrakisは、入力された外形形状を、順序付き凹凸曲線セグメントにセグメント分けし、この凹凸曲面セグメントを構築することによって外形の類似度を計算している。隣接するセグメントの統合(merge)操作は、マッチング処理において重要な役割を担うが、この操作は所定のルールに限定される。これに加えて、曲線セグメントの幾何学的特徴は十分に効果的ではない。
[発明の要約]
本発明は、2つの対象物体の外形情報に基づいてそれら対象物体の類似度を計算することができる形状比較装置を提供する。この装置に関して、形状特徴に基づいて画像認識および画像検索が可能になる。
本発明の目的を達成するため、本発明による形状比較装置は、画像に描かれた物体またはそれらの外形を入力として受け取る。入力である画像に描かれた物体に関して、この装置はまず、入力された画像に描かれた物体の外形を抽出する。その結果、この入力は、境界ピクセルの順序付き座標シーケンス(ordered coordinate sequences)へ標準化される。本発明にしたがって、外形がまず、多角形として近似され、属性値が、各多角形頂点に割り当てられ、その結果、この多角形が、属性付き文字列(attributed string)へ変換される。マッチングの間、文字列マッチング技術が、多角形間の一致を確立するために使用され、これら多角形間の類似度が、その一致に基づいて計算される。
本発明によると、本形状比較装置は、画像に描かれた物体の外形を多角形として近似する、すなわち、この画像に描かれた物体の外形を順序付き外形プリミティブシーケンスに変化させて描写する多角形近似手段と、外形プリミティブおよび外形プリミティブの組合せに関する属性値を計算する属性生成手段と、多角形の一致を確立して、外形間の類似度を計算する比較手段と、を備える。
本発明によると、形状比較方法は、画像に描かれた物体の外形を多角形として近似する、すなわち、この画像に描かれた物体の外形を順序付き外形プリミティブシーケンスに変化させて描写する多角形近似ステップと、外形プリミティブおよび外形プリミティブの組合せに関する属性値を計算する属性生成ステップと、多角形の一致を確立して、外形間の類似度を計算する比較ステップと、を含む。
多角形近似手段は、入力された画像に描かれた物体の外形を多角形へ変換する。既存の最適化された多角形近似方法のいくつかは、この手段において適用され得る。しかしながら、それらの方法の大部分が、多大な時間を必要とし、ノイズおよび画像のひずみ(distortion)が原因で、未だ分割不一致(segmentation inconsistencies)が存在する。分割統合法(split−and−merge method)は、その簡易さおよび高速さが理由で、画像の外形に対して多角形近似を行うために、本発明において用いられる。この方法の頑健性を高めるため、外形中のより曲率の大きい点(higher curvature point)が、分割統合処置の開始位置として用いられている。
多角形近似をした後、外形が、順序付き頂点によって完全に描写され得る多角形へと単純化される。多角形内の各頂点は、2つの交線セグメント(intersecting line segments)に対応する。それらに対応する1つの頂点と2つの辺は、本発明において外形プリミティブとして定義される。この場合、外形プリミティブおよび隣接するいくつかの外形プリミティブの組合せの両方が、実質的にポリラインである。属性生成手段のタスクは、各外形プリミティブおよび隣接するいくつかの外形プリミティブの組合せに関する属性値を定義すること、換言すると、それらの幾何学的特徴をポリラインで記述することである。2種類の属性、すなわち、回転関数(turning function)、および、ポリラインの凹凸度(convexity/concavity degree)が、本発明において用いられる。これら2つの特徴の両方とも、知覚的に重要であり、ポリラインから迅速に抽出することができる。
多角形近似と属性生成をした後、入力された画像に描かれた物体の外形は、プリミティブに対応する各文字で、合理的に属性付き文字列へ変換される。マッチング手段において、属性付き文字列マッチング技術(すなわち、動的プログラミング(DP)マッチング技術(technical))が、ポリライン(すなわち、プリミティブまたはプリミティブの組合せ)の一致を確立するために使用され、これら外形間の類似度が計算される。多角形近似手段において生じる分割の不一致の問題を解決するために、比較手段において、統合操作が実施される。すなわち、統合操作は、複数のプリミティブに対応する外形プリミティブ、または、別の複数のプリミティブに対応する複数のプリミティブを考慮する。従来の方法において、統合された文字列間の距離は、通常、経験に基づいて統合コスト値を導入することによって近似的に計算されるので、距離計算の一貫性を保つことが困難である。一方で、本発明においては、ポリライン(外形プリミティブまたは外形プリミティブの組合せ)の属性値は、リアルタイムで計算されるので、距離測定の一貫性が得られる。属性付き文字列による外形の描写に関する別の問題とは、どのように属性付き文字列の開始位置を決定するかである。この問題は、本発明において、環状文字列マッチング技術(annular string matching technique)を用いて解決される。
[好ましい実施形態の詳細な説明]
本発明の好ましい実施形態を、以下に添付の図面を参照して説明する。
図1は、本発明にしたがって、外形の分解および一致に基づいて形状比較する装置の構造概略図である。この装置の入力は、画像に描かれた物体または画像に描かれた物体の外形であり、出力がこれらの類似度となる。この機能を獲得するために、本装置は、以下の3つの手段、(1)入力された外形を多角形として近似する多角形近似手段と、(2)外形プリミティブおよび外形プリミティブの構成に関する属性値を計算する属性生成手段と、(3)多角形の一致を確立して、外形間の類似度を計算する比較手段とを備える。
本発明によると、本装置の入力は、画像に描かれた物体または画像に描かれた物体の外形のみであり得る。ここで、画像に描かれた物体の外形は、或る物体の外形ピクセルの座標値シーケンスを意味し、座標値シーケンスが順序付けされる。すなわち、外形ピクセルの順序付き座標値シーケンスとなる。加えて、本発明に従う形状比較装置は、画像に描かれた物体外形抽出手段をさらに備える。入力が画像に描かれた物体の場合は、この画像に描かれた物体の外形が、最初に抽出されるべきである。つまり、この物体の外形ピクセルの順序付き座標値シーケンスが抽出されるべきである。いくつかの従来技術が、画像に描かれた物体の外形を抽出するために使用され得る。Luciano da Fontoura CostaおよびRoberto Marcondes Cesar Jr.著、「Shape Analysis and Classification:Theory and Practice」、CRC Press LLC、341〜347頁を参照のこと。
1. 多角形近似ユニット
このユニットのタスクは、画像に描かれた物体の外形を多角形で近似して描写することである。つまり、画像に描かれた物体の外形を順序付き外形プリミティブシーケンスとして描写することである。従来技術の多角形近似方法のいくつかが、この機能を達成するために使用され得る。本発明は、分割統合法の簡易性および高速性のため、多角形近似を行うために分割統合法を用いる。L.F.Costa、R.M.Cesar著、「Shape Analysis and Classfication:Theory and Practice」、CRC Press LLC、354〜365頁を参照のこと。
分割統合法は、反復処置を経て外形の多角形近似を達成する。まず、全体の外形を2つの曲線セグメントに分割するために、2つの開始点が外形中から選択され、次いで、これら曲線セグメント上のピクセル点から曲線に対応する対辺までの距離が所定の閾値の範囲内に入るまで、これら曲線セグメントが、繰り返し、より小さな曲線セグメントへと分割される。換言すると、これらの曲線セグメントが、受容可能なエラー範囲内にて、線で近似される。分割プロセスの後、セグメンテーションエラーを解決するため、特に、不必要な頂点を除去することで統合操作が行われる。
しかしながら、この方法によって得られた近似結果は開始点と密接に関連するので、できる限り分解結果の不一致を減らすために、開始点の選択は注意する必要がある。本発明において、外形曲線上の高い曲率値を有する点が、分割統合法の開始点(開始位置とも呼ばれる)とされる。例えば、降順に並べられた曲率値を有する上位N個の点(すなわち、最大の曲率値を有する最前列のN個の点)を選択するか、あるいは、特定の閾値よりも大きい曲率値の点の全てを選択する。
簡潔に述べると、多角形近似ユニットは、2つのステップ、(1)外形上の各ピクセルの曲率値を計算するステップと、(2)高い曲率を有する点を入力として用い、外形を多角形として近似するために分割統合法を実行するステップと、を含む。図2は、この手段の操作フローを示す。
1.1. 曲率計算
曲線上の特定の点の曲率値を計算するため、多くの方法が使用され得る。直観的(intuitionistic)方法が、本発明に従う一実施形態において曲率値を直接計算するために採用される。Pi={(xi,yi),i=l,Λ,N}を画像に描かれた物体の外形の座標シーケンスと仮定すると、外形上の点piの曲率値が、以下のように、その点に隣接する外形の点に基づいて計算され得る。
1. 正接方向計算
Figure 2007287145
仮に上記数式とする場合、点piの正接方向は、θi=arctan(dyi/dxi)である。
2. 曲率計算
Figure 2007287145
仮に上記数式とする場合、点piの曲率値は、ci=dθi/dliである。
本発明において、上記計算におけるパラメータMの値は、7にセットされ得る。
次に、高い曲率値を有する点が選択され、それらの座標が、分割統合処置のための入力として使用される。単純な規則が、高い曲率値を有する点を選択するために使用され得る。本発明において、0.08の閾値よりも大きい曲率値を有する全ての点が、開始点として使用される。図3Aは、丸で印付けてある高い曲率値を有する点の検出結果を提供する。
上で得られたより高い曲率値を有する点は、順番に同じ方向へ、外形のピクセル点として配列されるべきである。換言すると、これらの点は、画像に描かれた物体の外形のピクセル点が時計方向にある場合に、時計方向に順序付けされるべきであり、逆の場合もまた同様である。
1.2. 分割統合(Split−and−Merge)
分割(split)操作は、反復される手順である。この操作は開始点からずっと、曲線セグメント上のピクセル点からその曲線に対する対辺までの距離が所定の閾値よりも大きいかどうかを、繰り返し確認する。距離が閾値よりも大きい場合、最遠距離にて、曲線セグメントをより小さな2つの曲線セグメントへ分割する。pi,i=l,...,Mは、上記のように得られた高い曲率値を有する順序付けされた点とする。
本発明の一実施形態によれば、以下に示すように、2つのスタックが、分割操作を完結させるために採用される。
Figure 2007287145
すなわち、2つのスタック、「closed」と「open」が使用され、まず、高い曲率値を有する第1の点を、スタック「closed」内にプッシュし、そして、高い曲率値を有する次に続くM〜1に順序付けされた点を、スタック「open」内にプッシュすることで初期化を実行する。そして次に、以下の操作が繰り返し実行される。
Figure 2007287145
分割統合は、分割操作および統合操作の反復処置である。ここで、統合操作まで保持された頂点が、分割操作へ入力される分割操作の開始点として使用され、分割操作において得られた頂点が、確認のために統合操作へ入力される。この反復は、頂点の修正が行われなくなるまで繰り返される。
分割統合モジュールの詳細なプロセスは、以下のとおりである。
Figure 2007287145
すなわち、2つのスタック、「closed」と「open」が使用され、まず、高い曲率値を有する点を、スタック「open」内に順次プッシュすることで初期化を実行する。次に、反復的に分割統合処置が実行される。
(分割操作)前述の分割操作処置の初期化における要求に従って、第一の頂点が、スタック「open」からポップアウトされ、スタック「closed」内へプッシュされる。そしてこの頂点が、分割操作が繰り返し実行されるための初期値として取得される。
(統合操作)分割操作が完了した後、スタック「open」は空になり、全ての頂点が、スタック「closed」内に格納される。その結果、スタック「closed」内の点が統合される。その後、得られた新たな頂点のグループが、スタック「open」内へ移動される。
このプロセスは、スタック「open」のコンテンツにおいて修正が行われなくなるまで、繰り返される。
反復の後、最後に得られた頂点が、スタック「open」内に格納される。図3Bは、多角形近似の例を示す。
多角形描写において、多角形の各頂点は、多角形の2つの交差する辺に対応する。本発明において、1つの頂点および対応する2つの辺は、外形プリミティブとして定義される。この場合、外形プリミティブおよび隣接するいくつかの外形プリミティブの組合せの両方とも、実質的にポリラインである。図3Cは、図3Bにおける多角形の構成要素となる全ての構成プリミティブを示す。
分割統合モジュールは、以下の外形プリミティブ情報をその出力結果として格納する。
(1)各頂点の座標
(2)外形プリミティブにおける多角形の2つの辺の方向
i-1ii+1を多角形の隣接する3つの頂点と仮定すると、piの前辺(former side)への方向は、 pi-1からpiへ方向付けて定義される。反対に、piの後辺(later side)への方向は、piからpi+1へ方向付けて定義される。
(3)外形プリミティブにおける多角形の2つの辺の標準化された長さ
外形プリミティブにおける2つの辺の長さは、ぞれぞれ、現在の頂点から前の頂点および後ろ頂点までの半分の距離として定義される。さらに、これらの距離は、外形の長さの合計から標準化される。
2. 属性生成ユニット
多角形近似の後、入力された画像に描かれた物体の外形は、順序付きプリミティブシーケンスによって表示され、単一の外形プリミティブ、および、隣接するいくつかのプリミティブの組合せの両方が、実質的にポリラインである。属性生成ユニットのタスクは、属性値をこれらの外形プリミティブに割り当て、その結果、それらを属性付き文字列へ変換する。本発明において、2つの属性(すなわち、回転関数および凹凸度)が使用される。これら2つの属性は、不ぞろいなあらゆるポリラインを記述するために使用され得る。その結果、単一の外形プリミティブ、および、いくつかのプリミティブの組合せの両方に適用可能である。
2.1 回転関数
ポリラインの回転関数は、辺の長さを独立変数とし、ポリラインの各辺の傾斜角度とX軸を値域(value domain)とする。この関数の値が辺の回転が外形方向に一致しているとき、例えば、すべてが時計軸方向または逆時計軸方向にあるときは増加し、また回転が外形方向の反対であるときは関数の値が減少するようにして、外形多角形の各辺の回転を追跡し続ける。ポリラインに対して、回転関数は、区分定数機能(piecewise constant function)であり、増加および減少は、ポリラインの頂点に対応する位置においてのみ生じ、隣接する2つの頂点間では一定である。
回転関数に関しては、R.C.Veltkamp、M.Hagedoorn著、「State−of−the−art in Shape Matching」、M.Lew編、Principles of Visual Information Retrieval,Springer、2001年、87〜119頁を参照のこと。
上述のとおり、外形プリミティブ、および、いくつかの外形プリミティブの組合せの両方とも、実質的にポリラインであり、その結果、それらは、回転関数によって記述され得る。対応する変更機能を、外形プリミティブの2つの辺の方向として生成することは容易であり、それらの標準化された長さは、多角形近似ユニットにおいて記録される。
2つのポリラインの間の距離は、回転関数に基づいて計算され得る。2つの閉じた形状外形AとBを仮定すると、ai,jおよびbk,lは、それぞれ、aiからajの外形プリミティブおよびbkからblの外形プリミティブから構成された統合外形プリミティブとなり、そして、Θa(s)およびΘb(s)は、それぞれ、これら2つの統合外形プリミティブの回転関数となる。外形関数は、まず、ユニット長へ標準化され、その外形関数に基づいて2つのポリライン間の距離が、以下によって与えられる。
Figure 2007287145
ここで、θは、上の積分の値を最小化する回転角であり、以下のように示される。
Figure 2007287145
この距離測定は、形状比較に必要な、回転度、尺度、および並進不変量を有することが明らかである。
図4は、2つのポリラインの回転関数および対応する距離計算を示す。
2.2. 凹凸度
画像に描かれた物体の外形の多角形描写において、各外形プリミティブは、凸型または凹型として同定され得る。直観的に、外形プリミティブの同じ凸(凹)型間で一致を確立することがより適当であると考えられる。しかしながら、画像のノイズおよびひずみが原因で、多くの場合、一対多数または多数対多数のプリミティブ間で一致を確立する必要があり、これらのプリミティブは、異なる型のプリミティブであり得る。例えば、図5に示されるように、ゆがみの影響が原因で、1つの画像に描かれた物体の外形中の1つのプリミティブが、別の画像に描かれた物体の外形中の異なる3つの凹凸型のプリミティブに対応している。この場合、この3つのプリミティブは、一緒の統合されるべきであり、第一のイメージ外形中のプリミティブとマッチングされるべきである。
しかしながら、すべての統合およびマッチングが適当であるわけではない。多くの状況において、統合は、間違った結果を導き得る。本発明において、凹凸度は、統合およびマッチング操作の正当性(reasonability)を測定するために用いられる。測定は、このような適切な統合およびマッチング操作の背景もとで進められる同時に、不適切な統合およびマッチング操作が、厳しい罰則によって抑えられている。
仮にai,jを、aiからajまでの外形プリミティブを構成要素とする統合プリミティブとする場合、ai,jの凹凸度は、以下のように定義される。
(1)入力として点セットai,...,ajを用いて、凸包(convex hull)を計算する。
多くの従来技術の方法が、点セットの凸包を計算するために使用され得る。本発明は、グラハムのアルゴリズム(Graham’s algorithm)を採用する。J.O’rourke著、「Computational Geometry in C」、Cambridge University Press、72〜87頁を参照のこと。
(2)凸包の内部領域をスキャンし、この領域中の閉じた外形の内側および外側の領域が、個別に計算され、InAおよびOutAとして示される。この外形プリミティブの凹凸度は、以下のように定義される。
c(ai,j)=(InA−OutA)/(InA+OutA)
明らかに、凹凸度の値域は、−1から1までであり、−1および1は、それぞれ凹面プリミティブおよび凸面プリミティブを表す。凹凸度の属性は、回転、並進および尺度の変化に関する不変量である。図6は、この属性の計算プロセスの例を示す。
多角形の各頂点の座標は、多角形近似手段において記録される。これらの座標に関して、前述のプロセスを経て外形プリミティブの凹凸度を計算することは容易である。
2つの閉じた形状外形AとBを仮定すると、ai,jおよびbk,lは、それぞれ、aiからajの外形プリミティブおよびbkからblの外形プリミティブから構成された統合外形プリミティブとなる。この凹凸度の属性に従う2つのポリライン間の距離は、以下の通りである。
Distc(ai,j,bk,l)=|c(ai,j)-c(bk,l)|
本発明において、より簡単な別の凹凸度計算方法が提供される。ここで、多角形の頂点の凸包は、計算される必要はないので、計算速度を著しく促進させる。この方法は、以下に示される。
前述のとおり、外形プリミティブは、多角形の1つの頂点と多角形の2つの辺とから構成され、頂点は、これらの2つの辺が交わる点である。したがって、この頂点とこの2辺の他の2つの端点とは、三角形を構成する。この方法において、各外形プリミティブに対応する三角領域が事前に計算され、負の値が凹面プリミティブの領域とされる。ai,jをaiからajの外形プリミティブから構成された統合された外形プリミティブとする場合、Area(ai)は、外形プリミティブatに対応する三角領域を表し、したがって、ai,jの凹凸度は、以下のように定義される。
Figure 2007287145
3. 比較ユニット
本発明において、多角形近似ユニットは、入力された画像に描かれた物体を順序付き外形プリミティブシーケンスへ変換し、属性生成ユニットは、外形プリミティブ(単一のプリミティブ、またはいくつかのプリミティブの組合せ)に関する属性を定義する。この場合、入力された画像に描かれた物体の外形は、属性付き文字列へ変換される。結果として、画像に描かれた物体の外形における類似度の比較が、外形プリミティブの一致を確立することで実現され得る。このような一致の確立は、実際は最小化が問題であり、これは、文字列マッチング技術または動的プログラミング技術によって実現され得る。
2つの文字列の長さnおよびmの距離を計算するために、動的プログラミング処置は、(n+1)×(m+1)次元のマトリックスD(DP表)を使用する。この表内の各セルD(i,j)は、第一文字列の前の要素iから構成されるサブ文字列と、第二文字列の前の要素jから構成されるサブ文字列との間の距離に対応する。標準的にDP技術において、D(i,j)の値は、隣接する前の3つのセルの値から計算され、これら3つのセルから現在のセルまでの距離を編集する。つまり、
D(i−1,j−1)の値、およびD(i−1,j−1)からD(i,j)までの距離の合計を計算し、
D(i,j−1)の値、およびD(i,j−1)からD(i,j)までの距離の合計を計算し、
D(i−1,j)の値、およびD(i−1,j)からD(i,j)までの距離の合計を計算する。
最終的に、前述の3つの距離の合計の最小値が、D(i,j)の値としてとられる。
ノイズおよび画像のひずみが原因で、多角形近似において不一致は常に存在し得る。例えば、第一の外形中の1つのプリミティブは、第二の外形中のいくつかのプリミティブに対応するために歪みを生じ得る。2つの文字列をマッチングさせるために置換、挿入、削除の3つの基本操作のみを用いる標準的な文字列マッチング技術またはDP技術は、このような状況において、間違いを起こし得る。本発明の実施形態において、統合操作が、この問題に取り組むために採用される。簡潔に言えば、いくつかのプリミティブがマッチングの間に1つのプリミティブに統合される場合に、多数対多数および一対多数のプリミティブのマッチングが達成されて、マッチングに参加する。現在利用可能な方法とは異なり、経験に基づいた統合コスト値によってだけではなく、その代わりに、属性値が、リアルタイムでのマッチング処置において統合プリミティブについて計算され、それにより、マッチング計算における整合性が保証される。
属性付き文字列による外形の描写に関する別の問題は、文字列の開始位置である。直観的に、循環シフトが、文字列に実行され、シフトされた文字列と別の文字列との間の距離が計算され、最後に、距離における最小値が最終結果として得られる。しかしながら、この方法は、時間計算量がO(mn2)である状態では、時間を要する。本発明において、周期的な文字列のマッチング技術が、この問題を解決するために利用され、それにより、時間計算量が、O(2mn)まで減少される。周期的な文字列のマッチング技術の基本的な論理は、AおよびBの周期的なマッチングを達成するために、文字列Aと文字列B2との間の距離を計算する標準的な文字列マッチング技術を使用することである。ここで、B2は、Bを二乗することで得られた文字列を意味する。当然、マッチングはまた、Aを二乗することによっても実行され得る。この方法によって、DP表のサイズは、元の(n+1)×(m+1)から現在の(n+1)×(2m+1)まで大きくなる。
周期的なシフトのマッチングに関するより詳細な情報については、H.Bunke、H.Buhler著、「Application of Approximating String Matching to 2D Shape Recognition」、Pattern Recognition、1993年、第26巻、1792〜1812頁を参照のこと。
A=al,...,anとB=bl,...,bmをマッチングされる2つの形状と仮定すると、aiとbkは、2つの形状の外形プリミティブである。ai,j(bk,l)は順序付きプリミティブであり、プリミティブaiとaj(bkとbl)との間で統合され、Si,j(Sk,l)は、標準化された長さである。本発明において、文字列のマッチングにおいて用いられたコスト関数(cost function)は、以下のように定義される。
挿入操作 c(λ→ai,j)=k*si,j
削除操作 c(bk,l→λ)=k*sk,l
置換操作
Figure 2007287145
ここで、kは、決定されるパラメータである。
外形プリミティブの属性にしたがって、ai,jとbk,lの間の距離Dist(ai,j,bk,l)が、以下のように計算される。
Dist(ai,j,bk,l)=Distt(ai,j,bk,l)+α×Distc(ai,j,bk,l
ここで、Distt()およびDistc()は、回転関数および凹凸度にそれぞれ対応し、αは、係数を表し、通常0から1の間である。
外形プリミティブにおける2つの辺の標準化された長さは、多角形近似手段において格納され、それによって、Si,j、およびSk,lの値が、容易に得られる。
挿入および削除操作においてパラメータkの値を理論的に推定するために、以下の方法が、本発明において提供される。
最初に、挿入および削除操作のコスト関数が、以下のような、置換操作に類似するよう拡張される。
c(λ→ai,j)=(kt+α*kc)*kl*si,j
c(bk,l→λ)=(kt+α*kc)*kl*sk,l
ここで、kt、kcおよびklは、それぞれ、Distt()、Distc()および置換操作におけるプリミティブ(プリミティブの組合せ)の長さの比に対応する。次に、この3つのパラメータの値が、統計的に推定される。
tの値は、外形プリミティブの数を独立変数としてとる機能を表す。プリミティブの数N(ai,jについては、Nはj−i+1と等しく、bk,lについては、Nはl−k+1に等しい)を仮定すると、N+1でセグメント化された定数の2つの回転関数は、一定の分配にしたがって無作為に生成され、その距離が計算される。このプロセスは、Mt(N)、St(N)で表される、これらの距離の平均値および標準偏差を得るために、(本発明の実施形態においては、10,000回)繰り返される。二次項目の近似によって、以下の関係が得られる。
N=1.029*t(N)2−0.265*t(N)+1.271
N=5.587*t(N)2+3.325*t(N)−2.963
tの値は、最終的に、kt=Mt(N)+St(N)に設定される。
凹凸度が、[−1,1]に均一に分配されると仮定すると、Distc()の平均値および標準偏差は、直接計算され得、すなわち、2/3および√2/3となる。kcの値は、これら2つの値の合計として設定され、すなわち、以下となる。
Figure 2007287145
lの値は、リアルタイムで計算される。つまり、このパラメータの値は、マッチングされる異なる形状の物体については異なる。2つの物体AおよびBがマッチングされると仮定すると、2つの外形AとBの間の全ての外形プリミティブの長さの比max(ai/bj,bj/ai)が計算され、Klが、これらの比の平均値の合計および標準偏差として設定される。
本発明によると、比較ユニットは、(1)循環型文字列マッチング(cyclic string matching)、(2)統合操作、および、(3)統合操作に対応する経験に基づいた統合コスト値の代わりに、統合プリミティブについてリアルタイムで属性値の計算をすることに特徴付けられる。
さらに、比較操作において、統合操作における統合プリミティブの最大限許容数は、パラメータLimitMの平均によって制御される。
マッチングする2つの外形をA=al,Λ,anおよびB=bl,Λ,bmと仮定すると、比較手段の実行プロセスは、以下のように提示される。
(1)パラメータklの値を計算する。
(2)DP表内の各セルの値を計算する。
Figure 2007287145
この処置のタスクは、(m+1)×(2n+1)のサイズを有するDP表内の各セルの値をすべて記入することである。
初期化は、まず、DP表内の第一列と第一行の値を計算することを実行する。
次に、各セルの値は、左から右の順番で列ごとに計算される。セルD(i,j)の値を計算するために、以下のセルの値およびこれらのセルのD(i,j)までの編集距離が考慮されるべきである。
D(i−k,j−l)、k=0,...,min(LimitM,i)、l=0,...,min(LimitM,j)、およびk,jは、同時に0であってはならない。
現在の状態において、これらのセルの値が計算されているので、これらのセルのD(i,j)までの編集距離のみを計算する必要がある。最終的に、セルの値の合計および対応する編集距離が最小であるセルが、D(i,j)の最初のセルとしてこれらのセルから選択され、そしてこの合計値が、D(i,j)としてとられる。
(3)DP表から2つの外形の距離値、すなわち、セルD(m,j),j=n+1,...,2nの間の最小値を選択する。
本発明の実行プロセスが、実施例の補足説明とともに以下に記載される。
図7Aは、入力された2つのマッチングされる画像に描かれた物体を示す。これら2つの物体の外形の長さは、それぞれ、481と692である。以下の説明において、図7Aの左側の物体は、aで示され、右側の物体は、bで示される。この例において、2つの物体の外形ピクセルは、両方とも反時計回り方向に配列される。
図7Bは、図7Aの2つの物体の外形近似結果を示す。この例において、分割統合操作のパラメータεは、「係数0.02で乗算された外形の長さ」に設定する。例えば、2つの形状物体に対応するεの値は、それぞれ、9.62と13.84である。
多角形近似の後で得られた頂点は、外形の方向と同じ方向に順序付けされる。よって、これらの頂点は、この例においては反時計回り方向に順序付けされる。物体aについては、多角形近似の後、10個の頂点が得られた。図7Bにおいて、これらの頂点は、それぞれ、数字1〜10で表される。これらの頂点の座標は、以下の通りである。
Figure 2007287145
多角形の各頂点は、付随する2辺とともに外形プリミティブとして定義される。多角形のこれらの頂点の座標値にしたがって、前辺および後辺方向を含む、各プリミティブの関連情報が計算され得、そして、これらの辺の長さが標準化される。具体的な計算プロセスが、物体aを例にとり以下に記載される。
(1)頂点1について、その頂点に隣接する前と後ろの頂点は、それぞれ、頂点10と頂点2である。したがって、プリミティブの前辺方向は、頂点10から頂点1への方向であり、一方で、後辺方向は、頂点1から頂点2への方向であり、具体的な値は、それぞれ、0.15と0.77である。前(後)辺の標準化された長さは、頂点10(頂点2)と頂点1の間の半分の距離として計算され、具体的な値は、22.8(34.7)である。
(2)頂点2について、その頂点に隣接する前と後ろの頂点は、それぞれ、頂点1と頂点3である。したがって、プリミティブの前辺方向は、頂点1から頂点2への方向であり、一方で、後辺方向は、頂点2から頂点3への方向であり、具体的な値は、それぞれ、0.77および2.34である。前(後)辺の標準化された長さは、頂点1(頂点3)と頂点2の間の半分の距離として計算され、具体的な値は、34.7(27.9)である。
同様に、10個全ての外形プリミティブの関連情報が計算され得る。
最後に、外形プリミティブにおける両辺の長さが、多角形の外周によって標準化される。最終的に得られた各外形プリミティブの関連情報は、以下のように示される。
Figure 2007287145
この例において、統合外形プリミティブの最大許容数は、3に設定される。換言すると、最大3つの隣接する外形プリミティブが、マッチングにおいて統合されるよう許容される。したがって、可能性のある全ての統合プリミティブの凹凸度が、この例における最初の凹凸度計算を用いて、事前に計算される。マッチングにおいて、これらの凹凸度は、上記表を参照することで容易に得られ得る。
この例において、凹凸度の表が、各物体に関して作成される。この表の列数は、外形プリミティブの数と等しく、行数は、統合に許容された外形プリミティブの最大数(すなわち、3)に等しい。この表の各列は、外形プリミティブに対応し、上記3つの行は、それぞれ、プリミティブの凹凸度、このプリミティブと隣接する後ろのプリミティブとの組合せの凹凸度、ならびに、このプリミティブと隣接する後ろの2つのプリミティブとの組合せの凹凸度に対応する。
凹凸度の計算プロセスは、物体のプリミティブ4を例にとり以下に記載される。
(1)第一の行は、プリミティブ4のそれ自体の凹凸度に対応する。単一のプリミティブは、ピュア(pure)凸面ポリラインまたはピュア凹面ポリラインのいずれかであり、したがって、その凹凸度は、1または−1のいずれかである。凸曲面なので、プリミティブ4の凹凸度は1であることが明らかである。
(2)第二の行は、プリミティブ4と5の組合せの凹凸度に対応する。計算プロセスは以下の通りである。
ポリラインの凸包を計算する。以下の4点(頂点4、頂点5、頂点3と頂点4の中間点、頂点5と頂点6の中間点)は、凸包計算のための入力として使用される。これらの4点の座標は、それぞれ、(81,110)、(42,61)、(109,104)、(26,66)である。
閉じた外形の内部および外部の領域をカウントするために、この凸包で取り囲まれる内部領域をスキャンする。閉じた外形の内部および外部のピクセル数は、それぞれ、781と409である。したがって、凹凸度は、(781−409)/(781+409)=0.3126となる。
図7Cは、凸包だけでなく、プリミティブ4と5の組合せに対応するポリラインも示す。
(3)第三の行は、プリミティブ4と5と6の組合せの応答度に対応する。この計算プロセスは以下の通りである。
ポリラインの凸包を計算する。以下の5点(頂点4、頂点5、頂点6、頂点3と頂点4の中間点、頂点6と頂点7の中間点)は、凸包計算のための入力として使用される。これらの5点の座標は、それぞれ、(81,110)、(42,61)、(10,70)(109,104)、(6,56)である。
閉じた外形の内部および外部の領域をカウントするために、この凸包で取り囲まれる内部領域をスキャンする。閉じた外形の内部および外部のピクセル数は、それぞれ、1013と885である。したがって、凹凸度は、(1013−885)/(1013+885)=0.0674となる。
図7Dは、3つのプリミティブと凸包に対応するポリラインを示す。
同様のプロセスが、各プリミティブについて考えられる凹凸度を計算するために使用される。最終結果は、以下のように示される。
Figure 2007287145
その後、これら2つの形状物体の類似度が比較手段によって計算される。この手段は、DP技術によってプリミティブの一致を確立する。このプロセスのコアタスクは、DP表内の各セルの値を計算して全て記入することである。この表の各セルは、サブ文字列の間の距離に対応する。例えば、D(i,j)は、第一の外形の前のプリミティブiと、第二の外形の前のプリミティブjとの間で最もマッチングする距離を表す。上述のように、DP表内の特定のセルの値を決定するために、前のセルの値と、これらのセルの現在のセルまでの編集距離を考慮にいれ、セルの最終値として最小値をとる必要がある。統合操作を採用する場合は、隣接する前の3つのセルだけでなく、より多くのセルを考慮にいれるべきである。例えば、以下の隣接するセルは、D(i,j)の値を計算するために考慮されるべきである。
{D(i-l,j-k),l,k=1,...,LimitM,ここで、l,kは、同時に0であってはならない}
ここで、LimitMは、統合操作において、許容される最大統合数を意味する。
仮にaiとbjがそれぞれ物体のプリミティブaおよびbを表すとすると、全てのプリミティブ数は、10となる。循環的マッチングのルールにしたがって、マッチングにおいて外形bのプリミティブが二乗される。したがって、この例は、11×21サイズのDP表のすべての項目を記入する。
次に、どのようにDP表内の各セルの値を計算するかを示す例が、説明のために用いられる。現在のセルをD(i=6,j=9)と仮定する。上述のように、このセルの値を決定するために、15個の隣接する、D(i=3,j=6)からD(i=6,j=9)までのセル、ならびに、これらのセルからD(i=6,j=9)までの編集距離が、考慮されるべきである。
これらの隣接するセルの具体的な位置は、以下の通りである。
D(3,6)D(3,7)D(3,8)D(3,9)
D(4,6)D(4,7)D(4,8)D(4,9)
D(5,6)D(5,7)D(5,8)D(5,9)
D(6,6)D(6,7)D(6,8)
これらのセルの現在の値は、以下の通りである。
Figure 2007287145
次に、これら隣接するセルから現在のセルD(i=6,j=9)までの編集距離が、コスト関数にしたがって計算されるべきである。例えば、D(4,9)から現在のセルまでの編集距離は、c(λ→a5,6)であり、これは、物体a内のプリミティブa5とa6にマッチングするために、物体b内に空プリミティブを挿入することによって得られる。D(5,7)から現在のセルまでの編集距離は、c(a6→b8,9)であり、これは、物体b内のプリミティブb8とb9とともに、物体内のプリミティブa6のマッチングにおいて生成される距離である。
計算の際の、これら隣接するセルから現在のセルまでの距離の値は、以下の通りである。
Figure 2007287145
以下の結果は、これら隣接するセルの現在の値と、前述の編集距離の値とを累加することで得られる。
Figure 2007287145
上記結果における最小値1.15は、現在のセルD(6,9)の値である。同時に、この最小値に対応するセル、すなわち、D(5,7)は、セルD(6,9)の原点(origin)として認められる。
上記プロセスは、図7Eに示したように、DP表内の全てのセルの値を計算するために繰り返される。ここで、矢印は、各セルの原点を示すために使用される。入力された2つの物体の間の距離は、セルD(10,11)からセルD(10,20)までの最小値、すなわち、D(10,18)に対応する値0.48、を計算することで得られる。各セルの原点を順次追跡するためにD(10,18)を開始点とする場合、外形プリミティブ間の一致を示す経路が得られる。例えば、D(10,18)の原点D(9,17)がまず得られる。これは、プリミティブa10とb8がマッチングされることを意味する。次いで、D(9,17)の原点D(8,16)が得られる。これは、プリミティブa9とb7がマッチングされることを意味する。同様に、D(8,16)の原点D(5,14)が得られる。これは、プリミティブa8とa7とa6がプリミティブb6とb5の組合せとマッチングするよう結合されることを意味する。このプロセスは、DP表の最初の列に届くまで繰り返される。図7Eにおいて、この例において得られた経路は、黒の実線で示される。したがって、プリミティブの一致は、以下のように示される。
a10−b8
a9−b7
a6,a7,a8−b5,b6
a5−b4
a4−b3
a3−b2
a1,a2−b1,b10
上述の説明に基づき、本発明の別の局面では、画像に描かれた物体の外形を多角形として近似する、すなわち、この画像に描かれた物体の外形を順序付き外形プリミティブシーケンスに変化させて描写する多角形近似ステップと、外形プリミティブおよび外形プリミティブの構成に関する属性値を計算する属性生成ステップと、多角形の一致を確立して、外形間の類似度を計算する比較ステップとを含む、形状比較方法が提供される。
入力が画像に描かれた物体の外形ではなく入力が画像に描かれた物体の場合、上記方法は、この装置に入力された画像に描かれた物体における画像に描かれた物体の外形を抽出する画像に描かれた物体外形抽出ステップをさらに含む。
好ましくは、多角形近似ステップは、画像に描かれた物体の外形を、分割統合法を用いて多角形として近似し、属性値は、回転関数か凹凸度のうちの一つであるか、あるいは両方であり、そして比較ステップは、文字列マッチング技術を用いて画像に描かれた物体の外形の類似度を比較する。
各実施形態において、各操作が特定の回路または接続(例えば、特別な機能を実行するために相互接続された個別論理ゲート)によって実行され得るか、1つ以上のプロセッサによって実行され得るか、あるいは、それら2つを組合せて実行され得ることが、当業者に理解されるべきである。したがって、各局面は、種々の実行様式によって実施され得、これら全ての実行様式は、本明細書中に記載される内容の範囲に留まることが考慮されるべきである。これらの局面の各々に関して、このような様式における任意の実施形態は、本明細書中で「上記操作を実行するために構成されたロジック」を示してもよく、あるいは、「上記操作を実行するかまたは実行することが可能なロジック」を示してもよい。
さらに、本発明の実施形態にしたがって、本発明の目的はまた、コンピュータまたはSCMに前述の操作を実行させることが可能なコンピュータプログラムによって実現されてもよい。
さらに、本発明の実施形態にしたがって、本発明の目的はまた、前述のプログラムを記憶するコンピュータが読取可能な媒体を用いて実現されてもよい。このコンピュータが読取可能な媒体は、命令実行システム、デバイス、または装置によって用いられるようにするか、あるいは、命令実行システム、デバイス、または装置と組合せることを可能にするために、プログラムを収容、記憶、通信、伝送または配信することが可能な任意の媒体であってもよい。例えば、コンピュータが読取可能な媒体は、電気的、磁気的、光学的、電磁気的な、赤外線かまたは半導体のシステム、デバイス、装置または配布媒体であり得るが、これらに限定されない。より具体的なコンピュータに読取可能な媒体としては、(網羅的列挙ではないが)、1つ以上のリードワイヤを有する電気的接続、携帯コンピュータディスク、ランダムアクセスメモリ(RAM)、読取専用メモリ(ROM)、消去可能なプログラム可能読取専用メモリ(EPROM)、光ファイバー、およびコンパクトディスク読取専用メモリ(CDROM)が挙げられ得る。
本発明の実施形態に関する上述の説明は、例示および説明目的のためのみに用いられるものである。前述の説明は、本明細書中に開示される正確な様式において本発明を消尽または限定することを意図したものではない。多くの修正および変更が明らかなことは当業者に自明である。特定の予想される応用を採用するため、本発明の原理およびその実質的な応用を最もよく説明し、当業者が本発明の種々の実施形態および変形物を理解できるように、上記実施形態が、本明細書中において選択され記載される。本発明の範囲は、請求項およびそれらの類似物によって定義されることが理解されるべきである。
(付記1)画像に描かれた物体の外形を順序付き外形プリミティブシーケンスに変換して表現する多角形近似手段と、
外形プリミティブおよび外形プリミティブの構成に関する属性値を計算する属性生成手段と、
多角形のプリミティブの順番を保ちながら、外形間の類似度を計算する比較手段と、
を備えたことを特徴とする形状比較装置。
(付記2)前記装置へ入力された画像に描かれた物体の外形を抽出する外形抽出手段をさらに備えたことを特徴とする、付記1に記載の形状比較装置。
(付記3)前記多角形近似手段が、分割統合法を用いて画像に描かれた物体の外形を多角形として近似することを特徴とする、付記1に記載の形状比較装置。
(付記4)前記多角形近似手段が、前記分割統合法の開始点として前記画像に描かれた物体の外形上の高い曲率値を有する点を使用することを特徴とする、付記3に記載の形状比較装置。
(付記5)前記高い曲率値を有する点が、曲率値のランクが高い指定された数の点か、あるいは、特定の閾値よりも大きい曲率値の全ての点であることを特徴とする、付記4に記載の形状比較装置。
(付記6)前記属性値が、回転関数と凹凸度のうちの1つであるか、あるいは、該回転関数と該凹凸度の両方であることを特徴とする、付記1に記載の形状比較装置。
(付記7)前記凹凸度が、以下のように計算され、
i,jがaiからajまでの外形プリミティブによって構成される統合プリミティブを表す場合、ai,jの凹凸度c(ai,j)が以下であり、
c(ai,j)=(InA−OutA)/(InA+OutA)
ここで、InAおよびOutAは、それぞれ、aiからajまでの点集合の凸包内の閉じた外形の内側および外側の領域の面積であることを特徴とする、付記6に記載の形状比較装置。
(付記8)前記凹凸度が、以下のように計算され、ai,jがaiからajまでの外形プリミティブによって構成される統合プリミティブを表し、Area(ai)が該外形プリミティブaiに対応する三角形の面積を示す場合、前記ai,jの凹凸度c(ai,j)が以下のように定義されることを特徴とする、付記6に記載の形状比較装置。
Figure 2007287145
(付記9)前記外形プリミティブの構成が、隣接する外形プリミティブのグループの構成であり、該構成の数が、多くても該構成に統合されることが許可された該外形プリミティブの数であることを特徴とする、付記6に記載の形状比較装置。
(付記10)前記比較手段が、文字列マッチング技術を用いて画像に描かれた物体の外形の類似度を比較することを特徴とする、付記1に記載の形状比較装置。
(付記11)前記比較手段が、循環型マッチングストラテジー、すなわち、AとBを比較する際に、標準的な文字列マッチング技術を用いることで文字列Aと文字列B2との間の距離を計算するストラテジーを使用し、ここで、B2は、周期Bを二乗することで得られる文字列を表すことを特徴とする、付記10に記載の形状比較装置。
(付記12)前記比較手段が、統合操作、すなわち、D(i,j)の値を計算するために以下の隣接するセルを考慮する操作を用い、
{D(i-l,j-k),l,k=1,...,LimitM,ここで、l,kは、両方が同時に0にはなり得ない}
ここで、D(i,j)は、第一の外形における前のプリミティブの数iと、第二の外形における前のプリミティブの数jとの間の最適なマッチング距離を表し、LimitMは、該統合操作において許可された統合の最大数であることを特徴とする、付記10または11に記載の形状比較装置。
(付記13)前記D(i,j)の値が、以下の式によって計算され、
Dist(ai,j,bk,l)=Distt(ai,j,bk,l)+α×Distc(ai,j,bk,l
ここで、Distt()とDistc()は、それぞれ、前記回転関数および前記凹凸度に対応する距離の値を表し、αは、0と1の間の指定された係数であること特徴とする、付記12に記載の形状比較装置。
(付記14)前記属性生成手段が、事前に前記属性値を計算し、前記比較手段が、比較の際に検索リストを用いてこれら属性値を取得することを特徴とする、付記1に記載の形状比較装置。
(付記15)前記比較手段が、比較の際に前記属性生成手段を用いてリアルタイムで前記属性値を取得することを特徴とする、付記1に記載の形状比較装置。
(付記16)画像に描かれた物体の外形を順序付き外形プリミティブシーケンスに変換して表現する多角形近似ステップと、
外形プリミティブおよび外形プリミティブの構成ついての属性値を計算する属性生成ステップと、
多角形のプリミティブの順番を保ちながら、外形間の類似度を計算する比較ステップと、
を含むことを特徴とする形状比較方法。
(付記17)前記装置へ入力された画像に描かれた物体の外形を抽出する外形抽出ステップをさらに含むことを特徴とする、付記16に記載の形状比較方法。
(付記18)前記多角形近似ステップが、分割統合法を用いて画像に描かれた物体の外形を多角形として近似することを特徴とする、付記16に記載の形状比較方法。
(付記19)前記多角形近似ステップが、前記分割統合法の開始点として前記画像に描かれた物体の外形上の高い曲率値を有する点を使用することを特徴とする、付記18に記載の形状比較方法。
(付記20)前記高い曲率値を有する点が、曲率値のランクが高い指定された数の点か、あるいは、特定の閾値よりも大きい曲率値の全ての点であることを特徴とする、付記19に記載の形状比較方法。
(付記21)前記属性値が、回転関数と凹凸度のうちの1つであるか、あるいは、該回転関数と該凹凸度の両方であることを特徴とする、付記16に記載の形状比較方法。
(付記22)前記凹凸度が、以下のように計算され、
i,jがaiからajまでの外形プリミティブによって構成される統合プリミティブを表す場合、ai,jの凹凸度c(ai,j)が以下であり、
c(ai,j)=(InA−OutA)/(InA+OutA)
ここで、InAおよびOutAは、それぞれ、aiからajまでの点集合の凸包内の閉じた外形の内側および外側の領域の面積であることを特徴とする、付記21に記載の形状比較方法。
(付記23)前記凹凸度が、以下のように計算され、ai,jがaiからajまでの外形プリミティブによって構成される統合プリミティブを表し、Area(ai)が該外形プリミティブaiに対応する三角形の面積を示す場合、前記ai,jの凹凸度c(ai,j)が以下のように定義されることを特徴とする、付記21に記載の形状比較方法。
Figure 2007287145
(付記24)前記外形プリミティブの構成が、隣接する外形プリミティブのグループの構成であり、該構成の数が、多くても該構成に統合されることが許可された該外形プリミティブの数であることを特徴とする、付記21に記載の形状比較方法。
(付記25)前記比較ステップが、文字列マッチング技術を用いて画像に描かれた物体の外形の類似度を比較することを特徴とする、付記16に記載の形状比較方法。
(付記26)前記比較ステップが、循環型マッチングストラテジー、すなわち、AとBを比較する際に、標準的な文字列マッチング技術を用いることで文字列Aと文字列B2との間の距離を計算するストラテジーを使用し、ここで、B2は、周期Bを二乗することで得られる文字列を表すことを特徴とする、付記25に記載の形状比較方法。
(付記27)前記比較ステップが、統合操作、すなわち、D(i,j)の値を計算するために以下の隣接するセルを考慮する操作を用い、
{D(i-l,j-k),l,k=1,...,LimitM,ここで、l,kは、両方が同時に0にはなり得ない}
ここで、D(i,j)は、第一の外形における前のプリミティブの数iと、第二の外形における前のプリミティブの数jとの間の最適なマッチング距離を表し、LimitMは、該統合操作において許可された統合の最大数であることを特徴とする、付記25または26に記載の形状比較方法。
(付記28)前記D(i,j)の値が、以下の式によって計算され、
Dist(ai,j,bk,l)=Distt(ai,j,bk,l)+α×Distc(ai,j,bk,l
ここで、Distt()とDistc()は、それぞれ、前記回転関数および前記凹凸度に対応する距離の値を表し、αは、0と1の間の指定された係数であること特徴とする、付記27に記載の形状比較方法。
(付記29)前記属性生成ステップが、事前に前記属性値を計算し、前記比較ステップが、比較の際に検索リストを用いてこれら属性値を取得することを特徴とする、付記16に記載の形状比較方法。
(付記30)前記比較ステップが、比較の際に前記属性生成ステップを用いてリアルタイムで前記属性値を取得することを特徴とする、付記16に記載の形状比較方法。
以上のように、本発明よれば、2つの対象物体の外形情報に基づいてそれら対象物体の類似度を計算することができる形状比較装置および形状比較方法を提供することができるので、画像比較に用いられる技術に有用である。
図1は、外形の分解および一致に基づいて形状比較する装置の構造概略図である。 図2は、多角形近似手段のフローチャートである。 図3Aは、検出された曲率の大きい点の結果例を示す。 図3Bは、多角形近似結果の例を示す。 図3Cは、図3Bに示された多角形の構成要素となる全てのプリミティブを示す。 図4は、2本のポリラインの回転関数と、それらの間の距離を示す。 図5は、いくつかの外形プリミティブへと曲げられている1つの外形プリミティブを説明する例を示す。 図6は、凹凸度の計算を説明する。 図7Aは、本発明の実施形態において比較される2つの形状外形を示す。 図7Bは、本発明の実施形態における2つの外形の多角形近似結果を示す。 図7Cは、本発明に従う実施形態に関する凹凸度属性計算の例を示す。 図7Dは、本発明に従う実施形態に関する凹凸度属性計算の別の例を示す。 図7Eは、本発明に従う実施形態のDPテーブルのコンテンツを示す。

Claims (8)

  1. 画像に描かれた物体の外形を順序付き外形プリミティブシーケンスに変換して表現する多角形近似手段と、
    外形プリミティブおよび外形プリミティブの構成に関する属性値を計算する属性生成手段と、
    多角形のプリミティブの順番を保ちながら、外形間の類似度を計算する比較手段と、
    を備えたことを特徴とする形状比較装置。
  2. 前記装置へ入力された画像に描かれた物体の外形を抽出する外形抽出手段をさらに備えたことを特徴とする、請求項1に記載の形状比較装置。
  3. 前記多角形近似手段が、分割統合法を用いて画像に描かれた物体の外形を多角形として近似することを特徴とする、請求項1に記載の形状比較装置。
  4. 前記多角形近似手段が、前記分割統合法の開始点として前記画像に描かれた物体の外形上の高い曲率値を有する点を使用することを特徴とする、請求項3に記載の形状比較装置。
  5. 前記高い曲率値を有する点が、曲率値のランクが高い指定された数の点か、あるいは、特定の閾値よりも大きい曲率値の全ての点であることを特徴とする、請求項4に記載の形状比較装置。
  6. 前記属性値が、回転関数と凹凸度のうちの1つであるか、あるいは、該回転関数と該凹凸度の両方であることを特徴とする、請求項1に記載の形状比較装置。
  7. 前記外形プリミティブの構成が、隣接する外形プリミティブのグループの構成であり、該構成の数が、多くても該構成に統合されることが許可された該外形プリミティブの数であることを特徴とする、請求項6に記載の形状比較装置。
  8. 画像に描かれた物体の外形を順序付き外形プリミティブシーケンスに変換して表現する多角形近似ステップと、
    外形プリミティブおよび外形プリミティブの構成ついての属性値を計算する属性生成ステップと、
    多角形のプリミティブの順番を保ちながら、外形間の類似度を計算する比較ステップと、
    を含むことを特徴とする形状比較方法。
JP2007103298A 2006-04-12 2007-04-10 形状比較装置および形状比較方法 Expired - Fee Related JP4924165B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN200610072131.6 2006-04-12
CN2006100721316A CN101055620B (zh) 2006-04-12 2006-04-12 形状比较装置和方法

Publications (2)

Publication Number Publication Date
JP2007287145A true JP2007287145A (ja) 2007-11-01
JP4924165B2 JP4924165B2 (ja) 2012-04-25

Family

ID=38758810

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007103298A Expired - Fee Related JP4924165B2 (ja) 2006-04-12 2007-04-10 形状比較装置および形状比較方法

Country Status (3)

Country Link
US (1) US8031948B2 (ja)
JP (1) JP4924165B2 (ja)
CN (1) CN101055620B (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010009377A (ja) * 2008-06-27 2010-01-14 Kyushu Univ 照合システム、照合方法、プログラム及び記録媒体
JP2013012117A (ja) * 2011-06-30 2013-01-17 Fujitsu Ltd 画像認識装置、画像認識方法及び画像認識用コンピュータプログラム
JP2013175185A (ja) * 2012-02-24 2013-09-05 Fujitsu Ltd 三次元モデルの空間認識方法及び装置、並びに画像処理システム
JP2016520897A (ja) * 2013-04-01 2016-07-14 アセルサン・エレクトロニク・サナイ・ヴェ・ティジャレット・アノニム・シルケティAselsan Elektronik Sanayi ve Ticaret Anonim Sirketi 画像アウトラインを記述するシステム及び方法
KR20160116862A (ko) * 2015-03-31 2016-10-10 목포대학교산학협력단 복수개의 지도 상에서의 건물 폴리곤 자동정합 장치 및 방법
CN110580497A (zh) * 2019-07-16 2019-12-17 中国地质大学(武汉) 一种基于旋转不变性的空间场景匹配方法

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4991611B2 (ja) * 2008-03-25 2012-08-01 シャープ株式会社 図形要素選択装置および方法
EP3671605A1 (en) * 2008-08-08 2020-06-24 Nikon Corporation Search supporting system, search supporting method and search supporting program
CN102236789B (zh) * 2010-04-26 2017-06-13 富士通株式会社 对表格图像进行校正的方法以及装置
CN102222335B (zh) * 2011-05-30 2013-08-14 广东工业大学 一种彩色图像的四元数匹配方法
JP5918548B2 (ja) * 2012-01-24 2016-05-18 富士フイルム株式会社 内視鏡画像診断支援装置およびその作動方法並びに内視鏡画像診断支援プログラム
CN102722721A (zh) * 2012-05-25 2012-10-10 山东大学 一种基于机器视觉的人体跌倒检测方法
RU2522044C1 (ru) * 2013-01-09 2014-07-10 Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования "Южно-Российский государственный университет экономики и сервиса" (ФГБОУ ВПО "ЮРГУЭС") Устройство выделения контуров объектов на текстурированном фоне при обработке цифровых изображений
CN104463866B (zh) * 2014-12-04 2018-10-09 无锡日联科技有限公司 一种基于轮廓随机采样的局部形状匹配方法
CN104778308B (zh) * 2015-03-19 2018-02-16 上海数设科技有限公司 飞机结构型材的识别方法和装置
US9972106B2 (en) * 2015-04-30 2018-05-15 TigerIT Americas, LLC Systems, methods and devices for tamper proofing documents and embedding data in a biometric identifier
CA2983749C (en) 2015-05-11 2021-12-28 Magic Leap, Inc. Devices, methods and systems for biometric user recognition utilizing neural networks
US9721356B2 (en) 2015-08-18 2017-08-01 Honeywell International Inc. Methods and systems for programatically identifying shapes in graphical artifacts
CN106897724A (zh) * 2015-12-18 2017-06-27 南京财经大学 一种基于轮廓线形状特征的植物叶片识别方法
CN105678262A (zh) * 2016-01-07 2016-06-15 林业城 一种能够自主作业的隧道地质监控装置
CN115345278A (zh) 2016-03-11 2022-11-15 奇跃公司 卷积神经网络的结构学习
CN106530275B (zh) * 2016-10-11 2019-06-11 广州视源电子科技股份有限公司 元件错件检测方法和系统
CN106504231A (zh) * 2016-10-11 2017-03-15 广州视源电子科技股份有限公司 元件缺陷检测方法和系统
US10095938B2 (en) 2016-12-30 2018-10-09 MorphoTrak, LLC Multi-stage tattoo matching techniques
US10679092B2 (en) * 2017-07-06 2020-06-09 MorphoTrak, LLC Fast curve matching for tattoo recognition and identification
US10339669B2 (en) 2017-08-22 2019-07-02 Here Global B.V. Method, apparatus, and system for a vertex-based evaluation of polygon similarity
CN107918938A (zh) * 2017-11-16 2018-04-17 凌云光技术集团有限责任公司 一种点集与点集的匹配方法及装置
US10896218B2 (en) 2017-12-22 2021-01-19 Oracle International Corporation Computerized geo-referencing for images
CN108052778B (zh) * 2018-01-23 2021-07-06 湘潭大学 用于无网格粒子模拟技术的邻近粒子高效双重搜索方法
CN108399425B (zh) * 2018-02-08 2021-04-06 吉首大学 字符同构检测方法及装置
US10789487B2 (en) 2018-04-05 2020-09-29 Here Global B.V. Method, apparatus, and system for determining polyline homogeneity
US11087469B2 (en) * 2018-07-12 2021-08-10 Here Global B.V. Method, apparatus, and system for constructing a polyline from line segments
CN109035277B (zh) * 2018-07-13 2022-05-27 沈阳理工大学 基于显著性轮廓特征片段的目标识别方法
JP7385681B2 (ja) 2019-05-21 2023-11-22 マジック リープ, インコーポレイテッド 手姿勢推定
CN110826046A (zh) * 2019-11-04 2020-02-21 北京锐安科技有限公司 一种网站登录的方法、装置、设备及存储介质
CN111145204B (zh) * 2019-12-31 2023-07-18 沈阳航空航天大学 一种边数可设定的对轮廓曲线的多边形简化方法
CN113538490B (zh) * 2021-07-20 2022-10-28 刘斌 视频流处理方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07182509A (ja) * 1993-12-24 1995-07-21 Nec Corp 図形認識装置
JPH0944668A (ja) * 1995-07-26 1997-02-14 Matsushita Electric Ind Co Ltd 動作開始位置検出方法
JPH11203461A (ja) * 1997-10-28 1999-07-30 Ricoh Co Ltd 図形分類方法、図形検索方法、図形分類システム、図形検索システム、図形分類用特徴抽出方法、図形分類用表作成方法、情報記録媒体、図形間の類似度又は相異度の評価方法、図形正規化方法、及び、図形間対応付け方法
JP2000067235A (ja) * 1998-08-20 2000-03-03 Ricoh Co Ltd 図形分類方法、図形検索方法、記録媒体、図形分類装置、及び、図形検索装置
JP2000215315A (ja) * 1999-01-26 2000-08-04 Ricoh Co Ltd 図形分類方法、図形検索方法、図形分類検索システム及び記録媒体

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4783829A (en) 1983-02-23 1988-11-08 Hitachi, Ltd. Pattern recognition apparatus
KR100414432B1 (ko) * 1995-03-24 2004-03-18 마츠시타 덴끼 산교 가부시키가이샤 윤곽추출장치
US6044171A (en) 1995-05-09 2000-03-28 Polyakov; Vladislav G. Method and apparatus for pattern recognition and representation using fourier descriptors and iterative transformation-reparametrization
US6384835B1 (en) * 1998-02-17 2002-05-07 Silicon Graphics, Inc. Computer generated paint stamp compensation
US6801661B1 (en) 2001-02-15 2004-10-05 Eastman Kodak Company Method and system for archival and retrieval of images based on the shape properties of identified segments

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07182509A (ja) * 1993-12-24 1995-07-21 Nec Corp 図形認識装置
JPH0944668A (ja) * 1995-07-26 1997-02-14 Matsushita Electric Ind Co Ltd 動作開始位置検出方法
JPH11203461A (ja) * 1997-10-28 1999-07-30 Ricoh Co Ltd 図形分類方法、図形検索方法、図形分類システム、図形検索システム、図形分類用特徴抽出方法、図形分類用表作成方法、情報記録媒体、図形間の類似度又は相異度の評価方法、図形正規化方法、及び、図形間対応付け方法
JP2000067235A (ja) * 1998-08-20 2000-03-03 Ricoh Co Ltd 図形分類方法、図形検索方法、記録媒体、図形分類装置、及び、図形検索装置
JP2000215315A (ja) * 1999-01-26 2000-08-04 Ricoh Co Ltd 図形分類方法、図形検索方法、図形分類検索システム及び記録媒体

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010009377A (ja) * 2008-06-27 2010-01-14 Kyushu Univ 照合システム、照合方法、プログラム及び記録媒体
JP2013012117A (ja) * 2011-06-30 2013-01-17 Fujitsu Ltd 画像認識装置、画像認識方法及び画像認識用コンピュータプログラム
JP2013175185A (ja) * 2012-02-24 2013-09-05 Fujitsu Ltd 三次元モデルの空間認識方法及び装置、並びに画像処理システム
JP2016520897A (ja) * 2013-04-01 2016-07-14 アセルサン・エレクトロニク・サナイ・ヴェ・ティジャレット・アノニム・シルケティAselsan Elektronik Sanayi ve Ticaret Anonim Sirketi 画像アウトラインを記述するシステム及び方法
KR20160116862A (ko) * 2015-03-31 2016-10-10 목포대학교산학협력단 복수개의 지도 상에서의 건물 폴리곤 자동정합 장치 및 방법
KR101667875B1 (ko) 2015-03-31 2016-10-19 목포대학교산학협력단 복수개의 지도 상에서의 건물 폴리곤 자동정합 장치 및 방법
CN110580497A (zh) * 2019-07-16 2019-12-17 中国地质大学(武汉) 一种基于旋转不变性的空间场景匹配方法
CN110580497B (zh) * 2019-07-16 2023-03-24 中国地质大学(武汉) 一种基于旋转不变性的空间场景匹配方法

Also Published As

Publication number Publication date
US8031948B2 (en) 2011-10-04
US20070286493A1 (en) 2007-12-13
CN101055620B (zh) 2011-04-06
CN101055620A (zh) 2007-10-17
JP4924165B2 (ja) 2012-04-25

Similar Documents

Publication Publication Date Title
JP4924165B2 (ja) 形状比較装置および形状比較方法
Chai et al. Autohair: Fully automatic hair modeling from a single image
US9472022B2 (en) Three-dimensional point processing and model generation
JP4594372B2 (ja) ドキュメント画像からのパラメータ化された形状の認識方法
US8766982B2 (en) Vectorization of line drawings using global topology and storing in hybrid form
US9275277B2 (en) Using a combination of 2D and 3D image data to determine hand features information
JP4623676B2 (ja) 動的なコネクタ解析のための方法、装置及び記憶媒体
US20180211438A1 (en) Generating three dimensional models using single two dimensional images
CN114529925B (zh) 一种全线表表格结构识别方法
Rasche An approach to the parameterization of structure for fast categorization
Governi et al. 3D geometry reconstruction from orthographic views: A method based on 3D image processing and data fitting
US20130236108A1 (en) Object or shape information representation method
Ishimtsev et al. Cad-deform: Deformable fitting of cad models to 3d scans
Ozbay et al. A hybrid method for skeleton extraction on Kinect sensor data: Combination of L1-Median and Laplacian shrinking algorithms
US20240161355A1 (en) Generation of stylized drawing of three-dimensional shapes using neural networks
Bogacz et al. Digital assyriology—advances in visual cuneiform analysis
Tabib et al. Learning-based hole detection in 3D point cloud towards hole filling
CN115082935A (zh) 用于对文档图像进行矫正的方法、设备及存储介质
JP7075654B2 (ja) 3次元cadモデル部分検索方法及び3次元cadモデル検索方法
Ganapathi et al. Graph based texture pattern classification
CN113343987B (zh) 文本检测处理方法、装置、电子设备及存储介质
CN111160433B (zh) 一种高分辨率图像特征点的高速匹配方法及系统
Zhang et al. Mesh model registration via deep mapping by local projection for optical scanning based reverse engineering
Geng et al. Simplification method for 3D Terracotta Warrior fragments based on local structure and deep neural networks
Lin et al. Articulated 3D model matching using multi-scale histograms of shape features for customized additive manufacturing

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120110

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120123

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150217

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4924165

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees