JP3729916B2 - 3次元情報復元装置 - Google Patents
3次元情報復元装置 Download PDFInfo
- Publication number
- JP3729916B2 JP3729916B2 JP04276496A JP4276496A JP3729916B2 JP 3729916 B2 JP3729916 B2 JP 3729916B2 JP 04276496 A JP04276496 A JP 04276496A JP 4276496 A JP4276496 A JP 4276496A JP 3729916 B2 JP3729916 B2 JP 3729916B2
- Authority
- JP
- Japan
- Prior art keywords
- dimensional
- rotation
- calculation unit
- axis
- matrix
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、作業用ロボット、FA装置、監視装置などの自動制御装置、或いはCGデータ作成装置等に利用可能であり、2次元複数画像からの3次元形状、及び複数画像間のTVカメラの運動の復元等が可能な3次元情報復元装置に関する。また、本願発明の3次元情報復元装置は、前記のように、画像を入力とする自動制御装置に使用されるが、文書画像における3次元画像の取得にも有用である。
【0002】
3次元情報の復元には、複数画像上の対応点の位置情報を用いているが、安定に抽出できる画像上の対応点が一般に少ないため、少ない対応点で3次元情報の復元ができることが望まれている。このため、少ない対応点で2次元情報から3次元情報を復元可能な3次元情報復元装置の開発が要望されていた。
【0003】
【従来の技術】
以下、従来例について説明する。
§1:従来の3次元復元アルゴリズムの説明
従来、2次元複数画像情報から3次元形状及び運動の復元を行う3次元情報復元装置が知られていた。この3次元情報復元装置では、例えば、TVカメラで3次元剛体を捉えた2画像を入力し、その2画像間の8個の対応点情報により、3次元情報を復元していた。以下、前記3次元復元のアルゴリズムの要点を説明する。なお、詳細には解説書である「金谷健一著、“画像理解−3次元認識の数理”、pp.98〜pp.102、森北出版株式会社、1990」を参照されたい。
【0004】
前記3次元復元のアルゴリズムの要点は次の通りである。今、TVカメラの運動パラメータ(運動条件)を{R,h}とする。この場合、Rは3次元回転行列で、hは3次元平行移動ベクトル(平行移動成分)である。TV画像における特徴点をNベクトルで表す、Nベクトルm、距離rの点がNベクトルm′、距離r′の点に移動したとすると、次の方程式が成立する(単位ベクトルに正規化した座標の組をNベクトルと呼ぶ)。
【0005】
rm=r′Rm′+h
(m,Gm′)=0
G=h×R
前記式において、Gを基本行列と呼ぶ。定数倍だけの自由度があるhを|h|=1と正規化すると、次の式と等価である。
【0006】
|G|=√2
{R,h}とr、r′を次の▲1▼〜▲4▼の手順で求める。
▲1▼:8個の対応点をma 、ma ′(a=1,2,3,・・・8)とする。Gの要素に関する次の8連立方程式からGを求める。
【0007】
(ma ,Gma ′)=0 (a=1,2,3,・・・8)・・・式2−1
▲2▼:G=(g1 ,g2 ,g3 )とおき、次の式によりhを求める。
h=±N[g2 ×g3 ]=±N[g2 ×g1 ]=±N[g1 ×g2 ]・・・式2−2
▲3▼:R=(r1 r2 r3 )を次の式により求める。
【0008】
r1 =g1 ×h+g2 ×g3
r2 =g2 ×h+g3 ×g1
r3 =g3 ×h+g1 ×g2 ・・・式2−3
▲4▼:距離r,r′を次の式により求める。
【0009】
r={(h,m)−(m,Rm′)(h,Rm′)}/{1−(m,Rm′)2 }
r′={(m,Rm′)(h,m)−(m,Rm′)}/{1−(m,Rm′)2 }・・・式2−4
§2:従来例の3次元情報復元装置の説明・・・図6参照
図6は従来例の3次元情報復元装置の構成図である。図示のように従来の3次元情報復元装置は、画像入力部1、対応点検出部2、基本行列計算部3、平行移動計算部4、回転計算部5、距離計算部6等で構成されている。
【0010】
前記構成の3次元情報復元装置において、画像入力部1は、TVカメラで3次元剛体を捉えた2画像を入力し、対応点検出部2は、画像上の8組の対応点を検出する。この場合対応点の検出は、画像処理手段により自動抽出することでも可能であり、また、オペレータが画像上の位置を指示することでも可能である。そして検出した対応点は、Nベクトルに変換する。
【0011】
次に、基本行列計算部3は、TVカメラの運動パラメータ(運動条件)から合成される基本行列Gを計算する。基本行列Gは、前記で示した8個の連立方程式(式2−2)から比を求めた後に、制約式|G|=√2により各成分値を確定する。
【0012】
そして、平行移動計算部4は、前記式2−2のいずれかの等式により、3次元平行移動ベクトルhを計算する。回転計算部5は、前記式2−3により3次元回転行列Rを計算する。距離計算部6は、前記式2−4により対応点毎にTVカメラと対応点との距離r、r′を計算する。
【0013】
【発明が解決しようとする課題】
前記のような従来のものにおいては、次のような課題があった。
すなわち、8個の対応点を安定に抽出できる画像は少なく、前記従来装置における3次元情報復元処理が適用できる画像が限られてしまっていた。
【0014】
本発明は、このような従来の課題を解決し、8個より少ない対応点により、3次元情報の復元ができるようにして、適用可能な画像の範囲を拡大することを目的とする。
【0015】
【課題を解決するための手段】
図1は本発明の原理説明図である。本願発明は、カメラの運動は完全に自由ではなく、運動条件の制約があることが通常であることに着目し、運動条件を利用して8個未満の対応点で3次元復元できるようにしたものであり、次のように構成した。
【0016】
(1) :カメラで3次元剛体を捉えた2画像を入力する画像入力部1と、前記2画像間の対応点を検出する対応点検出部2と、前記2画像間のカメラの3次元回転行列R、及び3次元平行移動ベクトルhから式G=R×hで定義される基本行列Gを計算する基本行列計算部3と、3次元平行移動ベクトルhを計算する平行移動計算部4、及び3次元回転行列Rを計算する回転計算部5からなる平行移動・回転計算部27と、3次元空間におけるカメラと対応点との距離r、r′を計算する距離計算部6を備え、入力した2次元画像情報から3次元情報を復元する3次元情報復元装置において、
カメラの運動条件を入力する運動条件設定部10を備え、前記対応点検出部2は、前記運動条件設定部10が入力した運動条件の元で、基本行列Gの9個の要素
【0017】
【数79】
【0018】
を線型展開する最小p個の元
【0019】
【数80】
【0020】
を定めて、p−1個の対応点の2画像上の2次元位置を検出し、
前記基本行列計算部3は、前記最小p個の元
【0021】
【数81】
【0022】
に関する連立方程式により
【0023】
【数82】
【0024】
を計算し、基本行列Gを求める計算処理を行う機能を備えている。
(2) :前記(1) の3次元情報復元装置において、運動条件設定部10は、カメラの運動条件として、前記3次元回転行列Rの制約条件、及び3次元平行移動ベクトルhの制約条件を入力する運動条件入力部15と、運動条件入力部15が入力した3次元回転行列Rの制約条件、及び3次元平行移動ベクトルhの制約条件から、前記Rとhの制約条件としての運動条件を簡約化する運動条件簡約部16を備えている。
【0025】
(3) :前記(2) の3次元情報復元装置において、運動条件入力部15は、前記3次元回転行列Rの制約条件を、特定座標軸の回りの回転の合成、又は既知として、
・X軸回転×Y軸回転×Z軸回転
・X軸回転、Y軸回転、Z軸回転の内、異なる2つの合成
・X軸回転、Y軸回転、Z軸回転の内の1つ
・前記の形式の既知回転
・回転なし
の21通りのいずれかを入力すると共に、
前記3次元平行移動ベクトルhの制約条件を、特定座標軸に関する移動の合成、又は既知として、
・3次元空間移動
・座標平面上の移動
・前記の形式の既知移動
・座標軸上の既知移動
の11通りのいずれかを入力する機能を備えている。
【0026】
(4) :前記(3) の3次元情報復元装置において、運動条件簡約部16は、3次元回転行列Rの制約条件を、
・X軸回転×Y軸回転×Z軸回転
・X軸回転×Y軸回転
・X軸回転
・前記の形式の既知回転
・回転なし
の7通りのいずれかに変換するための座標軸交換処理を行うR制約条件簡約部17を備えている。
【0027】
(5) :前記(4) の3次元情報復元装置において、運動条件簡約部16は、X軸回転×Y軸回転×Z軸回転の未知回転、既知回転、回転無しの各Rの制約条件に対して、X,Y,Z軸の各座標軸交換を行い、3次元空間の未知移動、既知移動、XY平面上の未知移動、既知移動、X軸上の既知移動の各hの制約条件に変換すると共に、
X軸回転の未知回転、既知回転の各Rの制約条件に対して、Y,Z軸の各座標軸交換を行い、3次元空間の未知移動、既知移動、XY平面上の未知移動、既知移動、X軸上の既知移動、YZ平面上の未知移動、既知移動、Y軸上の既知移動の各hの制約条件に変換するh制約条件簡約部18を備えている。
【0028】
(6) :前記(5) の3次元情報復元装置において、h制約条件簡約部18は、前記3次元平行移動ベクトルhの制約条件に変換してから、座標軸の向きの交換処理により、座標軸上の既知移動であるhの制約条件を座標軸上の正方向1の移動条件にする機能を備えている。
【0029】
(7) :前記(5) の3次元情報復元装置において、運動条件簡約部16は、運動条件{R,h}に対し、U、Vを既知の3次元回転行列とした場合、座標変換により運動条件{URV,Uh}に変換する座標変換部19を備えている。
【0030】
(8) :前記(7) の3次元情報復元装置において、座標変換部19は、単位行列をIとした場合、3次元回転行列Rが既知ならば、運動条件{R,h}を運動条件{I,h}に変換する機能を備えている。
【0031】
(9) :前記(7) の3次元情報復元装置において、座標変換部19は、3次元平行移動ベクトルhが既知ならば、Wh=X軸単位ベクトルとなる3次元回転行列Wを用いて、運動条件{R,h}を運動条件{Wh,X軸単位ベクトル}に変換する機能を備えている。
【0032】
(10):前記(7) の3次元情報復元装置において、座標変換部19は、3次元回転行列RがX軸回転×Y軸回転、かつ3次元平行移動ベクトルhが既知の3次元空間移動の場合は、UhがXY平面上移動になるX軸回転Uを選択し、運動条件{R,h}を運動条件{UR,Uh}に変換する機能を備えている。
【0033】
(11):前記(7) の3次元情報復元装置において、座標変換部19は、3次元回転行列RがX軸回転×Y軸回転、かつ3次元平行移動ベクトルhが既知のYZ平面上移動の場合は、UhがZ軸上移動になるX軸回転Uを選択し、運動条件{R,h}を運動条件{UR,Uh}に変換する機能を備えている。
【0034】
(12):前記(7) の3次元情報復元装置において、座標変換部19は、3次元回転行列RがX軸回転、かつ3次元平行移動ベクトルhが既知の3次元空間移動の場合は、UhがXY平面上移動になるX軸回転Uを選択し、運動条件{R,h}を運動条件{UR,Uh}に変換する機能を備えている。
【0035】
(13):前記(7) の3次元情報復元装置において、座標変換部19は、3次元回転行列RがX軸回転、かつ3次元平行移動ベクトルhが既知のYZ平面上移動の場合は、UhがY軸上移動になるX軸回転Uを選択し、運動条件{R,h}を運動条件{UR,Uh}に変換する機能を備えている。
【0036】
(14):前記(7) の3次元情報復元装置において、座標変換部19は、座標軸交換処理を行い、制約無し、若しくは既知の場合を除き、3次元回転行列R及び3次元平行移動ベクトルhのそれぞれに対し、
R1:X軸回転×Y軸回転×Z軸回転、R2:X軸回転×Y軸回転、R3:X軸回転、R4:回転無し、h1:3次元空間移動、h2:XY平面移動、h3:YZ平面移動、h4:ZX平面移動、h5:XY平面移動(既知)、h6:X軸移動(既知)、h7:Y軸移動(既知)とし、前記3次元回転行列Rと3次元平行移動ベクトルhからなる運動条件を{R,h}とした場合、
{R,h}={R1,h2}、{R1,h6}、{R2,h1}、{R2,h2}、{R2,h3}、{R2,h4}、{R2,h5}、{R2,h6}、{R2,h7}、{R3,h1}、{R3,h2}、{R3,h3}、{R3,h5}、{R3,h6}、{R3,h7}、{R4,h1}、{R4,h2}の17個の運動条件のいずれかに変換する機能を備えている。
【0037】
(作用)
前記構成に基づく本発明の作用を、図1に基づいて説明する。
(a) :前記(1) の作用
画像入力部1はカメラで3次元剛体を捉えた2画像を入力し、対応点検出部2は前記2画像間の対応点を検出する処理を行う。次に基本行列計算部3は、前記2画像間のカメラの3次元回転行列R、及び3次元平行移動ベクトルhから式G=R×hで定義される基本行列Gを計算する。
【0038】
その後、平行移動・回転計算部27では、平行移動計算部4が3次元平行移動ベクトルhを計算し、回転計算部5が3次元回転行列Rを計算する。更に、距離計算部6では、3次元空間におけるカメラと対応点との距離r、r′を計算する。
【0039】
この場合、運動条件設定部10では、カメラの運動条件を入力し前記各部へ出力する。そして、対応点検出部2では、前記入力された運動条件の元で、基本行列Gの9個の要素
【0040】
【数83】
【0041】
を線型展開する最小p個の元
【0042】
【数84】
【0043】
を定めて、p−1個の対応点の2画像上の2次元位置を検出し、基本行列計算部3では、前記最小p個の元
【0044】
【数85】
【0045】
に関する連立方程式により
【0046】
【数86】
【0047】
を計算し、基本行列Gを求める計算処理を行う。
(b) :前記(2) の作用
前記運動条件設定部10では、運動条件入力部15により、カメラの運動条件として、前記3次元回転行列Rの制約条件、及び3次元平行移動ベクトルhの制約条件を入力する。そして、運動条件簡約部16は、前記運動条件入力部15が入力した3次元回転行列Rの制約条件、及び3次元平行移動ベクトルhの制約条件から、前記Rとhの制約条件としての運動条件を簡約化する。
【0048】
(c) :前記(3) の作用
前記運動条件入力部15は、前記3次元回転行列Rの制約条件を、特定座標軸の回りの回転の合成、又は既知として、
・X軸回転×Y軸回転×Z軸回転
・X軸回転、Y軸回転、Z軸回転の内、異なる2つの合成
・X軸回転、Y軸回転、Z軸回転の内の1つ
・前記の形式の既知回転
・回転なし
の21通りのいずれかを入力すると共に、
前記3次元平行移動ベクトルhの制約条件を、特定座標軸に関する移動の合成、又は既知として、
・3次元空間移動
・座標平面上の移動
・前記の形式の既知移動
・座標軸上の既知移動
の11通りのいずれかを入力する。
【0049】
(d) :前記(4) の作用
前記運動条件簡約部16では、R制約条件簡約部17により、3次元回転行列Rの制約条件を、
・X軸回転×Y軸回転×Z軸回転
・X軸回転×Y軸回転
・X軸回転
・前記の形式の既知回転
・回転なし
の7通りのいずれかに変換するための座標軸交換処理を行う。
【0050】
(e) :前記(5) の作用
前記運動条件簡約部16では、h制約条件簡約部18により、X軸回転×Y軸回転×Z軸回転の未知回転、既知回転、回転無しの各Rの制約条件に対して、X,Y,Z軸の各座標軸交換を行い、3次元空間の未知移動、既知移動、XY平面上の未知移動、既知移動、X軸上の既知移動の各hの制約条件に変換すると共に、
X軸回転の未知回転、既知回転の各Rの制約条件に対して、Y,Z軸の各座標軸交換を行い、3次元空間の未知移動、既知移動、XY平面上の未知移動、既知移動、X軸上の既知移動、YZ平面上の未知移動、既知移動、Y軸上の既知移動の各hの制約条件に変換する。
【0051】
(f) :前記(6) の作用
前記h制約条件簡約部18は、前記3次元平行移動ベクトルhの制約条件に変換してから、座標軸の向きの交換処理により、座標軸上の既知移動であるhの制約条件を座標軸上の正方向1の移動条件にする。
【0052】
(g) :前記(7) の作用
前記運動条件簡約部16では、座標変換部19により、運動条件{R,h}に対し、U、Vを既知の3次元回転行列とした場合、座標変換により運動条件{URV,Uh}に変換する。
【0053】
(h) :前記(8) の作用
前記座標変換部19は、3次元回転行列Rが既知ならば、単位行列をIとした場合、運動条件{R,h}を運動条件{I,h}に変換する。
【0054】
(i) :前記(9) の作用
前記座標変換部19は、3次元平行移動ベクトルhが既知ならば、Wh=X軸単位ベクトルとなる3次元回転行列Wを用いて、運動条件{R,h}を運動条件{Wh,X軸単位ベクトル}に変換する。
【0055】
(j) :前記(10)の作用
前記座標変換部19は、3次元回転行列RがX軸回転×Y軸回転、かつ3次元平行移動ベクトルhが既知の3次元空間移動の場合は、UhがXY平面上移動になるX軸回転Uを選択し、運動条件{R,h}を運動条件{UR,Uh}に変換する。
【0056】
(k) :前記(11)の作用
前記座標変換部19は、3次元回転行列RがX軸回転×Y軸回転、かつ3次元平行移動ベクトルhが既知のYZ平面上移動の場合は、UhがZ軸上移動になるX軸回転Uを選択し、運動条件{R,h}を運動条件{UR,Uh}に変換する。
【0057】
(l) :前記(12)の作用
前記座標変換部19は、3次元回転行列RがX軸回転、かつ3次元平行移動ベクトルhが既知の3次元空間移動の場合は、UhがXY平面上移動になるX軸回転Uを選択し、運動条件{R,h}を運動条件{UR,Uh}に変換する。
【0058】
(m) :前記(13)の作用
前記座標変換部19は、3次元回転行列RがX軸回転、かつ3次元平行移動ベクトルhが既知のYZ平面上移動の場合は、UhがY軸上移動になるX軸回転Uを選択し、運動条件{R,h}を運動条件{UR,Uh}に変換する。
【0059】
(n) :前記(14)の作用
前記座標変換部19は、座標軸交換処理を行い、制約無し、若しくは既知の場合を除き、3次元回転行列R及び3次元平行移動ベクトルhのそれぞれに対し、R1:X軸回転×Y軸回転×Z軸回転、R2:X軸回転×Y軸回転、R3:X軸回転、R4:回転無し、h1:3次元空間移動、h2:XY平面移動、h3:YZ平面移動、h4:ZX平面移動、h5:XY平面移動(既知)、h6:X軸移動(既知)、h7:Y軸移動(既知)とし、前記3次元回転行列Rと3次元平行移動ベクトルhからなる運動条件を{R,h}とした場合、
{R,h}={R1,h2}、{R1,h6}、{R2,h1}、{R2,h2}、{R2,h3}、{R2,h4}、{R2,h5}、{R2,h6}、{R2,h7}、{R3,h1}、{R3,h2}、{R3,h3}、{R3,h5}、{R3,h6}、{R3,h7}、{R4,h1}、{R4,h2}の17個の運動条件のいずれかに変換する。
【0060】
(o) :以上のようにして、8個より少ない対応点により、3次元情報の復元が可能になる。その結果、適用可能な画像の範囲を拡大することができる。
【0061】
【発明の実施の形態】
以下、本発明の実施の形態を図面に基づいて詳細に説明する。
§1:基本的な処理の説明
本実施の形態は、TVカメラの運動は完全に自由ではなく、運動条件の制約があることが通常であることに着目し、運動条件を利用して8個未満の対応点で3次元復元できるようにしたものである。
【0062】
運動条件を用いて基本行列Gを計算する一般原理は次の通りである。
前記式2−1を用いて、G=(gij)、mij=maimaj′(i,j=1,2,3)と記号を定めると、次の式3−0を得る(mai:ma ベクトルのi番目の要素)。
【0063】
【数87】
【0064】
基本行列Gの要素gij(i,j=1,2,3)を
【0065】
【数88】
【0066】
とし、係数mij(i,j=1,2,3)を
【0067】
【数89】
【0068】
と表すと次の式になる。
【0069】
【数90】
【0070】
一般の場合では、
【0071】
【数91】
【0072】
は線型独立であるため、対応点8個が必要である。しかし、運動条件がある場合は、
【0073】
【数92】
【0074】
は線型従属であることが多い。この時、
【0075】
【数93】
【0076】
を次の式3−2のように9個よりも少ない線型独立な
【0077】
【数94】
【0078】
に線型展開できる。
【0079】
【数95】
【0080】
【数96】
【0081】
の内、1つは定数であり得る。前記式3−2を式3−1に代入して次の式を得る。
【0082】
【数97】
【0083】
前記式3−3において、
【0084】
【数98】
【0085】
は定数だから、9個の未知変数を持つ線型方程式である前記式3−1は、p又はp−1個の未知変数を持つ線型方程式である前記式3−3に帰着できる。定数項を含む場合は、p−1個の連立方程式を解いた後に、|G|=√2と正規化する。従って、必要な対応点数はp−1個に減ずることになる。
【0086】
前記処理▲1▼(従来例参照)は次のようになる。
【0087】
【数99】
【0088】
を計算してp−1個の線型連立方程式(前記式3−3)を立てて、
【0089】
【数100】
【0090】
を解く。式
【0091】
【数101】
【0092】
を式3−2により求める。
【0093】
【数102】
【0094】
はRの要素であるrij、hの要素であるhi の単純な式で表現されることが多いため、前記処理▲2▼、▲3▼、▲4▼(従来例参照)において、h、R、r、r′も、より直接的な計算で計算できる。
【0095】
§2:3次元情報復元装置の説明・・・図2参照
図2は実施の形態の装置構成図である。図3は各部の構成図(その1)であり、A図は運動条件設定部の全体構成図、B図は運動条件簡約部の構成図である。図4は各部の構成図(その2)であり、A図は対応点検出部の構成図、B図は基本行列計算部の構成図である。以下、図2〜図4に基づいて実施の形態の装置構成について説明する。
【0096】
図示のように3次元情報復元装置には、運動条件設定部10と、画像入力部1と、対応点検出部2と、基本行列計算部3と、平行移動計算部4及び回転計算部5からなる平行移動・回転計算部27と、距離計算部6と、データ格納部11等が設けてある。
【0097】
そして、前記運動条件設定部10には、運動条件入力部15と、運動条件簡約部16が設けてあり、更に、前記運動条件簡約部16には、R制約条件簡約部17と、h制約条件簡約部18と、座標変換部19が設けてある。また、対応点検出部2には、対応点数判定部21と、対応点座標決定部22が設けてあり、基本行列計算部3には、基本行列要素展開部23と、展開変数計算部24と、基本行列要素計算部25が設けてある。
【0098】
前記構成の3次元情報復元装置の動作は次の通りである。運動条件設定部10は運動条件を入力して設定する処理を行う。画像入力部1はTVカメラで3次元剛体を捉えた2画像を入力し、対応点検出部2は、運動条件設定部10で設定した運動条件に従い画像上の対応点を検出する。
【0099】
基本行列計算部3は運動条件設定部10で設定した運動条件に従い、TVカメラの運動条件(運動パラメータ)から合成される基本行列Gを計算する。平行移動・回転計算部27では、運動条件設定部10で設定した運動条件に応じて、平行移動計算部4と回転計算部5の処理の順番を決定し、3次元平行移動ベクトルhと3次元回転行列Rを計算する。そして、平行移動・回転計算部27の計算結果、及び距離計算部6の計算結果はデータ格納部11に格納する。
【0100】
前記処理において、運動条件設定部10では、運動条件入力部15が運動条件の入力処理を行い、運動条件簡約部16が前記入力した運動条件の簡約化処理を行う。この場合、運動条件簡約部16では、R制約条件簡約部17が3次元回転行列Rの簡約化処理を行い、h制約条件簡約部18が3次元平行移動ベクトルhの簡約処理を行い、座標変換部19が座標変換処理を行う。
【0101】
対応点検出部2では、運動条件設定部10から対応点数判定部21に運動条件が送られ、対応点数判定部21は必要な対応点数p−1を求めて、対応点数を対応点座標決定部22へ送る。対応点座標決定部22は、画像入力部1で入力した画像データから前記p−1個の対応点の画像上の2次元座標を求めて基本行列計算部3へ送る(なお、従来の装置では、対応点検出部2は対応点数を8個と固定であった)。
【0102】
前記基本行列計算部3は、運動条件設定部10から送られた運動条件(設定されせた運動条件)に応じて基本行列計算処理を行うが、この場合、基本行列要素展開部23では、基本行列Gの要素
【0103】
【数103】
【0104】
を最小の変数
【0105】
【数104】
【0106】
に前記式3−2のように展開する。展開変数計算部24は、対応点検出部2から送られた対応点座標を用いて線型方程式(式3−3)の係数
【0107】
【数105】
【0108】
を計算して、p−1個の線型連立方程式(式3−3)を解いて
【0109】
【数106】
【0110】
を求める。基本行列要素計算部25は、基本行列Gの要素
【0111】
【数107】
【0112】
を式3−2により求める。
なお、具体的に制約条件が与えられた時、前記式3−2を満たす最小の
【0113】
【数108】
【0114】
を求める一般的な方法は次の通りである。
【0115】
【数109】
【0116】
を線型空間の要素と見なして、線型空間の理論を用いると、次の命題1、命題2を示せる。
命題1:前記式3−2を満たす
【0117】
【数110】
【0118】
の線型独立変数である。この時、
【0119】
【数111】
【0120】
の線型結合である(証明は省略する)。
命題2:前記式3−2において、9行p列の定数行列Aを、{aki}(k=1,・・・9,i=1,・・・p)と定義すると、
【0121】
【数112】
【0122】
であるが、
【0123】
【数113】
【0124】
の線型独立数はpである(証明は省略する)。
前記命題1により、
【0125】
【数114】
【0126】
の線型独立な元の個数に等しい。従って、
【0127】
【数115】
【0128】
の線型独立な元の個数に等しい前記式3−2を満たす
【0129】
【数116】
【0130】
を求めれば良い。
【0131】
【数117】
【0132】
の線型独立な極大集合としてとることもできる。
【0133】
【数118】
【0134】
の線型結合であるから、この範囲で探すことができる。
前記命題2から、
【0135】
【数119】
【0136】
のランクがpであることを示せば、
【0137】
【数120】
【0138】
が最小個数であることが言える。
§3:3次元情報復元装置における基本的な計算処理の説明
前記装置における基本的な計算処理は次の通りである、この計算処理では、基本行列Gの要素の線型独立変数を減らせる制約条件に対して有効である。G=h×Rであるため、本計算処理が有効な制約条件は、剛体の運動に関するものである。剛体の運動に関する制約条件は無数にあるが、代表的な運動条件として、“座標系に従った運動条件”を扱う。以下、前記”座標系に従った運動条件”を考察し、153の制約条件を本質的に同等の17の制約条件に帰着させる。
【0139】
前記“座標系に従った運動条件”を以下に定義する。この場合、3次元空間にXYZ座標をとる。一般には、3次元回転行列Rは自由度3、3次元平行移動ベクトルhは自由度2を持つが、Rとhの自由度を次のように独立に制約したTVカメラの運動を“座標系に従った運動条件”と定義する。
【0140】
R:特定座標軸の回りの回転の合成、または既知
h:特定座標軸に関する移動の合成、または既知
Rの制約条件は次の21通りである。
【0141】
・X軸回転×Y軸回転×Z軸回転
・X軸回転、Y軸回転、Z軸回転の内、異なる2つの合成
・X軸回転、Y軸回転、Z軸回転の内の1つ
・前記の形式の既知回転
・回転なし
hの制約条件は次の11通りである。
【0142】
・3次元空間移動
・座標平面上の移動
・前記の形式の既知移動
・座標軸上の既知移動
G=h×Rの“座標系に従った運動条件”は、Rとhの制約条件の組み合わせ231通りから、制約無しの1通りと、Rとhが共に既知である77通りを除いた153通りである。運動条件の内、座標軸を入れ換えて一致する条件は本質的に同等である。“座標系に従った運動条件”から、座標軸交換により一致する運動条件は1つに絞る。
【0143】
“座標系に従った運動条件”は、Rとhの制約条件の組み合わせであるが、Rの制約条件の方が複雑である。Rの2つの制約条件RiとRjが同等の時、Riとhの全ての制約条件の組み合わせと、Rjとhの全ての制約条件の組み合わせは同等である。そこで、先ず、Rの制約条件において、座標軸交換により一致する制約条件を1つに絞る。結果であるRの制約条件は次の7通りである。
【0144】
・X軸座回転×Y軸座回転×Z軸座回転
・X軸回転×Y軸回転
・X軸回転
・前記の形式の既知回転
・回転なし
次に、前記のRの7個の制約条件と、hの全ての制約条件の組み合わせを考察して、互いに同等な制約条件を1つにまとめる。Rの制約条件Riが、或る座標軸野交換で一致する対称性を持っている時、hの制約条件hj、hkがその座標軸の交換で一致するならば、制約条件(Ri,Rj)と(Ri,hk)はその座標軸の交換で一致するため同等である。Rの7個の制約条件の座標軸に関する対称性は次の表1の通りである。
【0145】
【表1】
【0146】
前記表1の座標軸の交換でも一致しないhの制約条件は次の表2の通りである。
【0147】
【表2】
【0148】
座標軸を交換しても異なる制約条件は、Rの制約条件とその座標系に関する対称性(表1参照)に吸収されないhの制約条件(表2参照)の組み合わせ53通りから、制約無し1通りと既知の18通りを除いた34通りである。前記34通りの制約条件の内、座標系を変換して一致する制約条件は同等であるから、1つに絞る。
【0149】
先ず、座標軸の方向を逆にして一致するhの制約条件を1つに絞る。移動ベクトルhは、|h|=1と制約されているため、1座標軸上の移動は±1の移動である。この2つのhは座標軸の方向を逆にして一致するため、+1の移動のみに絞る。制約条件が座標系の交換により一致する場合を次の命題3に示す。
【0150】
命題3:制約条件{R,h}は、U、Vを既知の3次元回転行列とする時、座標変換により制約条件{URV,Uh}に一致する。特にRが既知ならば、制約条件{R,h}は制約条件{I,h}と同等である。hが既知ならば、Wh=X軸単位ベクトルとなる3次元回転行列Wを用いて、制約条件{R,h}は、制約条件{WR,X軸単位ベクトル}と同等である(証明は省略する)。
【0151】
前記命題3を用いて、具体的な制約条件により、簡単かつ同等な制約条件を求める。RがX軸回転×Y軸回転×Z軸回転の場合は、hが既知ならばhをX軸単位ベクトルに簡略化できる。RがX軸回転×Y軸回転の場合はhが既知の3次元空間移動、ZX平面移動の場合は、Uを適当なX軸回転にすると、hをXY平面上移動に簡略化できる。hが既知のYZ平面上移動、Z軸上移動の場合は、Uを適当なX軸回転にすると、hをY軸上移動に簡略化できる。
【0152】
RがX軸回転の場合は、hが既知の3次元空間移動の場合は、Uを適当なX軸回転にするとhをXY平面上移動に簡略化できる。hが既知のYZ平面上移動の場合は、Uを適当なX軸回転にすると、hをY軸上移動に簡略化できる。Rが既知の場合は、RをIに簡略化できる。更に必要ならば、座標軸を交換することにより、hの制約条件は、3次元空間移動若しくは、XY平面上の未知移動にまとめることができる。
【0153】
座標軸に従った運動条件153個は次の表3に示した17個の運動条件のいずれかと同等であることが明らかになった。
【0154】
【表3】
【0155】
§4:具体例による3次元復元処理の概要説明
以下、17個の運動条件毎の3次元復元について説明する。前記基本的な計算処理を適用して、基本行列Gの成分を線型展開する最小個数の元を求めると、次の表4のようになる。ただし、Gのij成分をgij、Rのij成分をrij、hのi成分をhi と表した。
【0156】
【表4】
【0157】
一般の場合と運動条件{R1,h2}、{R2,h1}、{R2,h2}、{R2,h4}の場合は、Gの9個の成分は線型独立であるため、9個未満の元で線型展開できず、3次元復元のためには8対応点が必要である。
【0158】
前記表4に運動条件毎に3次元復元に必要な対応点も示した。必要対応点数はGの成分を線型展開する最小個数の元から、1減じたものである。17の運動条件の内、3条件、{R1,h2}、{R2,h1}、{R2,h2}、{R2,h4}を除いた13条件で従来よりも少ない対応点で3次元復元できることが判明した。
【0159】
前記のように、元の153通りの運動条件は、「座標軸に従った運動条件」であるが、簡単化により最終的に17個の運動条件について処理すれば良いことが判明した。以下、前記各運動条件の意味について説明する。
【0160】
(1) :3次元回転行列R=R1の場合
3次元回転行列R=R1は次の式で表される。
【0161】
【数121】
【0162】
(2) :運動条件{R1,h2}の場合
3次元平行移動ベクトルh=h2は次の式で表される。
【0163】
【数122】
【0164】
これは、TVカメラの動きの平行移動成分が既知の平面内に制約される場合である。既知平面上にXY座標軸をとれば、この場合に当てはまる。
(3) :運動条件{R1,h6}の場合
3次元平行移動ベクトルh=h6は次の式で表される。
【0165】
【数123】
【0166】
これは、TVカメラの動きの平行移動成分が既知方向に制約される場合である。既知方向にX軸座標をとれば、この場合に当てはまる。
(4) :3次元回転行列R=R2の場合
3次元回転行列R=R2は次の式で表される。
【0167】
【数124】
【0168】
(5) :運動条件{R2,h1}の場合
3次元平行移動ベクトルh=h1は次の式で表される。
【0169】
【数125】
【0170】
これは、TVカメラの動きの回転成分が、2つの直交する既知の軸の回りの回転の合成である場合である。従って、2つの直交する軸を座標軸にとれば良い。この例としては、例えば、TVカメラのパンとチルトの合成の場合であり、垂直方向にX軸、水平方向にY軸をとれば良い(回転:X軸、Y軸の回りの回転の合成)。
【0171】
(6) :運動条件{R2,h2}の場合
3次元平行移動ベクトルh=h2は次の式で表される。
【0172】
【数126】
【0173】
これは、TVカメラの動きの回転成分が、2つの直交する軸の回りの回転の合成である場合であり、TVカメラの平行移動はその2軸で張る平面内に制約される。2つの直交する軸を座標軸にとれば良い。例えば、回転成分はパンとチルトの合成である。
【0174】
平行移動は、縦と横方向で張る平面内に移動して、奥行き方向の変化がない場合である。この場合、垂直方向にX軸、水平方向にY軸をとれば良い。平行移動はXY平面内で起こる。(回転:X軸、Y軸の回りの回転の合成、移動:XY平面移動)
(7) :運動条件{R2,h3}の場合
3次元平行移動ベクトルh=h3は次の式で表される。
【0175】
【数127】
【0176】
TVカメラの動きの回転成分が、2つの直交する軸の回りの回転の合成である場合であり、TVカメラの成功移動は2軸に直交する軸と2軸の内2番目の回転軸で張る平面内に制約される場合である。2つの直交する軸と2軸に直交する軸を座標軸にとれば良い。
【0177】
例えば、TVカメラのパンとチルトの合成の場合であり、平行移動は水平平面内に移動する場合である。垂直方向にX軸、水平方向にY軸、奥行き方向にZ軸をとれば良い。平行移動はYZ平面内である(回転:X軸、Y軸の回りの合成、移動:YZ平面移動)。
【0178】
(8) :運動条件{R2.h4}の場合
3次元平行移動ベクトルh=h4は次の式で表される。
【0179】
【数128】
【0180】
TVカメラの動きの回転成分が、2つの直交する軸の回りの回転の合成であり、TVカメラの平行移動は2軸に直交する軸と、2軸の内1番目の回転軸で張る平面内に制約される場合である。平行移動は、奥行き方向を含めた垂直平面内に移動する場合である。垂直方向にX軸、水平方向にY軸、奥行き方向にZ軸をとれば良い。平行移動はZX平面内である(回転:X軸、Y軸の回りの回転の合成、移動:ZX平面移動)。
【0181】
(9) :運動条件{R2,h5}の場合
3次元平行移動ベクトルh=h5は次の式で表される。
【0182】
【数129】
【0183】
TVカメラの動きの回転成分が、2つの直交する軸の回りの回転の合成である場合であり、TVカメラの平行移動はその2軸で張る平面上で既知の場合である。2つの直交する軸を座標軸にとれば良い。例えば、回転成分はTVカメラのパンとチルトの合成であり、平行移動は縦と横方向で張る平面内で既知である。垂直方向にX軸、水平方向にY軸をとれば良い。平行移動はXY平面上で既知である(回転:X軸、Y軸の回りの回転の合成、移動:XY平面上で既知)。
【0184】
(10):運動条件{R2,h6}の場合
3次元平行移動ベクトルh=h6は次の式で表される。
【0185】
【数130】
【0186】
TVカメラの動きの回転成分が、2つの直交する軸の回りの回転の合成である場合であり、TVカメラの平行移動はその第1回転軸上にある場合である。2つの直交する軸を座標軸にとれば良い。例えば、回転成分はTVカメラのパンとチルトの合成であり、平行移動は垂直方向である。垂直方向にX軸、水平方向にY軸をとれば良い。平行移動はX軸上である(回転:X軸、Y軸の回りの回転の合成、移動:X軸上の移動)。
【0187】
(11):運動条件{R2,h7}の場合
3次元平行移動ベクトルh=h7は次の式で表される。
【0188】
【数131】
【0189】
TVカメラの動きの回転成分が、2つの直交する軸の回りの回転の合成である場合であり、TVカメラの平行移動はその第2回転軸上にある場合である。2つの直交する軸を座標軸にとれば良い。例えば、回転成分はTVカメラのパンとチルトの合成であり、平行移動は水平横方向である。垂直方向にX軸、水平横方向にY軸をとれば良い。平行移動はY軸上である(回転:X軸、Y軸の回りの回転の合成、移動:Y軸上の移動)。
【0190】
(12):3次元回転行列R=R3の場合
3次元回転行列R=R3は次の式で表される。
【0191】
【数132】
【0192】
(13):運動条件{R3,h1}の場合
3次元平行移動ベクトルh=h1は次の式で表される。
【0193】
【数133】
【0194】
TVカメラの動きの回転成分が、1つの既知の軸の回りの回転の合成である場合であり、既知の軸をX軸にとれば良い。
(14):運動条件{R3,h2}の場合
3次元平行移動ベクトルh=h2は次の式で表される。
【0195】
【数134】
【0196】
TVカメラの動きの回転成分が、1つの既知の軸の回りの回転の合成である場合であり、平行移動がその軸を含む平面上に限られる場合である。回転軸をX軸にとり、Y軸を平面上にとれば良い。例えば、回転成分はパン、平行移動は縦横平面上を移動する場合である。垂直方向にX軸、水平横方向にY軸、奥行き方向にZ軸をとれば良い。平行移動はXY平面上である(回転:X軸の回りの回転、移動:XY軸上の移動)。
【0197】
(15):運動条件{R3,h3}の場合
3次元平行移動ベクトルh=h3は次の式で表される。
【0198】
【数135】
【0199】
TVカメラの動きの回転成分が、1つの既知の軸の回りの回転であり、平行移動が回転軸と直交する平面上に限られる場合である。回転軸をX軸にとり、Y軸とZ軸を平面上にとるように原点を設定すれば良い。例えば、回転成分はパン、平行移動は水平平面上を移動する場合である。垂直方向にX軸、水平横方向にY軸、奥行き方向にZ軸をとれば良い。平行移動はYZ平面上である(回転:X軸の回りの回転、移動:YZ軸上の移動)。
【0200】
(16):運動条件{R3,h5}の場合
3次元平行移動ベクトルh=h5は次の式で表される。
【0201】
【数136】
【0202】
TVカメラの動きの回転成分が、1つの既知の軸の回りの回転であり、平行移動が回転軸を含む平面上の既知方向である場合である。回転軸をX軸にとり、平面上にY軸をとれば良い。
【0203】
(17):運動条件{R3,h6}の場合
3次元平行移動ベクトルh=h6は次の式で表される。
【0204】
【数137】
【0205】
TVカメラの動きの回転成分が、1つの既知の軸の回りの回転であり、平行移動が回転軸方向である場合である。回転軸をX軸にとれば良い。
(18):運動条件{R3,h7}の場合
3次元平行移動ベクトルh=h7は次の式で表される。
【0206】
【数138】
【0207】
TVカメラの動きの回転成分が、1つの既知の軸の回りの回転であり、平行移動が回転軸と直交する方向である場合である。回転軸をX軸に、直交する方向をY軸にとれば良い。
【0208】
(19):3次元回転行列R=R4の場合
3次元回転行列R=R4は次の式で表される。
【0209】
【数139】
【0210】
(20):運動条件{R4,h1}の場合
3次元平行移動ベクトルh=h1は次の式で表される。
【0211】
【数140】
【0212】
TVカメラが回転せずに、平行移動する場合である。
(21):運動条件{R4,h2}の場合
3次元平行移動ベクトルh=h2は次の式で表される。
【0213】
【数141】
【0214】
TVカメラが回転せずに、既知平面上を平行移動する場合である。既知平面上にX軸とY軸をとれば良い。
§5:具体例による3次元復元処理の詳細な説明
以下、17個の運動条件について、個別の3次元復元計算処理を説明する。具体的な項目は以下の1)〜4)である。
【0215】
1):基本行列Gの計算式(基本行列計算部3による処理)
1.1):
【0216】
【数142】
【0217】
への展開式(基本行列要素展開部23の処理)
前記式3−2を行列の形で表現した式6−1を次に示す
【0218】
【数143】
【0219】
1.2):
【0220】
【数144】
【0221】
の計算式(展開変数計算部24による処理)
線型方程式(式3−3)の係数
【0222】
【数145】
【0223】
を、次の具体式に{aki}を代入して求める。
【0224】
【数146】
【0225】
2):3次元平行移動ベクトルhの計算式(平行移動計算部4による処理)
3):3次元回転行列Rの計算式(回転計算部5による処理)
4):TVカメラと対応点との距離r、r′の計算式(距離計算部6による処理)
5.1:運動条件({R1,h2}の場合
1)Gの計算式(基本行列計算部3による処理)
従来通り
2)hの計算式(平行移動計算部4による処理)
従来通り
3)Rの計算式(回転計算部5による処理)
従来通り
4)r、r′の計算式(距離計算部6による処理)
3次元ベクトルの第1、第2成分に関する内積(,)12で表すと、(h,m)=(h,m)12、(h,Rm′)=(h,Rm′)12であるから、下式のように計算を簡略化できる。
【0226】
【数147】
【0227】
5.2 運動条件{R1,h6}の場合
1)Gの計算式(基本行列計算部3による処理)
1.1)
【0228】
【数148】
【0229】
への展開式(基本行列要素展開部23による処理)
【0230】
【数149】
【0231】
なお、前記Iは単位行列である。
1.2)
【0232】
【数150】
【0233】
の計算式(展開変数計算部24による処理)
【0234】
【数151】
【0235】
2)hの計算式(平行移動計算部4による処理)
hは既知である。
3)Rの計算式(回転計算部5による処理)
基本行列Gが求まると3次元回転行列Rの第2、第3行も同時に求まる。Rの第1行は次式により、Rの第2、第3行を用いて求まる。
【0236】
r1i=(−1)1+i |R1i|
R1iは行列Rから第1行と第i行を除いた部分行列である。
4)r、r′の計算式(距離計算部6による処理)
【0237】
【数152】
【0238】
5.3 運動条件{R2,h1}の場合
1)Gの計算式(基本行列計算部3による処理)
従来通り
2)hの計算式(平行移動計算部4による処理)
従来通り
3)Rの計算式(回転計算部5による処理)
従来通り
4)r、r′の計算式(距離計算部6による処理)
次の従来式である式2−4にr12=0を固定代入して簡略化する。
【0239】
【数153】
【0240】
5.4 運動条件{R2,h2}の場合
1)Gの計算式(基本行列計算部3による処理)
従来通り
2)hの計算式(平行移動計算部4による処理)
従来通り
3)Rの計算式(回転計算部5による処理)
従来通り
4)r、r′の計算式(距離計算部6による処理)
3次元ベクトルの第1、第2成分に関する内積(,)12で表すと、(h,m)=(h,m)12、(h,m′)=(h,Rm′)12であるから、下式のように計算を簡略化できる。
【0241】
【数154】
【0242】
5.5 運動条件{R2,h3}の場合
1)Gの計算式(基本行列計算部3による処理)
1.1)
【0243】
【数155】
【0244】
への展開式(基本行列計算部3による処理)
【0245】
【数156】
【0246】
1.2)
【0247】
【数157】
【0248】
の計算式(展開変数計算部24による処理)
【0249】
【数158】
【0250】
2)hの計算式(平行移動計算部4による処理)、及び3)Rの計算式(回転計算部5による処理)
【0251】
【数159】
【0252】
3)Rの計算式(回転計算部5による処理)
従来通り
4)r、r′の計算式(距離計算部6による処理)
3次元ベクトルの第2、第3成分に関する内積(,)23で表すと、(h,m)=(h,m)23、(h,Rm′)=(h,Rm′)23であるから、下式のように計算を簡略化できる。
【0253】
【数160】
【0254】
5.6 運動条件{R2,h4}の場合
1)基本行列Gの計算式(基本行列計算部3による処理)
従来通り
2)hの計算式(平行移動計算部4による処理)
従来通り
3)Rの計算式(回転計算部5による処理)
従来通り
4)r、r′の計算式(距離計算部6による処理)
3次元ベクトルの第1、第3成分に関する内積を(,)13で表すと、(h,m)=(h,m)13、(h,Rm′)=(h,Rm′)13であるから、下式のように計算を簡略化できる。
【0255】
【数161】
【0256】
5.7 運動条件{R2,h5}の場合
1)基本行列Gの計算式(基本行列計算部3による処理)
1.1)
【0257】
【数162】
【0258】
への展開式(基本行列要素展開部23による処理)
【0259】
【数163】
【0260】
1.2)
【0261】
【数164】
【0262】
の計算式(展開変数計算部24による処理)
【0263】
【数165】
【0264】
2)hの計算式(平行移動計算部4による処理)
既知である。
3)Rの計算式(回転計算部5による処理)
【0265】
【数166】
【0266】
4)r、r′の計算式(距離計算部6による処理)
3次元ベクトルの第1、第2成分に関する内積を(,)12で表すと、(h,m)=(h,m)12、(h,Rm′)=(h,Rm′)12であるから、下式のように計算を簡略化できる。
【0267】
【数167】
【0268】
5.8 運動条件{R2,h6}の場合
1)Gの計算式(基本行列計算部3による処理)
1.1)
【0269】
【数168】
【0270】
への展開式(基本行列要素展開部23による処理)
【0271】
【数169】
【0272】
1.2)
【0273】
【数170】
【0274】
の計算式(展開変数計算部24による処理)
【0275】
【数171】
【0276】
2)hの計算式(平行移動計算部4による処理)
hは既知である。
3)Rの計算式(回転計算部5による処理)
基本行列Gが求まると、3次元回転行列Rの第2、第3行も同時に求まる。Rの第1行は次式により、Rの第2行、第3行を用いて求まる。
【0277】
r1i=(−1)1+i |R1i|
なお、R1iは行列Rから第1行と第i行を除いた部分行列である。
4)r、r′の計算式(距離計算部による処理)
【0278】
【数172】
【0279】
5.9 運動条件{R2,h7}の場合
1)Gの計算式(基本行列計算部3による処理)
1.1)
【0280】
【数173】
【0281】
への展開式(基本行列要素展開部23による処理)
【0282】
【数174】
【0283】
1.2)
【0284】
【数175】
【0285】
の計算式(展開変数計算部24による処理)
【0286】
【数176】
【0287】
2)hの計算式(平行移動計算部4による処理)
hは既知である。
3)Rの計算式(回転計算部5による処理)
Gが求まると、Rの第1行、第3行も同時に求まる。Rの第2行は次式により、Rの第1行、第3行を用いて求まる。
【0288】
r2i=(−1)2+i |R2i|
R2iは行列Rから第1行と第i行を除いた部分行列である。
4)r、r′の計算式(距離計算部6による処理)
(h,m)=m2 、(h,Rm′)=(Rm′)2 であるから、下式のように計算を簡略化できる。
【0289】
【数177】
【0290】
5.10 運動条件{R3,h1}の場合
1)Gの計算式(基本行列計算部3による処理)
1.1)
【0291】
【数178】
【0292】
への展開式(基本行列要素展開部23による処理)
【0293】
【数179】
【0294】
1.2)
【0295】
【数180】
【0296】
の計算式(展開変数計算部24による処理)
【0297】
【数181】
【0298】
2)hの計算式(平行移動計算部4による処理)、及び3)Rの計算式(回転計算部5による処理)
【0299】
【数182】
【0300】
3)Rの計算式(回転計算部5による処理)
従来通り
4)r、r′の計算式(距離計算部6による処理)
次の式2−4に、R=R3を代入して簡略化する。
【0301】
【数183】
【0302】
5.11 運動条件{R3,h2}の場合
1)Gの計算式(基本行列計算部3による処理)
1.1)
【0303】
【数184】
【0304】
への展開式(基本行列要素展開部23による処理)
【0305】
【数185】
【0306】
1.2)
【0307】
【数186】
【0308】
の計算式(展開変数計算部24による処理)
【0309】
【数187】
【0310】
2)hの計算式(平行移動計算部4による処理)、及び3)Rの計算式(回転計算部5による処理)
【0311】
【数188】
【0312】
3)Rの計算式(回転計算部5による処理)
従来通り
4)r、r′の計算式(距離計算部6による処理)
3次元ベクトルの第1、第2成分に関する内積を(,)12で表すと、(h,m)=(h,m)12、(h,Rm′)=(h,Rm′)12であるから、下式のように計算を簡略化できる。
【0313】
【数189】
【0314】
5.12 運動条件{R3,h3}の場合
1)Gの計算式(基本行列計算部3による処理)
1.1)
【0315】
【数190】
【0316】
への展開式(基本行列要素展開部23による処理)
【0317】
【数191】
【0318】
1.2)
【0319】
【数192】
【0320】
の計算式(展開変数計算部24による処理)
【0321】
【数193】
【0322】
2)hの計算式(平行移動計算部4による処理)
基本行列Gが求まると、h2 =−g31、h3 =g21も同時に求まり、3次元平行移動ベクトルhが求まる。
【0323】
3)Rの計算式(回転計算部5による処理)
【0324】
【数194】
【0325】
4)r、r′の計算式(距離計算部6による処理)
3次元ベクトルの第2、第3成分に関する内積を(,)23で表すと、(h,m)=(h,m)23、(h,Rm′)=(h,Rm′)23であるから、下式のように計算を簡略化できる。
【0326】
【数195】
【0327】
5.13 運動条件{R3,h5}の場合
1)Gの計算式(基本行列計算部3による処理)
1.1)
【0328】
【数196】
【0329】
への展開式(基本行列要素展開部23による処理)
【0330】
【数197】
【0331】
1.2)
【0332】
【数198】
【0333】
の計算式(展開変数計算部24による処理)
【0334】
【数199】
【0335】
2)hの計算式(平行移動計算部4による処理)
hは既知である。
3)Rの計算式(回転計算部5による処理)
Rは、式r22=g32/h1 、r23=g33/h1 により求まる。
【0336】
4)r、r′の計算式(距離計算部による処理)
3次元ベクトルの第1、第2成分に関する内積を(,)12で表すと、(h,m)=(h,m)12、(h,Rm′)=(h,Rm′)12であるから、下式のように計算を簡略化できる。
【0337】
【数200】
【0338】
5.14 運動条件{R3,h6}の場合
1)Gの計算式(基本行列計算部3による処理)
1.1)
【0339】
【数201】
【0340】
への展開式(基本行列要素展開部23による処理)
【0341】
【数202】
【0342】
1.2)
【0343】
【数203】
【0344】
の計算式(展開変数計算部24による処理)
【0345】
【数204】
【0346】
2)hの計算式(平行移動計算部4による処理)
hは既知である。
3)Rの計算式(回転計算部5による処理)
Rは、式r22=g32、r23=g33により求まる。
【0347】
4)r、r′の計算式(距離計算部による処理)
(h,m)=m1 、(h,Rm′)=m1 ′であるから、下式のように計算を簡略化できる。
【0348】
【数205】
【0349】
5.15 運動条件{R3,h7}の場合
1)Gの計算式(基本行列計算部3による処理)
1.1)
【0350】
【数206】
【0351】
への展開式(基本行列要素展開部23による処理)
【0352】
【数207】
【0353】
1.2)
【0354】
【数208】
【0355】
の計算式(展開変数計算部24による処理)
【0356】
【数209】
【0357】
2)hの計算式(平行移動計算部4による処理)
hは既知である。
3)Rの計算式(回転計算部5による処理)
3次元回転行列Rは、式r22=g13、r23=−g12により求まる。
【0358】
4)r、r′の計算式(距離計算部6による処理)
(h,m)=m2 、(h,Rm′)=r22m2 ′+r23m3 ′であるから、下式のように計算を簡略化できる。
【0359】
【数210】
【0360】
5.16 運動条件{R4,h1}の場合
1)Gの計算式(基本行列計算部3による処理)
1.1)
【0361】
【数211】
【0362】
への展開式(基本行列要素展開部23による処理)
【0363】
【数212】
【0364】
1.2)
【0365】
【数213】
【0366】
の計算式(展開変数計算部24による処理)
【0367】
【数214】
【0368】
2)hの計算式(平行移動計算部4による処理)
3次元平行移動ベクトルhは、式h1 =−g23、h2 =g13、h3 =−g12により求まる。
【0369】
3)Rの計算式(回転計算部5による処理)
既知である。
4)r、r′の計算式(距離計算部6による処理)
R=Iにより下式を得る。
【0370】
【数215】
【0371】
5.17 運動条件{R4,h2}の場合
1)Gの計算式(基本行列計算部3による処理)
1.1)
【0372】
【数216】
【0373】
への展開式(基本行列要素展開部23による処理)
【0374】
【数217】
【0375】
1.2)
【0376】
【数218】
【0377】
の計算式(展開変数計算部24による処理)
【0378】
【数219】
【0379】
2)hの計算式(平行移動計算部4による処理)
3次元平行移動ベクトルhは、式h1 =−g23、h2 =g13により求まる。
3)Rの計算式(回転計算部5による処理)
Rは既知である。
【0380】
4)r、r′の計算式(距離計算部6による処理)
3次元ベクトルの第1、第2成分に関する内積を(,)12で表すと、(h,m)=(h,m)12、(h,Rm′)=(h,Rm′)12である。また、R=Iであるから下式を得る。
【0381】
【数220】
【0382】
§6:応用例1の説明・・・図5のA図参照
図5は応用例の説明図であり、A図は応用例1を示した図である。応用例1は、前記実施の形態で説明した3次元情報復元装置を自動制御装置に応用した例である。この自動制御装置は、いわゆるロボットであり、FA装置、監視装置などが代表的なものである。
【0383】
図示のように、自動制御装置には、運動条件設定部10、画像入力部1、対応点検出部2、基本行列計算部3、平行移動計算部4、回転計算部5、及び距離計算部6からなる3次元情報復元装置と、前記3次元情報復元装置から出力されたデータを使用して機構部の制御を行う制御部29で構成されている。
【0384】
この場合、制御部29では、前記平行移動計算部4、回転計算部5、及び距離計算部6から出力されるデータを内部のメモリに格納し、前記メモリのデータを使用して前記機構部の各種制御を行う。
【0385】
§7:応用例2の説明・・・図5のB図参照
図5は応用例の説明図であり、B図は応用例2を示した図である。応用例2は、前記実施の形態で説明した3次元情報復元装置をCGデータ作成装置に応用した例である。このCGデータ作成装置は、3次元CGデータを自動的に作成する装置である。
【0386】
図示のように、CGデータ作成装置には、運動条件設定部10、画像入力部1、対応点検出部2、基本行列計算部3、平行移動計算部4、回転計算部5、及び距離計算部6からなる3次元情報復元装置と、前記3次元情報復元装置から出力された3次元情報を格納しておくCGデータ格納部30で構成されている。
【0387】
この場合、CGデータ格納部30には、前記平行移動計算部4、回転計算部5、及び距離計算部6から出力される3次元情報を格納し、3次元CG装置における描画用データとして利用する。3次元CGデータは、通常3次元CAD等で作成されるが、工数が多くかかるので、前記CGデータ作成装置により自動作成する。
【0388】
(他の実施の形態)
以上実施の形態について説明したが、本発明は次のようにしても実施可能である。
【0389】
(1) :画像入力は、TVカメラ(又はビデオカメラ)に限らず、他の任意の撮像装置(各種カメラ類)で実現可能である。
(2) :前記3次元情報復元装置は、自動制御装置や、CGデータ作成装置に限らず、他の3次元情報を使用する各種装置に適用可能である。
【0390】
【発明の効果】
以上説明したように、本発明によれば次のような効果がある。
(1) :従来よりも少ない対応点により、2次元画像情報から3次元情報の復元処理を行うことが可能になる。このため、従来3次元復元が不可能であった画像に対しても、3次元情報の復元をすることが可能になる。
【0391】
(2) :カメラの個別の運動条件毎に、従来より直接的な計算で3次元復元可能であるため、3次元復元のための計算量が少なくて済む。また、計算による誤差が少なくなり正確な3次元復元処理を行うことが可能になる。
【0392】
(3) :運動条件の簡約化により、従来よりも少ない対応点で2次元画像情報から3次元情報の復元が可能になる。従って、3次元情報復元装置の処理が簡単になり、コストダウンが可能になる。また、自動制御装置やCGデータ作成装置等への応用が容易になる。
【図面の簡単な説明】
【図1】本発明の原理説明図である。
【図2】実施の形態の装置構成図である。
【図3】実施の形態における各部の構成図(その1)である。
【図4】実施の形態における各部の構成図(その2)である。
【図5】実施の形態における応用例の説明図である。
【図6】従来例の装置構成図である。
【符号の説明】
1 画像入力部
2 対応点検出部
3 基本行列計算部
4 平行移動計算部
5 回転計算部
6 距離計算部
10 運動条件設定部
11 データ格納部
15 運動条件入力部
16 運動条件簡約部
17 R制約条件簡約部
18 h制約条件簡約部
19 座標変換部
21 対応点数判定部
22 対応点座標決定部
23 基本行列要素展開部
24 展開変数計算部
25 基本行列要素展開部
27 平行移動・回転計算部
Claims (31)
- カメラで3次元剛体を捉えた2画像を入力する画像入力部と、前記2画像間の対応点を検出する対応点検出部と、前記2画像間のカメラの3次元回転行列R、及び3次元平行移動ベクトルhから式G=R×hで定義される基本行列Gを計算する基本行列計算部と、3次元平行移動ベクトルhを計算する平行移動計算部、及び3次元回転行列Rを計算する回転計算部からなる平行移動・回転計算部と、3次元空間におけるカメラと対応点との距離r、r′を計算する距離計算部を備え、入力した2次元画像情報から3次元情報を復元する3次元情報復元装置において、
カメラの運動条件を入力して設定する運動条件設定部を備え、前記対応点検出部は、前記運動条件設定部が設定した運動条件の元で、前記基本行列Gの9個の要素
前記基本行列計算部は、前記最小p個の元
- 前記運動条件設定部は、カメラの運動条件として、前記3次元回転行列Rの制約条件、及び3次元平行移動ベクトルhの制約条件を入力する運動条件入力部と、
前記運動条件入力部が入力した3次元回転行列Rの制約条件、及び3次元平行移動ベクトルhの制約条件から、前記Rとhの制約条件としての運動条件を簡約化する運動条件簡約部を備えていることを特徴とした請求項1記載の3次元情報復元装置。 - 前記運動条件入力部は、前記3次元回転行列Rの制約条件を、特定座標軸の回りの回転の合成、又は既知として、
・X軸回転×Y軸回転×Z軸回転
・X軸回転、Y軸回転、Z軸回転の内、異なる2つの合成
・X軸回転、Y軸回転、Z軸回転の内の1つ
・前記の形式の既知回転
・回転なし
の21通りのいずれかを入力すると共に、
前記3次元平行移動ベクトルhの制約条件を、特定座標軸に関する移動の合成、又は既知として、
・3次元空間移動
・座標平面上の移動
・前記の形式の既知移動
・座標軸上の既知移動
の11通りのいずれかを入力する機能を備えていることを特徴とした請求項2記載の3次元情報復元装置。 - 前記運動条件簡約部は、3次元回転行列Rの制約条件を、
・X軸回転×Y軸回転×Z軸回転
・X軸回転×Y軸回転
・X軸回転
・前記の形式の既知回転
・回転なし
の7通りのいずれかに変換するための座標軸交換処理を行うR制約条件簡約部を備えていることを特徴とした請求項3記載の3次元情報復元装置。 - 前記運動条件簡約部は、
X軸回転×Y軸回転×Z軸回転の未知回転、既知回転、回転無しの各Rの制約条件に対して、X,Y,Z軸の各座標軸交換を行い、3次元空間の未知移動、既知移動、XY平面上の未知移動、既知移動、X軸上の既知移動の各hの制約条件に変換すると共に、
X軸回転の未知回転、既知回転の各Rの制約条件に対して、Y,Z軸の各座標軸交換を行い、3次元空間の未知移動、既知移動、XY平面上の未知移動、既知移動、X軸上の既知移動、YZ平面上の未知移動、既知移動、Y軸上の既知移動の各hの制約条件に変換するh制約条件簡約部を備えていることを特徴とした請求項4記載の3次元情報復元装置。 - 前記h制約条件簡約部は、前記3次元平行移動ベクトルhの制約条件に変換してから、座標軸の向きの交換処理により、座標軸上の既知移動であるhの制約条件を座標軸上の正方向1の移動条件にする機能を備えていることを特徴とした請求項5記載の3次元情報復元装置。
- 前記運動条件簡約部は、運動条件{R,h}に対し、U、Vを既知の3次元回転行列とした場合、座標変換により運動条件{URV,Uh}に変換する座標変換部を備えていることを特徴とした請求項5記載の3次元情報復元装置。
- 座標変換部は、3次元回転行列Rが既知ならば、単位行列をIとした場合、運動条件{R,h}を運動条件{I,h}に変換する機能を備えていることを特徴とした請求項7記載の3次元情報復元装置。
- 座標変換部は、3次元平行移動ベクトルhが既知ならば、Wh=X軸単位ベクトルとなる3次元回転行列Wを用いて、運動条件{R,h}を運動条件{Wh,X軸単位ベクトル}に変換する機能を備えていることを特徴とした請求項7記載の3次元情報復元装置。
- 座標変換部は、3次元回転行列RがX軸回転×Y軸回転、かつ3次元平行移動ベクトルhが既知の3次元空間移動の場合は、UhがXY平面上移動になるX軸回転Uを選択し、運動条件{R,h}を運動条件{UR,Uh}に変換する機能を備えていることを特徴とした請求項7記載の3次元情報復元装置。
- 座標変換部は、3次元回転行列RがX軸回転×Y軸回転、かつ3次元平行移動ベクトルhが既知のYZ平面上移動の場合は、UhがZ軸上移動になるX軸回転Uを選択し、運動条件{R,h}を運動条件{UR,Uh}に変換する機能を備えていることを特徴とした請求項7記載の3次元情報復元装置。
- 座標変換部は、3次元回転行列RがX軸回転、かつ3次元平行移動ベクトルhが既知の3次元空間移動の場合は、UhがXY平面上移動になるX軸回転Uを選択し、運動条件{R,h}を運動条件{UR,Uh}に変換する機能を備えていることを特徴とした請求項7記載の3次元情報復元装置。
- 座標変換部は、3次元回転行列RがX軸回転、かつ3次元平行移動ベクトルhが既知のYZ平面上移動の場合は、UhがY軸上移動になるX軸回転Uを選択し、運動条件{R,h}を運動条件{UR,Uh}に変換する機能を備えていることを特徴とした請求項7記載の3次元情報復元装置。
- 座標変換部は、座標軸交換処理を行い、制約無し、若しくは既知の場合を除き、3次元回転行列R及び3次元平行移動ベクトルhのそれぞれに対し、
R1:X軸回転×Y軸回転×Z軸回転、R2:X軸回転×Y軸回転、R3:X軸回転、R4:回転無し、h1:3次元空間移動、h2:XY平面移動、h3:YZ平面移動、h4:ZX平面移動、h5:XY平面移動(既知)、h6:X軸移動(既知)、h7:Y軸移動(既知)とし、前記3次元回転行列Rと3次元平行移動ベクトルhからなる運動条件を{R,h}とした場合、
{R,h}={R1,h2}、{R1,h6}、{R2,h1}、{R2,h2}、{R2,h3}、{R2,h4}、{R2,h5}、{R2,h6}、{R2,h7}、{R3,h1}、{R3,h2}、{R3,h3}、{R3,h5}、{R3,h6}、{R3,h7}、{R4,h1}、{R4,h2}の17個の運動条件のいずれかに変換する機能を備えていることを特徴とした請求項7記載の3次元情報復元装置。 - 前記運動条件{R1,h6}が入力された場合、前記基本行列計算部は、
前記平行移動計算部は、3次元平行移動ベクトルhを既知として処理し、
前記回転計算部は、3次元回転行列Rの計算を行う際、基本行列Gが求まると3次元回転行列Rの第2、第3行も同時に求まることを利用し、Rの第1行は、式r1i=(−1)1+i |R1i|(R1i:行列Rから第1行と第i行を除いた部分行列)により、Rの第2行、第3行を用いて計算処理を行い、
前記距離計算部は、式
- 前記運動条件{R2,h6}が入力された場合、基本行列計算部は、
前記平行移動計算部は、3次元平行移動ベクトルhを既知として処理し、
前記回転計算部は、3次元回転行列Rの計算を行う際、基本行列Gが求まると3次元回転行列Rの第2、第3行も同時に求まることを利用し、Rの第1行は、式r1i=(−1)1+i |R1i|(R1i:行列Rから第1行と第i行を除いた部分行列)により、Rの第2行、第3行を用いて3次元回転行列Rの計算処理を行い、
前記距離計算部は、式
- 前記運動条件{R2,h7}が入力された場合、基本行列計算部は、
前記平行移動計算部は、3次元平行移動ベクトルhを既知として処理し、
前記回転計算部は、3次元回転行列Rの計算を行う際、基本行列Gが求まると3次元回転行列Rの第1、第3行も同時に求まることを利用し、Rの第2行は、式r2i=(−1)2+i |R2i|(R2i:行列Rから第2行と第i行を除いた部分行列)により、Rの第2行、第3行を用いて3次元回転行列Rの計算処理を行い、
前記距離計算部は、式
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP04276496A JP3729916B2 (ja) | 1996-02-29 | 1996-02-29 | 3次元情報復元装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP04276496A JP3729916B2 (ja) | 1996-02-29 | 1996-02-29 | 3次元情報復元装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH09237341A JPH09237341A (ja) | 1997-09-09 |
JP3729916B2 true JP3729916B2 (ja) | 2005-12-21 |
Family
ID=12645057
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP04276496A Expired - Fee Related JP3729916B2 (ja) | 1996-02-29 | 1996-02-29 | 3次元情報復元装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3729916B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7542834B2 (en) | 2003-10-17 | 2009-06-02 | Panasonic Corporation | Mobile unit motion calculating method, apparatus and navigation system |
JP6156067B2 (ja) | 2013-11-01 | 2017-07-05 | 富士通株式会社 | 移動量推定装置及び移動量推定方法 |
JP2015226209A (ja) | 2014-05-28 | 2015-12-14 | パナソニックIpマネジメント株式会社 | 情報提示装置、ステレオカメラシステム、及び情報提示方法 |
US10249058B2 (en) | 2014-12-24 | 2019-04-02 | Panasonic Intellectual Property Management Co., Ltd. | Three-dimensional information restoration device, three-dimensional information restoration system, and three-dimensional information restoration method |
-
1996
- 1996-02-29 JP JP04276496A patent/JP3729916B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH09237341A (ja) | 1997-09-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Quan et al. | Affine structure from line correspondences with uncalibrated affine cameras | |
US20210110599A1 (en) | Depth camera-based three-dimensional reconstruction method and apparatus, device, and storage medium | |
Beymer et al. | Example based image analysis and synthesis | |
Deguchi | A direct interpretation of dynamic images with camera and object motions for vision guided robot control | |
JP4083554B2 (ja) | 3次元モデルデータ生成装置 | |
CN110264563A (zh) | 一种基于orbslam2的八叉树建图方法 | |
KR19990008059A (ko) | 3차원 물체의 2차원 영사에 근거한 3차원 물체의 재생, 운용 방법 및 그 장치 | |
US20090141043A1 (en) | Image mosaicing apparatus for mitigating curling effect | |
JP2007004578A (ja) | 三次元形状取得方法、三次元形状取得装置、及びプログラムの記録媒体 | |
CN111079565A (zh) | 视图二维姿态模板的构建方法及识别方法、定位抓取系统 | |
US20040257452A1 (en) | Recursive least squares approach to calculate motion parameters for a moving camera | |
US6166746A (en) | Three-dimensional image processing apparatus for jointed objects | |
Viéville et al. | Motion analysis with a camera with unknown, and possibly varying intrinsic parameters | |
JP3729916B2 (ja) | 3次元情報復元装置 | |
Heuring et al. | Visual head tracking and slaving for visual telepresence | |
Ait-Aider et al. | Exploiting rolling shutter distortions for simultaneous object pose and velocity computation using a single view | |
CN113436266B (zh) | 图像处理系统、图像处理方法、训练神经网络的方法和执行该方法的记录介质 | |
JP2005063012A (ja) | 全方位カメラ運動と3次元情報の復元方法とその装置及びプログラム並びにこれを記録した記録媒体 | |
JP7076598B1 (ja) | 動画又は複数画像からの3次元情報生成装置 | |
Avidan et al. | Unifying two-view and three-view geometry | |
Rossi et al. | 3D object reconstruction using a robot arm | |
JPH1021423A (ja) | 3次元形状および運動の最小2乗近似復元装置 | |
CN113506220B (zh) | 3d顶点驱动的人脸姿态编辑方法、系统及电子设备 | |
KR102412373B1 (ko) | 다중 시점 X-ray 데이터를 활용한 3D 데이터 생성 장치 및 방법 | |
JP2005030956A (ja) | 3次元情報復元方法、3次元情報復元装置、3次元情報復元プログラム、およびこのプログラムを記録した記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050916 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050927 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051005 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081014 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091014 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091014 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101014 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101014 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111014 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111014 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121014 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121014 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131014 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |