JP2001208524A - 画像処理装置及び画像処理方法 - Google Patents

画像処理装置及び画像処理方法

Info

Publication number
JP2001208524A
JP2001208524A JP2000021814A JP2000021814A JP2001208524A JP 2001208524 A JP2001208524 A JP 2001208524A JP 2000021814 A JP2000021814 A JP 2000021814A JP 2000021814 A JP2000021814 A JP 2000021814A JP 2001208524 A JP2001208524 A JP 2001208524A
Authority
JP
Japan
Prior art keywords
image
image processing
frequency
distance information
frequency component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000021814A
Other languages
English (en)
Other versions
JP4403477B2 (ja
JP2001208524A5 (ja
Inventor
Masami Ogata
昌美 緒形
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000021814A priority Critical patent/JP4403477B2/ja
Publication of JP2001208524A publication Critical patent/JP2001208524A/ja
Publication of JP2001208524A5 publication Critical patent/JP2001208524A5/ja
Application granted granted Critical
Publication of JP4403477B2 publication Critical patent/JP4403477B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】簡易な構成で画像の領域分割を行い得る画像処
理装置を得る。 【解決手段】同一の情景に対して焦点ずれによるぼけの
程度が異なる複数の画像を撮像する撮像手段10と、撮
像した複数の画像に基づいて、被写体までの距離情報を
算出する距離情報算出手段12A〜12F、13A〜1
2Cと、算出した距離情報に基づいて画像を複数の領域
に分割する領域分割手段14A〜14C、15を設け
た。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は画像処理装置及び画
像処理方法に関し、例えば撮影した画像から被写体領域
を抽出する画像処理装置及び画像処理方法に適用して好
適なものである。
【0002】
【従来の技術】従来、撮影した画像から被写体領域を抽
出する領域分割方法として、いくつかの方法が提案され
ており、それらは大分して2つの方法に分類される。
【0003】第1の方法は、1枚の画像を用いて領域分
割を行う方法であり、例えば近傍の画素値の類似度に基
づいて領域を分割する方法や、画像の色空間をクラスタ
リングして領域を分割する方法等がある。
【0004】第2の方法は、複数の画像から被写体の距
離情報を算出し、当該距離情報に基づいて領域分割を行
う方法である。
【0005】例えば、2つの撮像系で撮像した2枚の画
像を用い、両眼視差に基づいて画像の奥行き情報を得
て、当該奥行き情報に基づいて領域を分割する方法があ
る。この方法の場合、比較的精度の高い領域分割を行う
ことができるが、2つの撮像系が必要であり、また2枚
の画像間での対応点を検出するために多くの演算が必要
となる。
【0006】これに対して、1つの撮像系から得た複数
の画像から画像の奥行き情報を得る方法として、DFD
(Depth From Defocus)と呼ばれる方法が一般に知られ
ている。DFDは、画像のぼけ情報から被写体の距離を
推定する方法であり、複数の撮像系を必要としないこと
や、複雑な演算を必要としないといった利点を有してい
る。
【0007】このDFDの原理を図5を用いて説明す
る。図5において、対象物体Aまでの距離a0は、当該
対象物体Aが合焦する位置b0が既知であれば、レンズ
Rの焦点距離fから、(1)式を用いて算出することが
できる。
【0008】
【数1】
【0009】DFDにおいては、撮像面位置と対象物体
Aの合焦位置とが異なることを前提として、撮像面上に
投影された像のぼけの程度から合焦位置b0を求め、こ
れを(1)式に代入することにより、対象物体Aまでの
距離a0を算出する。
【0010】いま、撮像面がb1にある場合、距離a0
の物体表面上の点は撮像面上において錯乱円と呼ばれる
円形に拡散し、(2)式で表される像i1を形成する。
【0011】
【数2】
【0012】ここで、*は畳込演算を示す。またhd1
は拡散の状態を示す関数PSF(Point Spread Functio
n :点広がり関数)であり、撮像面と合焦位置との距離
b0−b1に比例する錯乱円直径d1に依存する。そこ
で、錯乱円直径d1をパラメータとするPSFのモデル
を仮定し、観測画像i1から錯乱円直径d1を推定す
る。但し(2)式からも分かるように、観測画像i1は
対象物体の像i0に依存しているため、このままでは錯
乱円直径d1を求めることができない。
【0013】そこで、異なる撮像面位置b2における観
測画像i2を撮像し、画像の周波数領域上における観測
画像i1と観測画像i2との比を取ることにより、
(3)式のように観測画像とPSFの関係を導くことが
できる。
【0014】
【数3】
【0015】ここで、I1、I2、I0、Hd1、Hd
2はそれぞれ観測画像i1及びi2、合焦画像i0、P
SFhd1及びhd2のフーリエ変換である。この
(3)式と図5の幾何学的関係により、対象物体Aに依
存することなく錯乱円直径d1及びd2を算出すること
ができる。
【0016】
【発明が解決しようとする課題】このようにDFDは、
原理的に簡単な装置及び演算によって被写体までの距離
を算出することが可能であるが、その一方で、PSFの
モデル化や周波数分析の方法によって推定精度が制約さ
れるという問題がある。
【0017】例えば、(3)式を用いて距離を推定する
ためには、PSFに具体的な関数を与える必要がある
が、実際のPSFはカメラのアイリス(絞り)形状に依
存するため、一般に単純な関数で表すことは困難であ
り、またアイリス形状の精密なモデル化は、演算量の増
大を招くことになるという問題がある。
【0018】また、(3)式における錯乱円直径と周波
数成分の関係は周波数毎に変化するため、距離の推定精
度を向上するためには高い周波数分解能で周波数成分を
抽出する必要があるが、このことは演算量の増大を伴う
とともに、空間分解能を犠牲にするという問題がある。
【0019】本発明は以上の点を考慮してなされたもの
で、簡易な構成で画像の領域分割を行い得る画像処理装
置及び画像処理方法を提案しようとするものである。
【0020】
【課題を解決するための手段】かかる課題を解決するた
め本発明においては、画像を領域分割して所望の被写体
領域を抽出する画像処理装置において、同一の情景に対
して、焦点ずれによるぼけの程度が異なる複数の画像を
撮像する撮像手段と、撮像した複数の画像に基づいて、
被写体までの距離情報を算出する距離情報算出手段と、
算出した距離情報に基づいて、画像を複数の領域に分割
する領域分割手段とを設けた。
【0021】また距離情報算出手段に、画像の周波数成
分を抽出する周波数成分抽出手段と、複数の画像それぞ
れから抽出された周波数成分を比較して距離情報を算出
する周波数成分比較手段とを設けた。
【0022】撮像した複数の画像から周波数成分を抽出
し、当該周波数成分を比較して被写体までの距離情報を
算出することにより、簡易な構成及び簡易な演算で被写
体領域分割処理を行うことができる。
【0023】
【発明の実施の形態】以下図面について、本発明の一実
施の形態を詳述する。
【0024】(1)第1の実施の形態 (1−1)第1の実施の形態の構成 図1において、1は全体として本発明の第1の実施の形
態による画像処理装置を示し、撮像手段としての撮像装
置10は、まず第1の撮像面位置で撮像対象を撮像し、
第1の画像信号i1(x,y)をメモリ11に供給す
る。続いて撮像装置10は第2の撮像面位置で撮像対象
を撮像し、第2の画像信号i2(x,y)を周波数分析
器12A〜12Cに供給する。
【0025】ここで、第1の画像信号i1(x,y)及
び第2の画像信号i2(x,y)は輝度信号でなり、
(x,y)は画像上の位置を表す座標である。また、第
1の画像信号i1(x,y)及び第2の画像信号i2
(x,y)はそれぞれ撮像面位置が異なるため、焦点ず
れによるぼけの程度がそれぞれ異なる。
【0026】メモリ11は第1の画像信号i1(x,
y)を遅延させ、第2の画像信号i2(x,y)に同期
して周波数分析器12D〜12Fに供給する。
【0027】周波数成分抽出手段としての周波数分析器
12A、12B及び12Cは、それぞれ入力した第2の
画像信号i2(x,y)に対して固有の中心周波数でバ
ンドパスフィルタ処理を施し、それぞれ画像上の各位置
(x,y)に対応する周波数成分I2(x,y,w
0)、I2(x,y,w1)及びI2(x,y,w2)
を生成し、それぞれ対応する距離算出器13A、13B
及び13Cに出力する。
【0028】同様に周波数成分抽出手段としての周波数
分析器12D、12E及び12Fは、それぞれ入力した
第1の画像信号i1(x,y)に対して固有の中心周波
数でバンドパスフィルタ処理を施し、それぞれ画像上の
各位置(x,y)に対応する周波数成分I1(x,y,
w0)、I1(x,y,w1)及びI1(x,y,w
2)を生成し、それぞれ対応する距離算出器13A、1
3B及び13Cに出力する。
【0029】図2は周波数分析器12Aの構成を示し、
他の周波数分析器12B〜12Fも同一の構成を有して
いる。周波数分析器12Aにおいては、撮像装置10か
ら供給された第1の画像信号i1(x,y)をハイパス
フィルタ21に入力する。ハイパスフィルタ21は、第
1の画像信号i1(x,y)の直流成分を除去し、ガボ
アフィルタ22A〜22Cに供給する。
【0030】ガボアフィルタ22A〜22Cは、(4)
式に示す2次元複素数正弦波関数と2次元ガウス関数の
積によって構成される。
【0031】
【数4】
【0032】このガボアフィルタ22A〜22Cは、ガ
ウス関数の標準偏差sで制限された局所領域内におい
て、それぞれ異なる方向tan-1(wy/wx)に沿っ
て中心周波数w=(wx2 +wy2 1/2 で変化する周
波数成分を第1の画像信号i1(x,y)から抽出し、
それぞれ対応する絶対値算出器23A〜23Cに供給す
る。一般に、低い空間周波数成分を抽出するためには画
像上においてより広い範囲の情報を用いる必要があるた
め、(4)式の標準偏差sは中心周波数wに応じて、
(5)式のように与えられる。
【0033】
【数5】
【0034】絶対値算出器23A〜23Cは、それぞれ
入力した周波数成分を絶対値化し、加算器24に供給す
る。加算器24は、絶対値算出器23A〜23Cから入
力した、それぞれ方向性の異なる周波数成分を加算し、
かくして周波数分析器12Aは角周波数wの周波数成分
I2(x,y,w0)を生成して距離算出器13A(図
1)に供給する。
【0035】図1において、周波数成分比較手段として
の距離算出器13A、13B及び13Cは、それぞれ入
力した撮像面位置の異なる2つの周波数成分I1(x,
y,w0)及びI2(x,y,w0)から、(6)式に
基づいて、第1の撮像面位置に対応する第1の錯乱円直
径d1(x,y)及び第2の撮像面位置に対応する第2
の錯乱円直径d2(x,y)を算出する。
【0036】
【数6】
【0037】ここで、mはn=1のときm=2、n=2
のときm=1となる整数である。またbnはレンズから
撮像面までの距離、Dはアイリスの直径であり、これら
は予め既知な値である。
【0038】また、r(x,y)は各画像の周波数成分
I1(x,y,w0),I2(x,y,w0)に依存し
た値であり、焦点ずれによるぼけのPSFを(7)式の
ガウス関数で近似し、またガウス関数の標準偏差sのp
倍を錯乱円の半径と定義することにより、(8)式で与
えられる。
【0039】
【数7】
【0040】
【数8】
【0041】そして距離算出器13A、13B及び13
Cは、それぞれ(6)式で得られた錯乱円直径を図5か
ら求まる(9)式に代入することにより画像上の位置
(x,y)に投影された被写体が合焦する撮像面位置b
0を算出する。
【0042】
【数9】
【0043】さらに距離算出器13A、13B及び13
Cは、それぞれ撮像面位置b0を(1)式に代入するこ
とにより被写体距離a0(x,y)を算出し、それぞれ
対応するラベル算出器14A、14B及び14Cに供給
する。
【0044】領域分割手段としてのラベル算出器14
A、14B及び14Cは、それぞれ入力した被写体距離
a0(x,y)に対して予め設定された閾値を用いて閾
値処理し、その結果に基づいて、画像上の各点(x,
y)に対して領域を表すラベルを貼り付けてラベル画像
L(x,y,w0)、L(x,y,w1)及びL(x,
y,w2)を生成し、ラベル補正器15に供給する。
【0045】例えば、閾値としてT0、T1、T2、…
…(T0<T1<T2……)が与えられている場合、ラ
ベル画像L(x,y,wk)は次式で与えられる。
【0046】
【数10】
【0047】領域分割手段としてのラベル補正器15
は、それぞれ異なる中心周波数に基づいて得られたラベ
ル画像L(x,y,w0)、L(x,y,w1)及びL
(x,y,w2)を統合し、最終的な領域分割結果を表
すラベル画像L(x,y,)を生成する。
【0048】図3はラベル補正器15を示し、ラベル修
正器15A及び15Bで構成される。ラベル修正器15
A及び15Bは、ある中心周波数wkに対応したラベル
画像L(x,y,wk)の各位置におけるラベルを(1
1)式を用いて修正し、修正ラベル画像L’(x,y,
wk)を生成する。
【0049】
【数11】
【0050】ラベル修正器15A及び15Bは、ある中
心周波数wkに対応したラベル画像L(x,y,wk)
に対して、中心周波数が一段階低い修正済みのラベル画
像L’(x,y,wk+1)を調べ、局所領域R内の単
一のラベルのみが存在する位置(x’,y’)を検出し
てL(x’,y’,wk)の値をL’(x’,y’,w
k+1)で置き換える。ラベル補正器15は、ラベル修
正器15A及び15Bによってこの修正を中心周波数の
低いラベル画像から順次繰り返し、最終的に得られた修
正ラベル画像L’(x,y,w0)を、領域分割の結果
としてのラベル画像L(x,y)として出力する。な
お、最低中心周波数wN(本実施例の場合はwN=w
2)に対する修正ラベル画像は、L’(x,y,wN)
=L(x,y,wN)として与えられる。
【0051】すなわちラベル修正器15Aはラベル画像
L(x,y,w1)に対して、修正ラベル画像L’
(x,y,w2)を調べて局所領域R内の単一のラベル
のみが存在する位置(x’,y’)を検出し、L
(x’,y’,w1)の値をL’(x’,y’,w2)
で置き換えて修正ラベル画像L’(x,y,w1)を生
成し、これをラベル修正器15Bに供給する。
【0052】ラベル修正器15Bはラベル画像L(x,
y,w0)に対して、修正ラベル画像L’(x,y,w
1)を調べて局所領域R内の単一のラベルのみが存在す
る位置(x’,y’)を検出し、L(x’,y’,w
0)の値をL’(x’,y’,w0)で置き換えて修正
ラベル画像L’(x,y,w0)を生成し、これをラベ
ル画像L(x,y)として出力する。
【0053】かくして画像処理装置1は、撮像装置10
で撮像して得られた第1の画像信号i1(x,y)及び
第2の画像信号i2(x,y)について、被写体までの
距離に基づいて画像の領域を分割してラベル画像L
(x,y)を生成する。
【0054】(1−2)第1の実施の形態の動作及び効
果以上の構成において、画像処理装置1は、撮像装置1
0によって撮像対象を2つの異なる撮像面位置で撮像
し、焦点ずれによるぼけの程度が異なる第1の画像信号
i1(x,y)及び第2の画像信号i2(x,y)を生
成する。
【0055】周波数分析器12A、12B及び12C
は、第2の画像信号i2(x,y)に対して、ハイパス
フィルタ21及びガボアフィルタ22A〜22Cを用い
てそれぞれ異なる中心周波数でバンドパスフィルタ処理
を施して周波数成分を抽出し、それぞれ周波数成分I2
(x,y,w0)、I2(x,y,w1)及びI2
(x,y,w2)を生成して対応する距離算出器13
A、13B及び13Cに出力する。
【0056】また周波数分析器12D、12E及び12
Fは、第1の画像信号i1(x,y)に対してそれぞれ
異なる中心周波数でバンドパスフィルタ処理を施して周
波数成分を抽出し、それぞれ周波数成分I1(x,y,
w0)、I1(x,y,w1)及びI1(x,y,w
2)を生成して対応する距離算出器13A、13B及び
13Cに出力する。
【0057】距離算出器13A、13B及び13Cは、
撮像面位置が異なる2つの画像信号から同一の中心周波
数で抽出された2つの周波数成分を用いて画像上の各位
置におけるぼけの錯乱円直径を算出し、当該錯乱円直径
に基づいて画像上の各位置の被写体距離a0(x,y)
を算出し、それぞれ対応するラベル算出器14A、14
B及び14Cに供給する。
【0058】ラベル算出器14A、14B及び14C
は、それぞれ被写体距離a0(x,y)に対して予め設
定された閾値を用いて閾値処理し、画像上の各点に対し
て領域を表すラベルを貼り付けたラベル画像L(x,
y,w0)、L(x,y,w1)及びL(x,y,w
2)を生成し、ラベル補正器15に供給する。
【0059】ラベル補正器15は、それぞれ異なる中心
周波数に基づいて得られたラベル画像L(x,y,w
0)、L(x,y,w1)及びL(x,y,w2)を統
合し、最終的な領域分割結果を表すラベル画像L(x,
y)を生成する。
【0060】以上の構成によれば、異なる撮像面位置で
撮像された第1の画像信号i1(x,y)及び第2の画
像信号i2(x,y)に対してバンドパスフィルタ処理
を施して周波数成分を抽出し、当該周波数成分を用いて
画像上の各位置における被写体距離を算出した後当該被
写体距離を閾値処理することにより、簡易な構成及び簡
易な演算で被写体領域分割処理を行うことができる。
【0061】(2)第2の実施の形態 (2−1)第2の実施の形態の構成 図1において、2は全体として本発明の第2の実施の形
態による画像処理装置を示し、ローパスフィルタ16A
〜16D及びダウンサンプル器17A〜17Dを有して
いること、及び周波数分析器18A〜18F内のガボア
フィルタが全て同一の中心周波数wを有していること以
外は、第1の実施の形態による画像処理装置1と同一で
ある。
【0062】撮像手段としての撮像装置10は、まず第
1の撮像面位置で撮像対象を撮像し、第1の画像信号i
1(x,y)をメモリ11に供給する。続いて撮像装置
10は第2の撮像面位置で撮像対象を撮像し、第2の画
像信号i2(x,y)を周波数分析器18A及びローパ
スフィルタ16Aに供給する。
【0063】ローパスフィルタ16Aは、第2の画像信
号i2(x,y)に対して固有の周波数でローパスフィ
ルタ処理を施して高周波成分を削減し、ダウンサンプル
器17Aに出力する。ダウンサンプル器17Aは、第2
の画像信号i2(x,y)に対して垂直及び水平方向に
ついて1画素おきの間引き処理を行って間引き画像信号
i2(x/2,y/2)を生成し、周波数分析器18B
及びローパスフィルタ16Bに供給する。ここでローパ
スフィルタ16Aは、第2の画像信号i2(x,y)の
高周波成分を削減することにより、ダウンサンプル器1
7Aにおける間引き処理によるエリアシングの発生を回
避する。
【0064】同様にローパスフィルタ16Bは、間引き
画像信号i2(x/2,y/2)に対して固有の周波数
でローパスフィルタ処理を施して高周波成分を削減し、
ダウンサンプル器17Bに出力する。ダウンサンプル器
17Bは、間引き画像信号i2(x/2,y/2)に対
して垂直及び水平方向について1画素おきの間引き処理
を行って間引き画像信号i2(x/4,y/4)を生成
し、周波数分析器18Cに供給する。
【0065】周波数成分抽出手段としての周波数分析器
18A、18B及び18Cは、それぞれ入力した第2の
画像信号i2(x,y)、間引き画像信号i2(x/
2,y/2)及び間引き画像信号i2(x/4,y/
4)に対して同一の中心周波数wでバンドパスフィルタ
処理を施し、それぞれ周波数成分I2(x,y,w)、
I2(x/2,y/2,w)及びI2(x/4,y/
4,w)を生成して対応する距離算出器13A、13B
及び13に供給する。
【0066】ここで、周波数分析器18Bに供給される
間引き画像信号i2(x/2,y/2)は、周波数分析
器18Aに供給される第2の画像信号i2(x,y)に
比べて、垂直及び水平方向について1/2の画素数とな
っている。このため周波数分析器18Bは、等価的にw
/2の周波数成分を抽出することになる。同様に、周波
数分析器18Cに供給される間引き画像信号i2(x/
4,y/4)は、周波数分析器18Aに供給される第2
の画像信号i2(x,y)に比べて、垂直及び水平方向
について1/4の画素数となっている。このため周波数
分析器18Cは、等価的にw/4の周波数成分を抽出す
ることになる。
【0067】すなわち、周波数分析器18Aを0段目と
し、周波数分析器18Bを1段目とすると、k段目の周
波数分析器はwk=w/2k の周波数成分を抽出する。
【0068】ここで、間引き画像信号i2(x/2,y
/2)は第2の画像信号i2(x,y)に比べて垂直及
び水平方向に1/2の画素数であるから、周波数分析器
18Bは周波数分析器18Aに比べて周波数成分の算出
における演算量が少なくなり、同様に周波数分析器18
Cは周波数分析器18Bに比べて周波数成分の算出にお
ける演算量が少なくなる。このため画像処理装置2は、
第1の実施の形態の画像処理装置1に比べて少ない演算
量で同一の処理を行うことができる。
【0069】一方、メモリ11は、第1の画像信号i1
(x,y)を遅延させ、第2の画像信号i2(x,y)
に同期して周波数分析器18D及びローパスフィルタ1
6Cに供給する。
【0070】ローパスフィルタ16Cは、第1の画像信
号i1(x,y)に対して固有の周波数でローパスフィ
ルタ処理を施して高周波成分を削減し、ダウンサンプル
器17Cに出力する。ダウンサンプル器17Cは、第1
の画像信号i1(x,y)に対して垂直及び水平方向に
ついて1画素おきの間引き処理を行って間引き画像信号
i1(x/2,y/2)を生成し、周波数分析器18E
及びローパスフィルタ16Dに供給する。
【0071】同様にローパスフィルタ16Dは、間引き
画像信号i1(x/2,y/2)に対して固有の周波数
でローパスフィルタ処理を施して高周波成分を削減し、
ダウンサンプル器17Dに出力する。ダウンサンプル器
17Dは、間引き画像信号i1(x/2,y/2)に対
して垂直及び水平方向について1画素おきの間引き処理
を行って間引き画像信号i1(x/4,y/4)を生成
し、周波数分析器18Fに供給する。
【0072】周波数成分抽出手段としての周波数分析器
18D、18E及び18Fは、それぞれ入力した第1の
画像信号i2(x,y)、間引き画像信号i1(x/
2,y/2)及び間引き画像信号i1(x/4,y/
4)に対して同一の中心周波数wでバンドパスフィルタ
処理を施し、それぞれ周波数成分I1(x,y,w)、
I1(x/2,y/2,w)及びI1(x/4,y/
4,w)を生成し、対応する周波数成分比較手段として
の距離算出器13A、13B及び13に供給する。
【0073】距離算出器13Aは、周波数成分I1
(x,y,w)及びI2(x,y,w)に基づいて被写
体距離a0(x,y)を算出し、ラベル算出器14Aに
供給する。
【0074】また距離算出器13Bは、周波数成分I1
(x/2,y/2,w)及び周波数成分I2(x/2,
y/2,w)に基づいて被写体距離a0(x/2,y/
2)を算出し、ラベル算出器14Bに供給する。
【0075】同様に距離算出器13Cは、周波数成分I
1(x/4,y/4,w)及び周波数成分I2(x/
4,y/4,w)に基づいて被写体距離a0(x/4,
y/4)を算出し、ラベル算出器14Cに供給する。
【0076】領域分割手段としてのラベル算出器14
A、14B及び14Cは、それぞれ入力した被写体距離
a0(x,y)、a0(x/2,y/2)及びa0(x
/4,y/4)に対して予め設定された閾値を用いて閾
値処理し、その結果に基づいて、画像上の各点に対して
領域を表すラベルを貼り付けてラベル画像L(x,y,
w)、L(x/2,y/2,w)及びL(x/4,y/
4,w)を生成し、ラベル補正器15に供給する。
【0077】領域分割手段としてのラベル補正器15
は、ラベル画像L(x,y,w)、L(x/2,y/
2,w)及びL(x/4,y/4,w)を統合し、最終
的な領域分割結果を表すラベル画像L(x,y)を生成
する。
【0078】ここでラベル画像L(x,y,w)、L
(x/2,y/2,w)及びL(x/4,y/4,w)
は、ダウンサンプル器16A〜16Dによる間引き処理
によって、それぞれ画素数が異なる。このためラベル補
正器15は各ラベル画像の画素数の違いを考慮して、
(12)式を用いてラベルの修正を行いラベル画像L
(x,y)を生成する。
【0079】
【数12】
【0080】(2−2)第2の実施の形態の動作及び効
果以上の構成において、画像処理装置2は、撮像装置1
0によって撮像対象を2つの異なる撮像面位置で撮像
し、焦点ずれによるぼけの程度が異なる第1の画像信号
i1(x,y)及び第2の画像信号i2(x,y)を生
成する。
【0081】そして画像処理装置2は、第2の画像信号
i2(x,y)及び第1の画像信号i1(x,y)をそ
れぞれ対応する周波数分析器18A及び18Dに供給す
るとともに、第2の画像信号i2(x,y)及び第1の
画像信号i1(x,y)をそれぞれ縦横1/2に間引き
処理して対応する周波数分析器18B及び18Eに供給
し、さらに第2の画像信号i2(x,y)及び第1の画
像信号i1(x,y)をそれぞれ縦横1/4に間引き処
理して対応する周波数分析器18C及び18Fに供給す
る。
【0082】周波数分析器18A〜18Fは、それぞれ
画像信号に対して同一の中心周波数でバンドパスフィル
タ処理を施して周波数成分を抽出し、対応する距離算出
器13A、13B及び13Cに出力する。
【0083】距離算出器13A、13B及び13Cは、
撮像面位置が異なる2つの画像信号から同一の中心周波
数で抽出された2つの周波数成分を用いて画像上の各位
置におけるぼけの錯乱円直径を算出し、当該錯乱円直径
に基づいて画像上の各位置の被写体距離a0(x,
y)、a0(x/2,y/2)及びa0(x/4,y/
4)を算出し、それぞれ対応するラベル算出器14A、
14B及び14Cに供給する。
【0084】ラベル算出器14A、14B及び14C
は、それぞれ被写体距離a0(x,y)、a0(x/
2,y/2)及びa0(x/4,y/4)に対して予め
設定された閾値を用いて閾値処理し、画像上の各点に対
して領域を表すラベルを貼り付けたラベル画像L(x,
y,w)、L(x/2,y/2,w)及びL(x/4,
y/4,w)を生成し、ラベル補正器15に供給する。
【0085】ラベル補正器15は、それぞれ異なる画素
数のラベル画像L(x,y,w)、L(x/2,y/
2,w)及びL(x/4,y/4,w)をを統合し、最
終的な領域分割結果を表すラベル画像L(x,y)を生
成する。
【0086】以上の構成によれば、異なる撮像面位置で
撮像された第1の画像信号i1(x,y)及び第2の画
像信号i2(x,y)をそれぞれ縦横1/2及び1/4
に間引き処理して周波数成分を抽出し、当該周波数成分
を用いて画像上の各位置における被写体距離を算出した
後当該被写体距離を閾値処理することにより、周波数成
分抽出処理の演算量を削減し、簡易な構成及び簡易な演
算で被写体領域分割処理を行うことができる。
【0087】(3)他の実施の形態なお上述の第1及び
第2の実施の形態においては、輝度信号でなる第1の画
像信号i1(x,y)及び第2の画像信号i2(x,
y)に基づいて被写体領域分割を行うようにしたが、本
発明はこれに限らず、カラー信号に基づいて被写体領域
分割を行うようにしても良い。
【0088】また上述の第1及び第2の実施の形態にお
いては、第1の画像信号i1(x,y)をメモリ11で
遅延し、第2の画像信号i2(x,y)に同期して後段
の周波数分析器に供給するようにしたが、本発明はこれ
に限らず、ブロックマッチング方法等による画像の位置
ずれ補正手段をメモリ11と後段の周波数分析器の間に
設け、撮像時における手ぶれ等による、第1の画像信号
i1(x,y)と第2の画像信号i2(x,y)との位
置ずれを補正するようにしても良い。
【0089】また上述の第1及び第2の実施の形態にお
いては、距離算出器で算出した被写体距離について複数
の閾値で閾値処理し、画像を複数の領域に分割したが、
本発明はこれに限らず、距離算出器で算出した被写体距
離について、一つの閾値で閾値処理し、画像を背景領域
及び被写体領域に分割するようにしても良い。
【0090】さらに上述の第1及び第2の実施の形態に
おいては、第1の画像信号i1(x,y)及び第2の画
像信号i2(x,y)に対して、それぞれ3つの周波数
分析器で周波数成分を抽出するようにしたが、本発明は
これに限らず、第1の画像信号i1(x,y)及び第2
の画像信号i2(x,y)に対してそれぞれ2つの周波
数分析器で周波数成分を抽出したり、あるいはそれぞれ
3つ以上の周波数分析器で周波数成分を抽出するように
しても良い。
【0091】さらに上述の第1及び第2の実施の形態に
おいては、撮像面位置の異なる2つの画像信号を用いて
被写体領域を抽出するようにしたが、本発明はこれに限
らず、撮像面位置の異なる2つ以上の画像信号を用いて
被写体領域を抽出するようにしてもよい。
【0092】
【発明の効果】以上の構成によれば、撮像した複数の画
像から周波数成分を抽出し、当該周波数成分を比較して
被写体までの距離情報を算出することにより、DFDの
簡便さを損なうことなく、簡易な構成及び簡易な演算で
被写体領域分割処理を行うことができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態による画像処理装置
の全体構成を示すブロック図である。
【図2】周波数分析器の構成を示すブロック図である。
【図3】ラベル補正器の構成を示すブロック図である。
【図4】本発明の第2の実施の形態による画像処理装置
の全体構成を示すブロック図である。
【図5】DFDの原理を示す略線図である。
【符号の説明】
1、2……画像処理装置、10……撮像装置、11……
メモリ、12A〜12F、18A〜18F……周波数分
析器、13A〜13C……距離算出器、14A〜14C
……ラベル算出器、15……ラベル補正器、16A〜1
6D……ローパスフィルタ、17A〜17D……ダウン
サンプル器、21……ハイパスフィルタ、22A〜22
C……ガボアフィルタ、23A〜23C……絶対値算出
器、24……加算器。
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G06T 7/60 G06F 15/70 330Z 350J Fターム(参考) 2F065 AA06 DD00 DD06 EE00 FF04 JJ03 JJ19 JJ26 LL04 LL30 QQ00 QQ11 QQ24 QQ25 QQ27 QQ28 QQ31 QQ33 QQ41 2F112 AB05 BA05 BA09 CA02 FA19 FA32 FA41 FA43 FA50 5B057 BA02 BA17 BA30 DA08 DB02 DB09 DC14 DC30 DC32 5L096 AA06 CA06 FA19 FA66 GA34 GA51 GA55 HA01 9A001 BB02 BB03 BB04 GG04 HH24 HH28 JJ71 KK37 KK42

Claims (20)

    【特許請求の範囲】
  1. 【請求項1】画像を領域分割して所望の被写体領域を抽
    出する画像処理装置において、 同一の情景に対して、焦点ずれによるぼけの程度が異な
    る複数の画像を撮像する撮像手段と、 上記複数の画像に基づいて、被写体までの距離情報を算
    出する距離情報算出手段と、 上記距離情報に基づいて、上記画像を複数の領域に分割
    する領域分割手段とを備えることを特徴とする画像処理
    装置。
  2. 【請求項2】上記距離情報算出手段は、上記画像の周波
    数成分を抽出する周波数成分抽出手段と、複数の上記画
    像それぞれから抽出された上記周波数成分を比較して上
    記距離情報を算出する周波数成分比較手段を有すること
    を特徴とする請求項1に記載の画像処理装置。
  3. 【請求項3】上記周波数成分抽出手段は、所定の方向に
    変化する上記周波数成分のみを上記画像から抽出する、
    方向性を有するバンドパスフィルタであることを特徴と
    する請求項2に記載の画像処理装置。
  4. 【請求項4】上記周波数成分抽出手段は、それぞれ中心
    周波数が同一で方向性の異なる周波数成分を上記画像か
    ら抽出する複数のバンドパスフィルタを有し、複数の当
    該バンドパスフィルタからそれぞれ出力される周波数成
    分の絶対値和を、上記中心周波数に対応した上記周波数
    成分とすることを特徴とする請求項2に記載の画像処理
    装置。
  5. 【請求項5】上記周波数成分抽出手段は、それぞれ中心
    周波数が異なる周波数成分を上記画像から抽出する複数
    のバンドパスフィルタを有することを特徴とする請求項
    2に記載の画像処理装置。
  6. 【請求項6】上記周波数成分抽出手段は、ハイパスフィ
    ルタ及びガボアフィルタからなることを特徴とする請求
    項2に記載の画像処理装置。
  7. 【請求項7】上記領域分割手段は、上記距離情報算出手
    段によって算出された上記距離情報を複数の閾値で閾値
    処理することにより、上記画像を複数の領域に分割する
    ことを特徴とする請求項1に記載の画像処理装置。
  8. 【請求項8】上記領域分割手段は、上記距離情報算出手
    段によって算出された上記距離情報を所定の1つの閾値
    で閾値処理することにより、上記画像を被写体領域と背
    景領域とに分割することを特徴とする請求項1に記載の
    画像処理装置。
  9. 【請求項9】上記周波数成分比較手段は、複数の上記バ
    ンドパスフィルタで抽出した複数の上記周波数成分それ
    ぞれから上記距離情報を算出し、 上記領域分割手段は、複数の上記距離情報それぞれに基
    づいて上記画像を領域分割して被写体領域を抽出し、複
    数の当該被写体領域を組み合わせて1つの被写体領域を
    生成することを特徴とする請求項5に記載の画像処理装
    置。
  10. 【請求項10】上記領域分割手段は、低い中心周波数を
    有するバンドパスフィルタによって得られた被写体領域
    の境界近傍部を、より高い中心周波数を有するバンドパ
    スフィルタによって得られた被写体領域で置き換えるこ
    とを特徴とする請求項9に記載の画像処理装置。
  11. 【請求項11】画像を領域分割して所望の被写体領域を
    抽出する画像処理方法において、 同一の情景に対して、焦点ずれによるぼけの程度が異な
    る複数の画像を撮像する撮像ステップと、 上記複数の画像に基づいて、被写体までの距離情報を算
    出する距離情報算出ステップと、 上記距離情報に基づいて、上記画像を複数の領域に分割
    する領域分割ステップとからなることを特徴とする画像
    処理方法。
  12. 【請求項12】上記距離情報算出ステップは、複数の上
    記画像それぞれから周波数成分を抽出する周波数成分抽
    出ステップと、複数の上記周波数成分を比較して上記距
    離情報を算出する周波数成分比較ステップとからなるこ
    とを特徴とする請求項11に記載の画像処理方法。
  13. 【請求項13】上記周波数成分抽出ステップは、所定の
    方向に変化する上記周波数成分のみを上記画像から抽出
    することを特徴とする請求項12に記載の画像処理方
    法。
  14. 【請求項14】上記周波数成分抽出ステップは、上記画
    像から中心周波数が同一で方向性の異なる複数の周波数
    成分を抽出し、当該複数の周波数成分の絶対値和を上記
    中心周波数に対応した上記周波数成分とすることを特徴
    とする請求項12に記載の画像処理方法。
  15. 【請求項15】上記周波数成分抽出ステップは、中心周
    波数の異なる複数の上記周波数成分を上記画像から抽出
    することを特徴とする請求項12に記載の画像処理方
    法。
  16. 【請求項16】上記周波数成分抽出ステップは、ハイパ
    スフィルタ及びガボアフィルタからなることを特徴とす
    る請求項12に記載の画像処理方法。
  17. 【請求項17】上記領域分割ステップは、上記距離情報
    算出ステップで算出した上記距離情報を複数の閾値で閾
    値処理することにより、上記画像を複数の領域に分割す
    ることを特徴とする請求項11に記載の画像処理方法。
  18. 【請求項18】上記領域分割ステップは、上記距離情報
    算出ステップで算出した上記距離情報を所定の1つの閾
    値で閾値処理することにより、上記画像を被写体領域と
    背景領域とに分割することを特徴とする請求項11に記
    載の画像処理方法。
  19. 【請求項19】上記周波数成分比較ステップは、中心周
    波数の異なる複数の上記周波数成分それぞれから上記距
    離情報を算出し、 上記領域分割ステップは、複数の上記距離情報それぞれ
    に基づいて上記画像を領域分割して被写体領域を抽出
    し、複数の当該被写体領域を組み合わせて1つの被写体
    領域を生成することを特徴とする請求項15に記載の画
    像処理方法。
  20. 【請求項20】上記領域分割ステップは、低い中心周波
    数の周波数成分に基づいて抽出した被写体領域の境界近
    傍部を、より高い中心周波数の周波数成分に基づいて抽
    出した被写体領域で置き換えることを特徴とする請求項
    19に記載の画像処理方法。
JP2000021814A 2000-01-26 2000-01-26 画像処理装置及び画像処理方法 Expired - Fee Related JP4403477B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000021814A JP4403477B2 (ja) 2000-01-26 2000-01-26 画像処理装置及び画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000021814A JP4403477B2 (ja) 2000-01-26 2000-01-26 画像処理装置及び画像処理方法

Publications (3)

Publication Number Publication Date
JP2001208524A true JP2001208524A (ja) 2001-08-03
JP2001208524A5 JP2001208524A5 (ja) 2006-12-14
JP4403477B2 JP4403477B2 (ja) 2010-01-27

Family

ID=18548177

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000021814A Expired - Fee Related JP4403477B2 (ja) 2000-01-26 2000-01-26 画像処理装置及び画像処理方法

Country Status (1)

Country Link
JP (1) JP4403477B2 (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003019475A1 (fr) * 2001-08-23 2003-03-06 Sony Corporation Appareil robotique, procede de reconnaissance faciale, et appareil de reconnaissance faciale
US7027659B1 (en) * 1998-05-20 2006-04-11 Texas Instruments Incorporated Method and apparatus for generating video images
JP2009080076A (ja) * 2007-09-27 2009-04-16 Nippon Steel Corp 成形品の形状評価方法及び装置
JP2009140496A (ja) * 2007-12-03 2009-06-25 Ricoh Co Ltd 電光カラー画像処理システム及びレンズシステム
JP2013512626A (ja) * 2009-12-16 2013-04-11 ソニー エレクトロニクス インク シーン内の正確な及び相対的な被写体距離を推定するためのアルゴリズム
JP2013242617A (ja) * 2012-05-17 2013-12-05 Canon Inc 画像処理装置、撮像装置、距離計測方法および距離計測プログラム
JP2014044117A (ja) * 2012-08-27 2014-03-13 Canon Inc 距離情報取得装置、撮像装置、距離情報取得方法、及び、プログラム
JP2015036632A (ja) * 2013-08-12 2015-02-23 キヤノン株式会社 距離計測装置、撮像装置、距離計測方法
JP2015072155A (ja) * 2013-10-02 2015-04-16 キヤノン株式会社 画像処理装置、撮像装置及び画像処理方法
US9117277B2 (en) 2012-04-04 2015-08-25 Canon Kabushiki Kaisha Determining a depth map from images of a scene
WO2016006901A1 (ko) * 2014-07-08 2016-01-14 재단법인 다차원 스마트 아이티 융합시스템 연구단 이미지로부터 깊이 정보를 추출하는 방법 및 장치
US9324153B2 (en) 2012-05-11 2016-04-26 Canon Kabushiki Kaisha Depth measurement apparatus, image pickup apparatus, depth measurement method, and depth measurement program
JP2016114528A (ja) * 2014-12-16 2016-06-23 東洋ゴム工業株式会社 流体計測方法、流体計測装置、流体計測用データ生成方法、流体計測用データ生成装置、及びコンピュータプログラム
US9710913B2 (en) 2014-04-18 2017-07-18 Canon Kabushiki Kaisha Image processing apparatus that forms distance image and control method thereof, as well as storage medium

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6157249B2 (ja) 2012-07-31 2017-07-05 キヤノン株式会社 撮像装置、距離情報取得方法およびプログラム
JP6335423B2 (ja) 2012-08-31 2018-05-30 キヤノン株式会社 情報処理装置および情報処理方法

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7027659B1 (en) * 1998-05-20 2006-04-11 Texas Instruments Incorporated Method and apparatus for generating video images
US7369686B2 (en) 2001-08-23 2008-05-06 Sony Corporation Robot apparatus, face recognition method, and face recognition apparatus
KR100941209B1 (ko) 2001-08-23 2010-02-10 소니 주식회사 로봇 장치, 얼굴 인식 방법 및 얼굴 인식 장치
WO2003019475A1 (fr) * 2001-08-23 2003-03-06 Sony Corporation Appareil robotique, procede de reconnaissance faciale, et appareil de reconnaissance faciale
JP2009080076A (ja) * 2007-09-27 2009-04-16 Nippon Steel Corp 成形品の形状評価方法及び装置
JP2009140496A (ja) * 2007-12-03 2009-06-25 Ricoh Co Ltd 電光カラー画像処理システム及びレンズシステム
JP2013512626A (ja) * 2009-12-16 2013-04-11 ソニー エレクトロニクス インク シーン内の正確な及び相対的な被写体距離を推定するためのアルゴリズム
US9117277B2 (en) 2012-04-04 2015-08-25 Canon Kabushiki Kaisha Determining a depth map from images of a scene
US9324153B2 (en) 2012-05-11 2016-04-26 Canon Kabushiki Kaisha Depth measurement apparatus, image pickup apparatus, depth measurement method, and depth measurement program
JP2013242617A (ja) * 2012-05-17 2013-12-05 Canon Inc 画像処理装置、撮像装置、距離計測方法および距離計測プログラム
JP2014044117A (ja) * 2012-08-27 2014-03-13 Canon Inc 距離情報取得装置、撮像装置、距離情報取得方法、及び、プログラム
JP2015036632A (ja) * 2013-08-12 2015-02-23 キヤノン株式会社 距離計測装置、撮像装置、距離計測方法
JP2015072155A (ja) * 2013-10-02 2015-04-16 キヤノン株式会社 画像処理装置、撮像装置及び画像処理方法
US9264606B2 (en) 2013-10-02 2016-02-16 Canon Kabushiki Kaisha Processing device, image pickup device and processing method
US9710913B2 (en) 2014-04-18 2017-07-18 Canon Kabushiki Kaisha Image processing apparatus that forms distance image and control method thereof, as well as storage medium
WO2016006901A1 (ko) * 2014-07-08 2016-01-14 재단법인 다차원 스마트 아이티 융합시스템 연구단 이미지로부터 깊이 정보를 추출하는 방법 및 장치
KR20160005984A (ko) * 2014-07-08 2016-01-18 재단법인 다차원 스마트 아이티 융합시스템 연구단 이미지로부터 깊이 정보를 추출하는 방법 및 장치
KR101600183B1 (ko) 2014-07-08 2016-03-04 재단법인 다차원 스마트 아이티 융합시스템 연구단 이미지로부터 깊이 정보를 추출하는 방법 및 장치
JP2016114528A (ja) * 2014-12-16 2016-06-23 東洋ゴム工業株式会社 流体計測方法、流体計測装置、流体計測用データ生成方法、流体計測用データ生成装置、及びコンピュータプログラム

Also Published As

Publication number Publication date
JP4403477B2 (ja) 2010-01-27

Similar Documents

Publication Publication Date Title
JP4403477B2 (ja) 画像処理装置及び画像処理方法
CN107316326B (zh) 应用于双目立体视觉的基于边的视差图计算方法和装置
KR100938195B1 (ko) 스테레오 매칭을 이용한 거리 추정 장치 및 추정 방법
KR20150120066A (ko) 패턴 프로젝션을 이용한 왜곡 보정 및 정렬 시스템, 이를 이용한 방법
JP5810314B2 (ja) ステレオ画像処理装置およびステレオ画像処理方法
US20160224866A1 (en) Imaging device and phase difference detection method
JP2015197745A (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JPWO2013038833A1 (ja) 画像処理システム、画像処理方法および画像処理プログラム
CN110505398B (zh) 一种图像处理方法、装置、电子设备及存储介质
WO2012060093A1 (ja) ステレオ画像処理装置及びステレオ画像処理方法
JP2015186170A (ja) 画像処理装置および画像処理方法
WO2019146510A1 (ja) 画像処理装置
KR20190033037A (ko) 이미징 시스템의 점 확산 함수를 결정하는 방법
US20140327741A1 (en) 3D Camera And Method Of Image Processing 3D Images
JP6494402B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
JP2019207464A (ja) 位相差検出器及び画像処理装置、並びにプログラム
JP2016156702A (ja) 撮像装置および撮像方法
Chen et al. Recovering depth from a single image using spectral energy of the defocused step edge gradient
JP5891751B2 (ja) 画像間差分装置および画像間差分方法
JPH0875454A (ja) 測距装置
JP7373297B2 (ja) 画像処理装置、画像処理方法及びプログラム
KR101869226B1 (ko) 이종 카메라를 위한 시차 맵 생성 방법
JPH11120359A (ja) 画像処理装置および方法、並びに伝送媒体
JP6595858B2 (ja) 画像処理装置及び画像処理方法
Ma et al. HUD image vibration detection on improved edge detection and corner extraction

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060426

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061031

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061031

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081002

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090212

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090408

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090625

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090821

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091008

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091021

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121113

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121113

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131113

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees