JP4281929B2 - Edge enhancement apparatus and edge enhancement method - Google Patents
Edge enhancement apparatus and edge enhancement method Download PDFInfo
- Publication number
- JP4281929B2 JP4281929B2 JP34491398A JP34491398A JP4281929B2 JP 4281929 B2 JP4281929 B2 JP 4281929B2 JP 34491398 A JP34491398 A JP 34491398A JP 34491398 A JP34491398 A JP 34491398A JP 4281929 B2 JP4281929 B2 JP 4281929B2
- Authority
- JP
- Japan
- Prior art keywords
- edge
- image
- subject
- edge enhancement
- width
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Picture Signal Circuits (AREA)
- Studio Devices (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、デジタルカメラに用いて好適なエッジ強調装置及びエッジ強調方法に関する。
【0002】
【従来の技術】
従来、例えばデジタルカメラ、デジタルビデオカメラ等においては、より自然な画像データを得るため、撮像により得た画像データに対して、画像中のエッジ部分、すなわち輪郭部分を決められた度合で強調する画像処理が一般に行われている。また、このようなエッジ強調では、例えば画像中の所定幅のエッジ部分の輝度を一定量増大させる等によって行われている。
【0003】
【発明が解決しようとする課題】
しかしながら、従来の画像処理おいては、画像中のエッジを強調する度合が常に一定であったことから、その強調度合が、例えば近距離撮影、あるいは望遠による撮影が行われた場合のように、主たる撮影対象物である被写体の画面内での大きさが大きいポートレート等の粗い画像に合わせて設定されていると、例えば遠距離撮影、あるいは広角による撮影が行われた場合のように、画面内に比較的小さな被写体が多数存在する風景写真等の細かい画像ではエッジ強調に不足が生じ、逆に風景写真等の細かい画像に合わせて設定されていると、ポートレート等の粗い画像ではエッジ強調が過度となる等、内容の異なるすべての画像に対して十分な効果が得られないという問題があった。
【0004】
本発明は、かかる従来の課題に鑑みてなされたものであり、画像の内容に適したエッジ強調を行うことにより、より自然な画像を得ることが可能となるエッジ強調装置、エッジ強調方法を提供することを目的とする。
【0005】
【課題を解決するための手段】
前記課題を解決するために請求項1のエッジ強調装置にあっては、被写体までの距離またはズーム倍率に基づいて、撮像素子により得られた画像に占める被写体の大きさを判断する判断手段と、この判断手段により画像に占める被写体が大きいと判断された場合、前記撮像素子により得られた画像に含まれるエッジ部分のエッジ幅を第1の所定幅まで広げると同時に、前記エッジ部分の輝度を第1の強度で強調することによりエッジ強調を行う第1の制御手段と、前記判断手段により画像に占める被写体が小さいと判断された場合、前記撮像素子により得られた画像に含まれるエッジ部分のエッジ幅を前記第1の所定幅よりも狭い第2の所定幅まで広げると同時に、前記エッジ部分の輝度を第1の強度よりも強い第2の強度で強調することによりエッジ強調を行う第2の制御手段と、を備えたことを特徴とする。
【0006】
さらに、請求項2のエッジ強調装置にあっては、第1のエッジ抽出フィルタと、前記第1のエッジ抽出フィルタとは異なる第2のエッジ抽出フィルタとを備え、前記第1の制御手段は、前記判断手段により画像に占める被写体が大きいと判断された場合、前記第1のエッジ抽出フィルタを選択することにより前記撮像素子により得られた画像に含まれるエッジ部分のエッジ幅を第1の所定幅まで広げ、前記第2の制御手段は、前記判断手段により画像に占める被写体が小さいと判断された場合、前記第2のエッジ抽出フィルタを選択することにより前記撮像素子により得られた画像に含まれるエッジ部分のエッジ幅を前記第1の所定幅よりも狭い第2の所定幅まで広げることを特徴とする。
【0007】
さらに、請求項3のエッジ強調装置にあっては、前記判断手段は、被写体までの距離が近く、且つ、ズーム倍率が高いほど、前記撮像素子により得られた画像に占める被写体が大きいと判断することを特徴とする。
【0008】
さらに、請求項4のエッジ強調装置にあっては、被写体までの撮影距離を取得する取得手段を備え、前記判断手段は、前記取得手段により取得された撮影距離が所定距離以上であるか否かに応じて、画像に占める被写体が大きいか否かを判断することを特徴とする。
【0009】
さらに、請求項5のエッジ強調装置にあっては、前記取得手段は、更にズーム倍率を取得する手段を含み、前記判断手段は、更に前記取得手段により取得されたズーム倍率に基づき前記所定距離を変更する変更手段を含み、前記取得手段により取得された撮影距離が前記変更手段により変更された所定距離以上であるか否かに応じて、画像に占める被写体が大きいか否かを判断することを特徴とする。
【0010】
さらに、請求項6のエッジ強調装置にあっては、ズーム倍率を取得する取得手段を備え、前記判断手段は、前記取得手段により取得されたズーム倍率が所定倍率以上であるか否かに応じて、画像に占める被写体が大きいか否かを判断することを特徴とする。
【0011】
さらに、請求項7のエッジ強調装置にあっては、前記撮像素子により得られた画像に含まれる高周波成分の量を取得する取得手段を備え、前記第1の制御手段および前記第2の制御手段は、前記判断手段により取得された高周波成分の量に応じて、前記エッジ部分のエッジ幅を変化させることを特徴とする。
【0012】
また、請求項8のエッジ強調方法にあっては、被写体までの距離またはズーム倍率に基づいて、撮像素子により得られた画像に占める被写体の大きさを判断する判断工程と、この判断工程により画像に占める被写体が大きいと判断された場合、前記撮像素子により得られた画像に含まれるエッジ部分のエッジ幅を第1の所定幅まで広げると同時に、前記エッジ部分の輝度を第1の強度で強調することによりエッジ強調を行う第1の制御工程と、前記判断工程により画像に占める被写体が小さいと判断された場合、前記撮像素子により得られた画像に含まれるエッジ部分のエッジ幅を前記第1の所定幅よりも狭い第2の所定幅まで広げると同時に、前記エッジ部分の輝度を第1の強度よりも強い第2の強度で強調することによりエッジ強調を行う第2の制御工程と、からなることを特徴とする。
【0013】
【発明の実施の形態】
[第1の実施の形態]
以下、本発明の一実施の形態を図に従って説明する。図1は、本発明の第1の実施の形態に係る、オートフォーカス機能を備えたデジタルカメラの概略構成を示すブロック図である。撮像素子であるCCD1は図示しないレンズにより結像された像を画像信号に変換して出力する。CCD1により撮像された画像信号は、所定のタイミング信号に基づき順次A/D変換器2によりデジタル画像信号に変換されてYUV変換回路3に送られる。YUV変換回路3は、入力信号から輝度信号(Y信号)と、2つの色信号(Cb信号,Cr信号)を生成する。生成されたY、Cb、Crの3種類の信号はエッジ強調回路4へ送られ、エッジ強調回路4により信号中に含まれるエッジを強調するエッジ強調処理が行われた後、圧縮処理等を経て画像データとしてメモリ5に記憶される。
【0014】
図2は、前記エッジ強調回路4を示すブロック図であって、エッジ強調回路4は、エッジ抽出フィルタ6、コアリング回路7、アンプ8、加算器9から構成されている。また、図3は、エッジ強調回路4の各部における信号波形を示した図であって、同図(a)は前記YUV変換回路3から入力するY信号、同図(b)はエッジ抽出フィルタ6の出力、同図(c)はコアリング回路7の出力信号、同図(d)はアンプ8の出力信号、同図(e)は加算器9の出力信号をそれぞれ示している。
【0015】
前記エッジ抽出フィルタ6は一種のハイパスフィルタ或いはマスクフィルタであって、YUV変換回路3からY信号を送られるとともに、所定の画素単位毎、例えば5×5画素単位(図10のa参照)に、中心画素及びそれと近接する周囲の画素の輝度に応じてY信号の振幅を所定の幅だけ増減する(エッジ抽出を行う)。コアリング回路7は、エッジ抽出フィルタ6の出力信号の振幅を一定のコアリングレベルLにカットしノイズを取り除く。アンプ8は、コアリング回路7の出力信号を増幅し加算器9へ送る。そして、加算器9が、アンプ8により増幅された輝度信号をYUV変換回路3の出力信号に加算することにより、信号中に含まれるエッジが強調される。また、アンプ8は、ゲインの可変制御が可能となっており、デジタルカメラの各部を制御するCPU10から送られるゲイン制御信号によってゲインが可変される。CPU10は、撮影時の撮影対象である被写体までの距離、すなわち被写体距離(撮影距離)を測定するオートフォーカス用の測距センサ11から送られる測距データに基づき、ROM12に記録されているプログラムに従いアンプ8のゲインを制御する。すなわち本実施の形態においてはエッジ強調回路4、CPU10、測距センサ11によって本発明のエッジ強調装置が構成されている。
【0016】
図4は、測距センサ11の測距可能距離が0.25m〜8である場合に、撮影時にCPU10が行う前記アンプ8のゲイン調整処理に関する動作を示すフローチャートである。すなわちCPU10は、撮影操作が行われると(ステップSA1でYES)、測距センサ11から送られた測距データに基づき被写体距離Kを判別し(ステップSA2)、それが0.25m以上、1m未満であるときには、図5(a)に示すようにアンプ8のゲインを1倍に設定する(ステップSA3でYES、ステップSA4)。これに伴い、加算器9から出力される画像信号においては、エッジ部分の振幅が基準となる一定量だけ増幅された信号となる。また、被写体距離Kが1m以上、20m未満であるときには、図5(b)に示すようにゲインを2倍に設定する(ステップSA5でYES、ステップSA6)。これに伴い、エッジ抽出フィルタ6に入力するY信号が同一であったとしても、加算器9から出力される画像信号においては、エッジ部分の振幅が2倍に増幅された信号となる。また、被写体距離Kが20m以上であるときには、図5(c)に示すようにゲインを3倍に設定する(ステップSA5でNO、ステップSA7)。これに伴い、エッジ抽出フィルタ6に入力するY信号が同一であったとしても、加算器9から出力される画像信号においては、エッジ部分の振幅が3倍に増幅された信号となる。すなわち、被写体距離が遠くなるに従い信号中のエッジ部分の輝度(エッジの強調度合)が「弱」、「中」、「強」の三段階に変化する。言い換えれば、信号中のエッジ部分の濃度が段階的に濃くなる。
【0017】
ここで、一般に、ポートレート等では被写体距離は近く(0.25m〜1m)、また風景写真等では被写体距離は遠い(20m〜)。したがって、本実施の形態によれば、ポートレート等のように主たる撮影対象物である被写体の画面内での大きさが大きな粗い画像ではエッジの強調度合を小さくすることにより、エッジが過度に強調されることのない自然な画像が得られる。また風景写真等のように画面内に比較的小さな被写体が多数存在する細かい画像ではエッジの強調度合を大きくすることにより、細かい部分が鮮明に表現された自然な画像が得られる。
[第2の実施の形態]
次に、本発明の第2の実施の形態について説明する。本実施の形態は、図1、図2に示したデジタルカメラがズーム機能を有するとともに、CPU10がズーム倍率の情報を有する構成において、前述したアンプ8のゲイン調整を被写体距離とズーム倍率とに基づき行うものである。以下、本実施の形態において、撮影時にCPU10が行う他のゲイン調整処理に関する動作を図6のフローチャートに従い説明する。なお、使用可能なズーム倍率の範囲は35mmフィルム換算で32mm〜64mm相当の倍率とする。
【0018】
すなわちCPU10は、撮影操作が行われると(ステップSB1でYES)、その時点でのズーム倍率が、48mm以上に相当するテレ側の倍率であるか否かを判断する(ステップSB2)。ここでズーム倍率がテレ側であれば、ゲインを1倍と2倍(「弱」と「中」)との変更点となる被写体距離である切換距離Nを1mとし(ステップSB3)、ズーム倍率がワイド側つまり48mm未満に相当する倍率であれば、前記切換距離Nを0.5mとする(ステップSB4)。そして、測距センサ11から送られた測距データに基づき被写体距離Kを判断し(ステップSB5)、それが0.25m以上、切換距離N未満であるときにはアンプ8のゲインを1倍に(ステップSB6でYES、ステップSB7)、切換距離N以上、20m未満であるときにはゲインを2倍に設定し(ステップSB8でYES、ステップSB9)、また20m以上であるときにはゲインを3倍に設定する(ステップSB8でNO、ステップSB10)。
【0019】
これにより、図7に示すように、ズーム倍率がテレ側であった場合には、前述した第1の実施の形態と同様のゲイン調整が行われる。一方、ズーム倍率がワイド側であった場合には、例えば被写体距離が0.5m〜1mの間であるときにはアンプ8のゲインを2倍に制御し、エッジの強調度合を「中」とする。つまり、被写体距離が同一であっても、ズーム倍率がワイド側である場合には、画面内に比較的小さな被写体が多数存在する細かい画像と判断し、その画像の内容に適したエッジ強調が行われる。よって、第1の実施の形態に示したものに比べると、画像の内容をより正確に判断できるため、画像の内容により適したエッジ強調を行うことができる。
【0020】
なお、第1及び第2の実施の形態においては、アンプ8の設定ゲインを3段階設けたものを示したが、当然の如く、設定ゲインを4段階以上としたり、さらには被写体距離(及び/又はズーム倍率)に比例してゲインを無段階的に変化させるようにしても構わない。
【0021】
また、以上のゲイン調整処理と別に、前記CPU10にズーム倍率のみに基づいたゲイン調整処理を行わせてもよい。例えば図8に示すように、予め被写体距離に関係なく、ズーム倍率が「テレ側」であるときにはアンプ8の設定ゲインを「1倍」とし、また、ズーム倍率が「ワイド側」であるときにはアンプ8の設定ゲインを「2倍」(あるいは2.5倍等)とし、ゲイン調整処理を行わせる。かかる処理においても、撮影されたものが、主たる撮影対象物である被写体の画面内での大きさが大きいポートレート等の粗い画像であることが予想される条件下ではエッジの強調度合を弱くし、かつ画面内に比較的小さな被写体が多数存在する細かい画像であることが予想される条件下ではエッジの強調度合を強くすることができる。よって、前述した第2の実施の形態に比べると画像の内容の判定精度は低下するものの、従来のように常に強調度合が一定である場合に比較すると、より自然な画質を得ることができる。また、かかるゲイン調整処理においても、アンプ8の設定ゲインを決めるズーム倍率の段階数を多くしたり、ズーム倍率に比例してゲインを無段階的に変化させた方が、より自然な画質を得ることが期待できる。
[第3の実施の形態]
次に、本発明の第3の実施の形態について説明する。図9は、図1に示した概略構成を有する他のデジタルカメラにおいてエッジ強調処理を行う他のエッジ強調回路14を示すブロック図である。以下、同一の構成については同一の符号を付し説明を省略し、異なる部分についてのみ説明する。すなわち本実施の形態のエッジ強調回路14には、第1の実施の形態で説明したものと同様にY信号に対してエッジ抽出処理を行う第1のエッジ抽出フィルタ15と第2のエッジ抽出フィルタ16とが設けられている。双方のエッジ抽出フィルタ15,16は、互いの入力側と出力側にそれぞれ接続された一対の切換スイッチ17,18を介して、前述したYUV変換回路3とコアリング回路7に接続されている。
【0022】
第1のエッジ抽出フィルタ15は、図10(a)に示すように5×5画素の単位毎に、中心画素及びそれと近接する周囲の画素の輝度に応じてY信号の振幅を所定の幅だけ増減するものであり、これを用いることにより、図10(b)に示すように2画素分のエッジ抽出が可能となる。同様に、第2のエッジ抽出フィルタ16は、図11(a)に示すように3×3画素の単位毎にY信号の振幅を所定の幅だけ増減するものであり、これを用いることにより、図11(b)に示すように1画素分のエッジ抽出が可能となる。つまり、第1のエッジ抽出フィルタ15と第2のエッジ抽出フィルタ16とでは、前者に比べ後者の方が幅の狭いエッジの抽出が可能なものとなっている。
【0023】
また、前記一対の切換スイッチ17,18は、デジタルカメラの各部を制御するCPU10から送られる切換信号に基づき動作し、第1のエッジ抽出フィルタ15と第2のエッジ抽出フィルタ16とのいずれか一方側の回路を閉じる。CPU10による一対の切換スイッチ17,18の制御は、測距センサ11から送られる測距データに基づきROM12に記録されているプログラムに従って行われる。すなわち、本実施の形態においては、前記測距データから判断される被写体距離が、最短の0.25m以上、1m未満のときには第1のエッジ抽出フィルタ15側の回路を閉じさせ、1m以上のときには第2のエッジ抽出フィルタ16側の回路を閉じさせるようになっている。
【0024】
したがって、以上の構成からなる本実施の形態においては、図12に示すように、撮影時における被写体距離が0.25m以上、1m未満であって、撮影されたものが粗い画像であると判断できるときには、第1のエッジ抽出フィルタ15を経てコアリング回路7から出力される画像信号、加算器9から出力される画像信号が、2画素分の太いエッジ成分を有するものとなる。よって、近景撮影でのポートレート等では強調するエッジ部分のエッジ幅を太くすることにより、より自然な画像が得られる。また、撮影時における被写体距離が1m以上であって、撮影されたものが細かい画像であると判断できるときには、第2のエッジ抽出フィルタ16を経てコアリング回路7から出力される画像信号、加算器9から出力される画像信号は、1画素分の細いエッジ成分を有するものとなる。よって、遠景撮影での細かな被写体の集合である風景写真等では強調するエッジ部分のエッジ幅を細くすることにより、細かい部分が鮮明に現れる、より自然な画像が得られる。
【0025】
なお、本実施の形態においては、撮影時の被写体距離にのみ基づき、第1のエッジ抽出フィルタ15と第2のエッジ抽出フィルタ16の使用(強調すべきエッジの幅)を切り換えるようにしたが、第2の実施の形態で既説したものと同様に、デジタルカメラがズーム機能を有するとともに、CPU10がズーム倍率の情報を有する構成であれば、被写体距離とズーム倍率とに基づきエッジの幅を切り換えるようにしてもよい。その場合には、画像の内容をより正確に判断することができるため、より一層自然な画質を得ることができる。また、ズーム倍率のみに基づきエッジの幅を切り換えるようにしてもよい。また、第2及び第3の実施の形態を組み合わせるようにしてもよい。つまり、被写体距離及び又はズーム倍率に応じてフィルタ切り換え及びゲイン切り換えを行なうようにしてもよい。
[第4の実施の形態]
次に、本発明の第4の実施の形態について説明する。図13は、本発明に係るデジタルカメラの概略構成を示すブロック図である。このデジタルカメラは図1に示したものと同様にCCD1、A/D変換器2、YUV変換回路3、エッジ強調回路14、メモリ5を備え、YUV変換回路3から出力された画像信号(Y信号)の一部が、空間周波数検出回路21へ送られ全波整流回路22を経てエッジ強調回路4に入力されるよう構成されている。空間周波数検出回路21は、画像信号における1ライン毎の濃淡変化を検出するものであり、その出力信号の空間周波数は、CCD1が撮像した画像が風景写真等の細かな画像である場合には、図15(a)に示すように高周波成分の量が多くなり、また、CCD1が撮像した画像がポートレート等の粗い画像である場合には、同図(b)に示すように高周波成分の量が少なくなる。全波整流回路22は前記高周波成分の量を検出するための回路であって、前記高周波成分の量が反映された検出信号をCPU10へ送る。CPU10は、前記検出信号に基づきROM12に記憶されているプログラムに従いエッジ強調回路14の動作を制御する。
【0026】
また、図14は、前記エッジ強調回路14を示すブロック図である。この回路は、図から明らかなように、前記全波整流回路22の検出信号がCPU10に入力される以外については第3の実施の形態で説明したものと全く同一である。そして、CPU10は、全波整流回路22の検出信号により示される前記空間周波数の高周波成分の量に基づき、ROM12に記録されているプログラムに従い、その量が決められた切換量よりも多い場合(図15のa参照)には第2のエッジ抽出フィルタ16側の回路を閉とし、また、高周波成分の量が前記切換量よりも少ない場合(図15のb参照)には第1のエッジ抽出フィルタ15側の回路を閉とする制御を行う。すなわち空間周波数検出回路21と全波整流回路22とにより本発明の取得手段が構成され、エッジ強調回路14、CPU10等により本発明のエッジ強調手段が構成されている。
【0027】
かかる構成においては、前記切換量を適宜設定しておくことにより、強調するエッジ部分のエッジ幅(太さ)を、撮像された画像に適切な幅(太さ)とすることができるため、第3の実施の形態と同様の効果が得られる。しかも、本実施の形態においては、エッジ幅の切り換えを、画像信号における空間周波数の高周波成分量に基づき行う、つまり撮像された個々の画像から直接得られる情報によって、撮影されたものが細かい画像であるか粗い画像であるかを判断することから、第1乃至第3の実施の形態に示した被写体距離やズーム倍率から画像の内容を判断するものに比べ、それが正確に判断できる。よって、撮像された個々の画像に対するエッジ強調を、より一層適したものとすることができる。
【0028】
なお、かかる効果は、本実施の形態と同様に、画像信号における空間周波数の高周波成分量から画像の内容を判断するようにすれば、第1及び第2の実施の形態のように信号中に含まれる強調するエッジの濃淡を変化させる構成においても得ることができる。また、高周波成分量に応じてフィルタ切り換え及びゲイン切り換えを行なうようにしてもよい。また、本実施の形態及び第3の実施の形態のように信号中に含まれる強調するエッジのエッジ幅を変化させるものにあっては、前述した第1及び第2のエッジ抽出フィルタ15,16の他に、例えばそれらが抽出するエッジの幅の中間幅のエッジを抽出する他のエッジ抽出フィルタを用意し、画像信号における空間周波数の高周波成分量に基づき、より他段階に強調するエッジのエッジ幅を変化させれば、より一層適切なエッジ強調を行うことができる。
【0029】
また、本実施の形態においては、撮影時に取得した画像信号に対してエッジ強調を行う場合を示したが、前述した画像の内容を判断する情報を有する画像データがメモリ5等に記録されている場合には、そのような画像データに対しても前述したエッジ強調処理を行うことにより、本実施の形態と同様の効果が得られる。なおその場合、記録されている画像データが事前に、従来のエッジ強調処理が施されているか否かの別によって、エッジ強調の度合を変えたり、エッジ強調の度合の変え方(前述したエッジ部分の濃度又はエッジ幅)を変えたりすれば、より適切なエッジ強調を行うことができる。また、被写体距離を距離センサによって取得する場合を説明したが、例えばコントラストAFを行うデジタルカメラにおけるAFレンズ位置等のように、距離センサ以外によって被写体距離を取得する構成としてもよい。また、ズーム倍率に応じたエッジ強調処理を行うものでは、ズーム倍率として電子ズームの倍率、または光学ズームと電子ズームの両方を組合せた時の倍率のいずれによってエッジ強調の度合を変えるようにしてもよい。また、本発明をデジタルカメラに適用した場合を説明したが、これ以外にも、画像情報を扱う他の撮像装置や、撮像装置から送られた画像情報を処理する他の装置に採用することもできる。その場合であっても、画像の内容に適したエッジ強調を行うことによって、画質を向上させることができる。
【0030】
【発明の効果】
以上説明したように本発明においては、撮影距離やズーム倍率に基づいて判断される画像に占める被写体が大きい場合には、エッジ部分の輝度の強調を弱く、且つ、エッジ幅を広くし、画像に占める被写体が小さくなるほど、エッジ部分の輝度の強調を強く、且つ、エッジ幅を狭くするので、画像の内容に適したエッジ強調を行うことが可能となり、例えばデジタルカメラにおいては、ポートレート等や風景写真等といったような撮影対象の内容に関係なく、より自然な画質を得ることができる。
【0031】
特に、撮影距離とズーム倍率との双方に応じて画像のエッジ強調を行うようにすれば、前記画像の内容がより正確に判断できるため、画質が向上する。さらには、画像に含まれる高周波成分の量に応じて画像のエッジ強調を行うようにすれば、前記画像の内容が極めて正確に判断できるため、画質がさらに向上する。
【0032】
【図面の簡単な説明】
【図1】本発明の一実施の形態に係るデジタルカメラのブロック図である。
【図2】本発明の第1の実施の形態に係るエッジ強調回路を示すブロック図である。
【図3】同エッジ強調回路の動作を示す波形図である。
【図4】CPUのゲイン調整処理の手順を示すフローチャートである。
【図5】同ゲイン調整処理に伴うエッジ強調回路の動作を示す説明図である。
【図6】本発明の第2の実施の形態を示す図4に対応するフローチャートである。
【図7】同実施の形態における図5に対応する説明図である。
【図8】他の実施の形態を示す図7に対応する説明図である。
【図9】本発明の第3の実施の形態に係るエッジ強調回路を示すブロック図である。
【図10】第1のエッジ抽出フィルタの機能を説明する図であって、(a)は画像データ例、(b)は入力信号及び出力信号をそれぞれ示す図である。
【図11】第2のエッジ抽出フィルタの機能を説明する図であって、(a)は画像データ例、(b)は入力信号及び出力信号をそれぞれ示す図である。
【図12】エッジ強調回路の動作を示す波形図である。
【図13】本発明の第3の実施の形態に係るデジタルカメラのブロック図である。
【図14】同実施の形態におけるエッジ強調回路を示すブロック図である。
【図15】空間周波数検出回路の出力信号における空間周波数の特性図であって、(a)は遠景撮影時、(b)は近景撮影時の例を示す図である。
【符号の説明】
1 CCD
3 YUV変換回路
4 エッジ強調回路
6 エッジ抽出フィルタ
7 コアリング回路
8 アンプ
9 加算器
10 CPU
11 測距センサ
12 ROM
14 エッジ強調回路
15 第1のエッジ抽出フィルタ
16 第2のエッジ抽出フィルタ
21 空間周波数検出回路
22 全波整流回路[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an edge enhancement device and an edge enhancement method suitable for use in a digital camera.
[0002]
[Prior art]
Conventionally, in order to obtain more natural image data, for example, in digital cameras and digital video cameras,For image data obtained by imaging,In general, image processing for emphasizing an edge portion, that is, an outline portion to a predetermined degree is performed. In such edge enhancement, for example,In the imageThe brightness of the edge portion having a predetermined width is increased by a certain amount.
[0003]
[Problems to be solved by the invention]
However, in conventional image processing,In the imageSince the degree of emphasizing the edges of the camera is always constant, the degree of emphasis is, for example, when taking a close-up shot or taking a telephoto shot.Subject that is the main subject to be photographedIf it is set to a coarse image such as a portrait that has a large size on the screen, a relatively small subject will appear in the screen, such as when shooting at a long distance or shooting at a wide angle. There is a shortage of edge enhancement for fine images such as many landscape photos, and conversely, if it is set to match fine images such as landscape photos, the edge enhancement is excessive for coarse images such as portraits. All differentimageThere was a problem that sufficient effects could not be obtained.
[0004]
The present invention has been made in view of such conventional problems,imageAn object of the present invention is to provide an edge enhancement device and an edge enhancement method that can obtain a more natural image by performing edge enhancement suitable for the content of the image.
[0005]
[Means for Solving the Problems]
In order to solve the above problem, the edge enhancement apparatus according to
[0006]
Furthermore, in the edge enhancement apparatus according to
[0007]
Furthermore, in the edge emphasizing device of
[0008]
Furthermore, the edge enhancement apparatus according to
[0009]
Furthermore, in the edge enhancement apparatus according to claim 5, the acquisition unit further includes a unit that acquires a zoom magnification, and the determination unit further determines the predetermined distance based on the zoom magnification acquired by the acquisition unit. Including a changing means for changing, wherein the photographing distance acquired by the acquiring means is not less than a predetermined distance changed by the changing meansDepending on whether or notIt is characterized by determining whether or not.
[0010]
Furthermore, the edge enhancement apparatus according to
[0011]
The edge enhancement apparatus according to
[0012]
Further, in the edge enhancement method of
[0013]
DETAILED DESCRIPTION OF THE INVENTION
[First Embodiment]
Hereinafter, an embodiment of the present invention will be described with reference to the drawings. FIG. 1 is a block diagram showing a schematic configuration of a digital camera having an autofocus function according to the first embodiment of the present invention. The
[0014]
FIG. 2 is a block diagram showing the
[0015]
The
[0016]
FIG. 4 is a flowchart showing an operation related to the gain adjustment processing of the
[0017]
Here, in general, the subject distance is short (0.25 m to 1 m) in portraits and the like, and the subject distance is long (20 m to) in landscape photographs and the like. Therefore, according to the present embodiment, the main example is portrait.It is a shooting objectIn a rough image having a large size on the screen of the subject, a natural image in which the edge is not excessively emphasized can be obtained by reducing the degree of edge enhancement. In addition, a natural image in which fine portions are clearly expressed can be obtained by increasing the degree of edge enhancement in a fine image such as a landscape photograph in which a large number of relatively small subjects exist in the screen.
[Second Embodiment]
Next, a second embodiment of the present invention will be described. In this embodiment, in the configuration in which the digital camera shown in FIGS. 1 and 2 has a zoom function and the
[0018]
That is, when a photographing operation is performed (YES in step SB1), the
[0019]
Thus, as shown in FIG. 7, when the zoom magnification is on the tele side, gain adjustment similar to that in the first embodiment is performed. On the other hand, when the zoom magnification is on the wide side, for example, when the subject distance is between 0.5 m and 1 m, the gain of the
[0020]
In the first and second embodiments, the
[0021]
In addition to the above gain adjustment processing, the
[Third Embodiment]
Next, a third embodiment of the present invention will be described. FIG. 9 is a block diagram showing another
[0022]
As shown in FIG. 10 (a), the first
[0023]
The pair of changeover switches 17 and 18 operate based on a changeover signal sent from the
[0024]
Therefore, in the present embodiment configured as described above, as shown in FIG. 12, it can be determined that the subject distance at the time of shooting is 0.25 m or more and less than 1 m, and the shot image is a rough image. In some cases, the image signal output from the
[0025]
In the present embodiment, the use of the first
[Fourth Embodiment]
Next, a fourth embodiment of the present invention will be described. FIG. 13 is a block diagram showing a schematic configuration of a digital camera according to the present invention. This digital camera includes a
[0026]
FIG. 14 is a block diagram showing the
[0027]
In such a configuration, it is emphasized by appropriately setting the switching amount.Edge partSince the edge width (thickness) can be set to a width (thickness) appropriate for the captured image, the same effect as in the third embodiment can be obtained. Moreover, in the present embodiment, the edge width is switched based on the amount of high-frequency component of the spatial frequency in the image signal, that is, the captured image is a fine image by information obtained directly from each captured image. Since it is determined whether the image is rough or rough, it can be determined from the subject distance and zoom magnification shown in the first to third embodiments.imageIt can be judged more accurately than the one that judges the contents. Therefore, edge enhancement for each captured image can be made more suitable.
[0028]
This effect is obtained from the amount of high frequency components of the spatial frequency in the image signal, as in the present embodiment.imageIf the contents of are judged, as in the first and second embodimentsEmphasized edges included in the signalIt can also be obtained in a configuration in which the shading of the color is changed. Further, filter switching and gain switching may be performed according to the amount of high frequency components. Also, as in the present embodiment and the third embodimentEmphasized edges included in the signalIn addition to the first and second edge extraction filters 15 and 16 described above, for example, other edge extraction for extracting an edge having an intermediate width between the edges extracted by them. Prepare a filter, and based on the amount of high frequency components of the spatial frequency in the image signal,Edge to emphasizeIf the edge width is changed, more appropriate edge enhancement can be performed.
[0029]
Further, in the present embodiment, the case where edge enhancement is performed on an image signal acquired at the time of shooting has been described.imageWhen image data having information for determining the content of the image is recorded in the memory 5 or the like, the same effect as that of the present embodiment can be obtained by performing the above-described edge enhancement processing on such image data. Is obtained. In that case, depending on whether or not the recorded image data has been subjected to the conventional edge enhancement processing in advance, the degree of edge enhancement or the method of changing the degree of edge enhancement (the above-described edge portion) is changed. If the density or edge width is changed, more appropriate edge enhancement can be performed. Further, although the case where the subject distance is acquired by the distance sensor has been described, the subject distance may be acquired by means other than the distance sensor, such as an AF lens position in a digital camera that performs contrast AF, for example. Further, in the case of performing edge enhancement processing according to the zoom magnification, the degree of edge enhancement may be changed depending on either the electronic zoom magnification or the magnification obtained when both the optical zoom and electronic zoom are combined. Good. In addition, although the case where the present invention is applied to a digital camera has been described, other image processing apparatuses that handle image information and other apparatuses that process image information sent from the image capturing apparatus may be employed. it can. Even in that case,imageBy performing edge enhancement suitable for the content of the image, the image quality can be improved.
[0030]
【The invention's effect】
As described above, in the present invention, the shooting distance and zoom magnification are adjusted.When the subject occupied in the image determined based on the image is large, the enhancement of the luminance of the edge portion is weakened as the luminance enhancement of the edge portion is weakened and the edge width is widened, and the subject occupied in the image is small. Since the edge width is narrowed,Edge enhancement suitable for the content of an image can be performed. For example, in a digital camera, a more natural image quality can be obtained regardless of the content of a subject to be photographed, such as a portrait or a landscape photograph.
[0031]
In particular, if the edge enhancement of an image is performed according to both the shooting distance and the zoom magnification, the content of the image can be determined more accurately, and the image quality is improved. Furthermore, if the edge enhancement of the image is performed according to the amount of the high frequency component contained in the image, the content of the image can be determined very accurately, so that the image quality is further improved.
[0032]
[Brief description of the drawings]
FIG. 1 is a block diagram of a digital camera according to an embodiment of the present invention.
FIG. 2 is a block diagram showing an edge enhancement circuit according to the first embodiment of the present invention.
FIG. 3 is a waveform diagram showing an operation of the edge enhancement circuit.
FIG. 4 is a flowchart showing a procedure of CPU gain adjustment processing;
FIG. 5 is an explanatory diagram showing an operation of an edge enhancement circuit accompanying the gain adjustment processing;
FIG. 6 is a flowchart corresponding to FIG. 4 showing a second embodiment of the present invention.
FIG. 7 is an explanatory diagram corresponding to FIG. 5 in the same embodiment;
FIG. 8 is an explanatory view corresponding to FIG. 7 showing another embodiment.
FIG. 9 is a block diagram showing an edge enhancement circuit according to a third embodiment of the present invention.
10A and 10B are diagrams illustrating the function of the first edge extraction filter, where FIG. 10A is a diagram illustrating an example of image data, and FIG. 10B is a diagram illustrating an input signal and an output signal.
11A and 11B are diagrams for explaining the function of a second edge extraction filter, where FIG. 11A is an example of image data, and FIG. 11B is a diagram showing an input signal and an output signal.
FIG. 12 is a waveform diagram showing the operation of the edge enhancement circuit.
FIG. 13 is a block diagram of a digital camera according to a third embodiment of the present invention.
FIG. 14 is a block diagram showing an edge enhancement circuit in the same embodiment;
15A and 15B are characteristics diagrams of spatial frequencies in the output signal of the spatial frequency detection circuit, where FIG. 15A is a diagram illustrating an example when shooting a distant view, and FIG.
[Explanation of symbols]
1 CCD
3 YUV conversion circuit
4 Edge enhancement circuit
6 Edge extraction filter
7 Coring circuit
8 amplifiers
9 Adder
10 CPU
11 Distance sensor
12 ROM
14 Edge enhancement circuit
15 First edge extraction filter
16 Second edge extraction filter
21 Spatial frequency detection circuit
22 Full-wave rectifier circuit
Claims (8)
この判断手段により画像に占める被写体が大きいと判断された場合、前記撮像素子により得られた画像に含まれるエッジ部分のエッジ幅を第1の所定幅まで広げると同時に、前記エッジ部分の輝度を第1の強度で強調することによりエッジ強調を行う第1の制御手段と、
前記判断手段により画像に占める被写体が小さいと判断された場合、前記撮像素子により得られた画像に含まれるエッジ部分のエッジ幅を前記第1の所定幅よりも狭い第2の所定幅まで広げると同時に、前記エッジ部分の輝度を第1の強度よりも強い第2の強度で強調することによりエッジ強調を行う第2の制御手段と、
を備えたことを特徴とするエッジ強調装置。Determining means for determining the size of the subject in the image obtained by the image sensor based on the distance to the subject or the zoom magnification ;
When it is determined by this determination means that the subject occupying the image is large , the edge width of the edge portion included in the image obtained by the image sensor is increased to the first predetermined width, and at the same time the brightness of the edge portion is First control means for performing edge enhancement by emphasizing with an intensity of 1,
When the subject occupying in the image is determined to be smaller by the determining means, when expanding the edge width of an edge portion included in an image obtained by the image pickup element to narrow the second predetermined width than the first predetermined width At the same time, second control means for performing edge enhancement by enhancing the luminance of the edge portion with a second intensity higher than the first intensity ;
An edge enhancement device characterized by comprising:
前記第1のエッジ抽出フィルタとは異なる第2のエッジ抽出フィルタとを備え、
前記第1の制御手段は、前記判断手段により画像に占める被写体が大きいと判断された場合、前記第1のエッジ抽出フィルタを選択することにより前記撮像素子により得られた画像に含まれるエッジ部分のエッジ幅を第1の所定幅まで広げ、
前記第2の制御手段は、前記判断手段により画像に占める被写体が小さいと判断された場合、前記第2のエッジ抽出フィルタを選択することにより前記撮像素子により得られた画像に含まれるエッジ部分のエッジ幅を前記第1の所定幅よりも狭い第2の所定幅まで広げることを特徴とする請求項1記載のエッジ強調装置。A first edge extraction filter;
A second edge extraction filter different from the first edge extraction filter;
When the determination unit determines that the subject occupying the image is large , the first control unit selects the first edge extraction filter to select an edge portion included in the image obtained by the image sensor. Increase the edge width to the first predetermined width,
The second control unit selects an edge portion included in the image obtained by the image sensor by selecting the second edge extraction filter when the determination unit determines that the subject in the image is small . 2. The edge enhancement apparatus according to claim 1, wherein the edge width is increased to a second predetermined width that is narrower than the first predetermined width.
前記判断手段は、前記取得手段により取得された撮影距離が所定距離以上であるか否かに応じて、画像に占める被写体が大きいか否かを判断することを特徴とする請求項1乃至3のいずれかに記載のエッジ強調装置。An acquisition means for acquiring a shooting distance to the subject;
The determination unit according to any one of claims 1 to 3, wherein the determination unit determines whether or not a subject occupying the image is large depending on whether or not the shooting distance acquired by the acquisition unit is a predetermined distance or more. The edge enhancement apparatus according to any one of the above.
前記判断手段は、更に前記取得手段により取得されたズーム倍率に基づき前記所定距離を変更する変更手段を含み、前記取得手段により取得された撮影距離が前記変更手段により変更された所定距離以上であるか否かに応じて、画像に占める被写体が大きいか否かを判断することを特徴とする請求項4記載のエッジ強調装置。The acquisition means further includes means for acquiring a zoom magnification,
The determination unit further includes a changing unit that changes the predetermined distance based on the zoom magnification acquired by the acquiring unit, and the photographing distance acquired by the acquiring unit is greater than or equal to the predetermined distance changed by the changing unit. 5. The edge emphasizing apparatus according to claim 4, wherein whether or not the subject occupying the image is large is determined according to whether or not the subject is large .
前記判断手段は、前記取得手段により取得されたズーム倍率が所定倍率以上であるか否かに応じて、画像に占める被写体が大きいか否かを判断することを特徴とする請求項1乃至3のいずれかに記載のエッジ強調装置。An acquisition means for acquiring a zoom magnification;
The determination unit according to any one of claims 1 to 3, wherein the determination unit determines whether or not a subject occupying the image is large depending on whether or not the zoom magnification acquired by the acquisition unit is equal to or greater than a predetermined magnification. The edge enhancement apparatus according to any one of the above.
前記第1の制御手段および前記第2の制御手段は、前記判断手段により取得された高周波成分の量に応じて、前記エッジ部分のエッジ幅を変化させることを特徴とする請求項1乃至3のいずれかに記載のエッジ強調装置。An acquisition means for acquiring an amount of a high-frequency component included in an image obtained by the imaging element ;
The said 1st control means and the said 2nd control means change the edge width of the said edge part according to the quantity of the high frequency component acquired by the said judgment means, The Claim 1 thru | or 3 characterized by the above-mentioned . The edge enhancement apparatus according to any one of the above.
この判断工程により画像に占める被写体が大きいと判断された場合、前記撮像素子により得られた画像に含まれるエッジ部分のエッジ幅を第1の所定幅まで広げると同時に、前記エッジ部分の輝度を第1の強度で強調することによりエッジ強調を行う第1の制御工程と、
前記判断工程により画像に占める被写体が小さいと判断された場合、前記撮像素子により得られた画像に含まれるエッジ部分のエッジ幅を前記第1の所定幅よりも狭い第2の所定幅まで広げると同時に、前記エッジ部分の輝度を第1の強度よりも強い第2の強度で強調することによりエッジ強調を行う第2の制御工程と、
からなることを特徴とするエッジ強調方法。A determination step of determining the size of the subject in the image obtained by the image sensor based on the distance to the subject or the zoom magnification ;
If it is determined in this determination step that the subject occupying the image is large , the edge width of the edge portion included in the image obtained by the image sensor is increased to the first predetermined width, and at the same time, the brightness of the edge portion is A first control step for performing edge enhancement by emphasizing with an intensity of 1;
When it is determined that the subject occupying the image is small in the determination step, the edge width of the edge portion included in the image obtained by the image sensor is expanded to a second predetermined width that is narrower than the first predetermined width. At the same time, a second control step of performing edge enhancement by enhancing the luminance of the edge portion with a second intensity that is higher than the first intensity ;
An edge enhancement method characterized by comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP34491398A JP4281929B2 (en) | 1998-11-18 | 1998-11-18 | Edge enhancement apparatus and edge enhancement method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP34491398A JP4281929B2 (en) | 1998-11-18 | 1998-11-18 | Edge enhancement apparatus and edge enhancement method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000156816A JP2000156816A (en) | 2000-06-06 |
JP4281929B2 true JP4281929B2 (en) | 2009-06-17 |
Family
ID=18372975
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP34491398A Expired - Fee Related JP4281929B2 (en) | 1998-11-18 | 1998-11-18 | Edge enhancement apparatus and edge enhancement method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4281929B2 (en) |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4648576B2 (en) * | 2001-06-15 | 2011-03-09 | Hoya株式会社 | Electronic endoscope device |
JP3968644B2 (en) | 2002-05-24 | 2007-08-29 | ソニー株式会社 | Signal processing apparatus and method, recording medium, and program |
JP3959741B2 (en) | 2003-03-19 | 2007-08-15 | ソニー株式会社 | Imaging apparatus and image contour enhancement method |
WO2005064384A1 (en) * | 2003-12-25 | 2005-07-14 | Nokia Corporation | Imaging device having auto focus mechanism |
EP1729523B1 (en) | 2004-02-19 | 2014-04-09 | Mitsubishi Denki Kabushiki Kaisha | Image processing method |
WO2008136289A1 (en) * | 2007-04-27 | 2008-11-13 | Sharp Kabushiki Kaisha | Image processing device, method, image display device and method |
JP4139430B1 (en) | 2007-04-27 | 2008-08-27 | シャープ株式会社 | Image processing apparatus and method, image display apparatus and method |
JP5230456B2 (en) | 2009-01-09 | 2013-07-10 | キヤノン株式会社 | Image processing apparatus and image processing method |
JP5546229B2 (en) | 2009-12-09 | 2014-07-09 | キヤノン株式会社 | Image processing method, image processing apparatus, imaging apparatus, and image processing program |
JP5437781B2 (en) * | 2009-12-09 | 2014-03-12 | 富士フイルム株式会社 | Image processing apparatus, method, and program |
JP5441652B2 (en) | 2009-12-09 | 2014-03-12 | キヤノン株式会社 | Image processing method, image processing apparatus, imaging apparatus, and image processing program |
KR101608874B1 (en) * | 2010-01-04 | 2016-04-04 | 엘지이노텍 주식회사 | Apparatus for processing image |
JP2011166521A (en) * | 2010-02-10 | 2011-08-25 | Panasonic Corp | Contour correction device and image display device |
JP5284537B2 (en) | 2010-03-31 | 2013-09-11 | キヤノン株式会社 | Image processing apparatus, image processing method, image processing program, and imaging apparatus using the same |
JP2012004703A (en) * | 2010-06-15 | 2012-01-05 | Sony Corp | Imaging device, method and program |
CN103918251B (en) | 2011-11-08 | 2016-03-02 | 富士胶片株式会社 | Camera head and control method thereof |
JP5893426B2 (en) * | 2012-02-09 | 2016-03-23 | キヤノン株式会社 | IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM |
CN112351197B (en) * | 2020-09-25 | 2022-10-21 | 南京酷派软件技术有限公司 | Shooting parameter adjusting method and device, storage medium and electronic equipment |
-
1998
- 1998-11-18 JP JP34491398A patent/JP4281929B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000156816A (en) | 2000-06-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4281929B2 (en) | Edge enhancement apparatus and edge enhancement method | |
US6738510B2 (en) | Image processing apparatus | |
JP4924430B2 (en) | Imaging apparatus, image processing apparatus, and program | |
JP4465002B2 (en) | Noise reduction system, noise reduction program, and imaging system. | |
JP2004088149A (en) | Imaging system and image processing program | |
EP1881695A1 (en) | Image processing apparatus, and image processing program | |
JP2004207985A (en) | Digital camera | |
JP3639627B2 (en) | Image synthesizer | |
WO2008150017A1 (en) | Signal processing method and signal processing device | |
JP3543774B2 (en) | Image processing apparatus, image processing method, and recording medium | |
JP4621992B2 (en) | Imaging apparatus and imaging method | |
US7327395B2 (en) | Autofocus apparatus | |
EP1871094A1 (en) | Image processor, imaging apparatus, and image processing program | |
JP2007019726A (en) | Imaging apparatus | |
CN106412391B (en) | Image processing apparatus, image processing method, and image capturing apparatus | |
JP3643042B2 (en) | Image processing apparatus, image processing method, and recording medium | |
JP2005303803A (en) | Imaging apparatus, image recording medium, image processing unit, and image processing program and recording medium thereof | |
JP4190124B2 (en) | Image processing device | |
JP2003153043A (en) | Camera | |
JP4475041B2 (en) | Electronic camera device and color adjustment method | |
JP2009022044A (en) | Image processing apparatus and image processing program | |
JP3914763B2 (en) | Digital camera | |
JP2008022333A (en) | Imaging device and imaging method | |
JP4549012B2 (en) | Image signal processing device | |
JP2001209782A (en) | Image pickup device and its method for photographing character |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20051018 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051202 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20060418 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090115 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090312 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120327 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120327 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130327 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130327 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140327 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |