JP4409063B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP4409063B2 JP4409063B2 JP2000213178A JP2000213178A JP4409063B2 JP 4409063 B2 JP4409063 B2 JP 4409063B2 JP 2000213178 A JP2000213178 A JP 2000213178A JP 2000213178 A JP2000213178 A JP 2000213178A JP 4409063 B2 JP4409063 B2 JP 4409063B2
- Authority
- JP
- Japan
- Prior art keywords
- temperature
- pixel
- value
- image sensor
- mos
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、C−MOSイメージセンサを搭載したデジタルカメラやデジタルカメラで撮影した画像の読み出し・画像処理を行う装置等の画像処理装置および画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体に関するものである。
【0002】
【従来の技術】
C−MOSイメージセンサは、プロセスがC−MOSであることから、従来のC−MOSLSI製造ラインで製造でき、単一電源で駆動でき、消費電力も小さい。また、固体撮像素子として従来から一般的に用いられているCCDでは別のチップとして搭載する必要があったタイミングジェネレータ等をC−MOSイメージセンサチップ内部に集積することができるため、デジタルカメラの小型化が可能である等、CCDに比べ優れた点が多い。そのため、C−MOSイメージセンサを用いたデジタルカメラが普及し始めている。
【0003】
そのような優れた特長の一方、C−MOSイメージセンサの画素を構成するフォトダイオードの蓄積電荷をMOSトランジスタでスイッチングして読み出しているため、理想的にはフォトダイオードの光電変換による電荷のみがスイッチング操作により外部に読み出されればよいが、MOSトランジスタの製造バラツキによりフォトダイオードで光電変換以外の電荷が発生し、それが本来の撮像画像による電荷にプラスされ周囲画素よりも明るい画素として現れてしまう。これは特に周囲画素よりも明るい白い点として見えることから白点ノイズとよばれている。
【0004】
また、同じC−MOSイメージセンサ内でも画素によるバラツキが大きいため、上記光電変換以外の電荷が多い画素がイメージセンサ内で多い場合は画像品質を劣化させる要因となる。すなわち、上記光電変換以外の電荷が多いことにより白点の輝度値がまちまちであり、しかも、白い点として見える画素がエリアセンサー内で多い場合は、画面一面に白点がばらまかれたような画像となり画像品質を著しく劣化させる。
【0005】
また、このノイズレベルは温度が上昇に伴い増加する。すなわち、この白点の輝度値は、上述したように画素によるバラツキは大きいが、平均的に温度の上昇に伴い増加する。例えば、常温でS/Nが良好なC−MOSイメージセンサも、周囲温度が上昇し、C−MOSイメージセンサチップの温度も上昇すると、ノイズが目立つようになり、画像全体に白く浮き上がり、特にノイズレベルの高い画素は白点として現れる。すなわち、画像全体に散らばっている白点により画像全体が白く浮き上がる印象を与える。かつ、S/Nの著しい劣化、コントラストの低下、ダイナミックレンジが狭くなる等の影響が出る。
【0006】
そこで、CCDの例では、特開平7−336603号公報に見られるように、温度上昇により順方向電圧降下が減少するダイオードの特性を利用してフィードバックループを構成してCCDの基板電圧を制御し、ダイナミックレンジを確保する手法がある。
【0007】
【発明が解決しようとする課題】
このようなC−MOSイメージセンサの温度上昇によるノイズレベル悪化に対し、C−MOSイメージセンサ自体の特性の改良が様々に試みられているが、製造プロセス上、CCDレベルまで向上するのは現状では困難である。
【0008】
また、このようなC−MOSイメージセンサを採用したデジタルカメラのシステム全体についてみても、ノイズに関しては、採用するC−MOSイメージセンサ自体の温度−ノイズ特性に委ねられているのみであるのが現状である。
【0009】
また、C−MOSイメージセンサは個体ごとに温度特性バラツキがあるため、上述のようにデバイス(ダイオード)の温度特性を利用して補正する方法では、このような個々のC−MOSイメージセンサの温度特性バラツキを吸収することは不可能であり、個々のC−MOSイメージセンサに対応できない。
【0010】
また、C−MOSデジタルカメラで撮影した画像が上記白点を多く含んでいた場合に、画像処理装置に転送した後で、操作者が自分で画像処理の各操作パラメータをカット&トライにて決めてノイズ低減処理を行う必要がある。
【0011】
本発明は、上記問題点に鑑みなされたものであり、その目的は、C−MOSイメージセンサの温度上昇によるノイズレベル悪化を容易に軽減でき、温度に関係なくノイズの少ない高品位な画像表示が可能な画像処理装置および、画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体を提供することにある。
【0012】
【課題を解決するための手段】
上記の課題を解決するため、本発明の画像処理装置は、上記C−MOSイメージセンサの、温度に依存するノイズが発生しない時点の画素の画素値をDidとするとき、上記C−MOSイメージセンサの温度を測る温度計測手段と、上記C−MOSイメージセンサの温度の情報が入力され、上記C−MOSイメージセンサの温度に基づき、上記画素の画素値が上記Didに近づく方向に補正する画像補正手段とを備えたことを特徴としている。
【0013】
これにより、C−MOSイメージセンサが昇温して画像のノイズが増大しても、それを効果的に軽減することができる。それゆえ、C−MOSイメージセンサの温度上昇によるノイズレベル悪化を容易に軽減でき、温度に関係なくノイズの少ない高品位な画像表示の可能な画像処理を行うことができるという効果を奏する。
【0014】
例えば、昇温により必要量以上の電荷が多くなり輝度値が増大してしまう場合でも、画素の輝度値を小さくする方向へ画像データを補正し、それにより、輝度値の増大による白点などのノイズを軽減することができる。
【0015】
ここで、所定の補正手順、例えば、式による計算や、あらかじめ用意したデータテーブルの参照などの手順を用いることができる。
【0016】
このように、採用するC−MOSイメージセンサ自体の温度−ノイズ特性に委ねるのではなく、C−MOSイメージセンサを採用したデジタルカメラ等の画像処理装置システム全体で、ノイズを軽減すべく、好適に画像データを補正している。
【0017】
そのため、C−MOSイメージセンサの温度上昇によるノイズレベル悪化に対し、C−MOSイメージセンサ自体の特性の改良が不要である。また、C−MOSイメージセンサの個体ごとに温度特性バラツキが存在していても、これを吸収することができ、個々のC−MOSイメージセンサに対応できる。また、C−MOSデジタルカメラで撮影した画像が上記白点を多く含んでいた場合に、画像処理装置に転送した後で、操作者が自分で画像処理の各操作パラメータをカット&トライにて決める必要がない。
【0018】
それゆえ、C−MOSイメージセンサの温度上昇によるノイズレベル悪化を容易に軽減でき、温度に関係なくノイズの少ない高品位な画像表示の可能な画像処理を行うことができる。
【0019】
上記本発明の画像処理装置は、撮影した画像を外部インタフェースを介して外部の別の画像処理装置に転送する機能を持つ、C−MOSイメージセンサを搭載したデジタルカメラとすることができる。また、本発明の画像処理装置は、上記温度計測手段の出力を入力とし、露光調整、ホワイトバランス調整、ノイズレベル補正を行う制御マイコン(マイクロコンピュータ)や、画像の高品質化ブロックとして、階調補正処理やエッジ強調処理を行うブロックを有することができる。
【0020】
また、このノイズレベル補正として、C−MOSイメージセンサ出力をアナログ増幅するAGCアンプの制御最大値を制限したり、アナログ増幅した後A/D変換器の入力オフセット電圧を調節したり、画像高品質化ブロックにおける階調補正パラメータやエッジ強調パラメータを調節したりするように構成することができる。
【0021】
また、上記制御マイコンの管理下に不揮発性メモリを有し、動作保証温度範囲を数個に分割し、そのおのおのの分割範囲と上記ノイズレベル補正パラメータとの対応テーブルを上記不揮発性メモリに記憶し、制御マイコンが、上記C−MOSイメージセンサの温度がどの温度範囲に属するかを判定し、温度範囲に対応したノイズレベル補正パラメータを上記不揮発性メモリから読み出し、上記各高品質化ブロックに設定するように構成することができる。
【0022】
また、本発明の画像処理装置は、上記構成において、A/D変換前後の上記画素の画素値をそれぞれX、Yとし、上記C−MOSイメージセンサの温度によって定まる境界値をCaとするとき、
X≦CaのときY=0、
Ca<XのときY=X−Ca
を満たすようにA/D変換するA/D変換器を備え、上記画像補正手段が、上記C−MOSイメージセンサの昇温につれて上記Caを増加させることを特徴としている。
【0023】
上記の構成により、X≦CaのときにはY=0を満たすようにA/D変換し、Ca<XのときにはY=X−Caを満たすようにA/D変換する。したがって、A/D変換前の元の画素値が高い部分では、A/D変換後の画素値は、元の画素値より低いが比較的高い画素値が保たれる一方、ある境界値Caを境にして、A/D変換前の元の画素値が低い部分では、元の画素値に関係なく、A/D変換後の画素値が0となる。すなわち、A/D変換前の元の入力画素値の範囲を2分割し、元の画素値が低い範囲については、A/D変換後の画素値は0になり、元の画素値が高い範囲については、A/D変換後の画素値は、比例定数が1で、ある正の境界値Ca分だけ小さくなるような入出力特性を持ったA/D変換特性となっている。
【0024】
このため、明るい部分と暗い部分との差がより強調される。それゆえ、上記の構成による効果に加えて、C−MOSイメージセンサの温度上昇によるノイズゆえに白点化などのように全体的に輝度が高くなるのを防止し、画像のコントラストをより良好に、よりきめ細かく高めることができ、より高品位表示化することができる。
【0025】
また、本発明の画像処理装置は、上記構成において、階調補正前後の上記画素の画素値をそれぞれX、Yとし、上記C−MOSイメージセンサの温度によって定まる境界値をCgとするとき、定数g、0<p<1を満たす定数p、0<r<1を満たす定数rに対し、
X≦CgのときY=pX、
Cg<XのときY=g・{(X−Cg)/(g−Cg)}r +pCg
を満たすように階調補正する階調補正処理部を備え、上記画像補正手段が、上記C−MOSイメージセンサの昇温につれて上記Cgを増加させることを特徴としている。
【0026】
上記の構成により、X≦CgのときY=pX、Cg<XのときY=g・{(X−Cg)/(g−Cg)}r +pCgを満たすように階調補正する。したがって、上に凸の指数関数に沿い、画素値が中程度の部分では、階調補正後の画素値は、階調補正前の元の画素値より大きくなり、階調補正前の元の画素値が高い部分では、その大きくなる度合いが徐々に小さくなる。一方、画素値のある境界値Cgを境にして、階調補正前の元の画素値が低い部分では、0<p<1であるため、階調補正後の画素値は、階調補正前の元の画素値より画素値が小さくなる。すなわち、階調補正前の元の入力画素値の範囲を2分割し、画素値が低い範囲については、比例定数が1よりも小さくかつ0より大きい1次式となり、画素値が高い範囲に関しては、中間調増幅特性となる入出力特性を持つような階調補正特性を有している。
【0027】
このため、明るい部分と暗い部分との差がより強調される。それゆえ、上記の構成による効果に加えて、C−MOSイメージセンサの温度上昇によるノイズゆえに白点化などのように全体的に輝度が高くなるのを防止し、画像のコントラストをより良好に、よりきめ細かく高めることができ、より高品位表示化することができる。
【0028】
また、本発明の画像処理装置は、上記構成において、上記画像補正手段が、上記C−MOSイメージセンサの温度によって定まる基準値Ydを、上記C−MOSイメージセンサの昇温につれて減少させ、1画像サイズ分の画素内の任意の横3画素、縦3画素より構成される画素エリアを考え、注目画素をその3×3画素エリアの中央の画素としたとき、全9画素のそれぞれ赤、緑、青の画素値であるR値、G値、B値をそれぞれ昇順または降順に並べ替えたときのR値、G値、B値それぞれにおける中央値Rc、Gc、Bcを求め、各色において、上記9画素の輝度平均値Ynを求め、上記注目画素の輝度値Ymと上記9画素の輝度平均値Ynとを比較し、その差が上記基準値Yd以上であるときに、上記注目画素のR値、G値、B値をそれぞれ上記9画素の中央値Rc、Gc、Bcで置き換えることを特徴としている。
【0029】
上記の構成により、1画像サイズ分、例えばデジタルカメラ撮影画像の1画面分の、画素内の任意の横3画素、縦3画素より構成される画素エリアを考え、注目画素をその3×3画素エリアの中央の画素としたとき、注目画素の輝度値Ymと上記9画素の輝度平均値Ynとの差が基準値Yd以上であるときに注目画素のR値、G値、B値をそれぞれ上記9画素の中央値Rc、Gc、Bcで置き換える処理を行う際に、基準値Ydを、C−MOSイメージセンサの昇温につれて小さくする。したがって、昇温時には、上記差がYd以上という条件を満たしやすくなる。そのため、上記のような置き換え処理に該当する画素が多くなり、多くの画素が置き換え処理される。これは、昇温するほどノイズが高くなり白点など輝度が高すぎる画素が増えるという現象に対して、置き換え処理により輝度が下げられる画素も増えるということである。それゆえ、上記の構成による効果に加えて、昇温により白点などの画像のノイズが増えても、それをより容易かついっそう効果的に抑制することができる。
【0030】
また、本発明の画像処理装置は、上記構成において、上記画像補正手段が、計測した上記C−MOSイメージセンサの温度が前回の計測時と同一であるか否かを調べ、今回計測した上記C−MOSイメージセンサの温度が前回の計測時と同一であるときは、上記基準値Ydとして、前回の計測時の値を用いることを特徴としている。
【0031】
上記の構成により、今回計測した上記C−MOSイメージセンサの温度が、前回の計測時と同一であるときは、上記基準値Ydとして、前回の計測時の値を用いる。したがって、その分処理を簡略化することができる。それゆえ、上記の構成による効果に加えて、より容易に、C−MOSイメージセンサの温度に応じて適切な画像処理を行うことができる。
【0032】
【発明の実施の形態】
〔実施の形態1〕
本発明の実施の一形態について図1ないし図6に基づいて説明すれば、以下の通りである。
【0033】
図1は、本実施の形態に係る画像処理装置としてのデジタルカメラのブロック図である。1は、光電変換を行うC−MOSイメージセンサである。2は、温度センサ(温度計測手段)であり、C−MOSイメージセンサ1のチップ温度を測定する。C−MOSイメージセンサ1は、C−MOSイメージセンサの画素を構成するフォトダイオードの蓄積電荷をMOSトランジスタでスイッチングして読み出すため、理想的にはフォトダイオードの光電変換による電荷のみがスイッチング操作により外部に読み出されればよいが、フォトダイオードおよびMOSトランジスタの製造バラツキによりフォトダイオードで光電変換以外の電荷が発生し、それが本来の撮像画像による電荷にプラスされ、周囲画素よりも明るい画素、すなわち輝度の高い白い点として見える。これは白点ノイズと呼ばれている。この白点ノイズレベルは温度上昇に伴い増加する特性がある。
【0034】
上記光電変換以外の電荷が多い画素がイメージセンサ内で多い場合は、画像品質を劣化させる要因となる。また、このノイズレベルは、温度が上昇するのに伴い増加する。たとえば、常温でS/N(信号対雑音比)が良好なC−MOSイメージセンサも、周囲温度が上昇し、C−MOSイメージセンサチップの温度も上昇すると、ノイズが目立つようになる。その結果、画像全体に白く浮き上がり、かつ、特にノイズレベルの高い画素は白点として現れ、S/Nの著しい劣化、コントラストの低下、ダイナミックレンジが狭くなる等の影響が出る。
【0035】
3は、カメラシステム全体の制御を行う制御マイコン(マイクロコンピュータ)である。本実施の形態においては、制御マイコン3は、温度センサ2からC−MOSイメージセンサ1のチップ温度の情報が入力されるようになっている。そして、制御マイコン3は、信号処理DSP6と協調して、入力された映像信号の輝度平均値(Y)、色信号の信号平均値(I、Q)、および、温度センサ出力値により、画像の明るさ、色バランス(ホワイトバランス)、画像の高品質化に寄与する階調補正曲線、エッジ強調パラメータ、A/D変換器5の入力オフセット電圧等をダイナミックに制御する。特に、本発明に関わる、温度センサ2から入力される温度データについては、カメラの動作保証温度範囲を3つに分割したそれぞれの温度範囲のどこに属するかを判定し、EEPROM(Electrically Erasable Programmable ROM)11から温度範囲に対応した設定パラメータを読み出し、A/D変換器5の入力オフセット電圧、信号処理DSP6の階調補正曲線、エッジ強調パラメータ等を設定する。なお、EEPROM11の設定値は、パーソナルコンピュータあるいはPDA(Personal Digital Assistant)といったホスト装置から外部コネクタ12、ホストインタフェース11および制御マイコン3を介して書き換えが可能であり、使用するC−MOSイメージセンサに応じて変更(チューニング)することが可能である。
【0036】
温度センサ2による温度測定としては、例えばサーミスタを用い、これを制御マイコンに接続することで行うことができる。サーミスタは、温度によって電気抵抗が変化する素子である。このため、マイコン内蔵の定電流回路により一定の電流をサーミスタに流し、サーミスタ両端の端子電圧をマイコン内蔵のA/D変換器でA/D変換してデジタル値に変換することにより、温度データを得ることが可能である。
【0037】
4は、光電変換されたアナログの映像信号を増幅するAGC(Auto Gain Control )アンプである。AGCアンプ4は、制御マイコン3により、画面上で適切な明るさとなるようにそのゲインをコントロールされる。AGCアンプ4のゲインの最大値は、制御マイコン3により、温度が低いときはデフォルト値まで上昇し、温度が高い場合は小さくなるように制御される。
【0038】
5は、AGCアンプ4で増幅されたアナログの映像信号をデジタル値に変換するA/D変換器である。このA/D変換器5の入力部分には、入力映像信号に正の直流バイアス電圧を加え、デジタル出力を全体的に高めにしたり、逆に負の直流バイアス電圧(後述の−Ab 、−Ac )を与えアナログ映像信号の振幅の低い部分をクリップしたりできる。この直流バイアス値も、制御マイコン3から変更可能である。
【0039】
6は、カメラの信号処理DSP(Digital Signal Processor、デジタル信号処理装置)であり、OBオフセットクランプ、画素補間処理部、YIQ値積算処理部、ホワイトバランスアンプとからなる画像補正処理部6aを有している。制御マイコン3および信号処理DSP6によって画像補正手段が構成されている。OBオフセットクランプは、黒レベルの再生を行う。画素補間処理部は、各画素ごとにRGBの3色を再現する画素補間処理を行う。YIQ値積算処理部は、自動露光制御や自動色補整(自動ホワイトバランス制御)等の判断データとなる輝度(Y)および色信号(I、Q)値積算処理を行う。ホワイトバランスアンプは、前記YIQ積算値に基づきRBゲインを制御するホワイトバランス処理等を行う。信号処理DSP6は、これら画像補正処理部6aの動作を制御マイコン3と連動して行っている。
【0040】
また、信号処理DSP6は、階調補正処理部6bおよびエッジ強調処理部6cをも有している。階調補正処理部6bは、画像の高品位化処理として、画像の階調を補正し、明るくコントラストのよい画像を作り出すブロックである。たとえば入力信号に対し、中間調を増幅するような補正曲線を与えることにより、画像の画素値分布の最大値と最小値は変化させずに全体的に明るい出力画像を得ることが可能である。また、入力Xに対し、出力Y=−Xとなるような負の直線特性を与えることにより階調反転を実現することも可能である。
【0041】
エッジ強調処理部6cは、同じく画像の高品位化処理として、画像のくっきり感を強調するためのブロックである。
【0042】
信号処理DSP6から出力された画像信号は、メモリコントローラ7を介して、一旦フレームメモリ8に格納される。
【0043】
メモリコントローラ7は、エッジ強調処理された完成されたデジタル画像データをフレームメモリ8へ格納することや、外部コネクタ10に接続されたパーソナルコンピュータやPDAといったホスト装置からホストインタフェース9を介して与えられる画像読み出しコマンドにより、画像データを読み出してホストインタフェース9に転送する等の動作を行う。メモリコントローラ7は、外部コネクタ10に接続されたパーソナルコンピュータやPDAといったホスト装置がホストインタフェース9を介して読み出し操作を行うたびに、フレームメモリ8から1画素ずつRGB値をホストインタフェース9に転送する。
【0044】
ホストインタフェース9は、上述したように、ホスト装置からの要求に応じて、メモリコントローラ7と協調して画像データをホスト装置へ転送する。また、ホスト装置から、制御マイコン3用のプログラムを制御マイコン3に転送し、制御マイコン3がそれをEEPROM11に書き込む際にも利用される。この制御プログラム転送機能は、主に製品開発時のマイコン制御プログラム開発、製造工程において出荷用の制御プログラムの書き込み、製品出荷後の制御マイコンプログラムのバージョンアップ等に利用されている。また、ホスト装置から転送する制御プログラムは、ホスト装置が持つ外部記憶装置のタイプに応じた記録媒体に収納されている。例えば、屋外での撮影テストを行いながらの制御プログラム開発では、ホスト装置には可搬型のコンピュータが利用され、記録媒体は、例えば、PCMCIA(Personal Computer Memory Card International Association)のTypeIIのATA(Advanced Technology Attachment)カードや、あるいは3.5インチ等のサイズの磁気ディスク等とすることができる。
【0045】
制御マイコン3による温度センサの出力値に応じた、A/D変換器5、階調補正処理部6b、エッジ強調処理部6cの各ブロックの制御の具体例について説明する。
【0046】
制御マイコン3は、図2に示す表に従って、各ブロックの設定値を決定する。図2では、本デジタルカメラのシステム全体の動作温度範囲である0℃〜40℃を3つの温度範囲に分割し、そのおのおのについて設定値が定義されている。
【0047】
C−MOSイメージセンサ1のチップ温度Taが上昇し、ノイズレベルが増大すると、出力画像は全体的に白く浮き上がる。したがって、制御マイコン3が、温度に応じてA/D変換器5の入力部分の直流バイアス電圧(入力オフセット電圧)を切り換えて、画素値の低い部分がA/D変換器5の入力最低電圧(後述のAb、Ac)よりも低くなるようにすれば、ノイズがクリップされ、ノイズの目立たない出力画像を得ることが可能である。ここで、入力オフセット電圧とは、A/D変換器5にC−MOSイメージセンサ1からの画素アナログ出力を入力する際に、この画素アナログ出力に加える電圧である。また、後述するエッジ強調パラメータは、以下の式
hvparam_a > hvparam_b > hvparam_c
nnparam_a > nnparam_b > nnparam_c
で示される関係を有している。
【0048】
図2の3つの温度範囲に対応したA/D変換器5の入出力特性を図3に示す。すなわち、図3は、A/D変換器5の入力と出力との関係(入出力特性)を示しており、温度上昇時に、C−MOSイメージセンサ1からA/D変換器5に入力される画素アナログ出力に加える電圧すなわち入力オフセット電圧を下げることにより、入出力特性がa→b→cのように切り替わっていくことを表している。入力アナログレベルをX、A/D変換後のデジタルレベルをYとし、ある定数をCa(>0)とすると、図3の直線はそれぞれ、式(1)に示す数式
Y=X−Ca (Ca<X≦Xmax ) (1)
Y=0 (0≦X≦Ca)
で表される。そして、具体的には、図3では、この定数Caとして、25℃〜35℃の範囲、35℃以上あるいは35℃より高温の範囲において、それぞれAb、Ac(ここではいずれも正)を用いる。そのため、0℃〜25℃のA/D変換曲線(直線)a、25℃〜35℃のA/D変換曲線b、および35℃以上あるいは35℃より高温の場合のA/D変換曲線cはそれぞれ、
Y=X (0≦X≦Xmax ) (A/D変換曲線a) (1a)
Y=X−Ab (Ab<X≦Xmax ) (A/D変換曲線b) (1b)
Y=0 (0≦X≦Ab)
Y=X−Ac (Ac<X≦Xmax ) (A/D変換曲線c) (1c)
Y=0 (0≦X≦Ac)
で表される1つの直線、または2つ以上の直線の組み合わせからなる線である。なお、図中、Ysat はYの最大値である。Ab、Acの値は、画像処理装置の製造時や制御マイコン3のプログラムの変更時に任意に設定できる。
【0049】
図3において、温度範囲が0℃〜25℃では、ノイズレベルがさほど大きくないため、A/D変換曲線aに従い、入力されたアナログ画像信号をそのままデジタルに変換している。C−MOSイメージセンサ1のチップ温度が上昇し、ノイズによる白浮きが目立つようになるに従い、A/D変換曲線b、cと切り換え、それぞれAb、Ac以下の入力をクリップする。入力をクリップすることにより、画像全体に白く浮き上がる現象が抑えられる。また、ノイズレベルの大きく白い点として見える画素も、入力時点でAbあるいはAcだけ画素値が下がるため、後段の階調補正曲線による中間調の増幅特性との相乗効果でS/Nがより大きく改善される効果がある。
【0050】
図4に、図2に示す各温度範囲において設定される階調補正特性を示す。入力画素値をX、階調補正後の出力画素値をYとすると、温度範囲が0℃〜25℃では、ノイズレベルがさほど大きくないため、階調補正処理部6bヘの入力の最小値から最大値までを、ゆるやかな中間調増幅特性を持つ曲線aに従って階調変換を行っている。すなわち、曲線aや、曲線b、cの曲線部(高画素値領域)はいずれも、上に凸の形状で単調増加の曲線である。中間調を明るくすることにより、全体的に明るくコントラスト良い画像を得ることが可能である。
【0051】
C−MOSイメージセンサ1のチップ温度が上昇し、ノイズによる白浮きが目立つようになるに従い、階調補正曲線をb、cに切り換える。そして、それぞれGb、Gc以下の入力(低画素値領域)に対しては1以下の増幅率を与え、ノイズが目立つ入力を減衰させる。入力がGb、あるいは、Gc以上となった場合(高画素値領域)は、曲線a同様、中間調増幅特性を与える。この例ではA/D変換器5の出力ビット数は8ビットであり、入力値Xは0から255までの値を取りうる。すなわち、ある定数をCg(>0)とすれば
0≦X≦Cgのとき
Y=p・X
Cg≦X≦255のとき
Y=255×{(X−Cg)/(255−Cg)}r +p・Cg (2)
である。ただし0<p<1、r<1である。そして、具体的には、図4では、この定数CgとしてGb、Gc(ここではいずれも正)の2つを用いている。そして、0℃〜25℃の階調補正曲線aは、
0≦X≦255のとき
Y=255×(X/255) r (2a)
であり、25℃〜35℃の階調補正曲線bは、
0≦X≦Gbのとき
Y=p・X
Gb≦X≦255のとき
Y=255×{(X−Gb)/(255−Gb)}r +p・Gb (2b)
であり、35℃以上あるいは35℃より高温の場合の階調補正曲線cは、
0≦X≦Gcのとき
Y=p・X
Gc≦X≦255のとき
Y=255×{(X−Gc)/(255−Gc)}r +p・Gc (2c)
で表される。
【0052】
A/D変換器5の出力ビット数がnビットであれば、上記式中の255が2n-1 に替わる。また、Gb、Gc、p、rの値は、画像処理装置の製造時や制御マイコン3のプログラムの変更時に任意に設定できる。
【0053】
この不連続な階調変換を行うことにより、温度上昇した場合でも、ノイズを抑え、しかも、暗いところは暗く、中間調を明るく、また、もともと明るい部分は明るく再現することが可能であり、コントラストの良い出力画像を得ることが可能である。
【0054】
さらに、本実施の形態においては、エッジ強調処理部6cのエッジ強調パラメータを、温度センサ2の出力に応じて切り換えている。エッジ強調は、図5に示す3×3の画素(aないしi)について次の演算により行っている。これは一般にラプラシアンフィルタと呼ばれている微分フィルタを構成している。いま、図5の3×3画素の中央画素eを注目画素としたとき、微分フィルタによる出力画素値をOutとすれば、
Out=e+hvparam {e−(b+d+f+h)/4}
+nnparam {e−(a+c+g+i)/4} (3)
である。なお、aないしiはここでは各画素の画素値(電圧値のデジタルレベル)である。また、式(3)において、第2項は水平方向および垂直方向のエッジ成分を表しており、hvparam はその増幅係数である。また、第3項は斜め方向のエッジ成分であり、nnparam はその増幅係数である。
【0055】
C−MOSイメージセンサ1の温度が上昇した場合は、制御マイコン3はhvparam およびnnparam を小さくし、画素の白点ノイズを目立たなくしている。すなわち、hvparam およびnnparam は実際には、それぞれ、図2に示す通り、C−MOSイメージセンサの温度Taが0℃〜25℃では hvparam_a 、 nnparam_aであり、Taが25℃〜35℃では hvparam_b 、 nnparam_b であり、Taが35℃〜では hvparam_c 、 nnparam_c であり、すでに述べたように
hvparam_a > hvparam_b > hvparam_c
nnparam_a > nnparam_b > nnparam_c
で示される関係を有している。
【0056】
なお、図3の処理と図4の処理とは、いずれか一方を行ってもよく、また、両方を行えば、白点ノイズを目立たなくするうえでより好ましい。
【0057】
このように、本実施の形態においては、C−MOSイメージセンサ1の、大きさがその温度に依存するノイズが発生しない場合の、最終的に表示される時点の画素の画素値をDidとするとき、まず、C−MOSイメージセンサ1の温度を温度センサ2にて実際に測る。そして、得られたC−MOSイメージセンサ1の温度情報に基づき、画素の画像データを、図2ないし図4等を用いて説明したように処理する。それによって、最終的に表示される時点のその画素の画素値が上記Didに近づくような補正を行っている。したがって、C−MOSイメージセンサ1が昇温して画像の白点ノイズ等のノイズが増大するような状況でも、そのようなノイズを効果的に軽減することができる。
【0058】
以上の制御マイコン3の処理は、制御マイコン3に組み込まれたソフトウエアによって実現されている。このソフトウェアによる動作について、図6を用いて説明する。
【0059】
図6は、制御マイコンの動作を表している。ステップ101(以下ステップをSと略記する。)では、制御マイコン3が、制御マイコン3に直結されたEEPROM11から制御プログラムを読み出し、マイコン内RAMへ読み込んでいる。
【0060】
1秒30枚のフレームレートの場合は、S102以下の処理が1秒につき30回繰り返される。S102では、ホワイトバランス、露光制御のため、1フレームの輝度(Y)、色信号(I信号およびQ信号)の積算値を信号処理DSP6より読み出し、その画素平均値を計算する。
【0061】
S103では、Y値により露光制御を行う。具体的には電子シャッターおよびAGCアンプ4のゲインの制御を行い、被写体が暗くなれば電子シャッターによる露光時間を長く制御し、電子シャッターの最長露光時間を越えても目標の明るさが得られない場合はAGCアンプ4の増幅率を上げる。逆に、被写体が明るくなった場合は、AGCアンプ4の増幅率を下げ、電子シャッターによる露光時間が短くなるように制御する。また、S104では、自動ホワイトバランス処理を行う。
【0062】
一方、制御マイコン3は、処理したフレーム数をカウントしており(S105)、S106で規定のカウント値まで達したら、S107にて温度センサ2からC−MOSイメージセンサ1の温度情報を取得し、S108にて、図2の温度範囲のどの範囲に入るかを判定し、S109で、上記入力オフセット電圧(以下、A/Dオフセットと略称する)、階調補正曲線、エッジ強調パラメータ等の設定を行う。これは、温度の変化はフレームレートに比べると非常に緩やかであり、毎フレームに温度センサ出力によって制御することは不要だからである。
【0063】
温度センサ2の出力値による上記A/Dオフセット、階調補正曲線、エッジ強調パラメータ等の設定終了後、フレームカウンタを0にリセットし(S110)、次フレームの制御に移行する。
【0064】
本マイコンプログラムは、制御マイコン3内のROMに格納するものであってもよいし、ホストインタフェース9を介して、パーソナルコンピュータやPDAといったホスト装置から電源投入時に制御マイコン3にロードされるものであってもよい。後者の場合は、後々のソフトウェアのバージョンアップがしやすいメリットがある。本実施の形態では、制御マイコン3内にS−RAM(static random access memory )を内蔵しており、電源投入時にホスト装置から制御プログラムをロードする方式を採用している。
【0065】
〔実施の形態2〕
本発明の他の実施の形態について図7ないし図14に基づいて説明すれば、以下の通りである。なお、説明の便宜上、前記の実施の形態の図面に示した部材と同一の機能を有する部材には、同一の符号を付記してその説明を省略する。
【0066】
図7に示すように、本実施の形態に係るデジタルカメラは、実施の形態1とほぼ同様の構成を有している。
【0067】
本実施の形態においては、制御マイコン3は、実施の形態1におけるEEPROM11(図1参照)の機能を、制御マイコン3内部に備えている。あるいは、実施の形態1同様にEEPROM11を備えるようにしてもよい。また、ホストインタフェース9は内部に画像読み出しレジスタ(RGBレジスタ)9a(温度情報記憶手段)を備えており、制御マイコン3は、温度センサ2から入力される温度データを、この画像読み出しレジスタ9aに書き込む機能を有している。
【0068】
メモリコントローラ7は、外部コネクタ10に接続されたパーソナルコンピュータやPDAといったホスト装置がホストインタフェース9を介して画像読み出しレジスタ9aに対し読み出し操作を行うたびに、フレームメモリ8から1画素ずつ、RGB値をホストインタフェース9内の画像読み出しレジスタ9aに転送するようになっている。
【0069】
ホストインタフェース9内の画像読み出しレジスタ9aは、図8に示すように、8ビット幅のレジスタであり、アドレス順に、画像サイズの横幅Wx 、画像サイズの縦幅Wy 、温度センサ2の測定値(C−MOSイメージセンサ1のチップ温度)Ta、1画素分のRGB値等を格納している。画素のRGB値は、ホスト装置からの指示により1画素分のRGB値がフレームメモリ8から読み込まれると、ホストインタフェース9はメモリコントローラ7と協調して、次の画素のRGB値をフレームメモリ8から読み出して画像読み出しレジスタ9aに格納するようになっている。したがって、ホスト装置は1枚の画像の画素数回だけ画像読み出しレジスタ9aを繰り返し読むことにより全画素のRGB値を順次読み込むことができる。
【0070】
図10に示すように、本実施の形態におけるデジタルカメラとしてのC−MOSデジタルカメラ60には、C−MOSイメージセンサ62(C−MOSイメージセンサ1に相当する)が格納されており、カード状の部分には、ホスト装置としての画像処理装置50とインタフェースするための外部コネクタ61(外部コネクタ10に相当する)が搭載されている。
【0071】
また、画像処理装置50には、各種操作を行うためのキー52・53、画像を表示する表示部51、上記C−MOSデジタルカメラ60等の周辺機器とインタフェースするためのインタフェースコネクタ54が搭載されている。
【0072】
図9は、本発明に関わるホスト装置としての画像処理装置の構成を示している。ユーザ入力装置203は、図10においてはキー52および53であり、マスクROM206により提供されるホスト装置の基本的な機能の操作や、コマンドの選択等を行う。表示装置202は、ユーザのキー操作による応答や、処理結果の画像の表示等を行う。204は画像処理用のフレームメモリであり、205は画像処理に用いるワークメモリとしての演算用メモリである。207はユーザデータを記憶するユーザデータ記憶メモリである。本実施の形態におけるホスト装置は、デジタルカメラの画像を表示する機能の他に、住所録や、電話帳、個人データベース、スケジュール管理、電子メール等の個人情報管理機能を搭載しており、ユーザのデータを多く記録できるようになっている。
【0073】
208は、デジタルカメラやその他の周辺機器のデータフォーマットを変換する外部インタフェースである。210のインタフェースコネクタには、デジタルカメラをはじめ、数種類の周辺機器が接続される。図10においては、このインタフェースコネクタ210は画像処理装置50の内部に搭載されている(インタフェースコネクタ54)。図10に示すカード状のC−MOSデジタルカメラ60やその他のカード型周辺機器を、画像処理装置50の、図中、右側面に設けられたスリットに挿入すると、周辺機器側の外部コネクタ61とホスト側のインタフェースコネクタ54とが画像処理装置50の内部で接続される。
【0074】
本実施の形態では、図11に示すフラッシュメモリカード型のメモリ媒体内に画像処理プログラムを格納しており、画像処理装置50にこのカード型のメモリ媒体を外部記憶装置209として差し込み、CPU201がその画像処理プログラムを読み出して実行することにより画像処理装置を構成している。
【0075】
次に、図12、図13、および図14のフローチャートを用いて、上記画像処理プログラムによる画像処理について説明する。
【0076】
ステップ201(以下ステップをSと略記する。)では、ホストインタフェース9内の画像読み出しレジスタ9aの図8に示すアドレス00〜03から画像サイズを読み出す。これにより、後段ステップで、画像サイズ分の画素データ読み出し回数、および、フィルタ処理の繰り返し回数を決定する。S202では、同様にして温度センサ2の計測値Taを読み出す。このTaは、後段でフィルタ処理を行うか行わないかを決定するしきい値(ここでは、後述するYd)を計算するためのパラメータとなる。
【0077】
S203およびS204は、1画面分の画素値を読み出し、ホスト装置内のフレームメモリ204(図9参照)に読み込むプロセスである。図中Aで示すこのS203およびS204の処理は、画像サイズ分繰り返す。
【0078】
S205では、前回この図14の処理を行ったときの温度センサ計測値と、S202で読み出した最新の温度センサ計測値とを比較し、前回と同一であれば、S206をスキップし、後段でフィルタ処理を行うか行わないかを決定するしきい値(Yd)の更新を行わない。
【0079】
S206では、C−MOSイメージセンサ1のチップ温度Taにより、ノイズ除去フィルタ処理を行うか行わないかを決定するしきい値Ydを計算している。その計算には以下の式(4)を用いている。すなわち、
Yd=−k×Ta+Y0 (4)
である。ここで、Ydは、後段のノイズ除去フィルタ処理を行うか行わないかを決定するしきい値である。また、kは、使用するC−MOSイメージセンサの温度対S/Nの特性により決定される比例定数(ここでは正)である。TaはC−MOSイメージセンサ1のチップ温度であり、Y0 は、温度Taが0℃の場合のしきい値である。式(4)を図示すると図12のようになる。図12に示すように、C−MOSイメージセンサ1のチップ温度が低い場合は、ノイズ除去フィルタ処理を行うか行わないかを決定するしきい値Ydを大きくすることで、ノイズ除去フィルタ処理を行う確率を下げる。一方、温度が高くなるにつれてこのしきい値Ydを下げ、フィルタ処理を行う確率を高くする。これは、前述したようにC−MOSイメージセンサ1は温度が上昇すると発生するノイズレベルも上昇し、また白点ノイズとして見える画素の数も増加するので、このようなC−MOSイメージセンサに対し、より多くの白点ノイズを後段のノイズ除去フィルタの処理対象とするためである。
【0080】
なお、S205で、C−MOSイメージセンサの温度計測値Taが前回の画像読み出し時の値と同一であれば、式(4)の計算によるYdの更新は行わない。そのため、前回の画像読み出し時と同一のYdが、今回の次段のノイズ除去フィルタ処理で使用される。
【0081】
S207からS213までが、本実施の形態で用いているノイズ除去フィルタ処理である。図中Bで示すこのS207ないしS213の処理は、画像サイズ分繰り返す。S207では、図13に示すように、元画像から3×3画素の小エリアを切り出している。このとき、3×3の画素は、注目画素eが画面上で中央の画素となるように選ぶ。S208では、注目画素を含む3×3エリアに含まれる9画素のRGB値それぞれを昇順または降順に並べ替え、その中央の値(メディアン)を検出する。すなわち昇順、または、降順に並べ替えたときの5番目の値を求める。この値をそれぞれRc、Gc、Bcとする。また注目画素のRGB値をRe、Ge、Beとする。
【0082】
S209では、3×3エリアの輝度平均値Ynを求めている。また、S210では、注目画素eの輝度Ymを求めている。なお、S209およびS210において、これら輝度平均値(YnやYm)を求めるうえで、その元となる輝度値Yは次の式(5)によって求めている。すなわち、
Y=0.3R+0.59G+0.11B (5)
である。R、G、Bはそれぞれ赤、緑、青の画素値である。
【0083】
S211では、S206で求めたしきい値Ydを用いて、ノイズ除去フィルタ処理を行うか行わないかを判定している。注目画素の輝度値Ymと9画素の輝度の平均値との差(絶対値)が上記しきい値Ydよりも大きい場合は、注目画素が比較的目立つ白点であると判断して、S212で示すノイズ除去フィルタ処理を行い、注目画素の輝度値と9画素の輝度の平均値との差がしきい値Ydと等しいかまたは小さい場合は、注目画素は白点ではないと判断し、S212のノイズ除去フィルタ処理を行わない。
【0084】
S212でのノイズ除去フィルタ処理の方法は、一般にメディアンフィルタと呼ばれる方法であり、注目画素を含む近傍画素の平均値を求めるローパスフィルタ処理と比べて、解像度が落ちない特長がある。本実施の形態では、C−MOSイメージセンサ1のチップ温度により、上記メディアンフィルタ処理を行うか行わないかを決定する選択的手法を取り入れている。S211で、注目画素が白点であると判断された場合は、Re=Rc、Ge=Gc、Be=Bcとして、注目画素のRGB値を9画素の中央値でそれぞれ置き換える。S211で注目画素が白点ではないと判断された場合は、S212をスキップする。
【0085】
S213では、注目画素を1画素シフトする。以上S207からS213までを画素数分だけ繰り返すことにより、画像の全画素についてノイズ除去フィルタ処理が実施されることになる。S214では、ノイズ除去フィルタ処理が施されて白点ノイズが除去された処理後の画像を、画像記録メディアに記録する。
【0086】
なお、本発明に係るデジタルカメラは、以下のような構成とすることができ、これにより、C−MOSイメージセンサの温度に応じて、C−MOSイメージセンサの出力を信号処理によってノイズが目立たなくなるように補正することができる。
【0087】
すなわち、本発明に係るデジタルカメラは、光電変換を行うC−MOSエリアイメージセンサと、前記C−MOSイメージセンサのチップ温度を測定する温度センサと、前記温度センサの出力を入力とし、露光調整、ホワイトバランス調整、ノイズレベル補正を行う制御マイコンと、画像の高品質化ブロックとして、階調補正、エッジ強調処理ブロックとを具備するように構成してもよい。
【0088】
この構成により、C−MOSイメージセンサの温度を検出する温度センサをC−MOSイメージセンサに設けており、前記温度センサの出力は制御マイコンに入力されている。
【0089】
また、本発明に係るデジタルカメラは、前記ノイズレベル補正をC−MOSイメージセンサ出力をアナログ増幅するAGCアンプの制御最大値の制限、および、増幅した後アナログデジタル変換を行うA/D変換器の入力オフセット電圧調節にて行うように構成してもよい。
【0090】
この構成により、C−MOSイメージセンサの温度を検出する温度センサをC−MOSイメージセンサに設けており、前記温度センサの出力は制御マイコンに入力されており、制御マイコンからC−MOSイメージセンサ出力をアナログ的に増幅するAGCアンプの制御最大値の制限を行い、C−MOSイメージセンサ内で発生したノイズを不用意に増幅し目立つことを防止するとともに、増幅した後アナログデジタル変換を行うA/D変換器の入力オフセット電圧を調節し、温度が高いときは入力オフセット電圧を下げることによりノイズレベルをある程度クリッピングすることを可能としている。ここで、入力オフセット電圧とは、A/D変換器にC−MOSイメージセンサからの画素アナログ出力を入力する際に、この画素アナログ出力に加える電圧である。図3は、A/D変換器の入力と出力との関係(入出力特性)を示しており、温度上昇時に上記画素アナログ出力に加える電圧すなわち入力オフセット電圧を下げることにより、入出力特性がa→b→cのように切り替わっていく。
【0091】
それゆえ、温度上昇によって生じた画素のノイズを低減することができる。
【0092】
また、本発明に係るデジタルカメラは、前記ノイズレベル補正を、画像高品質化ブロックの階調補正パラメータ、エッジ強調ブロックパラメータを調節することによって実現するように構成してもよい。
【0093】
この構成により、C−MOSイメージセンサの温度を検出する温度センサをC−MOSイメージセンサに設けており、前記温度センサの出力は制御マイコンに入力されており、制御マイコンから画像高品質化ブロックの階調補正パラメータを制御することにより、ノイズの目立たない階調補正を行うことができる。
【0094】
特に、温度が低いときは、入力値域の広範囲にわたり、中間調増幅型の階調補正を行い、温度が高いときは、入力画素値が低い場合は、1よりも小さい正の増幅を行い、入力画素値が高い場合は中間調協調型の階調補正を行うことにより、低い画素値に集中する白点ノイズを効果的に低減することができる。
【0095】
また、エッジ強調ブロックパラメータを調節することにより、温度が高いときはエッジ強調を多少弱くすることを可能としている。
【0096】
また、本発明に係るデジタルカメラは、前記制御マイコンの管理下に不揮発性メモリを有し、動作保証温度範囲を数範囲に分割し、そのおのおのの分割範囲と前記ノイズレベル補正パラメータとの対応テーブルを前記不揮発性メモリに有し、制御マイコンが、前記温度センサ出力がどの温度範囲に属するかを判定し、温度範囲に対応したノイズ補正パラメータを前記不揮発性メモリから読み出して各ブロックに設定するように構成してもよい。
【0097】
この構成により、C−MOSイメージセンサの温度を検出する温度センサをC−MOSイメージセンサに設けており、前記温度センサの出力は制御マイコンに入力されている。制御マイコンは、不揮発性メモリをその管理下に有しており、不揮発性メモリは、動作保証温度範囲を数範囲に分割したとき、そのおのおの温度範囲について前記ノイズレベル補正パラメータとの対応テーブルを有している。制御マイコンは、温度センサからの温度計測結果によって、前記対応テーブルから現在の温度に対応した補正値を各ノイズレベル補正ブロックに設定することにより、複雑なパラメータ計算を行うこと無しにノイズ補正を行える。
【0098】
また、本発明に係る記録媒体は、前記制御マイコンの管理下に不揮発性メモリを有し、動作保証温度範囲を数範囲に分割し、そのおのおのの分割範囲と前記ノイズレベル補正パラメータとの対応テーブルを前記不揮発性メモリに有し、制御マイコンが前記温度センサ出力がどの温度範囲に属するかを判定し、温度範囲に対応したノイズ補正パラメータを前記不揮発性メモリから読み出して各ブロックに設定する制御マイコンのプログラムを記録するように構成してもよい。
【0099】
また、本発明に係るデジタルカメラは、入力画素値の値域を2分割し、値域が低い範囲については、入力に対し出力が比例定数が1よりも小さくかつ0より大きい1次式となり、値域が高い範囲に関しては、中間調増幅特性となる入出力特性をもたせるような階調補正特性を有するように構成してもよい。
【0100】
また、本発明に係るデジタルカメラは、入力画素値の値域を2分割し、値域が低い範囲については、入力に対し出力が比例定数が1よりも小さくかつ0より大きい1次式となり、値域が高い範囲に関しては、中間調増幅特性となる入出力特性をもたせ、2分割の境界をC−MOSイメージセンサのチップ温度によって変更するように構成してもよい。
【0101】
また、本発明に係るデジタルカメラは、制御マイコンのプログラムを外部インタフェースより読み込み、制御マイコンが読み出し、書き込み可能な不揮発性メモリに書き込み、実行時に前記プログラムを制御マイコンが読み出し実行するように構成してもよい。
【0102】
また、本発明に係る記録媒体は、光電変換を行うC−MOSエリアイメージセンサと、前記C−MOSイメージセンサのチップ温度を測定する温度センサと、前記温度センサの出力を入力とし、露光調整、ホワイトバランス調整、ノイズレベル補正を行う制御マイコンと、画像の高品質化ブロックとして、階調補正、エッジ強調処理ブロックとを具備することを特長としたC−MOSデジタルカメラ装置において、前記ノイズレベル補正をC−MOSイメージセンサ出力をアナログ増幅するAGCアンプの制御最大値の制限、および、増幅した後アナログデジタル変換を行うA/D変換器の入力オフセット電圧調節にて行うことを特長としたC−MOSデジタルカメラ装置の制御マイコン用プログラムを記録するように構成してもよい。
【0103】
また、上記制御マイコンプログラムを、任意の記録媒体に収録し、外部インタフェースを介して制御マイコンに読み込むことを可能とすることにより、プログラムの開発、改良、アップデートに迅速に対応でき、場所を問わない開発環境を提供することが可能になる。
【0104】
また、本発明に係るデジタルカメラおよび画像処理装置は、白点の輝度値が温度依存性を持つことに注目し、ノイズ除去処理パラメータの決定に温度情報を用いるように構成することができる。
【0105】
すなわち、本発明に係るデジタルカメラは、撮影した画像を、外部インタフェースを介して外部の画像処理装置に転送する機能を持つC−MOSイメージセンサを搭載したデジタルカメラ装置において、温度依存性の高いC−MOSイメージセンサの白点ノイズに着目し、C−MOSイメージセンサのチップ温度を測定する手段を有し、前記温度測定手段による測定結果を格納するレジスタと画像データを格納するレジスタを持つように構成してもよい。
【0106】
この構成により、C−MOSイメージセンサのチップ温度を測定する手段を有し、前記温度測定手段による測定結果を画像データとともに外部画像処理装置が読み出す手段を提供する。
【0107】
それゆえ、カメラより転送されたチップ温度データにより、ホスト装置側の画像処理によってノイズフィルタのフィルタリングパラメータを決定する手段を与える。
【0108】
また、本発明に係る画像処理装置は、上記C−MOSイメージセンサのチップ温度測定手段による測定結果を読み出し、前記測定値をパラメータとしてノイズ除去処理を行うように構成してもよい。
【0109】
この構成により、デジタルカメラに接続され、デジタルカメラで撮影した画像データを読み出すホスト装置が、前記C−MOSイメージセンサの温度測定値をパラメータとしてノイズ除去処理を行う。
【0110】
それゆえ、このデジタルカメラから読み込むことが出来る温度情報を用いて画像処理のパラメータを決定することが出来、ユーザのカット&トライによることなく自動的に効果的なフィルタ処理を行うことを可能とする。また、温度データはデジタルカメラから読み込まれるものに限らず、ユーザが入力装置により、任意に与えるものでもよい。
【0111】
また、本発明に係る画像処理装置は、C−MOSイメージセンサにて光電変換により画像から得られた電気信号を各画素の画素値として処理する画像処理装置において、上記C−MOSイメージセンサの温度を測る温度計測手段と、上記温度計測手段にて測られたC−MOSイメージセンサの温度を記憶する温度情報記憶手段とを備えるように構成してもよい。
【0112】
また、本発明に係る画像処理装置は、C−MOSイメージセンサにて光電変換により画像から得られた電気信号を各画素の画素値として処理する画像処理装置において、上記C−MOSイメージセンサの、大きさが温度に依存するノイズが発生しない場合の、最終的に表示される時点の画素の画素値をDidとするとき、上記C−MOSイメージセンサの温度に基づき、上記画素の画像データを、最終的に表示される時点のその画素の画素値が上記Didに近づく方向に補正する画像補正手段を備えるように構成してもよい。
【0113】
また、本発明に係る画像処理装置は、C−MOSイメージセンサにて光電変換により画像から得られた電気信号を画素の画素値として処理する画像処理装置において、上記C−MOSイメージセンサの、大きさが温度に依存するノイズが発生しない場合の、最終的に表示される時点の画素の画素値をDidとするとき、上記C−MOSイメージセンサの温度を測る温度計測手段と、上記C−MOSイメージセンサの温度に基づき、上記画素の画像データを、最終的に表示される時点のその画素の画素値が上記Didに近づく方向に補正する画像補正手段とを備えるように構成してもよい。
【0114】
上記の構成により、C−MOSイメージセンサの、大きさが温度に依存するノイズが発生しない場合の、最終的に表示される時点の画素の画素値をDidとするとき、C−MOSイメージセンサの温度を測り、上記C−MOSイメージセンサの温度に基づき、上記画素の画像データを、最終的に表示される時点のその画素の画素値が上記Didに近づく方向に補正する。したがって、昇温して画像のノイズが増大しても、それを効果的に軽減することができる。
【0115】
例えば、昇温により必要量以上の電荷が多くなり輝度値が増大してしまう場合でも、画素の輝度値を小さくする方向へ画像データを補正し、それにより、輝度値の増大による白点などのノイズを軽減することができる。
【0116】
ここで、所定の補正手順、例えば、式による計算や、あらかじめ用意したデータテーブルの参照などの手順を用いることができる。
【0117】
このように、採用するC−MOSイメージセンサ自体の温度−ノイズ特性に委ねるのではなく、C−MOSイメージセンサを採用したデジタルカメラ等の画像処理装置システム全体で、ノイズを軽減すべく、好適に画像データを補正している。
【0118】
そのため、C−MOSイメージセンサの温度上昇によるノイズレベル悪化に対し、C−MOSイメージセンサ自体の特性の改良が不要である。また、C−MOSイメージセンサの個体ごとに温度特性バラツキが存在していても、これを吸収することができ、個々のC−MOSイメージセンサに対応できる。また、C−MOSデジタルカメラで撮影した画像が上記白点を多く含んでいた場合に、画像処理装置に転送した後で、操作者が自分で画像処理の各操作パラメータをカット&トライにて決める必要がない。
【0119】
それゆえ、C−MOSイメージセンサの温度上昇によるノイズレベル悪化を容易に軽減でき、温度に関係なくノイズの少ない高品位な画像表示の可能な画像処理を行うことができる。
【0120】
また、本発明に係る画像処理装置は、撮影画像内の任意の横3画素、縦3画素より構成される正方形の画素エリアを考え、その注目画素を3×3画素のエリアの中央の画素としたとき、全9画素のR、G、Bの値をそれぞれ昇順、または、降順に並べ替えたときの中央のR、G、B値を求める手段と、前記9画素の輝度平均値を求める手段と、注目画素の輝度値と前記9画素の輝度平均値とを比較し、その差が一定値以上であったときに注目画素のR、G、Bを前記9画素のRGBそれぞれの中央の値で置き換える手段を持つように構成してもよい。
【0121】
この構成により、撮影画像内の任意の横3画素、縦3画素より構成される正方形の画素エリアを考え、その注目画素を3×3画素の中央画素としたとき、全9画素のR、G、Bの値をそれぞれ昇順、または、降順に並べ替えたときの中央のR、G、B値を求める手段と、前記9画素の輝度平均値を求める手段と、注目画素の輝度値と前記9画素の輝度平均値とを比較し、その差が一定値以上であったときに注目画素のR、G、Bを前記9画素のRGBそれぞれの中央値で置き換えることでノイズ除去を行う手段を持つ。
【0122】
それゆえ、メディアンフィルタ処理を行う画素を選択し、選択条件に適合した画素についてのみメディアンフィルタ処理を施すことにより、解像度を低下させることなく、白点のみを除去する事が可能である。
【0123】
また、本発明に係る画像処理装置は、注目画素の輝度値と前記9画素の輝度平均値とを比較し、その差がある基準値以上であったときに注目画素のR、G、Bを前記9画素のRGBそれぞれの中央の値で置き換える際に用いる基準値の算出を、上記外部インタフェースに接続されたデジタルカメラからのC−MOSイメージセンサの温度情報に用いて行うように構成してもよい。
【0124】
この構成により、注目画素の輝度値と前記9画素の輝度平均値とを比較し、その差がある基準値以上であったときに注目画素のR、G、Bを前記9画素のRGBそれぞれの中央の値で置き換える際に用いる基準値の算出を、上記外部インタフェースに接続されたデジタルカメラからのC−MOSイメージセンサの温度情報に基づいて行う。
【0125】
それゆえ、C−MOSイメージセンサの温度情報によりメディアンフィルタ処理を行う画素を選択し、選択条件に適合した画素についてのみメディアンフィルタ処理を施すことにより、温度が高いときは、レベルの小さな白点をも除去する事が可能である。
【0126】
また、本発明に係る画像処理装置は、注目画素の輝度値と前記9画素の輝度平均値とを比較し、その差がある基準値以上であったときに注目画素のR、G、Bを前記9画素のRGBそれぞれの中央の値で置き換える際に用いる基準値の算出を、上記外部インタフェースに接続されたデジタルカメラからのC−MOSイメージセンサの温度情報が、前回の画像読み出し時と同一であれば行わないように構成してもよい。
【0127】
また、本発明に係る記録媒体は、C−MOSイメージセンサのチップ温度測定手段による測定結果を読み出し、撮影画像内の任意の横3画素、縦3画素より構成される正方形の画素エリアを考え、その注目画素を3×3画素のエリアの中央の画素としたとき、全9画素のR、G、Bの値をそれぞれ昇順、または、降順に並べ替えたときの中央のR、G、B値を求める手段と、前記9画素の輝度平均値を求める手段と、注目画素の輝度値と前記9画素の輝度平均値とを比較し、その差が前記C−MOSイメージセンサのチップ温度から決定されるしきい値以上であったときに注目画素のR、G、Bを前記9画素のRGBそれぞれの中央の値で置き換えるノイズ除去処理を行う画像処理プログラムを記録するように構成してもよい。
【0128】
この構成により、上記温度情報の受信、ノイズ除去パラメータの計算、ノイズ除去処理はプログラムによっても可能であり、パーソナルコンピュータや携帯情報端末等のホスト装置用のプログラムを任意の記録媒体に収録し提供する。
【0129】
それゆえ、専用の画像処理装置を準備することなく、パーソナルコンピュータ、携帯情報端末等の一般的なハードウェアによって本発明の画像処理装置を構成することが可能である。
【0130】
【発明の効果】
以上のように、本発明の画像処理装置は、上記C−MOSイメージセンサの、温度に依存するノイズが発生しない時点の画素の画素値をDidとするとき、上記C−MOSイメージセンサの温度を測る温度計測手段と、上記C−MOSイメージセンサの温度の情報が入力され、上記C−MOSイメージセンサの温度に基づき、上記画素の画素値が上記Didに近づく方向に補正する画像補正手段とを備えた構成である。
【0131】
これにより、C−MOSイメージセンサが昇温して画像のノイズが増大しても、それを効果的に軽減することができる。それゆえ、C−MOSイメージセンサの温度上昇によるノイズレベル悪化を容易に軽減でき、温度に関係なくノイズの少ない高品位な画像表示の可能な画像処理を行うことができるという効果を奏する。
【0132】
また、本発明の画像処理装置は、上記構成において、A/D変換前後の上記画素の画素値をそれぞれX、Yとし、上記C−MOSイメージセンサの温度によって定まる境界値をCaとするとき、
X≦CaのときY=0、
Ca<XのときY=X−Ca
を満たすようにA/D変換するA/D変換器を備え、上記画像補正手段が、上記C−MOSイメージセンサの昇温につれて上記Caを増加させる構成である。
【0133】
これにより、画素値が高い部分では比較的高い画素値が保たれる一方、ある境界値Caを境にして、低い部分では、元の画素値に関係なく変換後の画素値が0となり、明るい部分と暗い部分との差がより強調される。それゆえ、上記の構成による効果に加えて、C−MOSイメージセンサの温度上昇によるノイズゆえに白点化などのように全体的に輝度が高くなるのを防止し、画像のコントラストをより良好に、よりきめ細かく高めることができ、より高品位表示化することができるという効果を奏する。
【0134】
また、本発明の画像処理装置は、上記構成において、階調補正前後の上記画素の画素値をそれぞれX、Yとし、上記C−MOSイメージセンサの温度によって定まる境界値をCgとするとき、定数g、0<p<1を満たす定数p、0<r<1を満たす定数rに対し、
X≦CgのときY=pX、
Cg<XのときY=g・{(X−Cg)/(g−Cg)}r +pCg
を満たすように階調補正する階調補正処理部を備え、上記画像補正手段が、上記C−MOSイメージセンサの昇温につれて上記Cgを増加させる構成である。
【0135】
これにより、画素値が中程度の部分では、元の画素値より画素値が大きくなり、画素値が高い部分では、その大きくなる度合いが徐々に小さくなり、一方、ある境界値Cgを境にして、低い部分では、元の画素値より画素値が小さくなり、明るい部分と暗い部分との差がより強調される。それゆえ、上記の構成による効果に加えて、C−MOSイメージセンサの温度上昇によるノイズゆえに白点化などのように全体的に輝度が高くなるのを防止し、画像のコントラストをより良好に、よりきめ細かく高めることができ、より高品位表示化することができるという効果を奏する。
【0136】
また、本発明の画像処理装置は、上記構成において、上記画像補正手段が、上記C−MOSイメージセンサの温度によって定まる基準値Ydを、上記C−MOSイメージセンサの昇温につれて減少させ、1画像サイズ分の画素内の任意の横3画素、縦3画素より構成される画素エリアを考え、注目画素をその3×3画素エリアの中央の画素としたとき、全9画素のそれぞれ赤、緑、青の画素値であるR値、G値、B値をそれぞれ昇順または降順に並べ替えたときのR値、G値、B値それぞれにおける中央値Rc、Gc、Bcを求め、各色において、上記9画素の輝度平均値Ynを求め、上記注目画素の輝度値Ymと上記9画素の輝度平均値Ynとを比較し、その差が上記基準値Yd以上であるときに、上記注目画素のR値、G値、B値をそれぞれ上記9画素の中央値Rc、Gc、Bcで置き換える構成である。
【0137】
これにより、昇温するほどノイズが高くなり白点など輝度が高すぎる画素が増えるという現象に対して、処理される画素も増える。それゆえ、上記の構成による効果に加えて、昇温により白点などの画像のノイズが増えても、それをより容易かついっそう効果的に抑制することができるという効果を奏する。
【0138】
また、本発明の画像処理装置は、上記構成において、上記画像補正手段が、計測した上記C−MOSイメージセンサの温度が前回の計測時と同一であるか否かを調べ、今回計測した上記C−MOSイメージセンサの温度が前回の計測時と同一であるときは、上記基準値Ydとして、前回の計測時の値を用いる構成である。
【0139】
上記の構成により、今回計測した上記C−MOSイメージセンサの温度が、前回の計測時と同一であるときは、上記基準値Ydとして、前回の計測時の値を用いる。したがって、その分処理を簡略化することができる。それゆえ、上記の構成による効果に加えて、より容易に、C−MOSイメージセンサの温度に応じて適切な画像処理を行うことができるという効果を奏する。
【図面の簡単な説明】
【図1】 本発明に係るC−MOSイメージセンサ搭載のデジタルカメラのシステム内部の一構成例を示すブロック図である。
【図2】 温度センサ出力と制御マイコンの設定値との対応テーブルを示す説明図である。
【図3】 A/D変換器の入力特性を表すA/D変換曲線を示すグラフである。
【図4】 階調補正特性を表す階調補正曲線を示すグラフである。
【図5】 エッジ強調の演算単位となる画素を示す説明図である。
【図6】 本発明による画像読み込み処理および温度に基づく画像補正処理の手順を示すフローチャートである。
【図7】 本発明に係るC−MOSイメージセンサ搭載のデジタルカメラのシステム内部の他の構成例を示すブロック図である。
【図8】 外部のホスト装置がデジタルカメラから画像情報を読み出すのに用いる画像読み出しレジスタの構成を示す説明図である。
【図9】 本発明の画像処理装置の一構成例を示すブロック図である。
【図10】 本発明のデジタルカメラおよびそれを装着するホスト装置の外観を示す平面図である。
【図11】 本発明の画像処理装置をプログラムによって構成したときにそのプログラムを記録したカード型記録媒体の一構成例を示す平面図である。
【図12】 C−MOSイメージセンサのチップ温度から、ノイズ除去フィルタ処理を行うか否かを決定するためのしきい値を計算する様子を示すグラフである。
【図13】 本発明におけるノイズ除去フィルタの動作を示す説明図である。
【図14】 本発明による画像読み込み処理および温度に基づく画像補正処理の手順を示すフローチャートである。
【符号の説明】
1 C−MOSイメージセンサ
2 温度センサ(温度計測手段)
3 制御マイコン(画像補正手段)
4 AGCアンプ
5 A/D変換器
6 信号処理DSP(画像補正手段)
6a 画像補正処理部
6b 階調補正処理部
6c エッジ強調処理部
7 メモリコントローラ
8 フレームメモリ
9 ホストインタフェース
9a 画像読み出しレジスタ(温度情報記憶手段)
10 外部コネクタ
11 EEPROM
50 画像処理装置
51 表示部
52 キー
53 キー
54 インタフェースコネクタ
60 C−MOSデジタルカメラ
61 外部コネクタ
62 C−MOSイメージセンサ
201 CPU
202 表示装置
203 ユーザ入力装置
204 フレームメモリ
205 演算用メモリ
206 マスクROM
207 ユーザデータ記憶メモリ
208 外部インタフェース
209 外部記憶装置
210 インタフェースコネクタ
Claims (3)
- C−MOSイメージセンサにて光電変換により画像から得られた電気信号を各画素の画素値として処理する画像処理装置において、
上記C−MOSイメージセンサの、温度に依存するノイズが発生しない時点の画素の画素値をDidとするとき、
上記C−MOSイメージセンサの温度を測る温度計測手段と、
上記C−MOSイメージセンサの温度の情報が入力され、上記C−MOSイメージセンサの温度に基づき、上記画素の画素値が上記Didに近づく方向に補正する画像補正手段とを備え、
上記画像補正手段は、
上記C−MOSイメージセンサの温度によって定まる基準値Ydを、上記C−MOSイメージセンサの昇温につれて減少させ、
1画像サイズ分の画素内の任意の横3画素、縦3画素より構成される画素エリアを考え、注目画素をその3×3画素エリアの中央の画素としたとき、全9画素のそれぞれ赤、緑、青の画素値であるR値、G値、B値をそれぞれ昇順または降順に並べ替えたときのR値、G値、B値それぞれにおける中央値Rc、Gc、Bcを求め、
各色において、上記9画素の輝度平均値Ynを求め、上記注目画素の輝度値Ymと上記9画素の輝度平均値Ynとを比較し、その差が上記基準値Yd以上であるときに、上記注目画素のR値、G値、B値をそれぞれ上記9画素の中央値Rc、Gc、Bcで置き換えることを特徴とする画像処理装置。 - A/D変換前後の上記画素の画素値をそれぞれX、Yとし、上記C−MOSイメージセンサの温度によって定まる境界値をCaとするとき、
X≦CaのときY=0、
Ca<XのときY=X−Ca
を満たすようにA/D変換するA/D変換器を備え、
上記画像補正手段が、上記C−MOSイメージセンサの昇温につれて上記Caを増加させることを特徴とする請求項1に記載の画像処理装置。 - 上記画像補正手段が、計測した上記C−MOSイメージセンサの温度が前回の計測時と同一であるか否かを調べ、今回計測した上記C−MOSイメージセンサの温度が前回の計測時と同一であるときは、上記基準値Ydとして、前回の計測時の値を用いることを特徴とする請求項1に記載の画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000213178A JP4409063B2 (ja) | 2000-07-13 | 2000-07-13 | 画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000213178A JP4409063B2 (ja) | 2000-07-13 | 2000-07-13 | 画像処理装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2002033892A JP2002033892A (ja) | 2002-01-31 |
JP2002033892A5 JP2002033892A5 (ja) | 2007-08-30 |
JP4409063B2 true JP4409063B2 (ja) | 2010-02-03 |
Family
ID=18708976
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000213178A Expired - Fee Related JP4409063B2 (ja) | 2000-07-13 | 2000-07-13 | 画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4409063B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4496976B2 (ja) * | 2005-02-04 | 2010-07-07 | 日本電気株式会社 | ノイズ軽減回路 |
JP2007202067A (ja) * | 2006-01-30 | 2007-08-09 | Fujifilm Corp | 固体撮像装置及びデジタルカメラ |
JP4861732B2 (ja) * | 2006-03-27 | 2012-01-25 | 京セラ株式会社 | 画像処理装置、画像読取装置及び携帯電話機 |
JP5103984B2 (ja) * | 2007-03-29 | 2012-12-19 | 株式会社ニコン | 画像処理装置、撮像装置、および画像処理プログラム |
JP2011229102A (ja) * | 2010-04-23 | 2011-11-10 | Konica Minolta Opto Inc | 撮像装置および撮像装置の温度特性補正方法 |
JP5870214B2 (ja) * | 2012-12-14 | 2016-02-24 | 発紘電機株式会社 | プログラマブルコントローラシステム、そのプログラマブル表示器、支援装置、プログラム |
-
2000
- 2000-07-13 JP JP2000213178A patent/JP4409063B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002033892A (ja) | 2002-01-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7133072B2 (en) | Image processing apparatus having an image correction circuit and its processing method | |
JP5157753B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム | |
JP5275122B2 (ja) | ダイナミックレンジ圧縮装置、ダイナミックレンジ圧縮方法、プログラム、集積回路および撮像装置 | |
JP5231734B2 (ja) | イメージセンサー及びイメージ明るさ分布調節方法 | |
JP4994825B2 (ja) | 撮像装置及びその制御方法及びプログラム及び記憶媒体 | |
JP5337049B2 (ja) | デジタル画像内の位置に依存するノイズの低減 | |
US20070206108A1 (en) | Picture displaying method, picture displaying apparatus, and imaging apparatus | |
JP2010009583A5 (ja) | ||
JP4992698B2 (ja) | 色収差補正装置、撮像装置、色収差算出方法および色収差算出プログラム | |
CN104469138A (zh) | 图像处理装置以及图像处理方法 | |
US8155472B2 (en) | Image processing apparatus, camera, image processing program product and image processing method | |
JP4433883B2 (ja) | ホワイトバランス補正装置及びホワイトバランス補正方法、プログラム、電子カメラ装置 | |
JP2006005912A (ja) | 撮像装置、ノイズ除去方法およびノイズ除去プログラム | |
JP5932068B1 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム | |
JP4409063B2 (ja) | 画像処理装置 | |
JP2003219205A (ja) | 撮像装置、表示装置、画像記録装置および画質補正方法 | |
KR100967742B1 (ko) | 이미지센서의 색 보간 방법 | |
JP5142833B2 (ja) | 画像処理装置及び画像処理方法 | |
JPH10322592A (ja) | 電子カメラの制御方法及び装置 | |
JP2010273378A (ja) | 撮像装置、ノイズ除去方法およびノイズ除去プログラム | |
JP4307862B2 (ja) | 信号処理方法、信号処理回路、及び撮像装置 | |
JP2003101884A (ja) | シェーディング補正装置および方法 | |
JP4439841B2 (ja) | 撮像装置及びその画像処理方法 | |
JP4507719B2 (ja) | 画像処理装置および画像処理プログラム | |
KR100607803B1 (ko) | 이미지센서의 색 보간 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070713 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070713 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20070713 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090708 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090818 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091016 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091110 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091111 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121120 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121120 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131120 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |