JP3888456B2 - デジタルスチルカメラ - Google Patents
デジタルスチルカメラ Download PDFInfo
- Publication number
- JP3888456B2 JP3888456B2 JP2002263694A JP2002263694A JP3888456B2 JP 3888456 B2 JP3888456 B2 JP 3888456B2 JP 2002263694 A JP2002263694 A JP 2002263694A JP 2002263694 A JP2002263694 A JP 2002263694A JP 3888456 B2 JP3888456 B2 JP 3888456B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- correction
- image data
- data
- gradation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/68—Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
- H04N1/6002—Corrections within particular colour systems
- H04N1/6005—Corrections within particular colour systems with luminance or chrominance signals, e.g. LC1C2, HSL or YUV
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
- H04N1/6027—Correction or control of colour gradation or colour contrast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2101/00—Still video cameras
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Processing Of Color Television Signals (AREA)
- Studio Devices (AREA)
- Color Television Image Signal Generators (AREA)
- Television Signal Processing For Recording (AREA)
- Image Processing (AREA)
Description
【発明の属する技術分野】
この発明は、デジタルスチルカメラおよび画像の補正方法に関する。
【0002】
【従来の技術】
デジタルスチルカメラの総出荷台数が銀塩カメラの台数を超えたことからも分かるように、デジタルスチルカメラの普及率はかなり高くなってきている。これに伴い、ハイエンドのユーザからローエンドのユーザまで様々なレベルのユーザがデジタルスチルカメラを使用するようになり、デジタルスチルカメラの用途、画質に対する要求レベル、画質の好みなどが多様化している。
【0003】
例えば、これまで銀塩カメラを使用してきて、その画質に慣れ親しんできたユーザは、デジタルスチルカメラの撮影画像を銀塩カメラで撮影した写真と比較し、「銀塩カメラライク」な画像を好む傾向にある。一方、これまで銀塩カメラの撮影画像や静止画画像から疎遠であり、テレビの画質に慣れ親しんだユーザは、テレビの画像とデジタルスチルカメラ撮影画像とを比較し、「テレビライク」な画質を好む傾向にある。
【0004】
このため、デジタルスチルカメラ各社は、機種ごとに絵作りを行い、想定されるターゲットユーザが満足すると思われる画質の設計を行っている。
【0005】
【発明が解決しようとする課題】
上述のように、デジタルスチルカメラのユーザ層が広がるにつれて画質の好みも多様化してきている。ところが、ユーザの画質の好みを満足するような画質を一つのデジタルスチルカメラで実現することは、現在の枠組みでは、かなり困難である。なぜなら、デジタルスチルカメラにおいては、撮影されたカラー画像は、まず、デジタルスチルカメラ各社の独自のノウハウに基づいてAWB補正(自動ホワイトバランス補正)、階調補正、彩度補正などが施され、その後、フラッシュメモリに記録される。
【0006】
そして、画像データをフラッシュメモリに記録するときの画像フォーマットとしては一般にDCFに準拠したフォーマットが使用されるが、このフォーマットにおいては、標準的な色空間であるsRGB色空間が採用されている。このsRGB色空間は、パーソナルコンピュータのCRTモニタの諧調特性や色域(色再現範囲)などの色特性を規定している。
【0007】
また、画像フォーマットとして、DCFでも採用されているJPEGフォーマットを拡張したJPEG2000や、人間が知覚可能な色再現範囲をより広くカバーできる色空間も検討されている。それらの中でも、実シーンの光の量をリニアなデータで保持できるscRGB色空間(シーン参照色空間)や、そのデータを出力先あるいは表示デバイスに適するように色補正した色空間(アウトプット参照色空間)、例えば拡張sRGB色空間が国際標準化されようとしている。
【0008】
しかし、どの画像フォーマットにせよ、撮影したカラー画像は、DCFに準拠した画像フォーマットにより単一画像としてフラッシュメモリに記録・保存されるので、多彩なユーザの画質をすべて満足するように保存することはできない。
【0009】
また、別の問題として、撮影時における基本的な撮影条件の設定ミスにより、撮影された画像がいわゆる撮影失敗画像となってしまうことがある。例えば、蛍光灯照明下で自然光モードで撮影したためカラーバランスがくずれたり、露出不足だったりすることがある。しかし、デジタルスチルカメラのときには、銀塩カメラ画像と異なり、画像データがデジタルデータであることもあり、撮影後の修正ニーズが大きい。
【0010】
これらの問題の解決策として、パーソナルコンピュータにおいて市販の「画像補正・加工ソフト」を利用する方法がある。つまり、ユーザがデジタルスチルカメラだけではなくパーソナルコンピュータも所有していれば、こうしたソフトウェアを使用することによりデジタルスチルカメラで撮影した画像を補正することができ、適切な画像とすることができる。
【0011】
しかし、実際には、ユーザが補正に使用できる画像データは、デジタルスチルカメラ内でJPEG圧縮などの処理の行われたデータであり、その画像データの持つ情報量は実際の撮影シーンの情報量よりも少ないので、必ずしもユーザ、特にハイエンドユーザが好む画質に十分に補正できないことがある。
【0012】
また、ローエンドユーザにとって、補正・加工ソフトにより撮影画像を自分の好みの画質に補正することは困難であり、めんどうでもある。このため、市販の補正・加工ソフトのほとんどには、「画質自動補正機能」が装備され、画質補正の知識がないユーザでも、簡単に画質の補正ができるようにされている。しかし、現状では、画像内容によっては補正効果にかなりのばらつきがあり、好みの画質とならない画像が多い。
【0013】
さらに、撮影後の補正を行う場合、現在のsRGBフォーマットあるいはこれに準じたJPEG-YCCフォーマットによる保存が問題となる。すなわち、scRGB色空間およびscYCC色空間などのシーン参照色空間フォーマットによる画像の保存方法については、例えば特許願2001−343753により解決方法が提案されているが、現状では、これらシーン参照色空間フォーマット画像に対応した画像補正ソフトは皆無である。
【0014】
この発明は、以上のような点にかんがみ、撮影した画像を適切な画像に補正できるとともに、その補正がデジタルスチルカメラ内で自動的に実行されるようにするものである。
【0015】
【課題を解決するための手段】
この発明においては、
被写体の像が投影されて3原色の画像データを出力するイメージセンサと、
このイメージセンサから出力された画像データに対して自動ホワイトバランスの補正処理を行う自動ホワイトバランス処理回路と、
この自動ホワイトバランスの補正処理が行われた画像データを、輝度データと青および赤の色差データとからなるYCCフォーマットの画像データに変換する演算回路と、
この演算回路により変換された上記YCCフォーマットの画像データの階調補正を行う階調補正回路と、
この階調補正回路により階調補正された画像データが供給されてカラー画像を表示するディスプレイと、
上記階調補正された画像データを、着脱自在とされている不揮発性メモリに書き込む書き込み回路と
を有し、
上記階調補正回路は、
上記YCCフォーマットの画像データのうちの輝度データの階調を補正する階調補正部と、
上記YCCフォーマットの画像データのうちの色差データの彩度を補正する彩度補正部と、
上記輝度データからその累積ヒストグラムを作成するヒストグラム演算部と、
上記累積ヒストグラムに基づいて上記カラー画像を9つのカテゴリに分類する画像カテゴライズ部と、
S字特性であって、上記累積ヒストグラムの値にしたがって変局点および曲率が変化する白黒補正カーブ作成部と、
上記画像カテゴライズ部の分類結果にしたがって変局点および曲率が変化する逆S字特性を作成する作成部と、
上記S字特性および上記逆S字特性から上記階調補正部を制御する階調補正カーブ作成部と、
上記画像カテゴライズ部の分類結果にしたがって上記彩度補正部における利得を制御して上記彩度補正を行う彩度補正カーブ作成部と
を有し、
上記画像カテゴライズ部は、
上記累積ヒストグラムのデータを所定の閾値と比較して上記カラー画像の明るさを、明るい、平均的および暗いの3つのカテゴリに分類するとともに、
上記累積ヒストグラムのデータの範囲を所定の閾値と比較して上記カラー画像の明るい範囲を、狭い、中間および広いの3つのカテゴリに分類することにより、
上記カラー画像を上記9つのカテゴリに分類し、
上記画像カテゴライズ部の分類結果に対応して上記階調補正部および上記彩度補正部による補正特性を変更して上記階調補正を行う
ようにしたデジタルスチルカメラ
とするものである。
したがって、撮影した画像はデジタルスチルカメラ内で適切な画像に自動的に補正される。
【0016】
【発明の実施の形態】
▲1▼ 撮影時の信号処理
図1は、この発明を単板式のデジタルスチルカメラに適用した場合における撮影系の一例を示す。すなわち、被写体OBJの像が撮像レンズLNSによりCCDイメージセンサ11に投影され、このCCDイメージセンサ11からは16ビットリニアな3原色の画像データR1、G1、B1が取り出され、この画像データR1、G1、B1がデモザイク処理回路12に供給されてピクセルごとの画像データにデモザイク化され、その後、AWB処理回路13によりAWB処理が行われて画像データR'2、G'2、B'2とされる。
【0017】
次に、この画像データR'2、G'2、B'2がscRGBデータ作成回路14に供給され、16ビットリニアなscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBとされ、この画像データRscRGB、GscRGB、BscRGBがRAM15にいったん保存される。そして、この保存された画像データRscRGB、GscRGB、BscRGBがガンマ補正回路16に供給されてガンマ補正されるとともに、8ビット×3色の画像データR、G、Bとされ、この画像データR、G、Bが、書き込み・読み出し回路19により不揮発性のメモリ手段、例えばフラッシュメモリ20に書き込まれて保存される。なお、このフラッシュメモリ20は、デジタルスチルカメラに対して着脱自在とされている。
【0018】
あるいは、ガンマ補正回路16からの画像データR、G、Bがマトリックス演算回路17に供給されてYCCフォーマットの画像データ、すなわち、輝度のデータYと、青および赤の色差データCb、Crとに変換され、この画像データY、Cb、Crが書き込み・読み出し回路19によりフラッシュメモリ20に書き込まれて保存される。
【0019】
なお、これら画像データR、G、BあるいはY、Cb、Crは、従来のデジタルスチルカメラや「画像補正・加工ソフト」との互換をとるためにフラッシュメモリ20に保存されるものである。そして、この発明においては、さらに次のように構成される。
【0020】
すなわち、RAM15に保存されている画像データRscRGB、GscRGB、BscRGBが、そのまま、つまり、16ビットリニアな画像データのまま書き込み・読み出し回路19によりフラッシュメモリ20に書き込まれて保存される。
【0021】
あるいは、その画像データRscRGB、GscRGB、BscRGBが、scYCC/scRGB変換回路18に供給され、12ビットノンリニアなscYCCフォーマットの画像データYscYCC、CbscYCC、CrscYCCに変換され、この画像データYscYCC、CbscYCC、CrscYCCが書き込み・読み出し回路19によりフラッシュメモリ20に書き込まれて保存される。
【0022】
以上が、撮影時における信号処理である。
【0023】
▲2▼ scRGBフォーマットの画像データ作成回路14の例
scRGB作成回路14においては、AWB補正後の画像データR'2、G'2、B'2が16ビットリニアなscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBに変換されるが、これは例えば以下のような処理により実現される。
【0024】
すなわち、
(1) まず、シーンの白レベル(100%白レベル)を決定する。例えば、図21に示す式1により、AWB補正後の画像データR'2、G'2、B'2からピクセルごとに画像データXraw、Yraw、Zrawを算出する。
そして、画像の全ピクセルあるいは適当にサンプリングしたピクセルにおける画像データYrawの平均値Yraw_aveを算出し、その平均値Yraw_aveの例えば5倍の値を白レベルに設定する。
【0025】
(2) (1)項において求めた白レベルにより、ピクセルごとの画像データXraw、Yraw、Zrawを、図21に示す式2にしたがって正規化し、正規化画像データXraw_n、Yraw_n、Zraw_nを得る。
【0026】
(3) 図21に式3として示すように、(2)項で求めた正規化画像データXraw_n、Yraw_n、Zraw_nに、行列M1の逆行列を積算し、ピクセルごとに画像データR'3、G'3、B'3を算出する。
【0027】
(4) 図21に示す式4により、(3)項で求めた画像データR'3、G'3、B'3からピクセルごとの16ビットリニアなscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBを作成する。
この画像データRscRGB、GscRGB、BscRGBが目的とするscRGBフォーマットの画像データなので、scRGBデータ作成回路14から取り出してRAM15に保存する。
【0028】
▲3▼ scYCC/scRGB変換回路18の例
scYCC/scRGB変換回路18においては、画像データRscRGB、GscRGB、BscRGBが、scRGBフォーマットからscYCCフォーマットに変換されるが、これは例えば以下のような処理により実現される。すなわち、
(1) 図21の式5および図22の式6により、16ビットリニアなscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBからノンリニアなscRGBフォーマットの画像データR'scRGB、G'scRGB、B'scRGBを算出する。
【0029】
(2) 図22に示す式7および式8により、ノンリニアなscRGBフォーマットの画像データR'scRGB、G'scRGB、B'scRGBを、scYCCフォーマットの画像データYscYCC、CbscYCC、CrscYCCに変換する。
そして、この画像データYscYCC、CbscYCC、CrscYCCが、目的とするscYCCフォーマットの画像データなので、書き込み・読み出し回路19によりフラッシュメモリ20に保存する。
【0030】
▲4▼ 撮影画像のモニタ時の信号処理
図2は、この発明を撮影画像を補正するための回路に適用した場合の一例を示す。すなわち、書き込み・読み出し回路19によりフラッシュメモリ20からscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBが読み出され、このデータRscRGB〜BscRGBがRAM15に書き込まれる。あるいは書き込み・読み出し回路19によりフラッシュメモリ20からscYCCフォーマットの画像データYscYCC、CbscYCC、CrscYCCが読み出され、このデータYscYCC、CbscYCC、CrscYCCがscYCC/scRGB変換回路18に供給されてscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBに変換され、この画像データRscRGB、GscRGB、BscRGBがRAM15に書き込まれる。
【0031】
そして、RAM15に書き込まれた画像データRscRGB、GscRGB、BscRGBがモニタ表示処理回路31を通じてディスプレイ、例えばLCD32に供給され、カラー画像として表示される。
【0032】
この場合、フラッシュメモリ20に保存されている画像データは、撮影時にAWB処理回路13によりホワイトバランスが自動調整されているが、AWB微調整回路33が設けられ、このAWB微調整回路33によりRAM15の画像データが処理されてLCD32に表示されているカラー画像のホワイトバランスが微調整される。
【0033】
また、scYCC/scRGB変換回路18により、RAM15の画像データRscRGB、GscRGB、BscRGBが、12ビットノンリニアなscYCCフォーマットの画像データYscYCC、CbscYCC、CrscYCCに変換され、RAM34に書き込まれる。そして、このRAM34の画像データYscYCC、CbscYCC、CrscYCCが、階調補正回路35によりユーザのGUI操作にしたがって補正され、その補正結果の画像データがモニタ表示処理回路31によりRGBフォーマットの信号に変換されてからLCD32に供給され、カラー画像として表示される。
【0034】
また、この階調補正回路35により階調補正された画像データが書き込み・読み出し回路19を通じてフラッシュメモリ20に書き込まれ、保存される。
【0035】
▲5▼ AWB微調整回路33の例
RAM15に書き込まれたscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBは、デジタルスチルカメラ内に保存されている撮影時の白情報より、ホワイトバランスが微調整される。これは以下のような処理により実現される。
【0036】
▲5▼−1 撮影時の白色点から色温度をΔT〔K〕補正する場合(図3参照)
▲5▼−1−1 撮影後、その場でホワイトバランスを微調整する場合
(1) 撮影時のデータから撮影シーンの白色点の色温度評価値Tw〔K〕を得る。そして、白色点色温度評価部331において、図22に示す式9により、その評価値Tw〔K〕からホワイトバランス補正後の撮影シーンの白色点色温度評価値Tw'〔K〕を算出する。
【0037】
(2) 図23に示す式10により、(1)項で求めた白色点色温度情報Tw'〔K〕からxy色度値xd'、yd'を算出する。この式10は、色温度が4000Kから7000Kでほぼ成立することが知られている。
【0038】
(3) 図23に示す式11により、(2)項で求めた白色点のxy色度値xd'、yd'からXYZ三刺激値Xw'、Yw'、Zw'を求める。
【0039】
(4) 図23に示す式12により、式1で使用したマトリクスM1の逆行列を使用して、補正後の白色点三刺激値Xw'、Yw'、Zw'からsRGBモニタに表示する場合のリニアRGB値R'w,G'w,B'を求める。
【0040】
(5) 一方、補正前のTw〔K〕の白色点については、式10および式11より、そのXYZ三刺激値Xw、Yw、Zwを求めることができる。
【0041】
(6) 式12を使用して、補正前のシーンの白色点をsRGBモニタに表示するときのリニアなRGB値Rw、Gw、Bwを算出する。
【0042】
(7) ホワイトバランス調整係数算出部332において、図23に示す式13により、補正前後のリニアなRGB値Rw、Gw、BwおよびR'w、G'w、B'wから、ホワイトバランス調整係数kr、kg、kbを求める。
【0043】
(8) ホワイトバランス調整演算部333において、図23に示す式14のように、RAM15から読み出したscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBに、(7)項で求めたホワイトバランス調整係数kr、kg、kbを積算し、補正後のscRGBフォーマットの画像データRscRGB_W、GscRGB_W、BscRGB_Wを算出する。この算出した画像データRscRGB_W、GscRGB_W、BscRGB_Wを、微調整結果としてRAM15に書き戻す。
【0044】
▲5▼−1−2 フラッシュメモリ20に記録されている画像のホワイトバランスを微調整する場合
(1) あらかじめ撮影データ(データscRGBまたはscYCC)のヘッダ部に記録されている撮影時の白色点情報を読み込み、撮影時の白色点色温度Tw〔K〕を得る。この情報より、ホワイトバランス補正のための補正係数kr、kg、kbを算出する。算出方法は、上述の▲5▼−1−1と同様である。
【0045】
(2) フラッシュメモリ20内の画像データが、16ビットリニアなscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBの場合は、▲5▼−1−1の(6)項と同様の補正を行う。
【0046】
(3) フラッシュメモリ20内の画像データが、12ビットノンリニアなscYCCフォーマットの画像データYscYCC、CbscYCC、CrscYCCの場合は、その画像データYscYCC、CbscYCC、CrscYCCをscYCC/scRGB変換回路18により16ビットリニアなscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBに変換し、同様な補正を行う。
【0047】
以下に、その変換方法を詳述する。
(3)-1 フラッシュメモリ20から読み出した12ビットノンリニアなscYCCフォーマットの画像データYscYCC、CbscYCC、CrscYCCを、図23に示す式15および式16によりノンリニアなscRGBフォーマットの画像データR'scRGB、G'scRGB、B'scRGBに変換する。
【0048】
(3)-2 図24に示す式17により、上記(3)-1により得た画像データR'scRGB、G'scRGB、B'scRGBを、リニアなscRGBフォーマットの画像データR'3、G'3、B'3に変換する。
【0049】
(3)-3 上記(3)-2により得た画像データR'3、G'3、B'3を、式4により、16ビットリニアなscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBに変換する。
【0050】
▲5▼−2 モニタ表示処理回路31の例(図4参照)
ホワイトバランス調整前および調整後のscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBは、モニタ表示処理回路31のscRGB/RGB変換処理部331において、RGBフォーマットの画像データに変換されてLCD32に供給され、カラー画像として表示される。以下、scRGBフォーマットからRGBフォーマットへの変換について詳述する。
【0051】
(1) 式5および式6にしたがって、16ビットリニアなscRGBフォーマットの画像データRscRGB、GscRGB、BscRGBを、ノンリニアなscRGBフォーマットの画像データR'scRGB、G'scRGB、B'scRGBに変換する。
【0052】
(2) 図25に示す式18により、(1)項により得た画像データを、8ビットノンリニアなRGBデータR、G、Bに変換する。
【0053】
(3) 上記(2)項により得た8ビットノンリニアな画像データR、G、Bを、LCD32に供給する。
【0054】
▲5▼−3 AWB微調整GUIの例
ここでは、AWB微調整のGUIの操作例を図5により説明する。すなわち、図5は、上述したデジタルスチルカメラの後面を示し、この後面には、LCD32、メニューボタン41、決定ボタン42、上下方向および左右方向のカーソルボタン43が配置されている。そして、
(1) ホワイトバランスの微調整を行う画像を選択してLCD32に表示する。
【0055】
(2) メニューボタン41、カーソルボタン42および決定ボタン43を操作して「ホワイトバランス微調整モード」を選択する。
【0056】
すると、例えば図5Aに示すように、(1)項で表示した画像に、「調整」、「高い」、「標準」、「低い」の文字がスーパーインポーズ表示される。これらの文字は、カーソルボタン42および決定ボタン43により選択できるものであるが、「調整」は、次に述べる補正をするためのものである。また、「高い」を選択すると、画像の白色点色温度が現在値よりも500〜1000〔K〕程度高く補正され、「低い」を選択すると、500〜1000〔K〕程度低く補正され、「標準」を選択すると、そのままとされる。
【0057】
(3) 「調整」を選択すると、図5Bに示すように、LCD32にはさらにスライドバー44が表示され、カーソルボタン42を操作してスライドバー44を左右方向に移動させると、例えば、スライドバー44が1ピッチ移動するごとに画像の白色点色温度が100〔K〕程度高くあるいは低く補正される。
【0058】
▲6▼ 階調補正回路35の階調補正の手法の例(図2参照)
RAM34に保存された12ビットノンリニアなscYCCフォーマットの画像データYscYCC、CbscYCC、CrscYCCは、階調補正回路35において階調が補正されるが、以下に詳述するように、この階調の補正は、ユーザのGUI操作にしたがって行われる。
【0059】
▲6▼−1 自動階調補正
図6は、階調を補正する場合のGUIの操作例を示す。すなわち、
(1) 階調の調整を行う画像を選択してLCD32に表示する。
【0060】
(2) メニューボタン41、カーソルボタン42および決定ボタン43を操作して「階調調整モード」を選択する。
【0061】
すると、例えば図6Aに示すように、(1)項で表示した画像に、「調整」、「自動」、「TV」、「写真」の文字がスーパーインポーズ表示される。これらの文字は、カーソルボタン42および決定ボタン43により選択できるものであるが、「調整」は、ユーザが次に述べる補正を手動で実行するためのものである。また、「TV」を選択すると、テレビライクな画質に補正され、「写真」を選択すると、銀塩カメラライクな画質に補正される。
【0062】
(3) 「調整」を選択すると、図6Bに示すように、LCD32にはさらにスライドバー45、46が表示され、カーソルボタン42を操作してスライドバー45を左右方向に移動させると、スライドバー45が1ピッチ移動するごとに画像の明部のコントラストが1ステップずつ高くあるいは低く補正される。また、スライドバー46を左右方向に移動させると、スライドバー46が1ピッチ移動するごとに画像の暗部のコントラストが1ステップずつ高くあるいは低く補正される。
【0063】
(4) 上記(2)項で、「自動」を選択すると、階調の自動補正が実行される。この自動補正には、図6Cに示すように、一般的な自動補正をする「標準」、夜景向けの自動補正をする「夜景」、雪景色向けの自動補正をする「雪景色」があり、これらをユーザが選択することできる
▲6▼−2 階調補正回路35の例
図7は、階調補正回路35の一例を示す。ここでは、この階調補正回路35の概略について説明し、各部の詳細については後述する。図7において、RAM34に保存された画像データYscYCC、CbscYCC、CrscYCCのうち、輝度データYscYCCが階調補正部351に供給され、階調が補正されて出力される。また、色差データCbscYCC、CrscYCCが、彩度補正部352に供給され、彩度が補正されて出力される。なお、これら出力された画像データYscYCC、CbscYCC、CrscYCCは、上述のように、LCD32に供給されてカラー画像として表示されるとともに、フラッシュメモリ20に供給されて保存される。
【0064】
そして、このとき、輝度データYscYCCが輝度信号ヒストグラム演算部353、画像情報抽出部354および画像カテゴライズ部355に順に供給されて画像が例えば10種類のカテゴリのどれかに分類される。そして、この分類結果を使用して、白黒レベル補正カーブ作成部356、階調補正カーブ作成部357および階調補正パラメータ選択部367により、階調補正部351の階調の補正特性が決定される。また、上記の分類結果を使用して彩度補正カーブ作成部358および彩度補正パラメータ選択部368により、彩度補正部352の彩度の補正特性が決定される。なお、ROM369には、各種のパラメータや閾値が用意されている。そして、各部の処理内容は、以下に示すとおりである。
【0065】
▲6▼−3−1 輝度信号Yの累積ヒストグラム演算
輝度信号ヒストグラム演算部353には、RAM34から階調補正を行う画像の輝度データYscYCCが供給される。そして、輝度信号ヒストグラム演算部353は、図8に示すように、その輝度データYscYCCから輝度信号Yの累積ヒストグラムf(Y)を作成する。
【0066】
▲6▼−3−2 画像情報の抽出
輝度信号ヒストグラム演算部353により作成された輝度信号Yの累積ヒストグラムf(Y)が画像情報抽出部354に供給される。そして、この画像情報抽出部354は、図8に示すように、累積ヒストグラムf(Y)のデータが、そのデータ全体のp1%、p2%、・・・、pn%(例えば、5%、10%、・・・、95%)となるときの輝度信号Yの値Y1、Y2、・・・、Ynを算出する。なお、この値Y1〜Ynは、画像の明るさを示すことになる。
【0067】
▲6▼−3−3 画像のカテゴライズ
画像カテゴライズ部355は、画像情報抽出部354の作成した画像情報Y1〜Ynを使用して、画像を図9に示すように12種類のカテゴリに分類する。このため、画像のカテゴライズ部355は、例えば図10に示すようなアルゴリズムによりカテゴライズを行う。すなわち、
(1) 輝度信号情報値Y1を、あらかじめ設定した2つの閾値AveLim1、 AveLim2と比較し、画像の明るさを、「明るい(Hi)」、「平均的(Ave)」、「暗い(Lo)」の3つのカテゴリに分類する。
【0068】
(2) 輝度信号情報値Y2、Y3から値R(=Y3−Y2)を算出し、この値Rをあらかじめ設定した2つの閾値RangeLim1、 RangeLim2と比較して、画像の明るさの幅(レンジ)を、「狭い(Narrow)」、「中間(Mid)」、「広い(Wide)」の3つのカテゴリに分類する。したがって、(1)項の画像の明るさの分類と合わせて、画像は3カテゴリ×3カテゴリの計9カテゴリのどれかに分類されることになる。
【0069】
(3) さらに、明るさの幅が「広い(Wide)」に分類された3つのカテゴリ(明るい、平均、暗い)の画像から、図9の右側に示すように、画像のヒストグラムの形状が「U字形」となる画像を抽出する。この抽出処理は、画像の輝度信号値Y4、Y5、および累積ヒストグラムの暗部と明部の傾き値S1、S2を、あらかじめ設定した閾値U-Lim1、U-Lim2、Slp1、Slp2と比較することにより行う。
【0070】
(4) 以上により、ユーザの補正したい画像は、U字形ヒストグラムを含む10カテゴリのどれか1つに分類される。
【0071】
(5) 撮影時に、ユーザが、夜景モード、雪景色モードなどのモード選択をしている場合には、その撮影情報により、あるいは画像補正時のGUI入力(図7参照)がある場合には、そのGUI入力により、図9の右側に示すように、「夜景」、「雪景色」の2つのカテゴリを追加し、計12のカテゴリ分類を行う。
【0072】
▲6▼−3−4 白黒レベル補正
▲6▼−3−4−1 一般的な白黒レベル補正
画像カテゴライズ部355によりカテゴリ分類された画像の画像データは、図7に示すように、白黒補正カーブ作成部356に供給される。この白黒補正カーブ作成部356は、主として撮影時の露出状態により生じる不十分なコントラストを高めるためのものであり、このため、例えば図11に示すように構成され、図12に示すようにS字特性を有する。
【0073】
このS字特性の生成には、画像の黒レベルの輝度値Yminが0に近づき、画像の白レベルの輝度値Ymaxが1.0に近づくことを意図して、輝度値Yminと輝度値Ymaxとを直線で結んだ折れ線に近似した変局点x0および曲率rrをパラメタとする式19(図25参照)の関数を使用する。輝度値Ymin、Ymaxは、通常はヒストグラム分布の両端に相当する点として、それぞれ累積ヒストグラム値から適当に決めた値をとる輝度信号値Yから決定する。ただし、黒側のレベルYminは過補正を防ぐため適当な閾値YTHを設定し、制限する。
【0074】
▲6▼−3−4−2 「夜景」、「雪景色」の白黒レベル補正
▲6▼−3−3で説明したように、「夜景」モードおよび「雪景色」モードに対しては、累積ヒストグラムのみから判定されるカテゴリの場合とは異なる補正効果を与える必要があるので、白黒レベルの補正についても、ユーザシーン選択補正部(図11参照)において特別な処理を行う。なお、「夜景」モードおよび「雪景色」モードの情報は、ユーザGUIによる情報(図7参照)、あるいは画像ファイルのヘッダ情報から得る。以下に、その処理内容を、図13を用いて説明する。
【0075】
▲6▼−3−4−2−1 カテゴリ「夜景」に対する白補正
夜景のヒストグラムは階調が低い方に偏っている特徴があるが、その一方、街灯などの面積は比較的小さいが高輝度の物体が含まれている場合が多い。そして、その場合は、図9の夜景のヒストグラムに示すように、階調の最大値付近に一定量の画素が分布する。このため、通常の白黒レベル補正における輝度値Ymaxの決定手法では、白側の補正効果が十分には得られない。
【0076】
そこで、このような高輝度部に効果な補正を施すため、夜景用の白補正レベルを、通常手法により設定される輝度値Ymaxより若干小さな値に設定する。この設定により、発光体、例えば街灯など高輝度の部分も、より明るい方向へシフトするので、輝きを強調するような効果を与えることができる。
【0077】
また、上記の設定をしないときには、累積ヒストグラムから検出した輝度値が低くなるので、白(1.0)へ近づけるための補正量が大きくなりすぎるが、上記の設定をする場合には、検出した輝度値と、白(1.0)との中間点を白補正レベルYmaxとして使用するので、補正量が大きくなり過ぎることが防止されるとともに、もともと夜景のシーンが持つ暗さを損なうことがない。
【0078】
▲6▼−3−4−2−2 カテゴリ「夜景」に対する黒補正
夜景は階調が低い範囲に分布しているため、通常手法による黒レベルYminの値を用いても黒補正自体の効果は現れにくい。また、必ずしも必要ではない。しかし、白側の補正量によっては、シャドー部の階調もその影響で逆に僅かに高くなる場合が想定される。そして、夜景のように広い面積でシャドー部の階調を高くすることは、現状のデジタルスチルカメラの撮像特性では、ノイズが強調されるため好ましくない。
【0079】
したがって、夜景に対しては、このようなノイズの強調を確実に抑え、さらには、夜景の暗さを積極的に強調するため、黒補正レベルYminを通常手法による値Yminよりも低い値に固定し、シャドー部のより低階調の部分を確実に暗くするような効果を与える。
【0080】
▲6▼−3−4−2−3 カテゴリ「雪景色」に対する黒補正
雪景色では、夜景と反対に、階調が高い範囲に分布しているので、白補正自体の効果は現れにくい。しかし、黒側の補正量によっては、その影響で明部の階調も下がることにより、明部に汚れのような不自然な黒さや擬色が発生するなど好ましくない結果が想定される。
【0081】
したがって、雪景色に対しては、通常手法による黒レベル値Yminと黒(0)との間の適当な値を黒補正レベルYminとし、黒補正の効果を抑える。この黒補正によりコントラストが強調されても、雪景色の特徴的な白さが損なわれない効果もある。
【0082】
▲6▼−3−5 階調補正パラメータ選択部367と階調補正
ここでの階調補正は、上述の白レベルや黒レベルの補正が意図するところと同様、主に露出が適正ではなかったため、階調が潰れているレンジのコントラストを相対的に向上させること、および白黒レベル補正による過度な効果をカテゴリーに応じた程度で戻すことを目的とするものである。そして、この階調補正のため、例えば図14に示すような逆S字カーブを適用するもので、この逆S字カーブの生成には、変局点x0と曲率rrをパラメータとする式20(図25参照)の関数を使用する。
【0083】
このため、図7のROM369には、例えば図15に示すように、全12カテゴリに対する変局点x0および曲率rrのパラメータと、後述する彩度のためのパラメータkcのテーブルが用意される。なお、パラメタx0は、0.4〜0.8の値をとり、パラメタrrは、1.0から10の値をとる。
【0084】
そして、階調補正パラメタ選択部367は、図16に示すように、画像カテゴライズ部355から出力される画像のカテゴリ情報により、図15に示すテーブルを参照して対応するパラメタを選択し、階調補正カーブ作成部357が、階調補正パラメタ選択部367の選択したパラメタにより、図14に示すような階調補正逆S字カーブを作成する。
【0085】
さらに、階調補正カーブ作成部357は、この階調補正逆S字カーブと、白黒レベル補正カーブ作成部356の作成した白黒レベルの補正S字カーブ(図12)とを組み合わ、輝度信号値の補正変換テーブルを作成する。そして、階調補正部351は、階調補正パラメタ選択部367の作成した補正変換テーブルを使用して、RAM34から読み出される輝度の画像データを、図14に示すように、値Yinから値Youtに変換して出力する。
【0086】
▲6▼−3−6 彩度補正
YCC色空間では、上記のように輝度信号チャンネルにおける階調補正を行うと、中〜高彩度部の彩度が失われる場合がある。このため、階調補正と同時に彩度を維持するための補正処理を行う。この彩度補正は、色差データCb、Crによるクロマ値Cに対して行うもので、基本的には、図25に示す式21を使用し、色差データCb、Crに対する利得係数kcを制御して彩度を強調する。
【0087】
このため、図7のROM369には、例えば図15に示すように、全12カテゴリに対する利得係数kcのパラメータのテーブルが用意される。なお、このパラメータkcは、1.0〜2.0の値をとる。
【0088】
そして、彩度補正パラメタ選択部368は、図17に示すように、画像カテゴライズ部355から出力される画像のカテゴリ情報により、図15に示すテーブルから対応するパラメタkcを選択し、彩度補正カーブ作成部358が、彩度補正パラメタ選択部368の選択したパラメタにより、式21による直線をベースとして図18に実線により示すよう補正カーブを作成する。
【0089】
この場合、ほとんど無彩色な低彩度部が着色されることを避けるため、図18の補正カーブには適当な閾値を設定し、式19のようなS字関数を使用して彩度抑制を行う。また、高彩度部は、彩度強調により増幅した値がクリップしないようにするため、エルミート曲線を使用する。この彩度補正カーブにより、彩度データCb、Crの補正変換テーブルを作成する。
【0090】
そして、彩度補正部352は、彩度補正カーブ作成部358により生成された彩度補正テーブルを使用し、RAM34から読み出された彩度データCb、Crを補正し、出力する。
【0091】
▲6▼−4 ユーザ選択による階調補正と彩度補正
ここでは、図6に示すようなGUI操作において、ユーザが「TV」の補正モードあるいは「写真」の補正モードを選択した場合について説明する。
【0092】
これらのモードにおいても、図19および図20に示すように、▲6▼−1の自動階調補正の場合と同様、S字カーブによる白黒レベル補正、逆S字カーブによる階調補正、彩度強調補正を行う。なお、これらの補正は、通常の自動補正時の補正量をベースとし、S字カーブによる白黒レベル補正量、利得係数を使用しての彩度補正量を微調整した補正とする。
【0093】
▲6▼−4−1 「TV」の画質補正
テレビ画像(あるいはCRTモニタの画像)は、一般に、画像の平均輝度が高く、ハイコントラスト(十分な黒レベル、十分な白レベル)、高彩度である。したがって、「TV」の画質補正を行ってテレビライクな画像を得る場合には、これらの点に留意した補正を行うこととする。
【0094】
▲6▼−4−1−1 白黒レベル補正
▲6▼−3−4−1の「自動」における白黒レベル補正と比較し、黒レベル補正を抑制する。このため、このモードによる黒レベルYmin_TVを、通常の自動補正による黒レベルYminから、図25に示す式22により設定する。なお、値BKtvは、0.7〜1.0とする。また、このモードにおける白レベルYmax_TVは、通常の自動補正により決定される白レベルYmaxを使用し、図26に示す式23により設定する。なお、値Wtvは、0.8〜1.0とする。
【0095】
これらの処理を行った後、「自動」の補正における白黒レベル補正カーブの作成手法(図12)と同様、黒レベルYmin_TVと白レベルYmax_TVとを直線で結んだ折れ線に近似したS字関数(式19)のパラメタ変局点x0と曲率rrをS字パラメタ算出部(図19参照)により求める。
【0096】
以上により、補正後の画像は、平均輝度が高く、ハイコトントラストな画像となる。
【0097】
▲6▼−4−1−2 階調補正
▲6▼−3−5の「自動」における階調補正と同様、画像のカテゴライズ情報による逆S字カーブを作成して▲6▼−4−1−1により求めた白黒レベル補正カーブと組み合わせ、この組み合わせ結果の補正カーブにより輝度データYを補正する。
【0098】
▲6▼−4−1−3 彩度補正
▲6▼−3−6の「自動」における彩度補正の場合の画像のカテゴライズ情報による補正よりも、さらに彩度強調する。このため、図26に示す式24により、画像カテゴライズ情報により設定される利得係数kcから彩度補正用の利得係数kc_TVを求める。なお、値Gtvは、1.0〜1.2とする。
【0099】
以上のような処理を、図20における彩度補正カーブ作成部358のユーザ選択補正部において実行し、その後、「自動」の補正における彩度補正カーブ作成手法と同様の処理により、補正カーブを作成する。
【0100】
▲6▼−4−2 「写真」の画質補正
写真の画質は、一般に、ハイコントラストであるが、テレビ画像と比較すると、その平均輝度は低い。したがって、「写真」の補正を行って銀塩カメラライクな画質を得る場合には、この点に留意した補正を行う。
【0101】
▲6▼−4−2−1 白黒レベル補正
黒レベルは、▲6▼−3−4−1の「自動」における白黒レベル補正と同様であり、図26に示す式25により、「自動」により決定される白レベルYmaxを使用して白レベルYmax_Picを設定する。なお、値Wpicは、0.8〜1.0とする。
【0102】
以上の処理を行った後、「自動」の補正における白黒レベル補正カーブの作成手法(図12)と同様、黒レベルYminと白レベルYmax_Picとを直線で結んだ折れ線に近似したS字関数(式19)のパラメタ変局点x0と曲率rrをS字パラメタ算出部(図19参照)により求める。
【0103】
以上により、補正後の画像は、ハイコントラストで、かつ、中間調を保持した画像となる。
【0104】
▲6▼−4−2−2 階調補正
これは、▲6▼−4−1−2における「TV」の階調処理と同じである。
【0105】
▲6▼−4−2−3 彩度補正
基本的には、▲6▼−4−1−3と同じであり、▲6▼−3−6の「自動」における彩度補正の場合の画像のカテゴライズ情報による補正よりも、さらに彩度強調する。このため、図26に示す式26により、画像カテゴライズ情報により設定される利得係数kcから彩度補正用の利得係数kc_Picを求める。なお、値Gpicは、1.0〜1.2とする。
【0106】
以上のような処理を、図20における彩度補正カーブ作成部358のユーザ選択補正部において実行し、その後、「自動」の補正における彩度補正カーブ作成手法と同様の処理により、補正カーブを作成する。
【0107】
▲6▼−4−3 ユーザによる階調調整モード
図6に示すGUI操作において、ユーザが「調整」を選択した場合、図6Bに示すように、ユーザは、画像の明部コントラストおよび暗部コントラストの調整ができるようにする。
【0108】
▲6▼−4−3−1 白黒レベル補正
図6Bに示すように、画像の黒レベル値Ymin_Userを、暗部コントラストの調整スライドバー46にしたがって補正する。この場合、その黒レベルYmin_Userは、▲6▼−3−4−1の「自動」の白黒レベル補正における黒レベルYminから、図26に示す式27により設定する。なお、値BKuserは、0.85〜1.15をとり、スライドバー46により、0.85(暗部コントラストが最小)から0.05ステップで1.15(暗部コントラストが最大)まで補正が可能とされる。
【0109】
また、画像の白レベルYmax_Userを、明部コントラストの調整スライドバー45にしたがって補正する。この場合、その白レベルYmax_Userは、▲6▼−3−4−1の「自動」の白黒レベル補正における白レベルYmaxから、図26に示す式28により設定する。なお、値Wuserは、0.85〜1.15の値をとり(ただし、Ymax_Userが1.0を超えた場合は、Ymax_User=1.0とする)、スライドバー45により、0.85(明部コントラストが最大)から0.05ステップで1.15(明部コントラストが最小)まで補正が可能とされる。
【0110】
以上の処理を行った後、「自動」の補正における白黒レベル補正カーブの作成手法(図12)と同様、黒レベルYmin_Userと白レベルYmax_Userとを直線で結んだ折れ線に近似したS字関数(式19)のパラメタ変局点x0と曲率rrをS字パラメタ算出部(図19参照)により求める。
【0111】
▲6▼−4−3−2 階調補正
これは、▲6▼−4−1−2における階調処理と同じである。
【0112】
▲6▼−4−3−3 彩度補正
▲6▼−4−3−1における白黒レベル補正量に対応して彩度補正量を決定する。このため、図26に示す式29により、画像カテゴライズ情報により設定される利得係数kcからユーザによる彩度補正の利得係数kc_Userを求める。なお、値Guserは、0.85〜1.15をとり、白黒レベル補正の明部と暗部のスライドバー45、46の調整にしたがって変化する値BKuser、Wuserにより、図26に示す式30のように決定する。
【0113】
以上のような処理を、図20における彩度補正カーブ作成部358のユーザ選択補正部において実行し、その後、「自動」の補正における彩度補正カーブ作成手法と同様の処理により、補正カーブを作成する。
【0114】
▲6▼−5 階調補正後画像のモニタリング(図4参照)
上述の各補正処理における画像は、モニタ表示処理回路31におけるYCbCr/RGB変換回路332により8ビットノンリニアなRGBフォーマットの信号に変換されてLCD32に供給され、画像として表示される。このYCbCr/RGB変換回路における変換は、図26に示す式31のマトリクス演算により行われる。ただし、M3-1は、式7において使用したマトリクスの逆行列である。
【0115】
▲7▼ 上記デジタルスチルカメラの特長
(1) シーン参照色空間フォーマットの画像データ、上述においては、16ビットリニアなscRGBフォーマットの画像データを保存するRAM15を、デジタルスチルカメラ内に設けているので、パーソナルコンピュータや「画像補正・加工ソフト」を用意しなくても、ユーザは、撮影後にその場でデジタルスチルカメラだけで、画像のホワイトバランスを調整することができる。
【0116】
(2) 同様に、ユーザは、撮影後にその場でデジタルスチルカメラだけで、画像の階調および彩度の補正を行うことができる。
【0117】
(3) RAM15を設けているので、他のデジタルスチルカメラで撮影した画像であっても、その画像データをフラッシュメモリ20にコピーしておくことにより、ホワイトバランスを調整することができる。
【0118】
(4) 同様に、他のデジタルスチルカメラで撮影した画像であっても、その画像データをフラッシュメモリ20にコピーしておくことにより、画像の階調および彩度の補正を行うことができる。
【0119】
(5) 撮影した画像の階調および彩度を自動補正するとき、画像の統計的解析に基づいて補正しているので、各種の撮影画像について高い確率で画質を改善することができる。
【0120】
(6) 階調補正をする場合、S字関数と逆S字関数との組み合わせによる補正カーブを用いているので、画像の明部および暗部の各々における補正をある程度独立に行うことがができる。
【0121】
(7) 撮影画像の階調や彩度を補正するとき、そのためのノウハウを十分に持っていないローエンドユーザであっても、簡単なGUI操作により、自動的に補正をすることができ、撮影に失敗した画像を救うことができる。
【0122】
(8) 撮影画像の階調や彩度の補正について、ある程度のノウハウを持っているハイエンドユーザにおいても、GUI操作により、簡単に好みの補正を行うことができる。
【0123】
(9) 簡単なGUI操作により、ユーザの好みに合わせて、テレビライクな補正や銀塩カメラライクな補正を行うことができる。
【0124】
▲8▼ その他
上述のデジタルスチルカメラにおいて、CCDイメージセンサ11が3原色に対応した3枚のCCDイメージセンサのときには、デモザイク処理回路12は不要である。また、フラッシュメモリ20はメモリスティック(登録商標)などの着脱自在なメモリカードとすることができる。さらに、フラッシュメモリ20に保存した画像データを、USBなどを通じて外部機器、例えばパーソナルコンピュータやプリンタに出力することもできる。
【0125】
〔この明細書で使用している略語の一覧〕
AWB :Auto White Balance
CCD :Charge Coupled Device
CRT :Cathode Ray Tube
DCF :Design rule for Camera File Format
GUI :Graphical User Interface
JPEG :Joint Photographoc Experts Group
LCD :Liquid Crystal Display
RAM :Random Access Memory
ROM :Read Only Memory
scRGB:relative SCene RGB color space
TV :TeleVision
USB :Universal Serial Bus
【0126】
【発明の効果】
この発明によれば、デジタルスチルカメラ内に、シーン参照色空間フォーマットの画像データを保存するメモリを設けているので、ユーザは、撮影後にその場でデジタルスチルカメラだけで、撮影画像のホワイトバランス、階調および彩度を調整あるいは補正することができる。また、他のデジタルスチルカメラで撮影した画像であっても、そのホワイトバランス、階調および彩度の補正を行うことができる。
【0127】
さらに、画像の統計的解析に基づいて階調および彩度を自動的に補正しているので、各種の撮影画像について高い確率で画質を改善することができる。また、階調補正には、S字関数と逆S字関数との組み合わせによる補正カーブを用いているので、画像の明部および暗部の各々における補正をある程度独立に行うことがができる。
【0128】
また、階調や彩度の補正についてのノウハウを十分に持っていないローエンドユーザであっても、簡単なGUI操作により、自動的に階調や彩度補正をすることができ、撮影に失敗した画像を救うことができる。さらに、階調や彩度の補正について、ある程度のノウハウを持っているハイエンドユーザにおいても、GUI操作により、好みの補正を行うことができる。しかも、簡単なGUI操作により、ユーザの好みに合わせて、テレビライクな補正や銀塩カメラライクな補正を行うことができる。
【図面の簡単な説明】
【図1】この発明における撮影系の一形態を示す系統図である。
【図2】この発明におけるモニタ系の一形態を示す系統図である。
【図3】モニタ系の要部の一形態を示す系統図である。
【図4】モニタ系の要部の一形態を示す系統図である。
【図5】モニタ系のGUI操作の例を説明するための図である。
【図6】モニタ系のGUI操作の例を説明するための図である。
【図7】モニタ系の要部の一形態を示す系統図である。
【図8】モニタ系の要部の特性を示す特性図である。
【図9】撮影画像のカテゴリ分類を説明するための図である。
【図10】モニタ系の要部のアルゴリズムを示す図である。
【図11】モニタ系の要部のアルゴリズムを示す図である。
【図12】モニタ系の要部の特性を示す特性図である。
【図13】モニタ系の要部の特性を示す特性図である。
【図14】モニタ系の要部の特性を示す特性図である。
【図15】モニタ系のパラメータを示す図である。
【図16】モニタ系の要部のアルゴリズムを示す図である。
【図17】モニタ系の要部のアルゴリズムを示す図である。
【図18】モニタ系の要部の特性を示す特性図である。
【図19】モニタ系の要部のアルゴリズムを示す図である。
【図20】モニタ系の要部のアルゴリズムを示す図である。
【図21】数式を示す図である。
【図22】数式を示す図である。
【図23】数式を示す図である。
【図24】数式を示す図である。
【図25】数式を示す図である。
【図26】数式を示す図である。
【符号の説明】
11…CCDイメージセンサ、13…AWB回路、14…scRGBデータ作成回路、15…シーン参照色空間フォーマット撮影データ用RAM、18…scYCC/scRGB変換回路、20…フラッシュメモリ、31…モニタ表示処理回路、32…LCD、33…AWB微調整回路、34…シーン参照色空間フォーマット画像データ用RAM、35…階調補正回路
Claims (2)
- 被写体の像が投影されて3原色の画像データを出力するイメージセンサと、
このイメージセンサから出力された画像データに対して自動ホワイトバランスの補正処理を行う自動ホワイトバランス処理回路と、
この自動ホワイトバランスの補正処理が行われた画像データを、輝度データと青および赤の色差データとからなるYCCフォーマットの画像データに変換する演算回路と、
この演算回路により変換された上記YCCフォーマットの画像データの階調補正を行う階調補正回路と、
この階調補正回路により階調補正された画像データが供給されてカラー画像を表示するディスプレイと、
上記階調補正された画像データを、着脱自在とされている不揮発性メモリに書き込む書き込み回路と
を有し、
上記階調補正回路は、
上記YCCフォーマットの画像データのうちの輝度データの階調を補正する階調補正部と、
上記YCCフォーマットの画像データのうちの色差データの彩度を補正する彩度補正部と、
上記輝度データからその累積ヒストグラムを作成するヒストグラム演算部と、
上記累積ヒストグラムに基づいて上記カラー画像を9つのカテゴリに分類する画像カテゴライズ部と、
S字特性であって、上記累積ヒストグラムの値にしたがって変局点および曲率が変化する白黒補正カーブ作成部と、
上記画像カテゴライズ部の分類結果にしたがって変局点および曲率が変化する逆S字特性を作成する作成部と、
上記S字特性および上記逆S字特性から上記階調補正部を制御する階調補正カーブ作成部と、
上記画像カテゴライズ部の分類結果にしたがって上記彩度補正部における利得を制御して上記彩度補正を行う彩度補正カーブ作成部と
を有し、
上記画像カテゴライズ部は、
上記累積ヒストグラムのデータを所定の閾値と比較して上記カラー画像の明るさを、明るい、平均的および暗いの3つのカテゴリに分類するとともに、
上記累積ヒストグラムのデータの範囲を所定の閾値と比較して上記カラー画像の明るい範囲を、狭い、中間および広いの3つのカテゴリに分類することにより、
上記カラー画像を上記9つのカテゴリに分類し、
上記画像カテゴライズ部の分類結果に対応して上記階調補正部および上記彩度補正部による補正特性を変更して上記階調補正を行う
ようにしたデジタルスチルカメラ。 - 被写体の像が投影されて3原色の画像データを出力するイメージセンサと、
このイメージセンサから出力された画像データに対して自動ホワイトバランスの補正処理を行う自動ホワイトバランス処理回路と、
この自動ホワイトバランスの補正処理が行われた画像データを、輝度データと青および赤の色差データとからなるYCCフォーマットの画像データに変換する演算回路と、
この演算回路により変換された上記YCCフォーマットの画像データの階調補正を行う階調補正回路と、
この階調補正回路により階調補正された画像データが供給されてカラー画像を表示するディスプレイと、
上記階調補正された画像データを、着脱自在とされている不揮発性メモリに書き込む書き込み回路と
を有し、
上記階調補正回路は、
上記YCCフォーマットの画像データのうちの輝度データの階調を補正する階調補正部と、
上記YCCフォーマットの画像データのうちの色差データの彩度を補正する彩度補正部と、
上記輝度データからその累積ヒストグラムを作成するヒストグラム演算部と、
上記累積ヒストグラムに基づいて上記カラー画像を10個のカテゴリに分類する画像カテゴライズ部と、
S字特性であって、上記累積ヒストグラムの値にしたがって変局点および曲率が変化する白黒補正カーブ作成部と、
上記画像カテゴライズ部の分類結果にしたがって変局点および曲率が変化する逆S字特性を作成する作成部と、
上記S字特性および上記逆S字特性から上記階調補正部を制御する階調補正カーブ作成部と、
上記画像カテゴライズ部の分類結果にしたがって上記彩度補正部における利得を制御して上記彩度補正を行う彩度補正カーブ作成部と
を有し、
上記画像カテゴライズ部は、
上記累積ヒストグラムのデータを所定の閾値と比較して上記カラー画像の明るさを、明るい、平均的および暗いの3つのカテゴリに分類し、
上記累積ヒストグラムのデータの範囲を所定の閾値と比較して上記カラー画像の明るい範囲を、狭い、中間および広いの3つのカテゴリに分類するとともに、
上記明るい範囲が広いに分類されたカラー画像について、その輝度データおよび上記累積ヒストグラムのデータを所定の閾値と比較することにより、
上記カラー画像を上記10個のカテゴリに分類し、
上記画像カテゴライズ部の分類結果に対応して上記階調補正部および上記彩度補正部による補正特性を変更して上記階調補正を行う
ようにしたデジタルスチルカメラ。
Priority Applications (8)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002263694A JP3888456B2 (ja) | 2002-09-10 | 2002-09-10 | デジタルスチルカメラ |
EP03795238A EP1549082A1 (en) | 2002-09-10 | 2003-08-26 | Digital still camera and image correction method |
PCT/JP2003/010779 WO2004025966A1 (ja) | 2002-09-10 | 2003-08-26 | デジタルスチルカメラおよび画像の補正方法 |
US10/527,137 US7580064B2 (en) | 2002-09-10 | 2003-08-26 | Digital still camera and image correction method |
KR1020057004042A KR20050042185A (ko) | 2002-09-10 | 2003-08-26 | 디지털 스틸 카메라 및 화상의 보정 방법 |
CNA038244977A CN1689340A (zh) | 2002-09-10 | 2003-08-26 | 数字静像照相机与图像校正方法 |
TW092124119A TWI238649B (en) | 2002-09-10 | 2003-09-01 | Digital still camera and image correction method |
US12/491,585 US8358355B2 (en) | 2002-09-10 | 2009-06-25 | Digital still camera and image correction method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002263694A JP3888456B2 (ja) | 2002-09-10 | 2002-09-10 | デジタルスチルカメラ |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004104464A JP2004104464A (ja) | 2004-04-02 |
JP3888456B2 true JP3888456B2 (ja) | 2007-03-07 |
Family
ID=31986460
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002263694A Expired - Fee Related JP3888456B2 (ja) | 2002-09-10 | 2002-09-10 | デジタルスチルカメラ |
Country Status (7)
Country | Link |
---|---|
US (2) | US7580064B2 (ja) |
EP (1) | EP1549082A1 (ja) |
JP (1) | JP3888456B2 (ja) |
KR (1) | KR20050042185A (ja) |
CN (1) | CN1689340A (ja) |
TW (1) | TWI238649B (ja) |
WO (1) | WO2004025966A1 (ja) |
Families Citing this family (42)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100533543C (zh) * | 2003-12-12 | 2009-08-26 | 松下电器产业株式会社 | 彩色图像显示装置、色变换装置、色彩模拟装置及方法 |
JP4507719B2 (ja) * | 2004-06-25 | 2010-07-21 | 株式会社ニコン | 画像処理装置および画像処理プログラム |
TW200632771A (en) * | 2005-03-10 | 2006-09-16 | Avisonic Technology Corp | Automatic white balance method applicable for color digital image |
JP2006258941A (ja) * | 2005-03-15 | 2006-09-28 | Winbond Electron Corp | プリガンマ補正を用いたオートフォーカス方式 |
JP4304623B2 (ja) | 2005-06-01 | 2009-07-29 | ソニー株式会社 | 撮像装置及び撮像装置における撮像結果の処理方法 |
JP4546347B2 (ja) * | 2005-07-14 | 2010-09-15 | キヤノン株式会社 | 画像保存装置、画像保存方法及び制御プログラム |
CN100394258C (zh) * | 2005-07-29 | 2008-06-11 | 联咏科技股份有限公司 | 校调光电特性偏移的方法及其装置 |
JP4240023B2 (ja) * | 2005-08-31 | 2009-03-18 | ソニー株式会社 | 撮像装置、撮像方法および撮像プログラム、ならびに、画像処理装置、画像処理方法および画像処理プログラム |
JP2007104151A (ja) * | 2005-09-30 | 2007-04-19 | Sanyo Electric Co Ltd | 画像処理装置および画像処理プログラム |
KR100791372B1 (ko) * | 2005-10-14 | 2008-01-07 | 삼성전자주식회사 | 인물 이미지 보정 장치 및 방법 |
JP4774915B2 (ja) * | 2005-10-26 | 2011-09-21 | カシオ計算機株式会社 | 撮像装置、階調補正方法及びプログラム |
KR100782826B1 (ko) * | 2005-12-10 | 2007-12-06 | 삼성전자주식회사 | 영상 획득 장치 및 방법과 그 방법을 수행하는 프로그램이기록된 기록매체 |
US7990427B2 (en) * | 2006-08-21 | 2011-08-02 | Micron Technology, Inc. | Method and apparatus for applying tonal correction to images |
JP4998145B2 (ja) * | 2006-11-09 | 2012-08-15 | セイコーエプソン株式会社 | 画像処理装置、画像処理方法、画像処理プログラム、及び画像処理プログラムを記録した記録媒体、並びに画像表示装置 |
JP4854531B2 (ja) * | 2007-01-24 | 2012-01-18 | パナソニック株式会社 | 位相調整装置およびデジタルカメラ |
US8803922B2 (en) * | 2007-05-30 | 2014-08-12 | Apple Inc. | Methods and apparatuses for increasing the apparent brightness of a display |
JP5029187B2 (ja) * | 2007-07-20 | 2012-09-19 | 株式会社ニコン | 色座標変換装置、撮像装置、色座標変換プログラム、色座標変換方法 |
JP5262377B2 (ja) * | 2007-08-09 | 2013-08-14 | ペンタックスリコーイメージング株式会社 | 撮像装置 |
US8897524B2 (en) * | 2007-10-29 | 2014-11-25 | Ramot At Tel-Aviv University Ltd. | Method and device for processing computerized tomography images |
EP2235677A1 (en) * | 2007-12-20 | 2010-10-06 | Ramot at Tel-Aviv University Ltd. | Method of and apparatus for processing images |
KR101451982B1 (ko) * | 2008-02-12 | 2014-10-24 | 삼성전자주식회사 | 디지털 영상 장치에서 화이트 밸런스 조정 장치 및 방법 |
WO2009128064A2 (en) * | 2008-04-14 | 2009-10-22 | Pointgrab Ltd. | Vision based pointing device emulation |
US9077905B2 (en) * | 2009-02-06 | 2015-07-07 | Canon Kabushiki Kaisha | Image capturing apparatus and control method thereof |
US8355059B2 (en) * | 2009-02-06 | 2013-01-15 | Canon Kabushiki Kaisha | Image capturing apparatus and control method thereof |
JP5743384B2 (ja) | 2009-04-14 | 2015-07-01 | キヤノン株式会社 | 画像処理装置及び画像処理方法とコンピュータプログラム |
JP4868040B2 (ja) * | 2009-08-20 | 2012-02-01 | 株式会社ニコン | 画像処理装置、電子カメラ、および画像処理プログラム |
US8665351B2 (en) | 2009-07-23 | 2014-03-04 | Nikon Corporation | Image processing device, electronic camera, and storage medium storing image processing program |
US8331660B2 (en) * | 2010-04-15 | 2012-12-11 | Himax Media Solutions, Inc. | Adaptive color-temperature calibration system and method |
EP2601636A1 (en) | 2010-08-05 | 2013-06-12 | Ramot at Tel Aviv University, Ltd. | Method and system for processing an image featuring multiple scales |
US8938124B2 (en) | 2012-05-10 | 2015-01-20 | Pointgrab Ltd. | Computer vision based tracking of a hand |
JP6000133B2 (ja) * | 2013-01-08 | 2016-09-28 | 株式会社 日立産業制御ソリューションズ | 撮像装置、撮像システム及び撮像方法 |
US10402661B2 (en) | 2013-07-22 | 2019-09-03 | Opengate Development, Llc | Shape/object recognition using still/scan/moving image optical digital media processing |
JP6241192B2 (ja) | 2013-10-18 | 2017-12-06 | 株式会社リコー | 画像処理装置、画像処理システム、画像処理方法、プログラム及び記録媒体 |
JP6362930B2 (ja) * | 2014-06-17 | 2018-07-25 | キヤノンメディカルシステムズ株式会社 | 医用画像表示装置 |
EP3185207A4 (en) * | 2014-08-22 | 2018-09-19 | Olympus Corporation | Image processing device, image processing method, and image processing program |
JP6525543B2 (ja) * | 2014-10-21 | 2019-06-05 | キヤノン株式会社 | 画像処装置および画像処理方法、並びにプログラム |
JP6166768B2 (ja) * | 2015-12-10 | 2017-07-19 | キヤノン株式会社 | 画像処理装置及び画像処理方法とプログラム |
US10341618B2 (en) | 2017-05-24 | 2019-07-02 | Trimble Inc. | Infrastructure positioning camera system |
US10300573B2 (en) | 2017-05-24 | 2019-05-28 | Trimble Inc. | Measurement, layout, marking, firestop stick |
US10406645B2 (en) * | 2017-05-24 | 2019-09-10 | Trimble Inc. | Calibration approach for camera placement |
US11212500B2 (en) | 2017-12-05 | 2021-12-28 | Nikon Corporation | Image capture apparatus, electronic apparatus, and recording medium suppressing chroma in white balance correction performed based on color temperature |
CN116740463B (zh) * | 2023-07-05 | 2024-08-13 | 宁波大学 | 一种sMRI图像顺序多分类方法 |
Family Cites Families (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE19529367C2 (de) * | 1995-08-10 | 1997-08-21 | Wolf Gmbh Richard | Vorrichtung zur Farbtonkorrektur bei von einer Videokamera aufgenommenen Farbbildern |
JP3530653B2 (ja) * | 1995-09-26 | 2004-05-24 | キヤノン株式会社 | パノラマ画像合成装置 |
JPH0993464A (ja) | 1995-09-27 | 1997-04-04 | Sharp Corp | 表示装置 |
JP3505115B2 (ja) * | 1999-04-28 | 2004-03-08 | 富士通株式会社 | 画像加工装置及びプログラム記録媒体 |
US7212229B2 (en) * | 1997-04-04 | 2007-05-01 | Eastman Kodak Company | Digital camera providing image processing for an attachable printer |
US6288743B1 (en) * | 1997-10-20 | 2001-09-11 | Eastman Kodak Company | Electronic camera for processing image segments |
US6567119B1 (en) * | 1998-03-26 | 2003-05-20 | Eastman Kodak Company | Digital imaging system and file format for storage and selective transmission of processed and unprocessed image data |
JP4239234B2 (ja) * | 1998-04-16 | 2009-03-18 | 株式会社ニコン | 電子スチルカメラ |
KR100290851B1 (ko) * | 1999-03-27 | 2001-05-15 | 구자홍 | 디지털 티브이의 영상 처리 장치 |
JP2000307896A (ja) * | 1999-04-15 | 2000-11-02 | Toshiba Corp | 画像処理装置及び画像処理方法 |
US7019778B1 (en) * | 1999-06-02 | 2006-03-28 | Eastman Kodak Company | Customizing a digital camera |
JP4892125B2 (ja) * | 2000-01-26 | 2012-03-07 | 株式会社ニコン | 電子スチルカメラ |
JP4017312B2 (ja) * | 2000-03-31 | 2007-12-05 | 富士フイルム株式会社 | 画像処理方法、画像処理装置および記録媒体 |
US7081918B2 (en) * | 2000-04-28 | 2006-07-25 | Fuji Photo Film Co., Ltd. | Image processing method, image processing apparatus and recording medium storing program therefor |
JP2001311977A (ja) * | 2000-04-28 | 2001-11-09 | Nikon Corp | 電子カメラ |
JP2002016818A (ja) * | 2000-04-28 | 2002-01-18 | Fuji Photo Film Co Ltd | 色補正方法および装置並びに記録媒体 |
US7038714B1 (en) * | 2000-05-16 | 2006-05-02 | Eastman Kodak Company | Printing system and method having a digital printer that uses a digital camera image display |
US6873729B2 (en) * | 2000-07-14 | 2005-03-29 | Ricoh Company, Ltd. | Method, apparatus and computer program product for processing image data |
JP2002092607A (ja) * | 2000-07-14 | 2002-03-29 | Ricoh Co Ltd | 画像処理装置、画像状態判別方法及び記録媒体 |
JP4003399B2 (ja) * | 2000-10-23 | 2007-11-07 | ソニー株式会社 | 画像処理装置および方法、並びに記録媒体 |
JP2002209138A (ja) * | 2001-01-12 | 2002-07-26 | Minolta Co Ltd | デジタルカメラ |
US6943831B2 (en) * | 2001-01-24 | 2005-09-13 | Eastman Kodak Company | Method and apparatus to extend the effective dynamic range of an image sensing device and use residual images |
JP2002238013A (ja) | 2001-02-09 | 2002-08-23 | Olympus Optical Co Ltd | 電子カメラ及び電子カメラシステム |
JP4422353B2 (ja) * | 2001-02-09 | 2010-02-24 | オリンパス株式会社 | 電子カメラ |
TWI231701B (en) * | 2001-06-14 | 2005-04-21 | Matsushita Electric Ind Co Ltd | Automatic tone correction device, automatic tone correction method, and tone correction program recording medium |
JP4576770B2 (ja) * | 2001-08-03 | 2010-11-10 | セイコーエプソン株式会社 | 画像ファイルの生成 |
US7289663B2 (en) * | 2002-07-24 | 2007-10-30 | Eastman Kodak Company | Producing an extended color gamut luminance-chrominance digital image from a captured image |
-
2002
- 2002-09-10 JP JP2002263694A patent/JP3888456B2/ja not_active Expired - Fee Related
-
2003
- 2003-08-26 KR KR1020057004042A patent/KR20050042185A/ko not_active Application Discontinuation
- 2003-08-26 EP EP03795238A patent/EP1549082A1/en not_active Withdrawn
- 2003-08-26 WO PCT/JP2003/010779 patent/WO2004025966A1/ja active Application Filing
- 2003-08-26 CN CNA038244977A patent/CN1689340A/zh active Pending
- 2003-08-26 US US10/527,137 patent/US7580064B2/en not_active Expired - Fee Related
- 2003-09-01 TW TW092124119A patent/TWI238649B/zh not_active IP Right Cessation
-
2009
- 2009-06-25 US US12/491,585 patent/US8358355B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US7580064B2 (en) | 2009-08-25 |
EP1549082A1 (en) | 2005-06-29 |
TWI238649B (en) | 2005-08-21 |
JP2004104464A (ja) | 2004-04-02 |
US20060119713A1 (en) | 2006-06-08 |
US8358355B2 (en) | 2013-01-22 |
CN1689340A (zh) | 2005-10-26 |
TW200405717A (en) | 2004-04-01 |
US20090303345A1 (en) | 2009-12-10 |
KR20050042185A (ko) | 2005-05-04 |
WO2004025966A1 (ja) | 2004-03-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3888456B2 (ja) | デジタルスチルカメラ | |
US7912282B2 (en) | Image processing apparatus for correcting an input image and image processing method therefor | |
US6608926B1 (en) | Image processing method, image processing apparatus and recording medium | |
JP4163353B2 (ja) | 画像処理装置 | |
JP3668014B2 (ja) | 画像処理方法及び装置 | |
JP5761946B2 (ja) | 画像処理装置、画像処理方法及び記憶媒体 | |
EP1489833A1 (en) | Image processing apparatus, image processing method, color adjustment method, and color adjustment system | |
JP2005210526A (ja) | 画像処理装置、撮像装置、画像処理方法、画像データ出力方法、画像処理プログラム及び画像データ出力プログラム | |
JP2001054013A (ja) | 撮像信号処理装置およびその処理方法 | |
JP4687673B2 (ja) | カラー画像のモノトーン化処理 | |
JP2005210495A (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
US8068240B2 (en) | Image processing using undeveloped image data | |
JP4031299B2 (ja) | カラー画像信号処理方法およびカラー画像出力装置並びに撮影装置 | |
JP2014033273A (ja) | 色域変換装置、デジタルカメラ、色域変換プログラムおよび色域変換方法 | |
JP2008072551A (ja) | 画像処理方法、画像処理装置、プログラムおよび記録媒体 | |
JP3921499B2 (ja) | カラー画像信号処理方法及びそれを用いたカラー画像信号処理装置 | |
JP2004088345A (ja) | 画像形成方法、画像処理装置、プリント作成装置及び記憶媒体 | |
JP4203791B2 (ja) | 撮像装置、色調整装置及び色調整方法 | |
JP2002368982A (ja) | 画像処理装置および画像処理方法および記録媒体 | |
JP2004080737A (ja) | 撮像装置、撮像方法、コンピュータプログラム、及びコンピュータ読み取り可能な記録媒体 | |
JP2014033274A (ja) | 色域変換装置、デジタルカメラ、色域変換プログラムおよび色域変換方法 | |
JP2002369004A (ja) | 画像処理装置と画像出力装置と画像処理方法及び記憶媒体 | |
JP2002094810A (ja) | 画像処理装置、画像処理方法およびその方法を実施するためのプログラムを記憶した記憶媒体 | |
JP2000165906A (ja) | 自動ホワイトバランス調整方法及び調整装置 | |
JP3976898B2 (ja) | 画像処理方法、装置および記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040408 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060118 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060227 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060329 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060526 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20060712 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060906 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20061002 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20061108 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20061121 |
|
LAPS | Cancellation because of no payment of annual fees |