JP3959769B2 - ビデオカメラ装置、映像信号処理装置および映像信号の階調変換方法 - Google Patents

ビデオカメラ装置、映像信号処理装置および映像信号の階調変換方法 Download PDF

Info

Publication number
JP3959769B2
JP3959769B2 JP01672897A JP1672897A JP3959769B2 JP 3959769 B2 JP3959769 B2 JP 3959769B2 JP 01672897 A JP01672897 A JP 01672897A JP 1672897 A JP1672897 A JP 1672897A JP 3959769 B2 JP3959769 B2 JP 3959769B2
Authority
JP
Japan
Prior art keywords
luminance
transfer characteristic
histogram
video signal
amplitude transfer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP01672897A
Other languages
English (en)
Other versions
JPH09331469A (ja
Inventor
隆 亀山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP01672897A priority Critical patent/JP3959769B2/ja
Publication of JPH09331469A publication Critical patent/JPH09331469A/ja
Application granted granted Critical
Publication of JP3959769B2 publication Critical patent/JP3959769B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
この発明は、ビデオカメラ装置、映像信号処理装置および映像信号の階調変換方法に関する。詳しくは、入力映像信号の使われていない階調域を優先的に圧縮することによって、限られたダイナミックレンジを有効に使用しようとしたビデオカメラ装置等に係るものである。
【0002】
【従来の技術】
図37Aは、カメラでの撮像から記録系、伝送系を経て受像機で視聴者に画像が届くまでの理想的なテレビジョンシステム300Aを示している。このテレビジョンシステム300Aは、カメラシステム、記録系、伝送系、受像系で構成されている。
【0003】
カメラシステム300Aでは、撮像レンズ301を通して入射された光が色分解プリズム302によって赤、緑、青の色成分光に分解され、この赤、緑、青の色成分光がCCD固体撮像素子303R,303G,303Bに入射されて撮像面上にそれぞれ被写体に係る赤色画像、緑色画像、青色画像が結像されて撮像が行われる。撮像素子303R,303G,303Bよりそれぞれ出力される赤、緑、青の撮像信号に対してCDS(corelated double sampling)回路304で相関二重サンプリング処理が行われて赤、緑、青の色信号R,G,Bが取り出される。
【0004】
そして、CDS回路304で取り出される色信号R,G,Bは、アンプ305で増幅され、さらにガンマ補正回路306でガンマ補正されて信号処理回路307に供給される。そして、信号処理回路307では、色信号R,G,Bに対してマトリックス処理が行われて輝度信号Y、赤色差信号CR、青色差信号CBが形成され、さらに輝度信号Yに対して同期信号の付加処理等が行われる共に、色差信号CR,CBに対して色変調処理が行われて搬送色信号Cが形成される。
【0005】
また、記録系では、カメラシステムの信号処理回路307より出力される輝度信号Yおよび搬送色信号CがVTR(Video Tape Recorder)308によって記録再生される。
【0006】
また、伝送系では、記録系のVTR308より再生される輝度信号Yおよび搬送色信号Cがエンコーダ309に供給されて映像信号SVが形成され、この映像信号SVが変調回路310で変調されてRF信号とされ、このRF信号は送信アンテナ311より送信される。そして、受信アンテナ312で受信されたRF信号が復調回路313で復調されて映像信号SVが得られる。
【0007】
また、受像系では、伝送系の復調回路313で得られる映像信号SVよりデコーダ314で輝度信号Yおよび搬送色信号Cが得られ、この輝度信号Yおよび搬送色信号Cは信号処理回路315に供給される。信号処理回路315では、搬送色信号Cに対して色復調処理が行われて色差信号CR,CBが得られると共に、輝度信号Y、色差信号CR,CBに対してマトリックス処理が行われて色信号R,G,Bが形成される。そして、信号処理回路315より出力される色信号R,G,BがCRT(cathode-ray tube)316に供給され、このCRT316にカメラシステムによる撮像画像が表示される。
【0008】
図37Aに示す理想的なテレビジョンシステム300Aによれば、信号系に非線形処理を含むものの、それに対する逆変換が存在するために、被写体から視聴者の目までが線形となる。よって、CRT316に表示される画像は被写体を忠実に再現したものとなる。
【0009】
【発明が解決しようとする課題】
ところが、撮像素子303R,303G,303Bのダイナミックレンジをはじめ、記録系、伝送系の定めるダイナミックレンジの制約があり、図37Aに示す構成は実際には採れない。ダイナミックレンジの制約は、信号規格として記録系、伝送系に定められたものがもっとも狭く、自然光の広大なダイナミックレンジをこれに収めるための手だてが必要になる。
【0010】
そこで、現行のテレビジョンシステム300Bでは、図37Bに示すように、アンプ305とガンマ補正回路306との間にプリニー回路321を挿入すると共に、ガンマ補正回路306と信号処理回路307との間にニー回路322を挿入することで、色信号R,G,Bの信号レベルを規格内に収めるようにしている。放送規格上の信号レベルは、色信号R,G,Bの信号レベルの規定になっているので、これによって直接に規格に収めることができる。なお、図37Bにおいて、図37Aに対応する部分には同一符号を付して示している。
【0011】
このように、高輝度域をニー圧縮することで、自然光の広大なダイナミックレンジをテレビジョン信号規格のレンジに収めることができる。しかしこの場合、単純に高輝度域を圧縮するものであることから、画像の明るいところでのコントラストが見えにくくなる等の不都合があった。
【0012】
そこで、この発明では、使われていない階調域を優先的に圧縮して、限られたダイナミックレンジを有効に使用することを目的とする。
【0013】
【課題を解決するための手段】
この発明に係るビデオカメラ装置は、入力映像信号の輝度および画素数に関するヒストグラムに基づいて累積度数分布を生成する累積度数分布生成手段と、上記累積度数分布を正規化してヒストグラム等化された第1の振幅伝達特性を取得する第1の取得手段と、上記ヒストグラム等化された上記第1の振幅伝達特性とヒストグラム等化されていない第2の振幅伝達特性との間を、指定する比率で内分することにより、第3の振幅伝達特性を取得する第2の取得手段と、上記第3の振幅伝達特性における上記入力映像信号が上記ヒストグラムにおいてヒストグラム値が最大となる入力輝度の入力レベルである際に、上記入力レベルが変化しないような変換利得を算出し、当該変換利得を上記第3の振幅伝達特性に乗算することにより、上記第4の振幅伝達特性を取得する第3の取得手段と、上記入力映像信号の信号レベルを上記第4の振幅伝達特性に基づいて変換するレベル変換手段とを備えるものである。
【0014】
また、この発明に係る映像信号処理装置は、入力映像信号の輝度および画素数に関するヒストグラムに基づいて累積度数分布を生成する累積度数分布生成手段と、上記累積度数分布を正規化してヒストグラム等化された第1の振幅伝達特性を取得する第1の取得手段と、上記ヒストグラム等化された上記第1の振幅伝達特性とヒストグラム等化されていない第2の振幅伝達特性との間を、指定する比率で内分することにより、第3の振幅伝達特性を取得する第2の取得手段と、上記第3の振幅伝達特性における上記入力映像信号が上記ヒストグラムにおいてヒストグラム値が最大となる入力輝度の入力レベルである際に、上記入力レベルが変化しないような変換利得を算出し、当該変換利得を上記第3の振幅伝達特性に乗算することにより、上記第4の振幅伝達特性を取得する第3の取得手段と、上記入力映像信号の信号レベルを上記第4の振幅伝達特性に基づいて変換するレベル変換手段とを備えるものである。
【0017】
また、この発明に係る映像信号の階調変換方法は、入力映像信号の輝度および画素数に関するヒストグラムに基づいて累積度数分布を生成し、上記累積度数分布を正規化してヒストグラム等化された第1の振幅伝達特性を取得し、上記ヒストグラム等化された上記第1の振幅伝達特性とヒストグラム等化されていない第2の振幅伝達特性との間を、指定する比率で内分することにより、第3の振幅伝達特性を取得し、上記第3の振幅伝達特性における上記入力映像信号が上記ヒストグラムにおいてヒストグラム値が最大となる入力輝度の入力レベルである際に、上記入力レベルが変化しないような変換利得を算出し、当該変換利得を上記第3の振幅伝達特性に乗算することにより、上記第4の振幅伝達特性を取得し、上記入力映像信号の信号レベルを上記第4の振幅伝達特性に基づいて変換する工程を備えるものである。
【0018】
入力映像信号の累積度数分布が検出される。例えば、入力映像信号の有効映像期間中に検出される信号レベル分布情報に基づいて、入力映像信号の累積度数分布が検出される。そして、この累積度数分布に基づいて、ヒストグラム等化の第1の振幅伝達特性を取得し、さらに、この第1の振幅伝達特性とヒストグラム等化なしの第2の振幅伝達特性とを内分する第3の振幅伝達特性を取得する。この第3の振幅伝達特性で入力映像信号の信号レベルを変換することで、入力映像信号の使われていない階調域が優先的に圧縮された出力映像信号が得られる。
【0019】
また、入力映像信号がヒストグラムにおいてヒストグラム値が最大となる入力輝度の入力レベルである際に、入力映像信号を第3の振幅伝達特性によって変換して得た出力映像信号が上記所定レベルとなるように第3の振幅伝達特性が調整されて第4の振幅伝達特性が取得される。そして、この第4の振幅伝達特性に基づいて、入力映像信号の信号レベルが変換されることで、入力映像信号の所定レベルの信号レベルが保存されたまま、入力映像信号の使われていない階調域が優先的に圧縮された出力映像信号が得られる。
【0020】
【発明の実施の形態】
以下、図面を参照しながら、この発明の実施の形態について説明する。図1は、第1の実施の形態としてのビデオカメラ装置100を示している。
【0021】
ビデオカメラ装置100は、システム全体を制御するためのシステムコントローラとして機能するマイクロコンピュータ(以下、「マイコン」という)125を有している。後述するコントローラのテーブル作成時に使用されるニーポイント、ニースロープ、ホワイトクリップレベル、正規化定数、トータルゲイン、時定数、ヒストグラムの強さ、黒コード等は、このマイコン125より与えられる。
【0022】
また、ビデオカメラ装置100は、レンズブロック101と、このレンズブロック101を通して入射された光を赤、緑、青の色成分光に分解するための色分解プリズム102と、この色分解プリズム102で分解された赤、緑、青の色成分光が入射されて撮像面上にそれぞれ被写体に係る赤色画像、緑色画像、青色画像が結像されるCCD固体撮像素子103R,103G,103Bとを有している。
【0023】
この場合、解像度向上のために空間画素ずらし法が採用されている。すなわち、図2に示すように、撮像素子103R,103Bは、撮像素子103Gに対して水平方向に1/2画素ピッチ(P/2)だけずらして配置されている。この空間画素ずらし法では、撮像素子103Gより出力される緑色撮像信号のサンプリング点と、撮像素子103R,103Bより出力される赤色撮像信号、青色撮像信号のサンプリング点は180゜の位相差を有するものとなる。
【0024】
また、ビデオカメラ装置100は、撮像素子103R,103G,103Bよりそれぞれ出力される赤、緑、青の撮像信号に対して相関二重サンプリング処理やレベル制御処理をするアナログプロセス回路104R,104G,104Bを有している。相関二重サンプリング処理をすることでリセット雑音を低減することができる。また、レベル制御処理では、白バランスや黒バランス等のレベル制御が行われる。
【0025】
また、ビデオカメラ装置100は、アナログプロセス回路104R,104G,104Bより出力される赤、緑、青の色信号をディジタル信号に変換するためのA/D変換器105R,105G,105Bを有している。上述した撮像素子103R,103G,103Bよりfs1(例えば14.31818MHz)のレートで赤、緑、青の撮像信号が出力される場合、A/D変換器105R,105G,105Bでは赤、緑、青の色信号がサンプリング周波数fs1でサンプルホールドされてディジタル信号に変換される。
【0026】
また、ビデオカメラ装置100は、A/D変換器105R,105G,105Bより出力される赤、緑、青の色データのレベルをそれぞれ検出し、その検出出力をマイコン125に供給するレベル検出器126を有している。このレベル検出器126の出力は、例えば絞り(アイリス)の制御に使用される。
【0027】
また、ビデオカメラ装置100は、A/D変換器105R,105G,105Bより出力される赤、緑、青の色データに対して白黒バランス制御、シェーディング補正、欠陥補正等の画像処理を行うプリプロセス回路106と、このプリプロセス回路106より出力される赤、緑、青の色データより2倍のサンプリング周波数2fs1の赤、緑、青の色データを得るアップコンバータ107R,107G,107Bとを有している。この場合、サンプリング周波数2fs1の赤、緑、青の色データは互いに位相が合うように処理される。
【0028】
また、ビデオカメラ装置100は、アップコンバータ107R,107G,107Bより出力される赤、緑、青の色データに対してリニアマトリックス処理をする色補正回路108を有している。リニアマトリックス処理では、(1)式の演算処理が行われ、撮像画像の色再現性を補正した赤、緑、青の色データが得られる。なお、DRin,DGin,DBinは赤、緑、青の入力色データ、DRout,DGout,DBoutは赤、緑、青の出力色データ、a〜fは係数である。
Figure 0003959769
【0029】
また、ビデオカメラ装置100は、プリプロセス回路106より出力される赤、緑の色データDR,DGより、画像の輪郭部を強調するための輪郭強調信号Da,Dcを生成するイメージエンハンサ109を有している。この場合、輪郭強調信号Daは高域側を強調するものであり、輪郭強調信号Dcは低域側を強調するものである。
【0030】
また、ビデオカメラ装置100は、色補正回路108より出力される赤、緑、青の色データよりマイコン125から供給される黒コードBCを減算して赤、緑、青の刺激値R,G,Bに変換する減算器110R,110G,110Bと、この減算器110R,110G,110Bより出力される刺激値R,G,Bに対して色相、彩度に影響を与えずに輝度だけ変換するための演算をする輝度変換演算器111と、この輝度変換演算器111より出力される刺激値R,G,Bに対して輝度、色相に影響を与えずに彩度だけ変換するための演算をする彩度変換演算器112とを有している。
【0031】
色相、彩度に影響を与えずに輝度だけ変換するには、(2)式に示すように、輝度の利得kwを3チャネルに共通して掛ければよい。(2)式において、Ri,Gi,Biは入力側の刺激値、Ro,Go,Boは出力側の刺激値である。
【0032】
【数1】
Figure 0003959769
【0033】
ここで、刺激値R,G,Bに対して、(3)〜(5)式によって、W,x,yを得る。このとき、Wは輝度であり、x,yは輝度Wとは独立に色の情報だけを持っている。x=y=0のとき、色のないグレーの画素であり、ベクトル(x,y)の角度は色相を表し、ベクトル(x,y)の大きさは彩度を表している。
【0034】
【数2】
Figure 0003959769
【0035】
(2)式による変換で輝度を変更したときの変化を調べる。(3)、(4)、(5)式に(2)式を代入すると、(6)〜(8)式のようになる。(6)〜(8)式において、Wo,xo,yoは出力側の刺激値Ro,Go,Boに対応するものであり、Wi,xi,yiは入力側の刺激値Ri,Gi,Biに対応するものである。これにより、輝度だけがkw倍に変更され、色には全く影響がないことがわかる。
【0036】
【数3】
Figure 0003959769
【0037】
(2)式に基づき、輝度変換演算器111は、図3に示すように構成される。すなわち、輝度変換演算器111は、刺激値Ri,Gi,Biに利得kwを掛算して刺激値Ro,Go,Boを得る乗算器113R,113G,113Bとを有して構成される。
【0038】
また、輝度、色相に影響を与えずに彩度だけ変換するには、(9)式に示すような線形演算を行えばよい。(9)式において、Ri,Gi,Biは入力側の刺激値、Ro,Go,Boは出力側の刺激値、kcは彩度の利得である。
【0039】
【数4】
Figure 0003959769
【0040】
輝度Wiを用いると、(9)式は、(10)〜(13)式に示すようにも表される。
Ro=Wi+kc(Ri−Wi) ・・・(10)
Go=Wi+kc(Gi−Wi) ・・・(11)
Bo=Wi+kc(Bi−Wi) ・・・(12)
Wi=0.59Gi+0.30Ri+0.11Bi ・・・(13)
【0041】
(9)式による変換で彩度を変更したときの変化を調べる。(3)、(4)、(5)式に、(10)〜(12)式を代入すると、(14)〜(16)式のようになる。(14)〜(16)式において、Wo,xo,yoは出力側の刺激値Ro,Go,Boに対応するものであり、Wi,xi,yiは入力側の刺激値Ri,Gi,Biに対応するものである。これにより、輝度および色相に変化がなく、彩度だけがkc倍に変更されることがわかる。
【0042】
【数5】
Figure 0003959769
【0043】
(10)〜(12)式に基づき、輝度変換演算器112は、図4に示すように構成される。すなわち、輝度変換演算器112は、刺激値Ri,Gi,Biより輝度Wiを減算する減算器114R,114G,114Bと、この減算器114R,114G,114Bの出力信号に利得kcを掛算する乗算器115R,115G,115Bと、この乗算器115R,115G,115Bの出力信号に輝度Wiを加算して刺激値Ro,Go,Boを得る加算器116R,116G,116Bとを有して構成される。
【0044】
図1に戻って、ビデオカメラ装置100は、彩度変換演算器112より出力される赤、緑、青の刺激値R,G,Bに、マイコン125から供給される黒コードBCおよびペデスタルレベルの補正値PEDを加算すると共に、イメージエンハンサ109より出力される輪郭強調信号Dcを加算する加算器117R,117G,117Bを有している。この場合、刺激値R,G,Bに黒コードBCを加算することで、コード値に変換される。また、刺激値R,G,Bにペデスタルレベルの補正値PEDを加算することで、アイリス(図示せず)を閉じたときの赤、緑、青の色データの値、従って黒レベルを調整できる。
【0045】
また、ビデオカメラ装置100は、加算器117R,117G,117Bより出力される赤、緑、青の色データにガンマ補正をするガンマ補正回路118R,118G,118Bと、このガンマ補正回路118R,118G,118Bより出力される色データにイメージエンハンサ109より出力される輪郭強調信号Daを加算する加算器119R,119G,119Bとを有している。
【0046】
また、ビデオカメラ装置100は、加算器119R,119G,119Bより出力される赤、緑、青の色データに対して一定レベルでクリップ処理するクリップ回路120R,120G,120Bと、このクリップ回路120R,120G,120Bより出力される色データ赤、緑、青の色データに対してマトリックス処理をして輝度データ、赤色差データ、青色差データを形成するマトリックス回路121と、このマトリックス回路121より出力される輝度データ、赤色差データ、青色差データに対して一定レベルでクリップ処理して、輝度データDY、赤色差データDCR、青色差データDCBを得るクリップ回路122Y,122R,122Bとを有している。
【0047】
また、ビデオカメラ装置100は、プリプロセス回路106より出力される赤、青の色データの帯域を制限するためのローパスフィルタ123R,123Bと、プリプロセス回路106より出力される青の色データより赤、青の色データと位相が合った緑の色データを得るための補間フィルタ123Gとを有している。ローパスフィルタ123R,123Bとしては、例えば図5Bに示す周波数特性を有する[12221]型フィルタが使用される。また、補間フィルタ123Gとしては、例えば図5Aに示す周波数特性を有する[134431]型フィルタが使用される。なお、これらローパスフィルタ123R,123Bおよび補間フィルタ123Gの画素ずらしされた赤、緑、青の色信号の輝度成分に対する総合的な周波数特性は、図5Cに示すようになる。
【0048】
また、ビデオカメラ装置100は、ローパスフィルタ123R,123B、補間フィルタ123Gより出力される赤、緑、青の色データに基づいて、上述した輝度変換演算器111で使用される輝度の利得kw、上述した彩度変換演算器112で使用される入力側の輝度Wiおよび彩度の利得kcを得るためのコントローラ124を有している。この場合、コントローラ124では、輝度変換演算器111および彩度変換演算器112によって、この発明によるニー圧縮、DCCプラス機能、ホワイトクリップ、フレア補正、ヒストグラム等化による適応階調変換等が行われるように、kw,Wi,kcが形成される。
【0049】
次に、図1に示すビデオカメラ装置100の動作を説明する。
【0050】
レンズブロック101を通して入射された被写体からの光は色分解プリズム102に供給されて赤色光、緑色光、青色光に分解され、それぞれ撮像素子103R,103G,103Bに導かれる。撮像素子103R,103G,103Bの撮像面上には、それぞれ被写体に係る赤色画像、緑色画像、青色画像が結像されて撮像が行われる。そして、撮像素子103R,103G,103Bより出力される赤、緑、青の撮像信号はアナログプロセス回路104R,104G,104Bに供給されて相関二重サンプリング処理や白バランス、黒バランス等のレベル制御がされる。
【0051】
また、アナログプロセス回路104R,104G,104Bより出力される赤、緑、青の色信号はA/D変換器105R,105G,105Bでfs1レートの色データに変換される。この赤、緑、青の色データはプリプロセス回路106に供給されて白黒バランス制御、シェーディング補正、欠陥補正等の画像処理がされる。
【0052】
そして、プリプロセス回路106より出力される赤、緑、青の色データがアップコンバータに供給され、互いに位相の合った2倍のサンプリング周波数2fs1の赤、緑、青の色データが形成される。そして、この赤、緑、青の色データが色補正回路108に供給されてリニアマトリックス処理が行われ、撮像画像の色再現性を補正した赤、緑、青の色データが得られる。
【0053】
ところで、例えばD1コードでは、刺激値0が16(2進数)と定義されており、輝度変換演算器111や彩度変換演算器112における演算で色補正回路108より出力される赤、緑、青の色データ(信号コード)をそのまま使用すると黒コードが変化することになる。そのため、色補正回路108より出力される赤、緑、青の色データから減算器110R,110G,110Bで黒コードBCが減算されて赤、緑、青の刺激値R,G,Bに変換される。
【0054】
そして、減算器110R,110G,110Bより出力される赤、緑、青の刺激値R,G,Bに対して輝度変換演算器111で輝度を変換するための演算が行われると共に、彩度変換演算器112で彩度を変換するための演算が行われる。これにより、輝度変換演算器111および彩度変換演算器112では、この発明によるニー圧縮、DCCプラス機能、ホワイトクリップ、フレア補正、ヒストグラム等化による適応階調変換等が行われる。
【0055】
また、加算器117R,117G,117Bで、彩度変換演算器112より出力される赤、緑、青の刺激値R,G,Bに対して、黒コードBCが加算されて赤、緑、青の色データに変換され、またペデスタルレベルの補正値PEDが加算されて黒レベルの調整が行われる。さらに、加算器117R,117G,117Bでイメージエンハンサ109より出力される低域側を強調する輪郭強調信号Dcが加算される。
【0056】
また、加算器117R,117G,117Bより出力される色データに対して、ガンマ補正回路118R,118G,118Bでガンマ補正がされ、さらに加算器119R,119G,119Bでイメージエンハンサ109より出力される高域側を強調する輪郭強調信号Daが加算される。この加算器119R,119G,119Bより出力される色データは、クリップ回路120R,120G,120Bでクリップ処理された後にマトリックス回路121に供給されてマトリックス処理される。そして、マトリックス回路121より出力される輝度データ、赤色差データ、青色差データに対してクリップ回路122Y,122R,122Bでクリップ処理が行われて、輝度データDY、赤色差データDCR、青色差データDCBが得られる。
【0057】
次に、輝度変換演算器111および彩度変換演算器112で行われるニー圧縮、DCCプラス機能、ホワイトクリップ、フレア補正、ヒストグラム等化による適応階調変換等を説明すると共に、輝度変換演算器111および彩度変換演算器112で使用される輝度の利得kw、輝度Wi、彩度の利得kcを得るためのコントローラ124の詳細を説明する。
【0058】
(1)ニー圧縮
まず、R,G,Bのレベルと色との関係について説明する。この説明は、ガンマ補正等の一切の非線形処理を加える前の信号に基づいたものである。図6(a)は無色の画素のレベルの例を示している。無色のとき、R:G:B=1:1:1になる。このとき、各チャネルのレベルと輝度Wは等しく、R=G=B=Wとなる((13)式参照)。
【0059】
色のある画素では、R,G,BがWの周りに広がって分布するようになる。例えば、肌色の画素では、R,G,Bの分布が図6(b)に示すようになる。(13)式が係数の総和が1の正係数によるR,G,Bの1次結合になっていることからわかるように、R,G,Bのうち少なくとも1つのチャネルはWより大きく、また少なくとも1つのチャネルはWより小さくなるように分布する。
【0060】
また、色相を保ちつつ彩度を半分に小さく(色を薄く)すると、R,G,Bの分布が図6(c)に示すようになる。このままどんどん色を薄くしていくと、各チャネルのレベルはWに収斂していく。一方、図6(b)の状態からアイリス(絞り)を開けると、R,G,Bの分布は図6(d)に示すようになる。この場合、輝度Wは増えているが、色相や彩度には変化がない。
【0061】
図6(d)のとき、Rチャネルのレベルは、ニーポイントはもとよりクリップレベルも越えており、このままではテレビジョン信号規格を満たさないため、何らかの圧縮処理が必要となる。そこで、従来のカメラ系では、上述したように、チャネル毎にニー圧縮を行うことで、この制約を満たしてきた。図6(e)は、図6(d)のR,G,Bの分布に対して、チャネル毎にニー圧縮を行った場合のR,G,Bの分布を示している。
【0062】
チャネル毎にニー圧縮を行うことにより、確かにR,G,Bのレベルはテレビジョン信号規格を満たすようになる。しかし、図6(e)の分布のR,G,Bのバランスを見ると、図6(d)の分布のR,G,Bのバランスに対して、明らかに変化してしまっていることがわかる。この変化は色相に及んでおり、画像で見ると肌色が黄色っぽくなって、健康を害したようにみえてしまう。
【0063】
そこで、本実施の形態におけるニー圧縮では、以下の▲1▼、▲2▼の2段階で、オーバーしたチャネルのレベルを信号規格に収める処理をする。すなわち、▲1▼輝度Wのレベルに対してニー圧縮をする(輝度ニー)。▲2▼その上で、まだオーバーしているチャネルについては、最も高いレベルのチャネルが規格に収まるまで彩度を絞る(彩度ニー)。
【0064】
図7(d)のR,G,Bの分布では、図6(d)と同様に、Rチャネルのレベルがクリップレベルを越えている。図7(f)は、図7(d)のR,G,Bの分布に対して、輝度ニーの処理をした場合のR,G,Bの分布を示している。また、図7(g)は、図7(f)のR,G,Bの分布に対して、彩度ニーの処理をした場合のR,G,Bの分布を示している。
【0065】
上述した▲1▼輝度ニーの処理、▲2▼彩度ニーの処理は、それぞれ具体的には以下のようにして行われる。
【0066】
▲1▼輝度ニーの処理では、(2)式に基づき、輝度のレベルに対してニー圧縮をする。輝度の利得kwは、ニーカーブを定めると、入力輝度のレベルから一意に定まる。なお、傾きが0のニーがクリップであると考えれば、同様にして入力輝度に対してホワイトクリップの操作もできる。
【0067】
▲2▼彩度ニーの処理では、輝度Wiおよび赤、緑、青の刺激値Ri,Gi,Biに基づいて、(9)式の演算をする。彩度の利得kcは、チャネルレベルの制限値CMと、最も大きいチャネルのレベルMAX(Ri,Gi,Bi)から、(17)式で計算される。
【0068】
【数6】
Figure 0003959769
【0069】
このように、▲1▼輝度ニーの処理と▲2▼彩度ニーの処理の2段階の処理をすることによって、図7(g)に示すように、色相を変化させることなく、チャネルレベルをオーバーさせずに、高輝度域の階調圧縮が可能となる。
【0070】
なお、上述せずも、輝度Wiの代わりにニーポイントを、彩度の利得kcの代わりにニースロープを設定することで、図4に示す彩度変換演算器112はそのままニー圧縮の演算器となる。したがって、従来の各チャネル毎のニー圧縮も、選択的に実現できる。このことは、彩度変換処理による従来システムからの回路規模の増大はないということが言える。
【0071】
(2)DCCプラス機能
ハイライト部においてもクロマレベル(I、Qマトリックス後の色信号を「クロマ」と呼ぶ)を無理矢理上げることで色を付けることができる。従来のチャネル毎のニー圧縮では、ハイライトになってくると、色相が変化しながら白に収斂していく。DCCプラス機能は、受像機内で復調された赤、緑、青の色信号は規定のダイナミックレンジを越えるため、厳密なテレビジョン信号規格からは逸脱した方式である。ただし、このDCCプラス機能は、高輝度域に色が付くという魅力と、実運用上問題が起きていないことから、業務用カメラを中心にオプション機能として装備されている。
【0072】
従来は、ガンマ補正や緩いニー圧縮、ホワイトクリップの後、赤色差信号R−Y、青色差信号B−Yや、I信号,Q信号のマトリックスで変換された輝度信号Yに対してニー圧縮を掛け、色信号にはニー圧縮を掛けないことで、DCCプラス機能を実現していた。
【0073】
しかし、例えば色差信号R−Y,B−Yで考えると、以下のような問題があった。すなわち、輝度信号Y、色差信号R−Y,B−Yは独立に輝度と色の情報をもっているのではなくそれぞれ従属しているため、輝度信号Yを変更すると色にも影響が及ぶ。また、ガンマ補正等非線形処理を通った後の信号であるため、厳密には色相に変化が及ぶ。
【0074】
マトリックス後の信号(Y,R−Y,B−Y)が、仮にガンマ補正等がかかっていないリニアな信号であるとする。信号(Y,R−Y/Y,B−Y/Y)は、輝度と色をそれぞれ独立に表している。これに対して、信号(Y,R−Y,B−Y)は、色チャネルに対してYが掛かった形になっているため、色(色相、彩度)が変わらずに輝度だけが変わっても色チャネルの値(R−Y,B−Y)に変化が起きる。逆に、Yが変わったのに、(R−Y,B−Y)に変化が起こらないとすると、色が変わってしまうのである。なぜ、信号(Y,R−Y,B−Y)のような信号形式が採られているかというと、信号(Y,R−Y/Y,B−Y/Y)を得るためには割算が必要で、回路での実現が難しいためである。
【0075】
DCCプラス機能を実現するために、マトリックス後の信号(Y,R−Y,B−Y)のうち、輝度信号Yだけにニー圧縮を掛けてレベルを小さくし、色差信号R−Y,B−Yはそのままにする処理をすると、実際の色(R−Y/Y,B−Y/Y)は分母だけが小さくなるため実際の色より彩度が増加し、不自然な画像になる。そのため、このような処理では、ニーポイントをあまり下げることができない。また、実際には、この処理をガンマ補正等の非線形処理の後に行うため、上述した色彩理論の式が正しく当てはまらず、厳密にいうと彩度だけでなく、色相にも変化が及ぶ。
【0076】
そこで、本実施の形態においては、(17)式のチャネルレベルの制限値CMを110%以上に設定し、輝度Wは110%以内に抑えた上で、R,G,Bのチャネルレベルのオーバーを、制限値CMを上限に許すことで実現する。上述せずも、テレビジョン信号には、100%基準白レベルに対して、R,G,Bの各チャネルのレベルを110%に抑えるという制限がある。本実施の形態のように処理してDCCプラス機能を実現することで、色相は保たれ、彩度は与えられたレンジの中でできるだけ原画に忠実になるように自動的に調整される。
【0077】
図8(d)のR,G,Bの分布では、図7(d)と同様に、Rチャネルのレベルがクリップレベルを越えている。図8(f)は、図8(d)のR,G,Bの分布に対して、輝度ニーの処理をした場合のR,G,Bの分布を示している。また、図8(h)は、図8(f)のR,G,Bの分布に対して、チャネルレベルの制限値CMをクリップレベルより大きく設定して、彩度ニーの処理をした場合のR,G,Bの分布を示している。図8(h)から明らかなように、輝度Wの制限はそのままにチャネルレベルの制限値CMを緩和することで、大幅に高輝度域での色付きを獲得できていることがわかる。
【0078】
(3)ホワイトクリップ
従来は、R,G,Bの各チャネルについてもホワイトクリップをかけていた。したがって、R,G,Bのレベルがクリップレベルにかかると、R,G,Bのレベルのバランスも考慮されずに単チャネルとしてばっさりと切られるため、当然色相が変化してしまう。
【0079】
そこで、本実施の形態においては、上述したニー圧縮の項でも説明したが、輝度に対してホワイトクリップをかけ、その上での単チャネルのオーバーについては、彩度ニーの処理で対処する。これにより、ホワイトクリップによっても、色相の変化のない処理を行うことができる。
【0080】
一方、例えば輝度のホワイトクリップを100%に設定し、チャネルレベルの制限値CMを109%に設定することで、その間の9%を色を付けるために使うことができ、テレビジョン信号規格を逸脱することなく、上述したDCCプラス機能を実現することができる。限られた規格上のダイナミックレンジを、階調表現と色表現にユーザが割り振ることが可能となる。
【0081】
(4)フレア補正
従来、フレア補正はペデスタルレベルを減じることで行われてきた。この場合に、色に対してどのような影響があるか、以下に述べる。
【0082】
ある画素(Ri,Gi,Bi)に対してペデスタルレベルaを加えて(Ro,Go,Bo)となったとする。このとき、(18)〜(22)式が成立する。ここで、Wiは刺激値Ri,Gi,Biによる輝度であり、Woは刺激値Ro,Go,Boによる輝度である。
【0083】
【数7】
Figure 0003959769
【0084】
さて、ペデスタル付加前の彩度SATiは(23)式で表され、ペデスタル付加後の彩度SAToは(24)式で表される。
【0085】
【数8】
Figure 0003959769
【0086】
ここで、Wo/Wi=kとおくと、(24)式は、(25)式に示すようになる。
【0087】
【数9】
Figure 0003959769
【0088】
そして、SATo≧0、SATi≧0であるから、SATo=SATi/kとなる。したがって、ペデスタル付加後に彩度は、Wi/(Wi+a)倍になる。すなわち、持ち上げる方向にペデスタルを付加すると退色し、逆に引き下げる方向にペデスタルを付加すると増色する。
【0089】
一方、ペデスタル付加前の色相HUEiは(26)式で表され、ペデスタル付加後の色相HUEoは(27)式で表される。したがって、ペデスタルの付加によっても色相は保存される。
【0090】
【数10】
Figure 0003959769
【0091】
このように、ペデスタル付加によってフレア補正を行うと、色相は保存されるものの、彩度は実際よりも増えてしまう。
【0092】
そこで、本実施の形態においては、(2)式において、黒浮きの起こっている階調域の利得kwを減じるコントロールを行うことで、色に影響を与えないフレア補正を実現する。後述するヒストグラム等化による適応階調変換を行うと、この動作は自動的に行われ、フレアの発生に応じて補正動作がなされる。
【0093】
(5)ヒストグラム等化による適応階調変換
自然光の広大なダイナミックレンジをテレビジョン信号規格のレンジに収めるに当たって、高輝度域をニー圧縮によって圧縮する手法およびフレアの発生による黒浮きを補正する圧縮する手法については上述したとおりである。本実施の形態においては、さらに現在の画像において使用されていない階調域を優先的に圧縮することで、さらに有効な圧縮を行うものである。
【0094】
ここで、面積の広い階調域を使われている階調域と考える。すなわち、画面中で各輝度域の出現頻度をとり、出現頻度の低い輝度域は圧縮し、出現頻度の高い輝度域は伸張することで、実際に画面中に存在する輝度域により多くの階調を割り当てる圧縮ができるようになる。
【0095】
この処理によって、以下のような効果を得ることができる。すなわち、室内と窓の外とか、日陰と日向が一緒に映っている場合のように、明るい領域と暗い領域にヒストグラムが分かれているとき、従来は暗い領域がつぶれてしまうか(いわゆる黒つぶれ)、明るい領域が飛んでしまうか(いわゆる白飛び)になっていたが、この処理によって両方の領域を見えるようにすることが可能となる。また、フレアが発生した場合など、黒浮きが起こったときは、黒領域のヒストグラムが低いため、ここが圧縮されて黒の締まった画質に自動的に調整される。また、照明が良好なときも、そこに映っている被写体により多くの階調を割り当てようとするため、精細な画像となる。
【0096】
図9および図10に沿って、ヒストグラム等化による適応階調変換を説明する。
【0097】
出現頻度は、横軸に輝度、縦軸に出現画素数を棒グラフとしてプロットしたヒストグラムとして表現される。値の高い域ほど、階調を多く割り振るべきである。図9(a)に、ヒストグラムの例を示している。この例は、比較的照明条件が良く、100%程度までにヒストグラムが集中している例である。ヒストグラムに比例した微分利得を与えれば、ヒストグラム値の高い輝度域により多くの階調を持たせることができる。すなわち、ヒストグラムを積分したものを振幅伝達特性にすれば、その微分利得はヒストグラムに比例するようになる。
【0098】
この、出現頻度を横軸方向に積分したものを、累積度数分布と呼ぶ。出現画素数を全区間積分したもの、すなわち累積度数分布の右肩は常に総画素数に等しく、従って一定となる。また、ヒストグラムの値は負にはならないので、常に単調増加のカーブとなる。図9(b)に、図9(a)に示すヒストグラムに対応した累積度数分布を示している。このように、累積度数分布とはヒストグラムを積み上げていったものとなる。
【0099】
この累積度数分布のカーブを振幅伝達特性に見立てて輝度変換を行なうと、完全なヒストグラム等化が行なわれる。すなわち、処理後の画像のヒストグラムをとると、完全にフラットになる。FA(Factory Automation)のセンサカメラの二値化処理前段などでは、ここまできついヒストグラム等化を行なったりもするが、視聴用の映像では強調され過ぎて好ましくないことが多い。このため、ヒストグラム等化のかけ方を加減する手続きを採る。
【0100】
まず、累積度数分布を振幅伝達特性に見立てる手法について説明する。上述のとおり、累積度数分布の右肩は、総画素数(ヒストグラムをとった総点数)に等しい。この値が、映像信号コードの最大値に等しくなるように正規化する。このための正規化定数は、映像最大コード/総画素数となる。例えば、映像信号が12ビットで、ヒストグラムを188928画素についてとったとすると、正規化定数=4095/188928を、累積度数分布全体に掛けることで正規化がなされ、振幅伝達特性のカーブとなる。図9(c)は、図9(b)の累積度数分布を正規化して得られる振幅伝達特性を示している。図9(c)の破線で示す折れ線が、完全ヒストグラム等化の振幅伝達特性となる。
【0101】
次に、ヒストグラム等化のかけ方を加減する。図10(d)に示すように、完全ヒストグラム等化(実線a)とヒストグラム等化なし(一点鎖線b)の間を指定する比率で内分することでかけ方の加減を行なうことができる。図10(d)の実線cは、1/3に効きを落とした振幅伝達特性を示している。
【0102】
ここまでのヒストグラム等化処理は、入力された映像信号コードについてのヒストグラム等化である。図10(d)に示すとおり、この処理によって黒コードは変動する。(2)式による輝度の変換は、映像信号コードに対してでなく輝度の刺激値に対して行なわれなければならない。したがって、黒コードの一貫性は常に保証されなければならない。そこで、図10(d)のヒストグラム等化の加減が済んだ段階での黒コードのオフセットBOFを全体から減算することで黒コードを保存する処理を行なう。図10(e)の実線cは、図10(d)の実線cと同じものであり、図10(e)の破線dは黒コードのオフセットBOFを減算した後の振幅伝達特性を示している。
【0103】
さて、このようにして、視聴用として実用的なヒストグラム等化が行なえるようになってきた。テレビジョン放送規格に則った信号であればここまでの処理で良いのであるが、カメラ内の信号の場合は、このあとニー圧縮を行なうとすると、ニー圧縮される高輝度域のプライオリティは下げられていると考えることができる。したがって、カメラ内の信号は、コードアサインの全域が同一のプライオリティであるわけではない。例えば、図9(a)のヒストグラムでは、照明条件が良いらしく、通常の光量の領域にヒストグラムが集まっている。この場合、ヒストグラム等化処理を行なった図9(c)の破線の振幅伝達特性では、この通常域に集まったヒストグラムを信号コード全域に拡げることでコード域の有効活用を図っている。ところが、上述のとおり、高輝度域はプライオリティを低くするということにされており、このままヒストグラム等化処理を行なうと、せっかく照明条件の良い映像がニー圧縮されてしまう。すなわち、カメラ内信号は、信号コード全域を使うように調整するのが良いとは限らないのである。
【0104】
この例のような信号では、現状の明るさのピーク値を保つようにした上でヒストグラム等化処理を行なうことが、撮影者の意に反しない画質改善であると言える。
【0105】
そこで、図10(f)で、ヒストグラム値が最大となる入力輝度Aの輝度レベルを、変換によっても変化しないように保存するようにする。これにより、そのまま変換していたらp1のレベルに変換されて撮影者の意に反してニー圧縮されてしまっていたものが、p2のレベルに保存され、撮影者の狙った通りの輝度になる。
【0106】
具体的には、以下の▲1▼、▲2▼の処理をする。▲1▼入力輝度Aの輝度レベルをp2にする変換利得p2/p1を求める。▲2▼この変換利得を、図10(e)で得られた振幅伝達特性全体に乗ずる。ただし、変換利得を乗ずる際に、信号コードに直に乗算を行なったのでは、上述した黒コード保存処理で保存した黒コードがまたもや変動してしまう。そのため、このピーク保存処理においても、輝度刺激値に対して変換がなされるべきである。そこで、入力輝度をWin、出力輝度をWout、変換利得をkwh、黒コードをBCとするとき、(28)式の演算をする。
Wout=(Win−BC)・kwh+BC ・・・(28)
【0107】
図10(f)の実線eで示すピーク保存処理後の振幅伝達特性を見ると、この処理によって輝度を保存する制約を与えられた中でも、ヒストグラムに応じた階調の再配分が行なわれていることがわかる。
【0108】
入力輝度Aより明るい領域では、図10(e)の破線dに示す黒コード保存処理後の振幅伝達特性に比べてもさらに微分利得が減る方向であるが、図9(a)のヒストグラムからわかるとおり、この画像では高輝度域は重要度が低いため、等価的にニースロープを寝かせる操作をしたことになっており、リーズナブルである。
【0109】
このようにして、ピーク保存処理までの処理を終えると、一連のカメラ向けヒストグラム等化処理が終わり、振幅伝達特性が図10(f)の実線eに示すように求められる。本実施の形態においては、この振幅伝達特性を輝度の利得kwとして、(2)式による輝度の変換を行うことで、ヒストグラム等化による適応階調変換が実現される。
【0110】
(6)彩度のマニュアルコントロール
(17)式のkcは、チャネルレベルが規格を越えたときにこれを絞るための彩度の利得である。(9)式のkcは、より広い意味で彩度を調整する利得である。すなわち、kcを1.0にしていれば、彩度は変化しないが、例えばkcを1.2にするとやや色が濃くなり、またkcを0.8にすると幾分色が淡くなる。このように、彩度の利得を設定することで、ユーザは状況に応じて自由に色付きを調整できる。
【0111】
そこで、本実施の形態においては、彩度ニーで彩度を絞る操作を優先し、それ以外のときにはユーザが設定する彩度の利得によって色の濃さを調節できるようにする。これを実現するために、(17)式のkcと、彩度調整用に設定されるkcnのうち最小値を採るようにする。
【0112】
上述したように、コントローラ124では、輝度変換演算器111および彩度変換演算器112によって、ニー圧縮、DCCプラス機能、ホワイトクリップ、フレア補正、ヒストグラム等化による適応階調変換、彩度のマニュアルコントロールが行われるように、kw,Wi,kcが形成される。
【0113】
図11は、コントローラ124の詳細構成を示している。
【0114】
コントローラ124は、フィルタ123R,123G,123Bより出力される赤、緑、青の色データR,G,Bから(13)式に従って輝度Wを計算するためのマトリックス回路201と、このマトリックス回路201より出力される輝度Wに対応した輝度の利得kw1を発生する輝度利得発生器202と、この輝度利得発生器202より出力されるfs1レートの輝度の利得kw1をアップコンバートして2fs1レートの輝度の利得kwを得るアンプコンバータ203と、マトリックス回路201より出力される輝度Wを、例えば4画素毎にあるいは8画素毎に平均化してヒストグラムをとるための輝度Whを得るための画素平均回路204とを有している。
【0115】
輝度利得発生器202は、区間割された複数の区間のそれぞれに対応した輝度の利得データが書き込まれたRAM(random access memory)205を有している。本実施の形態においては、輝度域(例えば16進で000〜3FF)は、図12に示すように0〜60の61区間に区間割りされており、RAM204はその61区間分の輝度の利得データが記憶されたテーブルとして機能する。また、61区間は、図12に示すように、3領域I〜IIIに分けられ、各領域における区間割りの細かさが異なるように設定される。例えば、領域Iの0〜15の各区間は4/ステップとされ、領域IIの16〜47の各区間は16/ステップとされ、領域IIIの48〜60の区間は32/ステップとされる。なお、区間割りの数および区間割りの細かさについては、上述した例に限定されない。
【0116】
また、輝度利得発生器202は、マトリックス回路201より出力される輝度Wに基づき、その輝度Wが上述した61区間のいずれにあるかを示す区間データsec-1と、さらにその区間内の位置を示すオフセットデータofs1とを出力すると共に、画素平均回路204より出力される輝度Whに基づき、その輝度データWhが上述した61区間のいずれにあるかを示す区間データsec-2を出力する区間発生器206と、この区間発生器206より出力される区間データsec1に基づき、その区間データsec-1で示される区間およびその前の区間を順次示すデータsec-dをリードアドレスデータとして出力するアドレス発生器207とを有している。この場合、区間データsec1が0の区間を示すものであるとき、アドレス発生器207からは、輝度Wが0の区間にあることを示す0区間データsec-0も出力される。
【0117】
また、輝度利得発生器202は、アドレス発生器207より出力されリードアドレスデータsec-dまたは後述するシーケンサより出力されるリードアドレスデータradを選択的に取り出してRAM205に供給するスイッチ回路208と、RAM205からリードアドレスデータsec-dで読み出される輝度の利得データqn,qn-1、区間発生器206より出力されるオフセットデータofs1を使用した補間演算によって輝度Wに対応した輝度の利得kw1を得る補間演算器209とを有している。
【0118】
補間演算器209における補間演算を、図13を参照して説明する。マトリックス回路201より出力される輝度WがWaであってnの区間にある場合、アドレス発生器207より出力されるデータsec-dに基づいてRAM205よりnの区間の利得データqnとn−1の区間の利得データqn-1とが出力される。ここで、nの区間がm/ステップであるとすると、(29)式に示すような補間演算が行われる。なお、補間演算器209では、n=0であるとき、アドレス発生器207より出力される0区間データsec-0に基づいて、(29)式における利得データqn-1としてqnが使用される。
【0119】
【数11】
Figure 0003959769
【0120】
また、コントローラ124は、フィルタ123R,123G,123Bより出力される赤、緑、青の色データR,G,Bのうち最大のデータMAX(R,G,B)を取り出す最大値回路210と、この最大値回路210で取り出されるデータMAX(R,G,B)およびマトリックス回路201より出力される輝度Wに対して、それぞれ刺激値に対応した値に変更した後、輝度利得発生器202より出力される輝度の利得kw1を掛算する輝度利得乗算器211とを有している。
【0121】
輝度利得乗算器211は、MAX(R,G,B)または輝度Wを選択的に取り出すスイッチ回路212と、このスイッチ回路212の出力データより黒コードBCを差し引いて刺激値に変更する減算器213と、この減算器213の出力データに輝度の利得kw1を掛算する乗算器214と、この乗算器214の出力データより赤、緑、青の刺激値の最大値に利得kw1を掛けたMAX′および輝度Wに利得kw1を掛けたデータW′を分離して出力するスイッチ回路2215とを有して構成される。
【0122】
この場合、輝度利得乗算器211では、スイッチ回路212,215が1/2画素周期毎に切り換えられ、MAX(R,G,B)と輝度Wとが点順次化されて処理される。これにより、1個の乗算器で構成でき、回路規模を縮小できる。なお、スイッチ回路212,215の切り換えや、その他のスイッチ回路の切り換えは、後述するシーケンサ223によって行なわれる。
【0123】
また、コントローラ124は、輝度利得乗算器211より出力されるMAX′,W′のデータから、(17)式に基づいて、彩度の利得を得る彩度利得発生器216を有している。この彩度利得発生器216は、MAX′よりW′を差し引く減算器217と、マイコン125から与えられるチャネルレベルの制限値CMよりW′を差し引く減算器218と、減算器218の出力データを減算器217の出力データで割算する除算器219と、この除算器219より出力される彩度の利得kc1と、ユーザによって設定される彩度の利得kcnのうち小さい方を出力する最小値回路220とを有している。
【0124】
ここで、(17)式は除算を含むため、特異点が存在する。特異点は、MAX′=W′、すなわち無色の画素のときに発生する。彩度利得発生器216の除算器219は、これを以下のように処理して除去する。すなわち、MAX′=W′のとき、MAX′<CMであればkc1=kcnとし、MAX′=CMであればkc1=1.00とし、MAX′>CMであればkc1=0.00とする。
【0125】
また、コントローラ124は、彩度利得発生器216より出力されるfs1レートの彩度の利得をアップコンバートして2fs1レートの彩度の利得kcを得るアップコンバータ221と、輝度利得乗算器211より出力されるfs1レートの輝度W′を2fs1レートの輝度Wiを得るアップコンバータ222とを有している。
【0126】
また、コントローラ124は、RAM205に輝度の利得データを書き込んでテーブルを作成するための動作を取り仕切るシーケンサ223と、上記テーブルの作成時に使用されるRAM224と、上述した区間発生器206より出力される区間データsec2またはシーケンサ223より出力されるアドレスデータadrを選択的に取り出してRAM224に供給するスイッチ回路225と、上記テーブルの作成時に使用される演算論理ユニット(ALU)226と、シーケンサ223より出力されるアドレスデータadrより輝度データxを発生してALU226に供給する輝度データ発生器227とを有している。
【0127】
次に、図11に示すコントローラ124の動作を説明する。
【0128】
まず、輝度変換演算器111で使用する輝度の利得kw、彩度変換演算器112で使用する彩度の利得kc、輝度Wiを求める動作を説明する。図14は、コントローラ124のkw,kc,Wiを求める回路部分を抜粋したものである。
【0129】
輝度の利得kwを求める動作は、以下のようになる。フィルタ123R,123G,123B(図1参照)より出力される赤、緑、青の色データR,G,Bがマトリックス回路201に供給され、画素毎に輝度Wが算出される。この画素毎の輝度Wは輝度利得発生器202の区間発生器206に供給され、この区間発生器206からは画素毎に、輝度Wが属する区間を示す区間データsec1と、その輝度Wの区間内の位置を示すオフセットデータofs1が出力される。
【0130】
また、区間発生器206より画素毎に出力される区間データsec1に対応して、アドレス発生器207からは輝度Wが属する区間およびその前の区間を順次示すデータsec-dが出力され、このデータsec-dはRAM205にリードアドレスデータとして供給される。そのため、RAM2からは、画素毎に、輝度Wが属する区間およびその前の区間に対応する輝度の利得データqn,qn-1が読み出される。そして、補間演算器209では、画素毎に、RAM205より供給される利得データqn,qn-1と、区間発生器206より供給されるオフセットデータofs1を使用して補間演算が行われ((29)式参照)、輝度の利得kw1が得られる。そして、補間演算器209より画素毎に得られる輝度の利得kw1がアップコンバータ203で2fs1のレートに変換され、輝度変換演算器111で使用される輝度の利得kwが得られる。
【0131】
彩度の利得kc、輝度Wiを求める動作は、以下のようになる。フィルタ123R,123G,123Bより画素毎に出力される赤、緑、青の色データR,G,Bが最大値回路210に供給され、最大のデータMAX(R,G,B)が取り出される。そして、画素毎に、最大値回路210で取り出されるデータMAX(R,G,B)は輝度利得乗算器211に供給され、黒コードBCが差し引かれて刺激値に変換され、さらに輝度利得発生器202より出力される輝度の利得kw1が掛算されてデータMAX′が得られる。また、マトリックス回路201より画素毎に出力される輝度Wが輝度利得乗算器211に供給され、黒コードBCが差し引かれて刺激値に変換され、さらに輝度利得発生器202より出力される輝度の利得kw1が掛算されてデータW′が得られる。
【0132】
そして、画素毎に、輝度利得乗算器211より出力されるデータMAX′、W′が彩度利得発生器216に供給される。彩度利得発生器216では、画素毎に、データMAX′、W′と、チャネルレベルの制限値CMを使用して、彩度の利得kc1が演算される((17)式参照)。さらに、彩度利得発生器216では、画素毎に、最小値回路220によって彩度の利得kc1とユーザによって設定される彩度の利得kcnのうち小さい方が取り出される。そして、彩度利得発生器216より画素毎に出力される彩度の利得がアップコンバータ221で2fs1のレートに変換され、彩度変換演算器112で使用される彩度の利得kcが得られる。
【0133】
また、輝度利得乗算器211より画素毎に出力されるデータW′が、アップコンバータ222で2fs1のレートに変換され、彩度変換演算器112で使用される輝度Wiが得られる。
【0134】
次に、RAM205に、上述したように61区間に対応した輝度の利得データを書き込んでテーブルを作成する動作を説明する。図15は、コントローラ124のテーブル作成に係る回路部分を抜粋したものである。図15において、RAM205、シーケンサ223、RAM224、スイッチ回路225、輝度データ発生器227を除く部分は、ALU226を構成している。
【0135】
ALU226は、スイッチ回路230〜233と、演算によるオーバーフローをクリップするクリップ回路234〜236と、加算器または減算器となる加減算器237と、レジスタ238と、コンパレータ239と、除算コントローラ240と、ホワイトクリップ回路241と、黒コードのオフセットBOFを一時的に格納する黒コードオフセットレジスタ242と、ピーク保存比を一時的に格納するピーク保存比レジスタ243と、乗算器244と、減算器255とを有して構成されている。
【0136】
RAM224はワークRAMとして機能する。後述するように有効画素期間はこのRAM224にヒストグラムがとられ、垂直ブランキング期間中はこのRAM224は演算中のデータの一時記憶として使用される。
【0137】
テーブル作成の動作は、シーケンサ223によって仕切られ、図16に示すステップ0〜ステップ15の順にシーケンシャルに行われる。シーケンサ223は、有効画素期間はステップ0にあって、このとき外部回路はヒストグラムをとる動作をしている。
【0138】
また、シーケンサ223は、垂直ブランキング期間に入ると、ステップ1に進み、ここでシーケンス0〜7を、アドレスを0から60まで変えながら繰り返し、以下同様にステップ2〜ステップ15を実行してテーブルを作成する。ここで、シーケンス0〜7は、fs1(撮像素子103R,103G,103Bの水平駆動周波数)のレートで順次行なわれる。
【0139】
なお、ステップ12では、割り算を行なうため、シーケンサ223は、シーケンス2で割り算用サブシーケンサにスタートをかけ(divstart)、その後シーケンス3で一旦停止し(stop)、割り算用シーケンサの終了を待つ。
【0140】
また、ステップ3とステップ4には、他のステップとは少々違う動作がある。ステップ3では、輝度域が黒コードを含むとき(adr=blksec)、上述したヒストグラム等化による適応階調変換処理における黒コード保存処理(図10(e)参照)で使用する黒コードのオフセットBOFをレジスタ242に取り込むべく、シーケンス3でレジスタ242に書き込みイネーブルを出力する(blkwr)。
【0141】
ステップ4では、輝度域がピークを保存すると指示された輝度域Aにあるとき(adr=hldsec)、上述したヒストグラム等化による適応階調変換処理におけるピーク保存処理(図10(f)参照)を行なうための変換比Kholdを求めるための演算をする。ここでも割り算を行なうため、シーケンサ223は、シーケンス4でRAM224の読み出しをし(memrd)、シーケンス5で割り算用サブシーケンサにスタートをかけ(divstart)、その後シーケンス6で一旦停止し(stop)、割り算用シーケンサの終了を待つ。そして、シーケンス7で変換比Kholdをレジスタ243に格納する(hldwr)。
【0142】
以下、図16のステップ0〜15によるテーブル作成の処理を説明する。
【0143】
(1)ステップ0:ヒストグラムとり(図9(a)参照)
ステップ0は有効画素期間に行われ、このステップ0では、RAM224にヒストグラムテーブルが作成される。このときだけは、RAM224のアドレスデータとして、その画素での輝度値に応じた区間データsec2が与えられる。この区間データsec2に対応したアドレスにある現在までのヒストグラム値にALU226内の加減算器237で1を加え、再びRAM224の同じアドレスに格納する。これにより、(30)式に示すように、ヒストグラム値のインクリメントがなされる。ここで、RAM1outはRAM224の出力データであり、RAM1inはRAM224の入力データである。
RAM1in=RAM1out +1 ・・・(30)
【0144】
これを有効画素期間に区間発生器206(図11参照)より出力される区間データsec2毎に繰り返すことで、そのフィールドでのヒストグラムテーブルがRAM224に作成される。
【0145】
図17は、ステップ0のヒストグラムとりにおけるALU226の動作を示しており、関係する信号経路を破線で示している。以下の各ステップの動作を示す図においても同様である。この場合、ALU226の加減算器237は加算器として機能する。
【0146】
(2)ステップ1:累積および正規化(図9(b)、(c)参照)
ステップ1以降は垂直ブランキング期間に行われる。RAM224には、シーケンサ223よりアドレスデータadrが供給される。このステップ1では、ヒストグラムの累積と正規化が行われて、正規化累積度数テーブルに変換される。累積は、ALU226内のレジスタ238で行ない、その区間までの累積値に乗算器244で正規化定数KCCDを乗じ、その乗算結果を再びRAM224に格納する。(31)式、(32)式に、その様子を示している。
Regin=Regout+RAM1out ・・・(31)
RAM1in=Regout*KCCD ・・・(32)
【0147】
ここで、Regoutはレジスタ238の出力データであり、Reginはレジスタ238の入力データである。そして、図16のステップ1において、「memrd」はRAM224の読み出しを示し、「regwr」はレジスタ238の書き込みを示し、「memwr」はRAM224の書き込みを示している。以下のステップにおいても同様である。ただし、ステップ13,14の「memrd」はRAM224,205の読み出しを示し、ステップ14の「memwr」はRAM205の書き込みを示している。
【0148】
図18は、ステップ1の累積および正規化におけるALU226の動作を示している。ALU226の加減算器237は加算器として機能する。この場合、ヒストグラム値が大きくなると振幅伝達特性において微分利得が大きくなるが、これが過度に大きくなることのないように、クリップ回路234によってクリップ処理される。
【0149】
なお、ステップ1のシーケンス6では、後述したようにRAM224より読み出されるヒストグラムをヒストグラム情報報告回路のレジスタに格納する(histwr)。
【0150】
(3)ステップ2,3:ヒストグラム等化の加減(図10(d)参照)
ステップ2,3では、ヒストグラム等化の加減が行われる。すなわち、ヒストグラム等化の強さをKWCとして指定し、(33)式、(34)式に示すように演算する。
Regin=RAM1out−x ・・・(33)
RAM1in=Regout*KWC+x ・・・(34)
【0151】
WCを1.00にすると、ヒストグラム等化は完全に行なわれる。KWCを0.00にすると、ヒストグラム等化は全く行なわれない。上述の式のxは、輝度データ発生器227で生成される、区間に対応する輝度データである。これは、変換を行なわなかった場合の輝度データを示しており、KWCが0.00のときは、このxがそのままRAM1outとなる。
【0152】
図19は、ステップ2のヒストグラム等化の加減におけるALU226の動作を示している。このステップ2では、(33)式の演算が行われる。そのため、ALU226の加減算器237は減算器として機能する。また、図20は、ステップ3のヒストグラム等化の加減におけるALU226の動作を示している。このステップ3では、(34)式の演算のうち加算が行われる。そのため、ALU226の加減算器237は加算器として機能する。
【0153】
(4)ステップ4:黒コード保存処理(図10(e)参照)
ステップ4では、黒コードのオフセットBOFを取り除く黒コード保存処理が行われる。ここでは、黒コードを含む区間(adr=blksec)での、ヒストグラム等化の加減処理後のテーブル値とxとの差、すなわち黒レベルのオフセットBOFをレジスタ242にとっておいて、これを全区間でテーブルから引くことで、黒コードを含む区間でのテーブル値をxに等しくする。黒レベルのオフセットBOFは、ステップ3で(34)式の演算を行なっているときに、これと平行してRegout*KWCをレジスタ242に格納しておくことで実現できる。黒レベルのオフセットBOFをテーブル全体から減ずる操作は、(35)式の演算となる。
RAM1in=RAM1out−BOF ・・・(35)
【0154】
図21は、ステップ4の黒コード保存処理におけるALU226の動作を示している。このステップ4では、(35)式の演算が行われる。そのため、ALU226の加減算器237は減算器として機能する。
【0155】
(5)ステップ5,6:ピーク保存処理(図10(f)参照)
ステップ5,6では、ピーク保存処理が行われる。上述せずも、ステップ4において、固定したい輝度域Aでの変換結果p1と、ここでの変換を行なわなかったときの値、すなわちxとの割り算を行なってピーク保存比Kholdを求め、レジスタ243に格納しておく。すなわち、ステップ4において、輝度域Aの区間(adr=hldsec)では、(36)式の演算が行われて、保存比Kholdが求められる。
hold=(x−BC)/(RAM1out−BC) ・・・(36)
【0156】
一般に、除算は、分子をb、分母をa、商をcとすると、b/a=cで表される。この式を変形すると、b=acとなり、商cは、分母aにある数xを乗算したときに分子bと等しくなるときのその数xとして求めることができる。ここで、商cを求めるためには、xを商cに収束するように順次変化させていけばよい。例えば、商cをnビットデータで求めるときには、xをnビットデータとし、axがbを越えないように、MSBから順に確定していけばよく、最終的に確定されたnビットのデータxが商cとなる。
【0157】
具体例として、b=1010、a=111であって、商cとして21の桁から4ビットのデータを求める除算処理について説明する。商cを求めるための4ビットのデータx=[b3,b2,b1,b0]を考える。最初に、MSBであるb3の確定処理をする。b3=1,b2=b1=b0=0として、axとbとを比較する。ax=1110>bであることから、b3=0に確定する。次に、b2の確定処理をする。b3=0,b2=1,b1=b0=0として、axとbとを比較する。ax=0111<bであることから、b2=1に確定する。次に、b1の確定処理をする。b3=0,b2=1,b1=1,b0=0として、axとbとを比較する。ax=1010.1>bであることから、b1=0に確定する。次に、b0の確定処理をする。b3=0,b2=1,b1=0,b0=1として、axとbとを比較する。ax=1000.11<bであることから、b0=1に確定する。これにより、商c=01.01が求められる。
【0158】
図22は、ステップ4のピーク保存比算出時におけるALU226の動作を示しており、上述したような除算処理によってピーク保存比の算出が行われる。このとき、ALU226の加減算器237は減算器として機能する。
【0159】
この場合、輝度データ発生器227より輝度Aが含まれる区間に対応する輝度データxが出力され、この輝度データxより減算器255で黒コードBCが減算されてコンパレータ239に供給される。また、RAM224より輝度Aが含まれる区間の輝度データRAM1outが読み出され、この輝度データRAM1outより加減算器237で黒コードBCが減算されて乗算器244に供給される。そして、乗算器244では、加減算器237の出力データ、すなわちRAM1out−BCに対してレジスタ238に設定された、例えば12ビットのデータb(11)〜b(0)が乗算され、この乗算器244の出力データはコンパレータ239に供給される。コンパレータ239では、上述した減算器255の出力データ、すなわちx−BCと乗算器244の出力データとが比較され、その比較結果がコンパレータ239より除算コントローラ240に供給される。
【0160】
この状態で、シーケンサ223の制御に基づいて、除算コントローラ240は、最初に、ピーク保存比KHOLDを作成するためのレジスタ238をクリアし(b(11)〜b(0)=0)、その後にMSBであるb(11)を“1”に設定する。そして、除算コントローラ240は、コンパレータ239からの比較結果に基づき、乗算器244の出力データがx−BCより大きいときはb(11)を“0”に変更し、一方乗算器244の出力データがx−BC以下であるときはb(11)を“1”のままとし、b(11)を確定する。以下、除算コントローラ240は、b(10)〜b(0)に順に“1”を設定して上述したb(11)の場合と同様の確定処理をする。そして、このように確定された12ビットのデータb(11)〜b(0)がピーク保存比KHOLDとしてレジスタ238よりピーク保存比レジスタ243に供給されて格納される。
次に、保存比Kholdをテーブル全体に乗ずる。ただし、黒レベルは変動しないようにしなければならないため、(37)式、(38)式の演算をする。
Regin=RAM1out−BC ・・・(37)
RAM1in=Regout*Khold+BC ・・・(38)
【0161】
図23は、ステップ5のピーク保存処理(1)におけるALU226の動作を示している。このステップ5では、(37)式の演算が行われる。そのため、ALU226の加減算器237は減算器として機能する。また、図24は、ステップ6のピーク保存処理(2)におけるALU226の動作を示している。このステップ6では、(38)式の演算のうち加算が行われる。そのため、ALU226の加減算器237は加算器として機能する。
【0162】
(6)ステップ7,8:ニー圧縮処理(1)(図25(g)参照)
ステップ7,8では、1回目のニー圧縮処理が行われる。正確には、ニー圧縮を行なうようなテーブルが作成される。レベルテーブルにニーをかける処理は、(39)〜(42)式の演算で行われる。ここで、Kpはニーポイント、KSはニースロープを示している。そして、ニー圧縮処理(1)では、Kp=Kp1,KS=KS1とされる。
RAM1out≧Kpであるとき
Regin=RAM1out−Kp ・・・(39)
RAM1in=Regout*KS+Kp ・・・(40)
RAM1out<Kpであるとき
Regin=RAM1out−Kp ・・・(41)
RAM1in=Regout*1.00+Kp ・・・(42)
【0163】
図27は、ステップ7のニー圧縮処理(1)におけるALU226の動作を示している。このステップ7では、(39)式および(40)式、または(41)式および(42)式のうち+KPを除く演算が行われる。そのため、ALU226の加減算器237は減算器として機能する。また、図28は、ステップ8のニー圧縮処理(1)におけるALU226の動作を示している。このステップ8では、残りの+KPの演算が行われる。そのため、ALU226の加減算器237は加算器として機能する。
【0164】
(7)ステップ9,10:ニー圧縮処理(2)およびホワイトクリップ(図25(h)参照)
ステップ9,10では、2回目のニー圧縮処理と、ホワイトクリップ処理が行われる。レベルテーブルにニーをかける処理は、ニー圧縮処理(1)と同様に、(39)〜(42)式の演算で行われる。このニー圧縮処理(2)では、Kp=Kp2,KS=KS2とされる。この場合、2回のニーが掛かっているので、最終のニーカーブのスロープはKs1*Ks2となる。この、2段階のニーによってニー折れ線の角取りが行われる。
【0165】
また、ホワイトクリップの処理は、ステップ10の段階で、マイコン125よりホワイトクリップ回路241にホワイトクリップレベルのデータが供給されることで、ホワイトクリップの処理が実行される。したがって、その他のステップでは、ホワイトクリップ回路241は機能していない。
【0166】
図29は、ステップ9のニー圧縮処理(2)およびホワイトクリップ処理におけるALU226の動作を示している。このステップ9では、(39)式および(40)式、または(41)式および(42)式のうち+KPを除く演算が行われる。そのため、ALU226の加減算器237は減算器として機能する。また、図30は、ステップ10のニー圧縮処理(2)およびホワイトクリップ処理におけるALU226の動作を示している。このステップ10では、残りの+KPの演算が行われる。そのため、ALU226の加減算器237は加算器として機能する。
【0167】
(8)ステップ11:トータルゲイン調整(図25(i)参照)
ステップ11では、レベルテーブルにトータルゲインGainが掛けられ、トータルゲインの調整が行われる。例えば、D1コード(8ビット)に対して2のべき乗倍の関係にないコードアサイン、例えばMSB側やLSB側にそれぞれ1.5ビットずつ拡張した11ビットでA/D変換された信号が入力されたような場合、これに補正係数を乗ずることでD1コードと2のべき乗倍の関係に直すことができる。ここでは(43)式、(44)式に基づいて演算がなされる。
Regin=RAM1out−BC ・・・(43)
RAM1in=Regout*Gain+BC ・・・(44)
【0168】
図31は、ステップ11のトータルゲイン調整におけるALU226の動作を示している。このステップ11では、(43)式および(44)式のうち+BCを除く演算が行われる。そのため、ALU226の加減算器237は減算器として機能する。なお、残りの+BCの演算は、次項(9)で述るように省略できる。
【0169】
(9)ステップ12:伝達利得を得るための除算処理(図26(k)参照)
ステップ12では、これまで作ってきたレベルテーブルを、ゲインのディメンジョンであるKwのテーブルに変換するために除算処理をする。図26(j)は、この概念図を示している。例えば、図26(j)の縦の破線の輝度域において、aのレベルをbのレベルに変換する利得を求める演算をすればよいわけである。ここで、黒コードBCがゼロ元になる利得を求めなければならないことに注意を要する。図1に示すように、輝度変換演算器111で演算を行う前に、減算器110R,110G,110Bで赤、緑、青の色データより黒コードBCを減じて、コードから刺激値に変換している。よって、ここで除算で求める利得も、刺激値に対しての利得、すなわち黒コードをゼロ元とする利得でなければならない。そこで、(45)式の演算によってゲインテーブルに変換する。
RAM1in=(RAM1out−BC)/(x−BC) ・・・(45)
【0170】
さて、(45)式の分子を見ると、上述した(44)式において黒コードBCを加えたものをまた減じている。したがって、これらの操作は冗長であるから省略することができる。この場合、(44)式、(45)式は、それぞれ(46)式、(47)式に示すようになる。
RAM1in=Regout*Gain ・・・(46)
RAM1in=RAM1out/(x−BC) ・・・(47)
【0171】
このようにして、このフィールドでの変換テーブルが作成される。ただし、これを次フィールドの変換にそのまま用いると、光源のフリッカの影響などをもろに受ける。そこで、前フィールドでの変換テーブルとの間で時歴演算を行ない、時定数をもってテーブルの更新がなされるようにする。
【0172】
図32は、ステップ12の伝達利得を得るための除算処理におけるALU226の動作を示しており、上述したピーク保存比算出時におけると同様の除算処理によって、0〜60の輝度域の伝達利得が求められる。このステップ12では、(47)式の演算が行われる。
【0173】
この場合、まず、シーケンサ223より輝度域0を示すアドレスデータadrが出力される。これにより、RAM224より輝度域0の区間の輝度データRAM1outが読み出され、この輝度データRAM1outがコンパレータ239に供給される。また、輝度データ発生器227より輝度域0の区間に対応する輝度データxが出力され、この輝度データxより減算器255で黒コードBCが減算されて乗算器244に供給される。そして、乗算器244では、減算器255の出力データ、すなわちx−BCに対してレジスタ238に設定された、例えば12ビットのデータb(11)〜b(0)が乗算され、この乗算器244の出力データはコンパレータ239に供給される。コンパレータ239では、上述した輝度データRAM1outと乗算器244の出力データとが比較され、その比較結果がコンパレータ239より除算コントローラ240に供給される。
【0174】
この状態で、シーケンサ223の制御に基づき、除算コントローラ240は、最初に、伝達利得を作成するためのレジスタ238をクリアし(b(11)〜b(0)=0)、その後にMSBであるb(11)を“1”に設定する。そして、除算コントローラ240は、コンパレータ239からの比較結果に基づき、乗算器244の出力データがRAM1outより大きいときはb(11)を“0”に変更し、一方乗算器244の出力データがRAM1out以下であるときはb(11)を“1”のままとし、b(11)を確定する。以下、除算コントローラ240は、b(10)〜b(0)に順に“1”を設定して上述したb(11)の場合と同様の確定処理をする。そして、このように確定された12ビットのデータb(11)〜b(0)が輝度域0の伝達利得RAM1inとしてRAM224に格納される。
【0175】
以下、シーケンサ223より輝度域1〜60を示すアドレスデータadrが順に出力され、除算コントローラ240の働きにより、上述した輝度域0の場合と同様に除算処理が行われ、輝度域1〜60の伝達利得RAM1inが順に求められてRAM224に格納される。
【0176】
(10)ステップ13,14:時定数(LPF)処理(図26(l)参照)
ステップ13,14では、時定数をもってテーブルの更新がなされるように時定数処理が行われる。また、この結果は、実際に入力画像の変換の際に参照される最終テーブルとしてのRAM205に書き込まれる。そのために、(48)式、(49)式の演算が行われる。
Regin=RAM1out−RAM2out ・・・(48)
RAM2in=Regout*KT+RAM2out ・・・(49)
(49)式において、KTは時定数である。また、同式の左辺は、上記のような理由でRAM2inになっている。ここで、RAM2outはRAM205の出力データであり、RAM2inはRAM205の入力データである。
【0177】
このLPF演算の伝達関数は、(50)式に示すように表される。この(50)式におけるサンプリング周波数はフィールド周波数である。
G(z)=KT/1−(1−KT)z-1 ・・・(50)
このようにして、RAM205に最終テーブルが作成される。
【0178】
図33は、ステップ13の時定数処理におけるALU226の動作を示している。このステップ13では、(48)式および(49)式のうち+RAM2outを除く演算が行われる。そのため、ALU226の加減算器237は減算器として機能する。また、図34は、ステップ14の時定数処理におけるるALU226の動作を示している。このステップ14では、残りの+RAM2outの演算が行われる。そのため、ALU226の加減算器237は加算器として機能する。
【0179】
(11)ステップ15:RAMのクリア処理
ステップ15では、次のフィールドの有効画素期間におけるヒストグラムとりに備えて、RAM224がクリアされる。図35は、ステップ15のRAM224のクリア処理におけるるALU226の動作を示している。
【0180】
以上説明したように、図1に示す第1の実施の形態においては、ニー圧縮処理が、輝度レベルに対してニー圧縮を行う輝度ニー処理と、その上でまだオーバーしているチャネルがあるとき、そのチャネルのレベルが規格に収まるまで彩度を絞る彩度ニー処理からなっている。そのため、色相を変化させることなくチャネルレベルをオーバーさせずに高輝度部分を圧縮することができる。
【0181】
また、第1の実施の形態においては、彩度ニー処理におけるチャネルレベルの制限値CMを、例えば110%以上に設定してチャネルレベルの制限を緩和することで、大幅に高輝度域での色付きを獲得する、DCCプラス機能を有している。したがって、色相を変化させることなく、高輝度域での色付きを獲得できる利益がある。
【0182】
また、第1の実施の形態においては、輝度に対してホワイトクリップをかけ、その上でチャネルレベルがオーバーしている場合は、彩度ニー処理によって対処するものである。したがって、ホワイトクリップ処理を、色相を変化させることなく行うことができる。
【0183】
また、第1の実施の形態においては、黒浮きの起こっている階調域の輝度の利得kwを減じるコントロールを行ってフレア補正を行うものであり、色に影響を与えないフレア補正を行うことができる。そして、第1の実施の形態においては、このフレア補正がヒストグラム等化による適応階調変換によって自動的に行われ、フレアの発生に応じて補正動作がなされる利益がある。
【0184】
また、第1の実施の形態においては、輝度レベルに対してヒストグラム等化による適応階調変換が行われるものであり、使われてない階調域は優先的に圧縮され、従ってダイナミックレンジを有効に使用できる。そしてこの場合、ヒストグラム等化の強さKWCを指定してヒストグラム等化を加減でき((34)式と図10(d)参照)、最適なヒストグラム等化による適応階調変換を行わせることができる。また、ヒストグラム等化の加減が済んだ段階で、黒コードのオフセットBOFを全体から減算して黒コードの保存処理が行われる(図10(e)参照)。そのため、黒コードの一貫性が保証され、刺激値に対して行われる輝度変換演算器111の輝度変換演算を良好に行うことができる。さらに、黒コード保存処理が済んだ段階で、入力輝度Aの輝度レベルを変換によっても変化しないようにピーク保存処理が行われる(図10(f)参照)。これにより、例えば照明条件がよく通常の光量の区間のヒストグラムが大きい場合に、その区間の輝度レベルを保存することで、その区間の映像信号がニー圧縮されてしまう等の不都合を防止できる。
【0185】
ここで、輝度レベルに対してヒストグラム等化による適応階調変換が行われた上でチャネルレベルがオーバーしている場合は、彩度ニー処理によって対処するものであり、ヒストグラムによる適応階調変換を色相を変化させることなく行うことができる。
【0186】
また、第1の実施の形態においては、輝度レベルに対してヒストグラム等化による適応階調変換が行われるものであり、実際に画面中に存在する輝度域により多くの階調を割り当てるようにカラー映像信号を圧縮できる。その上でチャネルレベルがオーバーしている場合は、彩度ニー処理によって対処するものであり、ヒストグラムによる適応階調変換を色相を変化させることなく行うことができる。
【0187】
また、第1の実施の形態においては、ユーザは彩度の利得kcnを設定でき、彩度ニー処理によって彩度を絞る処理が優先されるものの、それ以外はユーザによって設定される彩度の利得kcnで彩度を自由に調節できる。
【0188】
なお、図1に示す第1の実施の形態においては、輝度の利得kwや彩度の利得kcを求める演算にかかる回路の遅延を最小とするために、コントローラ124では図11に示すように輝度変換演算が行われる前の色データR,G,Bから得られた輝度WやMAX(R,G,B)に輝度の利得kw1をかけて、彩度の利得kcを得るためのデータW′,MAX′を得るようにしている。このように回路の遅延を最小とするのは、この系と並行して色補正回路108を通る本線系と、イメージエンハンサ109の系があって、それぞれの総合遅延が合わなければならないため、kwやkcを得る系に遅延が多いと、上述した他の系に遅延回路を挿入してタイミングをとらなければならないからである。
【0189】
図36は第2の実施の形態としてのビデオカメラ装置100Aの要部を示しており、上述した遅延の問題は別にして、輝度変換演算が行われ結果より彩度変換演算で使用される輝度Wiや彩度の利得kcを得るようにしたものである。この図36において、図1と対応する部分には同一符号を付し、その詳細説明は省略する。
【0190】
図36に示すビデオカメラ装置100Aでは、アップコンバータ107R,107G,107Bより出力される2fs1レートの赤、緑、青の色データが輝度変換コントローラ124aに供給される。そして、このコントローラ124aでは、図11におけるマトリックス回路201、輝度利得発生器202と同等の回路によって、輝度変換演算器111で使用される輝度の利得kwが形成される。また、輝度変換演算器111より出力される2fs1レートの赤、緑、青の刺激値が彩度変換コントローラ124bに供給される。そして、このコントローラ124bでは、図11におけるマトリックス回路201、最大値回路210、彩度利得発生器216と同等の回路によって、彩度変換演算器112で使用される輝度Wiおよび彩度の利得kcが形成される。
【0191】
なお、上述せずも、ヒストグラム等化による適応階調変換を採用した場合に問題となるのは、以下の▲1▼、▲2▼のような場合である。
▲1▼ヒストグラムが特定の輝度域、殊に暗部に集中した場合
▲2▼照明条件がよく、通常光量にヒストグラムがほとんどある場合
【0192】
特定の領域にヒストグラムが集中した場合は、微分利得が著しく増大し、S/Nを損なう恐れがある。絞りを閉じた場合は、ビデオカメラにとって最も条件のきつい黒付近で利得が増大するため、画質を損なってしまう。そこで、マイコン125は、ヒストグラムが集中している輝度域の情報を得、ヒストグラム等化の強さKWCを絞るようにすればよい。そして、ヒストグラムが集中している輝度域が黒付近であるときは、より絞るようにすればよい。
【0193】
また、図16のシーケンサの動作ステップのステップ2のシーケンス6「histwr]において、RAM224より読み出されたヒストグラムがヒストグラム情報報告回路(図示せず)のレジスタに格納される。これにより、ヒストグラム情報報告回路では、レジスタに順次格納されたヒストグラムの値を比較して、例えば大きい方から4つのヒストグラムに対応した輝度域の情報を得るようにされる。そして、この報告回路よりマイコン125に大きい方から4つのヒストグラムに対応した輝度域の情報が報告される。
【0194】
一方、照明条件が良い場合については、図10(f)について説明した通り、輝度ピーク保存処理が必要になる。このための輝度固定を行なうレベルAをソフトウェアで指定することが必要である。上述せずも、このレベルAには、オートアイリスの制御値を与えるのが良い。オートアイリスの制御値とは、画像から抽出された画像を代表する明るさで、これが設定値に等しくなるよう絞りが動かされる。レベルAの指定に、このオートアイリスの制御値を用いると、ヒストグラム等化処理によっても、オートアイリスシステムが狙った輝度がそのまま再生される等のメリットがある。
【0195】
なお、上述実施の形態においては、ヒストグラム等化による適応階調変換を行うための振幅伝達特性を前フィールドの映像期間中に検出された累積度数分布(ヒストグラムテーブル)に基づいて作成するように説明したが、先行する複数のフィールドの映像期間中に検出された累積度数分布に基づいて作成するようにしてもよいことは勿論である。
【0196】
【発明の効果】
この発明によれば、入力映像信号の累積度数分布に基づいて入力映像信号のレベルと出力映像信号のレベルの対応を示す変換情報を生成し、この変換情報で入力映像信号の信号レベルを変換して出力映像信号を得るものであり、入力映像信号の使われていない階調域が優先的に圧縮された出力映像信号を得ることができ、限られたダイナミックレンジを有効に使用できる。
【0197】
また、入力映像信号が所定レベルである際に入力映像信号を変換情報によって変換して得た出力映像信号が上記所定レベルとなるように変換情報を生成することで、入力映像信号の所定レベルの信号レベルが保存されたまま、入力映像信号の使われていない階調域が優先的に圧縮された出力映像信号を得ることができる。これにより、例えば照明条件がよく通常の光量の区間のヒストグラムが大きい場合に、その区間の輝度レベルを保存することで、その区間の映像信号がニー圧縮されてしまう等の不都合を防止できる。
【図面の簡単な説明】
【図1】第1の実施の形態としてのビデオカメラ装置を示すブロック図である。
【図2】空間画素ずらし法を説明するための図である。
【図3】輝度変換演算器を示すブロック図である。
【図4】彩度変換演算器を示すブロック図である。
【図5】ローパスフィルタ(LPF)、補間フィルタ(IPF)の周波数特性を示す図である。
【図6】R,G,Bレベルと色との関係を示す図である。
【図7】R,G,Bレベルと色との関係を示す図である。
【図8】R,G,Bレベルと色との関係を示す図である。
【図9】ヒストグラム等化による適応階調変換を説明するための図である。
【図10】ヒストグラム等化による適応階調変換を説明するための図である。
【図11】コントローラの詳細構成を示すブロック図である。
【図12】輝度域の区間割の一例を示す図である。
【図13】輝度の利得kw1を得る補間演算を説明するための図である。
【図14】コントローラの輝度の利得kw、彩度の利得kc、輝度Wiを求める回路部分を示すブロック図である。
【図15】コントローラのテーブル作成に係る回路部分を示すブロック図である。
【図16】コントローラのシーケンサのテーブル作成のための動作ステップを示す図である。
【図17】ステップ0:ヒストグラムとりにおけるALUの動作を説明するための図である。
【図18】ステップ1:累積および正規化におけるALUの動作を説明するための図である。
【図19】ステップ2:ヒストグラム等化の加減(1)におけるALUの動作を説明するための図である。
【図20】ステップ3:ヒストグラム等化の加減(2)におけるALUの動作を説明するための図である。
【図21】ステップ4:黒コード保存処理におけるALUの動作を説明するための図である。
【図22】ステップ4:ピーク保存比算出時におけるALUの動作を説明するための図である。
【図23】ステップ5:ピーク保存処理(1)におけるALUの動作を説明するための図である。
【図24】ステップ6:ピーク保存処理(2)におけるALUの動作を説明するための図である。
【図25】ニー圧縮、ホワイトクリップ、トータルゲイン調整を説明するための図である。
【図26】伝達利得を得るための除算等を説明するための図である。
【図27】ステップ7:ニー圧縮処理(1)におけるALUの動作を説明するための図である。
【図28】ステップ8:ニー圧縮処理(1)におけるALUの動作を説明するための図である。
【図29】ステップ9:ニー圧縮処理(2)におけるALUの動作を説明するための図である。
【図30】ステップ10:ニー圧縮処理(2)におけるALUの動作を説明するための図である。
【図31】ステップ11:トータルゲイン調整におけるALUの動作を説明するための図である。
【図32】ステップ12:伝達利得を得るための除算処理におけるALUの動作を説明するための図である。
【図33】ステップ13:時定数処理におけるALUの動作を説明するための図である。
【図34】ステップ14:時定数処理におけるALUの動作を説明するための図である。
【図35】ステップ15:RAMのクリア処理を説明するための図である。
【図36】第2の実施の形態としてのビデオカメラ装置の要部を示すブロック図である。
【図37】テレビジョンシステムを示す図である。
【符号の説明】
100・・・ビデオカメラ、103R,103G,103B・・・CCD固体撮像素子、104R,104G,104B・・・アナログプロセス回路、105R,105G,105B・・・A/D変換器、106・・・プリプロセス回路、107R,107G,107B・・・アップコンバータ、108・・・色補正回路、109・・・イメージエンハンサ、110R,110G,110B・・・減算器、111・・・輝度変換演算器、112・・・彩度変換演算器、117R,117G,117B,119R,119G,119B・・・加算器、118R,118G,118B・・・ガンマ補正回路、123R,123B・・・ローパスフィルタ、123G・・・補間フィルタ、124・・・コントローラ、125・・・マイクロコンピュータ、201・・・マトリックス回路、202・・・輝度利得発生器、203,221,222・・・アップコンバータ、204・・・画素平均回路、205,224・・・RAM、206・・・区間発生器、207・・・アドレス発生器、208,212,215,225・・・スイッチ回路、209・・・補間演算器、210・・・最大値回路、211・・・輝度利得乗算器、213,217,218・・・減算器、214・・・乗算器、219・・・除算器、220・・・最小値回路、223・・・シーケンサ、226・・・演算論理ユニット、227・・・輝度データ発生器

Claims (11)

  1. 入力映像信号の輝度および画素数に関するヒストグラムに基づいて累積度数分布を生成する累積度数分布生成手段と、
    上記累積度数分布を正規化してヒストグラム等化された第1の振幅伝達特性を取得する第1の取得手段と、
    上記ヒストグラム等化された上記第1の振幅伝達特性とヒストグラム等化されていない第2の振幅伝達特性との間を、指定する比率で内分することにより、第3の振幅伝達特性を取得する第2の取得手段と、
    上記第3の振幅伝達特性における上記入力映像信号が上記ヒストグラムにおいてヒストグラム値が最大となる入力輝度の入力レベルである際に、上記入力レベルが変化しないような変換利得を算出し、当該変換利得を上記第3の振幅伝達特性に乗算することにより、上記第4の振幅伝達特性を取得する第3の取得手段と、
    上記入力映像信号の信号レベルを上記第4の振幅伝達特性に基づいて変換するレベル変換手段と
    を備えたことを特徴とするビデオカメラ装置。
  2. 上記第2の取得手段は、
    上記第1の振幅伝達特性と上記第2の振幅伝達特性との間を内分して取得された振幅伝達特性から黒コードのオフセットを減算することにより、上記第3の振幅伝達特性を取得し、
    上記第3の取得手段は、
    入力輝度から黒コードを減算し、減算して得られた値に上記入力輝度に対応した上記変換利得を乗じ、乗じて得られた値に上記黒コードを加算することにより、上記第4の振幅伝達特性を取得すること
    を特徴とする請求項1に記載のビデオカメラ装置。
  3. 上記レベル変換手段から出力される出力映像信号に対して、高輝度成分を圧縮する高輝度圧縮手段をさらに備えたこと
    を特徴とする請求項1に記載のビデオカメラ装置。
  4. 上記累積度数分布生成手段は、
    上記入力映像信号の映像期間中に上記累積度数分布を検出し、
    上記第1、第2および第3の取得手段は、
    上記入力映像信号の垂直ブランキング期間中に、先行する映像期間中に上記累積度数分布検出手段によって生成された累積度数分布に基づいて、上記第1、第2、第3および第4の振幅伝達特性を生成すること
    を特徴とする請求項1に記載のビデオカメラ装置。
  5. 上記第1、第2および第3の取得手段は、
    上記入力映像信号の垂直ブランキング期間中に、先行する映像期間中に上記累積度数分布検出手段によって生成された累積度数分布に基づいて、上記第1、第2、第3および第4の振幅伝達特性を生成すること
    を特徴とする請求項1に記載のビデオカメラ装置。
  6. 入力映像信号の輝度および画素数に関するヒストグラムに基づいて累積度数分布を生成する累積度数分布生成手段と、
    上記累積度数分布を正規化してヒストグラム等化された第1の振幅伝達特性を取得する第1の取得手段と、
    上記ヒストグラム等化された上記第1の振幅伝達特性とヒストグラム等化されていない 第2の振幅伝達特性との間を、指定する比率で内分することにより、第3の振幅伝達特性を取得する第2の取得手段と、
    上記第3の振幅伝達特性における上記入力映像信号が上記ヒストグラムにおいてヒストグラム値が最大となる入力輝度の入力レベルである際に、上記入力レベルが変化しないような変換利得を算出し、当該変換利得を上記第3の振幅伝達特性に乗算することにより、上記第4の振幅伝達特性を取得する第3の取得手段と、
    上記入力映像信号の信号レベルを上記第4の振幅伝達特性に基づいて変換するレベル変換手段と
    を備えたことを特徴とする映像信号処理装置。
  7. 上記第2の取得手段は、
    上記第1の振幅伝達特性と上記第2の振幅伝達特性との間を内分して取得された振幅伝達特性から黒コードのオフセットを減算することにより、上記第3の振幅伝達特性を取得し、
    上記第3の取得手段は、
    入力輝度から黒コードを減算し、減算して得られた値に上記入力輝度に対応した上記変換利得を乗じ、乗じて得られた値に上記黒コードを加算することにより、上記第4の振幅伝達特性を取得すること
    を特徴とする請求項6に記載の映像信号処理装置。
  8. 上記レベル変換手段から出力される出力映像信号に対して、高輝度成分を圧縮する高輝度圧縮手段をさらに備えたこと
    を特徴とする請求項6に記載の映像信号処理装置。
  9. 上記累積度数分布生成手段は、
    上記入力映像信号の映像期間中に上記累積度数分布を検出し、
    上記第1、第2および第3の取得手段は、
    上記入力映像信号の垂直ブランキング期間中に、先行する映像期間中に上記累積度数分布検出手段によって生成された累積度数分布に基づいて、上記第1、第2、第3および第4の振幅伝達特性を生成すること
    を特徴とする請求項6に記載の映像信号処理装置。
  10. 上記第1、第2および第3の取得手段は、
    上記入力映像信号の垂直ブランキング期間中に、先行する映像期間中に上記累積度数分布検出手段によって生成された累積度数分布に基づいて、上記第1、第2、第3および第4の振幅伝達特性を生成すること
    を特徴とする請求項6に記載の映像信号処理装置。
  11. 入力映像信号の輝度および画素数に関するヒストグラムに基づいて累積度数分布を生成し、
    上記累積度数分布を正規化してヒストグラム等化された第1の振幅伝達特性を取得し、
    上記ヒストグラム等化された上記第1の振幅伝達特性とヒストグラム等化されていない第2の振幅伝達特性との間を、指定する比率で内分することにより、第3の振幅伝達特性を取得し、
    上記第3の振幅伝達特性における上記入力映像信号が上記ヒストグラムにおいてヒストグラム値が最大となる入力輝度の入力レベルである際に、上記入力レベルが変化しないような変換利得を算出し、当該変換利得を上記第3の振幅伝達特性に乗算することにより、上記第4の振幅伝達特性を取得し、
    上記入力映像信号の信号レベルを上記第4の振幅伝達特性に基づいて変換する工程
    を備えたことを特徴とする階調変換方法。
JP01672897A 1996-04-12 1997-01-30 ビデオカメラ装置、映像信号処理装置および映像信号の階調変換方法 Expired - Fee Related JP3959769B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP01672897A JP3959769B2 (ja) 1996-04-12 1997-01-30 ビデオカメラ装置、映像信号処理装置および映像信号の階調変換方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP9157696 1996-04-12
JP8-91576 1996-04-12
JP01672897A JP3959769B2 (ja) 1996-04-12 1997-01-30 ビデオカメラ装置、映像信号処理装置および映像信号の階調変換方法

Publications (2)

Publication Number Publication Date
JPH09331469A JPH09331469A (ja) 1997-12-22
JP3959769B2 true JP3959769B2 (ja) 2007-08-15

Family

ID=26353126

Family Applications (1)

Application Number Title Priority Date Filing Date
JP01672897A Expired - Fee Related JP3959769B2 (ja) 1996-04-12 1997-01-30 ビデオカメラ装置、映像信号処理装置および映像信号の階調変換方法

Country Status (1)

Country Link
JP (1) JP3959769B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006098614A (ja) * 2004-09-29 2006-04-13 Pioneer Electronic Corp コントラスト補正方法、コントラスト補正回路及び表示装置
JP2006101421A (ja) * 2004-09-30 2006-04-13 Toshiba Corp 映像信号処理回路
JP2006333202A (ja) * 2005-05-27 2006-12-07 Matsushita Electric Ind Co Ltd 映像信号処理装置、および映像信号処理方法
EP2216988B1 (en) 2007-12-04 2013-02-13 Sony Corporation Image processing device and method, program, and recording medium
JP2015139082A (ja) 2014-01-22 2015-07-30 ソニー株式会社 画像処理装置、画像処理方法、プログラム、および電子機器
KR102644946B1 (ko) * 2019-05-02 2024-03-08 삼성전자주식회사 영상 처리 방법 및 장치

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3016652B2 (ja) * 1992-02-07 2000-03-06 松下電器産業株式会社 ゲインコントロール回路
JPH0690382A (ja) * 1992-09-07 1994-03-29 Matsushita Electric Ind Co Ltd 階調補正装置
JPH0799619A (ja) * 1993-05-24 1995-04-11 Sony Corp 画像処理装置

Also Published As

Publication number Publication date
JPH09331469A (ja) 1997-12-22

Similar Documents

Publication Publication Date Title
JP3509448B2 (ja) ビデオカメラ装置、映像信号処理装置、カラー映像信号のレベル圧縮方法および階調変換方法
US7358988B1 (en) Image signal processor for performing image processing appropriate for an output device and method therefor
US8208038B2 (en) Image signal processing device and image signal processing method
US7349574B1 (en) System and method for processing non-linear image data from a digital imager
US8199227B2 (en) Image-signal processing apparatus for performing space-variant image-signal processing
US8417064B2 (en) Image processing device and method, program and recording medium
JP4083587B2 (ja) 画質向上方法及びそのための装置
RU2491760C2 (ru) Устройство для обработки изображения, способ обработки изображения и программа
KR101051604B1 (ko) 화상 처리 장치 및 방법
US8659675B2 (en) Image processing apparatus, image processing method, and program
US7899266B2 (en) Image processing apparatus and method, recording medium, and program
US6781595B2 (en) Image processing apparatus and method, and recording medium therefor
US7755670B2 (en) Tone-conversion device for image, program, electronic camera, and tone-conversion method
US8208039B2 (en) Image processing apparatus and computer-readable medium
US20010038716A1 (en) Device and method for image processing
US20030184660A1 (en) Automatic white balance for digital imaging
CA2067939A1 (en) Digital image processing circuitry
EP1188147B1 (en) Video-apparatus with histogram modification means
US7561189B2 (en) Method and apparatus of image dynamic response re-mapping and digital camera using the same
WO2006006157A2 (en) Automatic adaptive gamma correction
JP3959769B2 (ja) ビデオカメラ装置、映像信号処理装置および映像信号の階調変換方法
EP0801509B1 (en) Video camera, video signal processing, video signal compression and video signal conversion
JP4240261B2 (ja) 画像処理装置および方法、並びに記録媒体
JPH0837603A (ja) 画像処理装置及び方法
JP3865127B2 (ja) 信号処理装置および方法、記録媒体、並びにプログラム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060316

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070424

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070507

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100525

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110525

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110525

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120525

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120525

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130525

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees