JP3619066B2 - Automatic white balance adjustment device and automatic white balance adjustment method - Google Patents
Automatic white balance adjustment device and automatic white balance adjustment method Download PDFInfo
- Publication number
- JP3619066B2 JP3619066B2 JP20772899A JP20772899A JP3619066B2 JP 3619066 B2 JP3619066 B2 JP 3619066B2 JP 20772899 A JP20772899 A JP 20772899A JP 20772899 A JP20772899 A JP 20772899A JP 3619066 B2 JP3619066 B2 JP 3619066B2
- Authority
- JP
- Japan
- Prior art keywords
- value
- gain
- gain value
- white balance
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Processing Of Color Television Signals (AREA)
- Color Television Image Signal Generators (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、デジタルスチルカメラなどカラー撮像装置に関し、特に撮像装置のホワイトバランスを調整する自動ホワイトバランス調整装置及び自動ホワイトバランス調整方法に関するものである。
【0002】
【従来の技術】
通常、デジタルスチルカメラなどのカラー画像撮影装置では、白い画面を撮影した場合に白い画像が撮影されるように、赤(R)、緑(G)、青(B)信号系によって得られる信号レベルが等しくなるように調整する。このような信号レベルの調整はホワイトバランスと呼ばれ、これまでにも様々なカラー撮像装置に使われている。
【0003】
例えば、図8は特開昭56−80988号公報に開示された従来のホワイトバランス調整装置であり、同図において、レンズ1から入射した光画像は撮像素子2によって電気信号に変換されて色分離回路3に入力される。色分離回路3は画像をR、G、Bの三色の色信号に分離する。色分離回路3のR、B出力は、赤色(Rch)の利得制御回路4と青色(Bch)の利得回路5を介して、G出力は直接にプロセス回路6に供給される。プロセス回路6はY、R−Y、B−Yの色信号を生成し、エンコーダ回路7に供給する。
【0004】
次に動作について説明する。
この経路において、プロセス回路6から出力されるR−Y色信号は積分回路8において積分され比較回路10に導かれる。また、B−Y色信号は積分回路9において積分され比較回路11に導かれる。比較回路10、11においては、積分回路8、9から供給される積分値が基準電圧発生回路15からの基準値と比較される。同比較回路10、11の出力はマイクロコンピュータ12に入力され、パルスに同期する可逆計数に供される。
【0005】
この可逆計数の結果、RchとBchの2種類の可逆計算値(以下RchUDC及びBchUDCと称す)が得られ、これらはデジタル−アナログ交換器13又は14を介して利得制御回路4、または5に入力される。
このように可逆計算結果RchUDC及びBchUDCを利得制御回路4及び5に入力することにより、各色の利得制御が実行される。
【0006】
ここで、両比較回路10、11の極性、可逆計数機能の増減の方向、両利得制御回路4、5の制御特性が、無彩色を撮像した場合にR−Y色信号、B−Y色信号がそれぞれ零となるように負帰還ループを構成すると、被写体を照射する光源が変化しても、自動的にホワイトバランスが調整される。
【0007】
次に、マイクロコンピュータ12の動作を図9のフローチャートに基づいて説明する。マイクロコンピュータ12が始動すると、図9に示すように、まずステップS1において、可逆計算値(RchUDC)の初期値と可逆計算値(BchUDC)の初期値とが設定される。その値はデジタル−アナログ変換器13、14を介して利得制御回路4と利得制御回路5とに出力される(ステップS2)。
【0008】
この状態で、ステップS3においては赤用比較回路10の出力が基準値より大きい場合(H)は、ステップS4においてRchUDCが1だけ減ぜられ、一方、小さい場合(L)はステップS5において1だけ加算される。
【0009】
同様に、ステップS6においては、青用比較回路11の出力が基準値より大きい場合(H)は、ステップS7においてBchUDCが1だけ加算され、小さい場合(L)はステップS8において1だけ減ぜられる。これらの出力は、ステップS9においてパルス同期がされた後に出力され、利得制御回路4及び制御回路5によるホワイトバランス調整が行われる。
【0010】
【発明が解決しようとする課題】
このように図8に示される従来技術では、色差信号R−Y、B−Yの1画面分の平均電圧が無彩色の被写体を撮影したときに得られる色差信号R−Y、B−Y信号の平均電圧と等しくなるまで利得制御回路の利得値をインクリメント、デクリメントするため、わざわざ白い物体などを撮影することなくホワイトバランスを調整することができる。
【0011】
しかし、利得制御回路の利得値の増減幅は一定であるため、画面が極端に変化する場合、例えば赤味を帯びた画面から青味を帯びた画面に急に変わるなどの場合には、R−Y、B−Y信号の平均電圧と等しくなるまでに時間を要するという問題点などがあった。
【0012】
この発明は上記のような問題点を解決するためになされたもので、画面変化に合わせて各色信号に対する利得値を調整可能にすることで、ホワイトバランスが収束するまでに要する時間を含めた収束動作を調整及び制御可能とする自動ホワイトバランス調整装置及び自動ホワイトバランス調整方法を得ることを目的とする。
【0013】
【課題を解決するための手段】
この発明に係る自動ホワイトバランス調整装置は、複数の色フィルタを備え連続した複数の画像を撮像するカラー撮像装置の自動ホワイトバランス調整装置であって、N番目の現画像フレームにおける各色信号を利得値k(N)によりレベル調整する利得制御回路と、各色信号の出力値を積分する積分回路と、各々2色の色信号の積分値の比r(N)を出力する除算回路と、(N+1)番目のフレーム画像を撮像する際に必要な利得値k (N+1) を算出し記憶する算出記憶手段とを有し、算出記憶手段は、任意の重み係数αと現フレームの利得値k (N)の積に任意の重み係数βと積分値の比r(N)の積を加えたものに基づいて、利得値k (N+1)を算出し、重み係数α、βを、利得値の収束値と前フレームの利得値の差分値に基づいて求める。
【0015】
また、算出記憶手段は、重み係数α、βを、色相毎の色変化に対する視覚反応速度あるいは色相毎の視覚識別感度で表される視覚特性に基づいて求める。
【0016】
また、複数の色フィルタを備え連続した複数の画像を撮像するカラー撮像装置の自動ホワイトバランス調整装置であって、N番目の現画像フレームにおける各色信号を利得値k(N)によりレベル調整する利得制御回路と、各色信号の出力値を積分する積分回路と、各々2色の色信号の積分値の差分値d(N)を出力する減算回路と、(N+1)番目のフレーム画像を撮像する際に必要な利得値k (N+1) を算出し記憶する算出記憶手段とを有し、算出記憶手段は、任意の重み係数αと現フレームの利得値k (N)の積に任意の重み係数βと積分値の差分値d(N)の積を加えたものに基づいて、利得値k (N+1)を算出し、重み係数α、βを、積分値の差分値と前フレームの利得値に基づいて求める。
【0018】
また、利得値の制限域を設け、算出記憶手段は、利得値が制限域を越えないように制限する。
【0019】
また、重み係数α、βをルックアップテーブルとして記憶する記憶手段をさらに有し、算出記憶手段は、重み係数α、βを記憶手段から読み出す。
【0020】
また、他の発明に係る自動ホワイトバランス調整方法は、複数の色フィルタを備え連続した複数の画像を撮像するカラー撮像装置の自動ホワイトバランス調整方法であって、N番目の現画像フレームにおける各色信号を利得値k(N)によりレベル調整する利得制御工程と、各色信号の出力値を積分する積分工程と、
各々2色の色信号の積分値の比r(N)を出力する除算工程と、(N+1)番目のフレーム画像を撮像する際に必要な利得値k (N+1) を算出し記憶する算出記憶工程とを有し、算出記憶工程は、任意の重み係数αと現フレームの利得値k (N)の積に任意の重み係数βと積分値の比r(N)の積を加えたものに基づいて、利得値k (N+1)を算出し、重み係数α、βを、利得値の収束値と前フレームの利得値の差分値に基づいて求める。
【0022】
また、算出記憶工程は、重み係数α、βを、色相毎の色変化に対する視覚反応速度あるいは色相毎の視覚識別感度で表される視覚特性に基づいて求める。
【0023】
また、複数の色フィルタを備え連続した複数の画像を撮像するカラー撮像装置の自動ホワイトバランス調整方法であって、N番目の現画像フレームにおける各色信号を利得値k(N)によりレベル調整する利得制御工程と、各色信号の出力値を積分する積分工程と、各々2色の色信号の積分値の差分値d(N)を出力する減算工程と、(N+1)番目のフレーム画像を撮像する際に必要な利得値k (N+1) を算出し記憶する算出記憶工程とを有し、算出記憶工程は、任意の重み係数αと現フレームの利得値k (N)の積に任意の重み係数βと積分値の差分値d(N)の積を加えたものに基づいて、利得値k (N+1)を算出し、重み係数α、βを、積分値の差分値と前フレームの利得値に基づいて求める。
【0025】
また、利得値の制限域を設け、算出記憶工程は、利得値が制限域を越えないように制限する。
【0026】
さらに、重み係数α、βをルックアップテーブルとして記憶する記憶手段をさらに有し、算出記憶工程は、重み係数α、βを記憶手段から読み出す。
【0027】
【発明の実施の形態】
実施の形態1.
図1はこの発明による自動ホワイトバランス調整装置の構成図である。図1における16は被写体を撮像素子に結像するためのレンズ、17はR、G、Bの色フィルタ、18はレンズからの光を光電変換する撮像素子、19および20はそれぞれR、B信号の利得制御を行う利得制御回路(利得制御工程)、42は利得制御回路19に入力する利得値を計算する利得値演算器である。
【0028】
利得値演算器42において、22、23、24はそれそれR、G、B信号の積分値ΣR、ΣG、ΣBを出力する積分回路(積分工程)、25はΣGに対するΣRの比を出力する除算回路(除算工程)、26はΣGに対するΣBの比を出力する除算回路(除算工程)、27は利得値を計算すると共に記憶する算出記憶手段(算出記憶工程)としてのするマイクロコンピュータ、28、29は利得値をデジタルからアナログに変換するD/A変換回路である。利得値演算器42は、これら、すなわち積分回路22、23、24、除算回路25、26、マイクロコンピュータ27およびD/A変換回路28、29から構成されている。
【0029】
次に動作について説明する。
カラー画像撮影装置で画像を撮影する場合、被写体をレンズで結像し、色フィルタを透過した結像光を撮像素子で光電変換する。図1の装置では、レンズ16によって結像された光はR、G、Bの色フィルタ17を透過し、撮像素子18で光電変換される。そして、撮像素子18から出力されるR、G、Bの色信号は、それぞれ積分回路22〜24にて積分される。積分回路22〜24の各出力信号ΣR、ΣG、ΣBは除算回路25、26に入力され、ΣG信号に対するΣR、ΣBの比に変換される。そして、マイクロコンピュータ27は、除算回路25、26の出力信号rR(=ΣG/ΣR)、rB(=ΣG/ΣB)を用いて、利得制御回路入力する利得値kR,kBを計算する。
【0030】
具体的には、マイクロコンピュータ27は、(式1)、(式2)を用いて、(N+1)番目のフレーム画像を撮影する際に必要な利得値kR(N+1)、kB(N+1)を計算する。マイクロコンピュータ27から出力されるR、B信号の利得値はD/A回路28、19によってデジタル値からアナログ値に変換され、利得制御回路19、20に送られる。利得制御回路19、20ではアナログ値に変換された利得値により、R、B信号のレベルを調整する。
kR(N+1)=αR・kR(N)+βR・rR(N) (式1)
kB(N+1)=αB・kB(N)+βB・rB(N) (式2)
ただし、上述の式において、
ΣR(N)、ΣG(N)、ΣB(N): N番目のフレームにおける各信号の積分値
rR(N): ΣG(N)/ΣR(N))
rB(N): ΣG(N)/ΣB(N)
kR(N)、kB(N): N番目のフレームにおけるR、B信号の利得値
αR、βR、αB、βB: 重み係数
である。
【0031】
次に本発明によってホワイトバランス調整が収束する過程を、図2を用いて説明する。なお、図2はkB、kRをそれぞれ横軸、縦軸にとり、R、B信号の利得値をプロットしたグラフである。
【0032】
各色信号の利得値は、撮影画像内のR、G、B信号の平均信号レベルが無彩色画像を撮影した際に得られる信号レベルと同等になるように変化させる。そのため、撮影する画像が大きく切り替わると、各信号の利得値は図2に示すように段階的に収束してゆく(図2のAからBに収束)。
【0033】
従来法を用いた場合、各信号の利得値は図2の点線で示すような経路をたどり変化する。従来法での場合、利得値の増減量は常に一定であるために画像変化前の利得地と変化後の収束値との差が大きいほどホワイトバランスが収束する時間が長くなる。つまり、画像の変化によってホワイトバランスの収束時間などが異なる。
【0034】
一方、本発明による方法を用いた場合、利得値は例えば図2の実線の矢印で示すように変化する(図2の座標において、次フレームの利得値がはフレームでの利得値と収束値との内分点に移動してゆく)。
【0035】
このように本発明では従来法と異なり、利得値の収束過程が重み係数αR、βR(あるいはαB、βB)によって決まるため、これらの値を調整することによってホワイトバランスの収束動作を制御することができる。
【0036】
上述のように、本発明では撮影画像のR、G、B信号の平均信号レベルが無彩色画像を撮影した際に得られる信号レベルと同等になるように、R、B信号の利得制御を行うホワイトバランス調整装置に関するもので、各信号の利得値を前フレームの利得値と利得の収束値のそれぞれに任意の重み係数を乗じた計算式によって求め、重み係数の設定値を調整することでホワイトバランスの収束過程を制御することができる。
【0037】
ホワイトバランスの収束過程を制御することで、例えば、画像観察者に色の変化の違和感を覚えさせないようにすることが可能である。すなわち、ひとの視覚特性を利用し、例えば色変化に対して反応が鈍い色相にあるときには、重み係数の設定値を大きくして、利得値の変化を大きくすることにより観察者に違和感を与えずに利得収束時間の高速化を図ることができる。
【0038】
実施の形態2.
上述の実施の形態1では、利得値kR(N+1)、およびkB(N+1)の計算式で用いる重み係数(αR、βR、およびαB、βB)を任意の定数としていたが、次に示す実施の形態では利得値の算出式に用いる重み係数を利得値の収束値と前フレームの利得値の差分値をパラメータとした関数とする。
【0039】
図3及び図4は利得値の収束値と前フレームの利得値の差分値に対する重み係数αR、βR(あるいは、B信号に対する重み係数αB、βB)の例を示したものである。
【0040】
ホワイトバランス調整が収束するまでの時間を一定にする例をあげ、本実施の形態についての説明を行う。収束時間を一定にする場合、撮影画像の変化が大きい、すなわち現フレームでの利得値と画像変化後の利得収束値の差が大きいときには、(式1)のβRを大きくしαRを小さくする必要がある((式2)の場合、βBを大きくαBを小さくする)。一方、撮影画像の変化が小さい場合には、(式1)のβRを小さくしαRを大きくする必要がある((式2)の場合、βBを小さく、αBを大きくする)。つまりβR、αRを図3に示すような関数とすれば画像変化によらずに収束時間をほぼ一定に保つことができる。
【0041】
また、図4に示す重み係数を用いると、画像全体に帯びている色が大きく変化したときには、利得値の変化は最初ゆるやかで、徐々に大きく変化し、再びゆるやに変化し収束する。このように重み係数を利得値の収束値と前フレームの利得値との差分値の関数として定義すると、ホワイトバランスの収束時間や収束動作を調整することができる。
【0042】
また、人間の視覚特性を考慮して重み係数を制御することもできる。例えば、前フレームの利得値、利得の収束値をパラメータとするなどし、色の識別感度があまりよくない画像の場合にはホワイトバランスの収束を早め、それ以外の画像では収束を遅くするなどの制御を行うことにより観察者が不自然さを感じることなく迅速にホワイトバランス処理を収束させることがでいる。
【0043】
上述のように本実施の形態では、前フレームの利得値と利得の収束値のそれぞれに任意の重み係数を乗じた計算式によって各信号の利得値を求める際、重み係数を前フレームの利得値と利得の収束値との差分値によって変化させることにより収束時間や収束動作の調整を行うことが可能となり、また重み係数を視覚特性に合わせて設定することによりホワイトバランス処理を迅速に自然に収束させることができる。
【0044】
実施の形態3.
上述の実施の形態1及び2では、R、G、B信号の積分値の比rR、rBを用いてR、およびB信号の利得値を算出している。rR、rBの計算には除算回路が必要であるため、演算回路の規模が大きくなり計算に時間がかかるという課題を有する。そこで本実施の形態ではrR、rBに代わり、Rの積分値とGの積分値の差分dR(=ΣR−ΣG)、Bの積分値とGの積分値の差分dB(=ΣB−ΣG)を用いて利得の収束を概算し、除算回路を減算回路に置きかえることによってホワイトバランス調整装置全体の回路規模の縮小を図る。
【0045】
図5は本実施の形態にかかる自動ホワイトバランス調整装置の構成を示す図である。図5の30はRの積分値ΣRとΣGの差分値を出力する減算回路(減算工程)であり、31はBの積分値ΣBとΣGの差分値を出力する減算回路(減算工程)である。
その他の構成は実施の形態1と同様である。
【0046】
各色信号の積分値の差分を用いて、R、B信号のそれぞれの利得値を求める計算式について説明する。
(式1)を書きかえると
kR(N+1)=αR・kR(N)+βR・(ΣR−dR(N))/ΣR
kR(N+1)−βR=αR・kR(N)−βR/ΣR・dR(N) (式1−2)
のように書きかえられる。
【0047】
(式1−2)のΣRはフレーム毎に変化する値であるが、除算をなくすためにはこの値を定数とする必要がある。そこで(式1−2)のΣRをフレーム平均ΣR(avr)とみなし、利得値を概算する。βR/ΣR(avr)を定数βR’とし、kR(N+1)−βRをkR’(N+1)に置き換えと、(式1−2)は次式のようになる。
kR’(N+1)=αR・kR(N)−βR’・dR(N) (式3)
同様に、B信号の利得値の算出式も
kB’(N+1)=αB・kB(N)−βB’・dB(N) (式4)
となる。
【0048】
(式3)、(式4)を用いて利得を算出すれば、除算回路の代わりに減算回路を用いることができる。一般に、除算回路に比べて減算回路の方が回路規模は小さいので、本実施の形態を用いることによりホワイトバランス調整装置全体の回路規模を小さくすることができる。
【0049】
上述のように、R、B信号における利得制御回路に入力する利得値を、前フレームの利得値と各色信号の差分値にそれぞれに任意の重み係数を乗じた計算式によって概算することで、ホワイトバランスの収束過程を制御可能なホワイトバランス調整装置の回路規模を小さくすることができる。
【0050】
実施の形態4.
上述の実施の形態3では、利得値kR’(N+1)、およびkB’(N+1)の算出式に用いる重み係数(αR、βR’、およびαB、βB’)を任意の定数としていたが、次に示す実施の形態では利得値の算出式に用いる重み係数を、積分値の差分値dR(N)と前フレームの利得値の関数とする。
その他の構成は、実施の形態3と同様である。
【0051】
本実施の形態は実施の形態2と同様、重み係数を前フレームの利得値や利得の収束値によって変化させホワイトバランスの収束動作を調整させ、さらに利得値を求めるために必要な演算回路の回路規模を縮小化させることを目的とする。
【0052】
上述の実施の形態2では、重み係数を前フレームの利得値と利得の収束値との差分値により変化させており、回路規模の大きな除算回路を使用して収束値を求めている。本実施の形態では、利得値の算出に必要な回路規模を縮小化させるために除算回路をなくし、代りに減算回路を使用することで収束値の概算値を求める。そして利得の概算値により重み係数を変化させることで、ホワイトバランス処理の収束時間や収束動作を調整する。
R信号の利得収束値の概算式を以下に示す。
上式の1/ΣRはフレーム毎に変化する値であるが、除算をなくすためにはこの値を定数とする必要がある。
【0053】
そこで上式5のΣRをフレーム平均ΣR(avr)とみなし、1/ΣR(avr)を用いて利得値を概算する。ここで1/ΣR(avr)を定数CRとする。
rR(N)≒1−CR・dR(N) (式5)
このように(式5)を用いれば除算器を用いずに利得の収束値を概算することができる。また、(式5)の右辺にある乗算もビットシフト演算をもちいれば、さらに小さな回路規模で利得の収束値を概算することができる。
【0054】
同様にB信号の利得収束値は、
rB(N)=1−CB・dB(N) (式6)
で概算でき、これらの演算はdR、dBが入力されるマイクロコンピュータ27で行う。
【0055】
本実施の形態では(式5)、(式6)で得られる利得の収束値を用いて実施の形態2と同様に、重み係数αR、βR(あるいはαR、βR)を前フレームの利得値と利得の収束概算値との差分値によって変化させれば、ホワイトバランスの収束時間や収束動作を調整することができる。
【0056】
上述のように、減算回路を用いて利得の収束値を概算し、利得の算出式に用いる重み係数を前フレームの利得値と利得の収束概算値との差分値により変化させれば、ホワイトバランスの収束時間や収束条件を調整可能な装置の演算回路規模の縮小化が可能となる。
【0057】
実施の形態5.
以上、これまでの実施の形態では、R、B信号の利得制御回路に入力する利得値の収束動作に関して説明した。本実施の形態では利得値の収束条件として上限値、下限値などの制限域を設定することにより撮影画像に過度なホワイトバランス処理が施されることを防止する。
図6に本実施の形態で規定する利得値の制限域を示す。
【0058】
本実施の形態では、R、B信号の利得制御回路に入力する利得値の上限、下限値について説明する。通常、自然画などの被写体を撮影する場合、各色信号の積分値に極端な差はないと考えられる。しかし、例えば赤い服を着た人物などを撮影する場合や極端に赤味を帯びた特殊な光源下で画像を撮影する場合、R信号成分が他の色信号に比べ極端に多くなることがある。このような撮影条件下で利得値の制限なしにホワイトバランス処理を行うと、R信号が抑制され過ぎ、見た目と撮影画像の色が極端に異なる不自然な画像が撮影される。そこで前述の実施の形態1乃至4の計算法によって求められる各信号の利得値に上限値、下限値を設け、ホワイトバランス処理が過度に行われることを防止する。
【0059】
図6は利得値の制限域を示した図であり、R、B信号の利得値が図中の実線で囲まれた領域内に収まるようにする。本実施の形態では利得の収束値が制限領域外にある場合には、利得値の計算結果が制限域を越えるまで利得値を更新し、超えた場合には利得値をあらかじめ設定した上限値あるいは下限値をマイクロコンピュータから出力する。マイクロコンピュータにはあらかじめ利得値の制限領域を入力しておき、常に制限域内の利得値を出力するよう設定する。このような法によってホワイトバランス処理がかかり過ぎることを防止する。
【0060】
上述のように、R、B信号の利得制御回路に入力する利得値に上限値、下限値などの制限域を設定することによって、過度にホワイトバランス処理され画像が不自然な色になることを防止し、見た目と同様の画像を撮影できるようにする。
【0061】
実施の形態6
前述した実施の形態では、ホワイトバランス処理に必要な各色信号の利得値の計算をマイクロコンピュータによって行う方法について説明した。本実施の形態では、各色信号の利得値を計算する際に必要な重み係数を、ルックアップテーブルとしてROMなどのメモリに保存、読み出しを行うことで全ての処理をハードウェア化し処理の高速化を図る。
【0062】
図7は本実施の形態の構成を示す図であり、32、33は除算(あるいは減算)を行う演算回路、34、35は利得値の計算に必要な乗算および加算を行う演算回路、36、37は前フレームの利得値と利得の収束値(あるいは収束概算値)との差分値、重み係数との関係を示すLUT(ルックアップテーブル)、38、39はそれぞれR、B信号の利得値の制限値と34、35の出力結果を比較する比較回路である。
その他の構成は図5と同様である。
【0063】
本実施の形態の動作について説明する。これまでの実施の形態では、利得の計算に必要なパラメータはハードウェア化した演算回路を用いて算出していたが主な演算はマイクロコンピュータで行う例について述べた。本実施の形態では、これまでの実施の形態で述べたものと同様の利得算出式を用い、マイクロコンピュータで行っていた重み係数の算出や利得の算出などの全ての計算をハードウェア化した演算回路で行う。
【0064】
ホワイトバランスの収束時間などの条件が決めれば、前フレームの利得値と利得の収束値(あるいは収束概算値)との差分値に対する重み係数値をあらかじめLUT化することができる。図7の36は、前フレームの利得値と、利得の収束値(あるいは収束概算値)との差分値に対する重み係数をLUTとしたものである。LUTにはホワイトバランスの収束条件に合わせてあらかじめ計算した重み係数値をROMなどのメモリ装置に記憶しておき、必要に応じて記憶データを読み出せるようにする。図7のLUT36では、入力信号rR(N+1)(あるいはdR(N+1))と前フレームの利得値kR(N)に応じた必要な重み係数をαR、βRを読み出し、演算回路34に入力する構成となっている。さらに演算回路34では、入力信号はrR(N+1)(あるいはdR(N+1))、kR(N)、重み係数αR、βRを用いて(式1)(あるいは、(式3))の計算を行い、この回路で得た利得値kR(N+1)を出力する。比較回路38では、演算回路34の出力信号kR(N+1)と利得値の上・下限値との比較を行う。kR(N+1)が利得値の制限域内であれば入力信号をそのままD/A変換回路28に送信し、入力信号が利得値の制限域外であれば、上限値(あるいは下限値)をD/A変換回路28に送る。R信号の利得値は28でデジタル値からアナログ値に変換され、利得制御回路19に送られる。そして利得制御回路19で信号レベル調整された出力値がエンコーダ21に送られる。R信号と同様にB信号においても、利得制御回路20に入力する利得値を求める際に必要な計算をハードウェア回路で行い、撮影画像のホワイトバランス処理を行う。
【0065】
上述のように、ホワイトバランス処理に伴う演算回路を全てハードウェア化し、前フレームの利得値と利得の収束値との差分に対する重み係数値をあらかじめ計算した結果をROMなどのメモリに記憶しLUTとして用いることで、ホワイトバランス処理に伴う演算を高速化することができる。また、本発明を用いればLUTに記憶する重み係数を変更することによって、ホワイトバランス処理かかる収束時間や収束動作を制御することができる。
【0066】
【発明の効果】
この発明に係る自動ホワイトバランス調整装置は、複数の色フィルタを備え連続した複数の画像を撮像するカラー撮像装置の自動ホワイトバランス調整装置であって、N番目の現画像フレームにおける各色信号を利得値k(N)によりレベル調整する利得制御回路と、各色信号の出力値を積分する積分回路と、各々2色の色信号の積分値の比r(N)を出力する除算回路と、(N+1)番目のフレーム画像を撮像する際に必要な利得値k (N+1) を算出し記憶する算出記憶手段とを有し、算出記憶手段は、任意の重み係数αと現フレームの利得値k (N)の積に任意の重み係数βと積分値の比r(N)の積を加えたものに基づいて、利得値k (N+1)を算出する。各信号の利得値を現フレームの利得値と利得の収束値のそれぞれに任意の重み係数を乗じた計算式によって求め、重み係数の設定値を調整することでホワイトバランスの収束過程を制御することができる。そのため、例えば、画像観察者に色の変化の違和感を覚えさせないようにすることが可能である。
【0067】
また、算出記憶手段は、重み係数α、βを、利得値の収束値と前フレームの利得値の差分値に基づいて求める。重み係数を前フレームの利得値と利得の収束値との差分値によって変化させることにより収束時間や収束動作の調整を行うことが可能となり、また重み係数を視覚特性に合わせて設定することによりホワイトバランス処理を迅速に自然に収束させることができる。
【0068】
また、算出記憶手段は、重み係数α、βを、視覚特性に基づいて求める。そのため、ひとの視覚特性を利用し、例えば色変化に対して反応が鈍い色相にあるときには、重み係数の設定値を大きくして、利得値の変化を大きくすることにより観察者に違和感を与えずに利得収束時間の高速化を図ることができる。
【0069】
また、複数の色フィルタを備え連続した複数の画像を撮像するカラー撮像装置の自動ホワイトバランス調整装置であって、N番目の現画像フレームにおける各色信号を利得値k(N)によりレベル調整する利得制御回路と、各色信号の出力値を積分する積分回路と、各々2色の色信号の積分値の差分値d(N)を出力する減算回路と、(N+1)番目のフレーム画像を撮像する際に必要な利得値k (N+1) を算出し記憶する算出記憶手段とを有し、算出記憶手段は、任意の重み係数αと現フレームの利得値k (N)の積に任意の重み係数βと積分値の差分値d(N)の積を加えたものに基づいて、利得値k (N+1)を算出する。そのため、装置の回路規模を小さくすることができる。
【0070】
また、算出記憶手段は、重み係数α、βを、積分値の差分値と前フレームの利得値に基づいて求める。そのため、装置の演算回路規模の縮小化が可能となる。
【0071】
また、利得値の制限域を設け、算出記憶手段は、利得値が制限域を越えないように制限する。そのため、過度にホワイトバランス処理され画像が不自然な色になることを防止し、見た目と同様の画像を撮像することが可能となる。
【0072】
また、重み係数α、βをルックアップテーブルとして記憶する記憶手段をさらに有し、算出記憶手段は、重み係数α、βを記憶手段から読み出す。そのため、装置の全ての演算回路のハードウェア化を図ることができ、ホワイトバランス処理に伴う演算の高速化をすることができる。
【0073】
また、他の発明に係る自動ホワイトバランス調整方法は、複数の色フィルタを備え連続した複数の画像を撮像するカラー撮像装置の自動ホワイトバランス調整方法であって、N番目の現画像フレームにおける各色信号を利得値k(N)によりレベル調整する利得制御工程と、各色信号の出力値を積分する積分工程と、各々2色の色信号の積分値の比r(N)を出力する除算工程と、(N+1)番目のフレーム画像を撮像する際に必要な利得値k (N+1) を算出し記憶する算出記憶工程とを有し、算出記憶工程は、任意の重み係数αと現フレームの利得値k (N)の積に任意の重み係数βと積分値の比r(N)の積を加えたものに基づいて、利得値k (N+1)を算出する。各信号の利得値を現フレームの利得値と利得の収束値のそれぞれに任意の重み係数を乗じた計算式によって求め、重み係数の設定値を調整することでホワイトバランスの収束過程を制御することができる。そのため、例えば、画像観察者に色の変化の違和感を覚えさせないようにすることが可能である。
【0074】
また、算出記憶工程は、重み係数α、βを、利得値の収束値と前フレームの利得値の差分値に基づいて求める。重み係数を前フレームの利得値と利得の収束値との差分値によって変化させることにより収束時間や収束動作の調整を行うことが可能となり、また重み係数を視覚特性に合わせて設定することによりホワイトバランス処理を迅速に自然に収束させることができる。
【0075】
また、算出記憶工程は、重み係数α、βを、視覚特性に基づいて求める。そのため、ひとの視覚特性を利用し、例えば色変化に対して反応が鈍い色相にあるときには、重み係数の設定値を大きくして、利得値の変化を大きくすることにより観察者に違和感を与えずに利得収束時間の高速化を図ることができる。
【0076】
また、複数の色フィルタを備え連続した複数の画像を撮像するカラー撮像装置の自動ホワイトバランス調整方法であって、N番目の現画像フレームにおける各色信号を利得値k(N)によりレベル調整する利得制御工程と、各色信号の出力値を積分する積分工程と、各々2色の色信号の積分値の差分値d(N)を出力する減算工程と、(N+1)番目のフレーム画像を撮像する際に必要な利得値k (N+1) を算出し記憶する算出記憶工程とを有し、算出記憶工程は、任意の重み係数αと現フレームの利得値k (N)の積に任意の重み係数βと積分値の差分値d(N)の積を加えたものに基づいて、利得値k (N+1)を算出する。そのため、装置の回路規模を小さくすることができる。
【0077】
また、算出記憶工程は、重み係数α、βを、積分値の差分値と前フレームの利得値に基づいて求める。そのため、装置の演算回路規模の縮小化が可能となる。
【0078】
また、利得値の制限域を設け、算出記憶工程は、利得値が制限域を越えないように制限する。そのため、過度にホワイトバランス処理され画像が不自然な色になることを防止し、見た目と同様の画像を撮像することが可能となる。
【0079】
さらに、重み係数α、βをルックアップテーブルとして記憶する記憶手段をさらに有し、算出記憶工程は、重み係数α、βを記憶手段から読み出す。そのため、装置の全ての演算回路のハードウェア化を図ることができ、ホワイトバランス処理に伴う演算の高速化をすることができる。
【図面の簡単な説明】
【図1】この発明による自動ホワイトバランス調整装置の構成図である。
【図2】利得値kB、kRをそれぞれ横軸、縦軸にとり、R、B信号の利得値をプロットしたグラフである。
【図3】利得値の収束値と前フレームの利得値の差分値に対する重み係数αR、βRの例を示したものである。
【図4】利得値の収束値と前フレームの利得値の差分値に対する重み係数αR、βRのさらに異なる例を示したものである。
【図5】この発明による自動ホワイトバランス調整装置の他の例を示す構成図である。
【図6】利得値の制限域を示した図である。
【図7】この発明による自動ホワイトバランス調整装置の他の例を示す構成図である。
【図8】従来のホワイトバランス調整装置の構成図である。
【図9】マイクロコンピュータ(算出記憶手段)の動作を示すフローチャートである。
【符号の説明】
19,20 利得制御回路(利得制御工程)、22,23,24 積分回路(積分工程)、25,26 除算回路(除算工程)、27 マイクロコンピュータ(算出記憶手段,算出記憶工程)、30,31 減算回路(減算工程)、36,37 ルックアップテーブル(記憶手段)。[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a color imaging apparatus such as a digital still camera, and more particularly to an automatic white balance adjustment apparatus and an automatic white balance adjustment method for adjusting white balance of an imaging apparatus.
[0002]
[Prior art]
Normally, in a color image capturing device such as a digital still camera, the signal level obtained by the red (R), green (G), and blue (B) signal systems so that a white image is captured when a white screen is captured. Adjust so that is equal. Such signal level adjustment is called white balance and has been used in various color imaging devices so far.
[0003]
For example, FIG. 8 shows a conventional white balance adjusting device disclosed in Japanese Patent Laid-Open No. 56-80988. In FIG. 8, a light image incident from a
[0004]
Next, the operation will be described.
In this path, the RY color signal output from the process circuit 6 is integrated by the integration circuit 8 and guided to the comparison circuit 10. The BY color signal is integrated by the
[0005]
As a result of this reversible counting, two types of reversible calculated values of Rch and Bch (hereinafter referred to as RchUDC and BchUDC) are obtained, and these are input to the
In this way, by inputting the reversible calculation results RchUDC and BchUDC to the
[0006]
Here, when the polarity of both comparison circuits 10 and 11, the direction of increase / decrease of the reversible counting function, and the control characteristics of both
[0007]
Next, the operation of the
[0008]
In this state, if the output of the comparison circuit for red 10 is larger than the reference value in step S3 (H), RchUDC is decreased by 1 in step S4, whereas if it is smaller (L), only 1 in step S5. Is added.
[0009]
Similarly, in step S6, if the output of the blue comparison circuit 11 is larger than the reference value (H), BchUDC is incremented by 1 in step S7, and if smaller (L), it is decremented by 1 in step S8. . These outputs are output after pulse synchronization in step S9, and white balance adjustment is performed by the
[0010]
[Problems to be solved by the invention]
As described above, in the prior art shown in FIG. 8, the color difference signals RY and BY signals obtained when a subject having an achromatic color average voltage for one screen of the color difference signals RY and BY is photographed. Since the gain value of the gain control circuit is incremented and decremented until it becomes equal to the average voltage, white balance can be adjusted without bothering photographing a white object or the like.
[0011]
However, since the increase / decrease width of the gain value of the gain control circuit is constant, when the screen changes extremely, for example, when the screen suddenly changes from a reddish screen to a bluish screen, R There is a problem in that it takes time to be equal to the average voltage of the -Y and BY signals.
[0012]
The present invention has been made to solve the above-described problems. By making it possible to adjust the gain value for each color signal in accordance with the screen change, the convergence including the time required for the white balance to converge is achieved. An object of the present invention is to obtain an automatic white balance adjusting device and an automatic white balance adjusting method capable of adjusting and controlling the operation.
[0013]
[Means for Solving the Problems]
An automatic white balance adjustment device according to the present invention is an automatic white balance adjustment device of a color imaging device that includes a plurality of color filters and captures a plurality of continuous images, and each color signal in an Nth current image frame is represented by a gain value. a gain control circuit that adjusts the level by k (N), an integration circuit that integrates the output value of each color signal, and a division circuit that outputs a ratio r (N) of the integration values of the two color signals,Gain value k required for capturing the (N + 1) -th frame image (N + 1) TheCalculation storage means for calculating and storing, and the calculation storage means includes an arbitrary weighting factor α andPresentFrame gain valuek (N)Gain value based on the product of an arbitrary weighting factor β and the integral ratio r (N)k (N + 1)CalculateThen, the weighting coefficients α and β are obtained based on the difference value between the gain value convergence value and the gain value of the previous frame.
[0015]
The calculation storage means sets the weighting coefficients α and β asExpressed by the visual response speed to the color change for each hue or the visual discrimination sensitivity for each hueDetermine based on visual characteristics.
[0016]
An automatic white balance adjustment device for a color image pickup device that includes a plurality of color filters and picks up a plurality of continuous images, wherein each color signal in the Nth current image frame is gain-adjusted by a gain value k (N). A control circuit, an integration circuit for integrating the output values of the respective color signals, a subtraction circuit for outputting a difference value d (N) of the integration values of the two color signals,Gain value k required for capturing the (N + 1) -th frame image (N + 1) TheCalculation storage means for calculating and storing, and the calculation storage means includes an arbitrary weighting factor α andPresentFrame gain valuek (N)Gain value based on the product of an arbitrary weighting factor β and the integral difference value d (N)k (N + 1)CalculateThen, the weighting coefficients α and β are obtained based on the difference value of the integral value and the gain value of the previous frame.
[0018]
In addition, a gain value limit area is provided, and the calculation storage means limits the gain value so as not to exceed the limit area.
[0019]
In addition, the storage unit stores the weighting factors α and β as a lookup table, and the calculation storage unit reads the weighting factors α and β from the storage unit.
[0020]
An automatic white balance adjustment method according to another aspect of the invention is an automatic white balance adjustment method for a color imaging apparatus that captures a plurality of continuous images with a plurality of color filters, and each color signal in an Nth current image frame. A gain control step of adjusting the level of the color signal by the gain value k (N), an integration step of integrating the output values of the respective color signals,
A division step for outputting a ratio r (N) of integral values of two color signals each;Gain value k required for capturing the (N + 1) -th frame image (N + 1) TheA calculation storage step for calculating and storing, and the calculation storage step includes an arbitrary weighting factor α andPresentFrame gain valuek (N)Gain value based on the product of an arbitrary weighting factor β and the integral ratio r (N)k (N + 1)CalculateThen, the weighting coefficients α and β are obtained based on the difference value between the gain value convergence value and the gain value of the previous frame.
[0022]
In the calculation storage step, the weight coefficients α and β are set as follows.Expressed by the visual response speed to the color change for each hue or the visual discrimination sensitivity for each hueDetermine based on visual characteristics.
[0023]
An automatic white balance adjustment method for a color image pickup apparatus that includes a plurality of color filters and picks up a plurality of continuous images, wherein each color signal in an Nth current image frame is gain-adjusted by a gain value k (N). A control step, an integration step of integrating the output values of the respective color signals, a subtraction step of outputting a difference value d (N) of the integration values of the two color signals,Gain value k required for capturing the (N + 1) -th frame image (N + 1) TheA calculation storage step for calculating and storing, and the calculation storage step includes an arbitrary weighting factor α andPresentFrame gain valuek (N)Gain value based on the product of an arbitrary weighting factor β and the integral difference value d (N)k (N + 1)CalculateThen, the weighting coefficients α and β are obtained based on the difference value of the integral value and the gain value of the previous frame.
[0025]
Further, a gain value limit area is provided, and the calculation storage step limits the gain value so as not to exceed the limit area.
[0026]
Furthermore, it has a memory | storage means which memorize | stores weighting coefficient (alpha) and (beta) as a look-up table, and a calculation memory | storage process reads weighting coefficient (alpha) and (beta) from a memory | storage means.
[0027]
DETAILED DESCRIPTION OF THE INVENTION
FIG. 1 is a block diagram of an automatic white balance adjusting apparatus according to the present invention. In FIG. 1, 16 is a lens for imaging a subject on an image sensor, 17 is an R, G, and B color filter, 18 is an image sensor that photoelectrically converts light from the lens, and 19 and 20 are R and B signals, respectively. A gain control circuit (gain control step) 42 that performs the gain control of the gain control unit 42 calculates a gain value input to the
[0028]
In the
[0029]
Next, the operation will be described.
When an image is taken with a color image photographing device, a subject is imaged with a lens, and the imaging light transmitted through the color filter is photoelectrically converted with an image sensor. In the apparatus of FIG. 1, the light imaged by the
[0030]
Specifically, the
kR(N + 1) = αR・ KR(N) + βR・ RR(N) (Formula 1)
kB(N + 1) = αB・ KB(N) + βB・ RB(N) (Formula 2)
However, in the above formula,
ΣR(N), ΣG(N), ΣB(N): Integration value of each signal in the Nth frame
rR(N): ΣG(N) / ΣR(N))
rB(N): ΣG(N) / ΣB(N)
kR(N), kB(N): R and B signal gain values in the Nth frame
αR, ΒR, ΑB, ΒB: Weight coefficient
It is.
[0031]
Next, the process by which the white balance adjustment converges according to the present invention will be described with reference to FIG. 2 shows k.B, KRAre plotted on the horizontal axis and the vertical axis, respectively, and the gain values of the R and B signals are plotted.
[0032]
The gain value of each color signal is changed so that the average signal level of the R, G, and B signals in the captured image is equal to the signal level obtained when an achromatic image is captured. Therefore, when the image to be photographed is largely switched, the gain value of each signal converges in stages as shown in FIG. 2 (convergence from A to B in FIG. 2).
[0033]
When the conventional method is used, the gain value of each signal changes along a path as indicated by a dotted line in FIG. In the case of the conventional method, since the amount of increase / decrease in the gain value is always constant, the time for the white balance to converge becomes longer as the difference between the gain value before the image change and the convergence value after the change is larger. That is, the convergence time of white balance differs depending on the change in the image.
[0034]
On the other hand, when the method according to the present invention is used, the gain value changes, for example, as shown by the solid line arrow in FIG. 2 (in the coordinates of FIG. Will move to the inner dividing point).
[0035]
Thus, in the present invention, unlike the conventional method, the convergence process of the gain value is the weighting factor α.R, ΒR(Or αB, ΒBThe white balance convergence operation can be controlled by adjusting these values.
[0036]
As described above, in the present invention, the gain control of the R and B signals is performed so that the average signal level of the R, G, and B signals of the captured image is equal to the signal level obtained when the achromatic image is captured. This relates to a white balance adjustment device. The gain value of each signal is obtained by a formula obtained by multiplying the gain value of the previous frame and the convergence value of the gain by an arbitrary weighting factor, and the white balance is adjusted by adjusting the setting value of the weighting factor. The balance convergence process can be controlled.
[0037]
By controlling the process of convergence of white balance, for example, it is possible to prevent the image observer from feeling uncomfortable with the color change. In other words, when the human visual characteristics are used, for example, when the hue is slow in response to the color change, the setting value of the weighting factor is increased to increase the change of the gain value, so that the observer does not feel uncomfortable. In addition, the gain convergence time can be increased.
[0038]
In the first embodiment described above, the gain value kR(N + 1), and kBWeighting coefficient (α used in the formula of (N + 1)R, ΒR, And αB, ΒB) Is an arbitrary constant, but in the following embodiment, the weighting factor used in the gain value calculation formula is a function using the difference between the gain value convergence value and the gain value of the previous frame as a parameter.
[0039]
3 and 4 show the weighting coefficient α for the difference between the convergence value of the gain value and the gain value of the previous frame.R, ΒR(Alternatively, the weighting factor α for the B signalB, ΒB).
[0040]
This embodiment will be described with an example in which the time until the white balance adjustment converges is given. When the convergence time is constant, when the change in the captured image is large, that is, when the difference between the gain value in the current frame and the gain convergence value after the image change is large, β in (Expression 1)RIncrease αRNeeds to be reduced (in the case of (Equation 2), βBTo increase αB). On the other hand, if the change in the captured image is small, β in (Equation 1)RReduce αRNeeds to be increased (in the case of (Equation 2), βB, ΑBIncrease). ΒR, ΑRIf the function is as shown in FIG. 3, the convergence time can be kept substantially constant regardless of the image change.
[0041]
Further, when the weight coefficient shown in FIG. 4 is used, when the color of the entire image changes greatly, the gain value changes gradually at first, gradually changes, then changes gradually and converges again. If the weighting factor is defined as a function of the difference value between the convergence value of the gain value and the gain value of the previous frame in this way, the convergence time and convergence operation of white balance can be adjusted.
[0042]
Also, the weighting factor can be controlled in consideration of human visual characteristics. For example, the gain value of the previous frame and the convergence value of the gain are used as parameters, and the convergence of white balance is accelerated for images with poor color identification sensitivity, and the convergence is delayed for other images. By performing the control, the observer can quickly converge the white balance process without feeling unnaturalness.
[0043]
As described above, in the present embodiment, when the gain value of each signal is obtained by a calculation formula obtained by multiplying the gain value of the previous frame and the convergence value of the gain by an arbitrary weighting factor, the weighting factor is used as the gain value of the previous frame. It is possible to adjust the convergence time and convergence behavior by changing the difference between the value and the convergence value of the gain, and quickly and naturally converge the white balance processing by setting the weighting factor according to the visual characteristics. Can be made.
[0044]
In the first and second embodiments described above, the ratio r of the integral values of the R, G, and B signals.R, RBIs used to calculate the gain values of the R and B signals. rR, RBSince the calculation requires a division circuit, the scale of the arithmetic circuit becomes large and the calculation takes time. Therefore, in this embodiment, rR, RBInstead of the difference d between the integral value of R and the integral value of GR(= ΣR−ΣG), The difference d between the integral value of B and the integral value of GB(= ΣB−ΣG) Is used to approximate the convergence of the gain, and the circuit scale of the entire white balance adjusting device is reduced by replacing the divider circuit with the subtractor circuit.
[0045]
FIG. 5 is a diagram showing the configuration of the automatic white balance adjusting apparatus according to the present embodiment. 5 in FIG. 5 is an integral value Σ of RRAnd ΣGIs a subtracting circuit (subtracting step) for outputting a difference value of B, 31 is an integral value Σ of BBAnd ΣGIt is a subtraction circuit (subtraction process) which outputs the difference value.
Other configurations are the same as those of the first embodiment.
[0046]
A calculation formula for obtaining the respective gain values of the R and B signals using the difference between the integral values of the respective color signals will be described.
Rewriting (Equation 1)
kR(N + 1) = αR・ KR(N) + βR・ (ΣR-DR(N)) / ΣR
kR(N + 1) -βR= ΑR・ KR(N) -βR/ ΣR・ DR(N) (Formula 1-2)
It can be rewritten as
[0047]
Σ in (Equation 1-2)RIs a value that changes from frame to frame, but in order to eliminate division, this value must be a constant. Therefore, Σ in (Equation 1-2)RThe frame average ΣR (avr)And gain value is estimated. βR/ ΣR (avr)The constant βR’And kR(N + 1) -βRKRWhen replaced with '(N + 1)', (Equation 1-2) becomes the following equation.
kR′ (N + 1) = αR・ KR(N) -βR′ ・ DR(N) (Formula 3)
Similarly, the formula for calculating the gain value of the B signal is
kB′ (N + 1) = αB・ KB(N) -βB′ ・ DB(N) (Formula 4)
It becomes.
[0048]
If the gain is calculated using (Expression 3) and (Expression 4), a subtracting circuit can be used instead of the dividing circuit. In general, since the circuit scale of the subtraction circuit is smaller than that of the division circuit, the circuit scale of the entire white balance adjustment device can be reduced by using this embodiment.
[0049]
As described above, the gain value input to the gain control circuit for the R and B signals is approximated by the calculation formula obtained by multiplying the gain value of the previous frame and the difference value of each color signal by an arbitrary weighting factor, thereby obtaining white. The circuit scale of the white balance adjusting device capable of controlling the balance convergence process can be reduced.
[0050]
In the above-described third embodiment, the gain value kR'(N + 1), and kBThe weighting coefficient (α used in the calculation formula of ′ (N + 1)R, ΒR′ And αB, ΒB′) Is an arbitrary constant, but in the following embodiment, the weight coefficient used in the gain value calculation formula is set to the difference value d of the integral value.RLet (N) be a function of the gain value of the previous frame.
Other configurations are the same as those of the third embodiment.
[0051]
In the present embodiment, as in the second embodiment, the weighting coefficient is changed according to the gain value of the previous frame or the convergence value of the gain to adjust the convergence operation of the white balance, and the circuit of the arithmetic circuit necessary for obtaining the gain value The purpose is to reduce the scale.
[0052]
In the second embodiment described above, the weighting coefficient is changed according to the difference value between the gain value of the previous frame and the convergence value of the gain, and the convergence value is obtained using a division circuit having a large circuit scale. In this embodiment, the approximate value of the convergence value is obtained by eliminating the division circuit in order to reduce the circuit scale necessary for calculating the gain value and using a subtraction circuit instead. Then, the convergence time and the convergence operation of the white balance processing are adjusted by changing the weighting coefficient according to the approximate gain value.
An approximate expression for the gain convergence value of the R signal is shown below.
1 / Σ of the above formulaRIs a value that changes from frame to frame, but in order to eliminate division, this value must be a constant.
[0053]
Therefore, Σ in the
rR(N) ≈1-CR・ DR(N) (Formula 5)
Thus, using (Equation 5), the convergence value of the gain can be estimated without using a divider. Further, if the multiplication on the right side of (Equation 5) is also performed using a bit shift operation, the convergence value of the gain can be estimated with a smaller circuit scale.
[0054]
Similarly, the gain convergence value of the B signal is
rB(N) = 1-CB・ DB(N) (Formula 6)
These operations can be approximated by dR, DBIs performed by the
[0055]
In the present embodiment, the weighting factor α is used in the same manner as in the second embodiment using the convergence value of the gain obtained by (Equation 5) and (Equation 6).R, ΒR(Or αR, ΒR) Is changed by the difference value between the gain value of the previous frame and the approximate convergence value of the gain, the white balance convergence time and convergence operation can be adjusted.
[0056]
As described above, if the gain convergence value is approximated using a subtraction circuit, and the weighting factor used in the gain calculation formula is changed according to the difference value between the gain value of the previous frame and the approximate convergence value of the gain, white balance can be obtained. It is possible to reduce the scale of the arithmetic circuit of a device that can adjust the convergence time and convergence condition.
[0057]
In the foregoing embodiments, the convergence operation of the gain value input to the gain control circuit for the R and B signals has been described. In the present embodiment, an excessive white balance process is prevented from being performed on the photographed image by setting a limit area such as an upper limit value and a lower limit value as a convergence condition of the gain value.
FIG. 6 shows a limit range of the gain value defined in the present embodiment.
[0058]
In the present embodiment, an upper limit and a lower limit of the gain value input to the gain control circuit for the R and B signals will be described. Usually, when photographing a subject such as a natural image, it is considered that there is no extreme difference in the integrated value of each color signal. However, for example, when shooting a person wearing red clothes, or when shooting an image under a special light source that is extremely reddish, the R signal component may be extremely large compared to other color signals. . When white balance processing is performed without limiting the gain value under such shooting conditions, the R signal is excessively suppressed, and an unnatural image in which the appearance and the color of the shot image are extremely different is shot. Therefore, an upper limit value and a lower limit value are provided for the gain values of the respective signals obtained by the calculation methods of the first to fourth embodiments described above to prevent excessive white balance processing.
[0059]
FIG. 6 is a diagram showing a gain value limit area, and the gain values of the R and B signals are set within the area surrounded by the solid line in the figure. In the present embodiment, when the gain convergence value is outside the limit region, the gain value is updated until the calculation result of the gain value exceeds the limit region, and if it exceeds, the gain value is set to a preset upper limit value or The lower limit value is output from the microcomputer. The microcomputer is set in advance so that a gain value limit region is input in advance and a gain value within the limit region is always output. Such a method prevents excessive white balance processing.
[0060]
As described above, by setting a limit range such as an upper limit value or a lower limit value for the gain values input to the gain control circuit for the R and B signals, it is possible to cause an excessively white balance process and an unnatural color in the image. To prevent the image from appearing as it looks.
[0061]
Embodiment 6
In the above-described embodiment, the method for calculating the gain value of each color signal necessary for the white balance processing by the microcomputer has been described. In this embodiment, the weighting factors necessary for calculating the gain value of each color signal are stored in a memory such as a ROM as a lookup table and read out to make all processing hardware and increase the processing speed. Plan.
[0062]
FIG. 7 is a diagram showing a configuration of the present embodiment, 32 and 33 are arithmetic circuits for performing division (or subtraction), 34 and 35 are arithmetic circuits for performing multiplication and addition necessary for calculating gain values, 37 is a difference value between the gain value of the previous frame and the convergence value (or approximate convergence value) of the gain, and a LUT (Look Up Table) indicating the relationship between the weighting factors, and 38 and 39 are the gain values of the R and B signals, respectively. It is a comparison circuit that compares the limit value and the output results of 34 and 35.
Other configurations are the same as those in FIG.
[0063]
The operation of this embodiment will be described. In the embodiments described so far, the parameters necessary for the calculation of the gain have been calculated using a hardware arithmetic circuit, but an example in which the main arithmetic is performed by a microcomputer has been described. In this embodiment, the same gain calculation formula as described in the previous embodiments is used, and all calculations such as weight coefficient calculation and gain calculation performed by the microcomputer are implemented as hardware. Do in the circuit.
[0064]
If conditions such as the convergence time of white balance are determined, the weight coefficient value for the difference value between the gain value of the previous frame and the convergence value of the gain (or the approximate convergence value) can be converted into an LUT in advance.
[0065]
As described above, all the arithmetic circuits associated with the white balance processing are implemented as hardware, and the weight coefficient value for the difference between the gain value of the previous frame and the convergence value of the gain is calculated in advance and stored in a memory such as a ROM as an LUT. By using it, it is possible to speed up the calculation associated with the white balance processing. Further, by using the present invention, it is possible to control the convergence time and convergence operation for white balance processing by changing the weighting factor stored in the LUT.
[0066]
【The invention's effect】
An automatic white balance adjustment device according to the present invention is an automatic white balance adjustment device of a color imaging device that includes a plurality of color filters and captures a plurality of continuous images, and each color signal in an Nth current image frame is represented by a gain value. a gain control circuit that adjusts the level by k (N), an integration circuit that integrates the output value of each color signal, and a division circuit that outputs a ratio r (N) of the integration values of the two color signals,Gain value k required for capturing the (N + 1) -th frame image (N + 1) TheCalculation storage means for calculating and storing, and the calculation storage means includes an arbitrary weighting factor α andPresentFrame gain valuek (N)Gain value based on the product of an arbitrary weighting factor β and the integral ratio r (N)k (N + 1)Is calculated. The gain value of each signalPresentThe convergence process of white balance can be controlled by calculating the gain value of the frame and the convergence value of the gain by an arbitrary weighting factor and adjusting the setting value of the weighting factor. Therefore, for example, it is possible to prevent the image observer from feeling uncomfortable with the color change.
[0067]
The calculation storage means obtains the weighting factors α and β based on the difference value between the gain value convergence value and the gain value of the previous frame. By changing the weighting factor according to the difference value between the gain value of the previous frame and the convergence value of the gain, it is possible to adjust the convergence time and convergence operation, and by setting the weighting factor according to the visual characteristics, white Balance processing can be quickly and naturally converged.
[0068]
Further, the calculation storage means obtains the weighting factors α and β based on the visual characteristics. For this reason, when the human visual characteristics are used, for example, when the hue is slow in response to the color change, the weighting factor setting value is increased to increase the gain value change so that the observer does not feel uncomfortable. In addition, the gain convergence time can be increased.
[0069]
An automatic white balance adjustment device for a color image pickup device that includes a plurality of color filters and picks up a plurality of continuous images, wherein each color signal in the Nth current image frame is gain-adjusted by a gain value k (N). A control circuit, an integration circuit for integrating the output values of the respective color signals, a subtraction circuit for outputting a difference value d (N) of the integration values of the two color signals,Gain value k required for capturing the (N + 1) -th frame image (N + 1) TheCalculation storage means for calculating and storing, and the calculation storage means includes an arbitrary weighting factor α andPresentFrame gain valuek (N)Gain value based on the product of an arbitrary weighting factor β and the integral difference value d (N)k (N + 1)Is calculated. Therefore, the circuit scale of the device can be reduced.
[0070]
Further, the calculation storage means obtains the weighting coefficients α and β based on the difference value of the integral value and the gain value of the previous frame. Therefore, the scale of the arithmetic circuit of the device can be reduced.
[0071]
In addition, a gain value limit area is provided, and the calculation storage means limits the gain value so as not to exceed the limit area. Therefore, it is possible to prevent the image from becoming an unnatural color due to excessive white balance processing and to capture an image similar to the appearance.
[0072]
In addition, the storage unit stores the weighting factors α and β as a lookup table, and the calculation storage unit reads the weighting factors α and β from the storage unit. For this reason, all the arithmetic circuits of the apparatus can be implemented as hardware, and the arithmetic operation associated with the white balance processing can be accelerated.
[0073]
An automatic white balance adjustment method according to another invention is an automatic white balance adjustment method for a color imaging apparatus that captures a plurality of continuous images with a plurality of color filters, and each color signal in an Nth current image frame. A gain control step of adjusting the level of the color signal by the gain value k (N), an integration step of integrating the output values of the respective color signals, and a division step of outputting a ratio r (N) of the integrated values of the two color signals,Gain value k required for capturing the (N + 1) -th frame image (N + 1) TheA calculation storage step for calculating and storing, and the calculation storage step includes an arbitrary weighting factor α andPresentFrame gain valuek (N)Gain value based on the product of an arbitrary weighting factor β and the integral ratio r (N)k (N + 1)Is calculated. The gain value of each signalPresentIt is possible to control the white balance convergence process by calculating the gain value of the frame and the convergence value of the gain by an arbitrary weighting factor and adjusting the setting value of the weighting factor. Therefore, for example, it is possible to prevent the image observer from feeling uncomfortable with the color change.
[0074]
In the calculation storage step, the weighting coefficients α and β are obtained based on the difference value between the convergence value of the gain value and the gain value of the previous frame. By changing the weighting factor according to the difference value between the gain value of the previous frame and the convergence value of the gain, it is possible to adjust the convergence time and convergence operation, and by setting the weighting factor according to the visual characteristics, white Balance processing can be quickly and naturally converged.
[0075]
In the calculation storage step, the weight coefficients α and β are obtained based on the visual characteristics. For this reason, when the human visual characteristics are used, for example, when the hue is slow in response to the color change, the weighting factor setting value is increased to increase the gain value change so that the observer does not feel uncomfortable. In addition, the gain convergence time can be increased.
[0076]
An automatic white balance adjustment method for a color image pickup apparatus that includes a plurality of color filters and picks up a plurality of continuous images, wherein each color signal in an Nth current image frame is gain-adjusted by a gain value k (N). A control step, an integration step of integrating the output values of the respective color signals, a subtraction step of outputting a difference value d (N) of the integration values of the two color signals,Gain value k required for capturing the (N + 1) -th frame image (N + 1) TheA calculation storage step for calculating and storing, and the calculation storage step includes an arbitrary weighting factor α andPresentFrame gain valuek (N)Gain value based on the product of an arbitrary weighting factor β and the integral difference value d (N)k (N + 1)Is calculated. Therefore, the circuit scale of the device can be reduced.
[0077]
In the calculation storage step, the weighting coefficients α and β are obtained based on the difference value of the integral value and the gain value of the previous frame. Therefore, the scale of the arithmetic circuit of the device can be reduced.
[0078]
Further, a gain value limit area is provided, and the calculation storage step limits the gain value so as not to exceed the limit area. Therefore, it is possible to prevent the image from becoming an unnatural color due to excessive white balance processing and to capture an image similar to the appearance.
[0079]
Furthermore, it has a memory | storage means which memorize | stores weighting coefficient (alpha) and (beta) as a look-up table, and a calculation memory | storage process reads weighting coefficient (alpha) and (beta) from a memory | storage means. For this reason, all the arithmetic circuits of the apparatus can be implemented as hardware, and the arithmetic operation associated with the white balance processing can be accelerated.
[Brief description of the drawings]
FIG. 1 is a configuration diagram of an automatic white balance adjusting device according to the present invention.
FIG. 2 Gain value kB, KRAre plotted on the horizontal axis and the vertical axis, respectively, and the gain values of the R and B signals are plotted.
FIG. 3 is a weighting factor α for the difference value between the gain convergence value and the gain value of the previous frame.R, ΒRThis is an example.
FIG. 4 is a weighting factor α for the difference between the gain value convergence value and the gain value of the previous frame.R, ΒRA further different example is shown.
FIG. 5 is a block diagram showing another example of an automatic white balance adjusting device according to the present invention.
FIG. 6 is a diagram showing a limit range of a gain value.
FIG. 7 is a block diagram showing another example of an automatic white balance adjusting device according to the present invention.
FIG. 8 is a configuration diagram of a conventional white balance adjustment device.
FIG. 9 is a flowchart showing the operation of the microcomputer (calculation storage means).
[Explanation of symbols]
19, 20 Gain control circuit (gain control step), 22, 23, 24 Integration circuit (integration step), 25, 26 Division circuit (division step), 27 Microcomputer (calculation storage means, calculation storage step), 30, 31 Subtraction circuit (subtraction process), 36, 37 Look-up table (storage means).
Claims (10)
N番目の現画像フレームにおける各色信号を利得値k(N)によりレベル調整する利得制御回路と、
各色信号の出力値を積分する積分回路と、
各々2色の色信号の積分値の比r(N)を出力する除算回路と、
(N+1)番目のフレーム画像を撮像する際に必要な利得値k (N+1) を算出し記憶する算出記憶手段とを有し、
上記算出記憶手段は、任意の重み係数αと現フレームの利得値k (N)の積に任意の重み係数βと上記積分値の比r(N)の積を加えたものに基づいて、上記利得値k (N+1)を算出し、上記重み係数α、βを、上記利得値の収束値と前フレームの利得値の差分値に基づいて求める
ことを特徴とする自動ホワイトバランス調整装置。 An automatic white balance adjustment device for a color imaging device that captures a plurality of continuous images with a plurality of color filters,
A gain control circuit for adjusting the level of each color signal in the Nth current image frame by a gain value k (N);
An integration circuit for integrating the output value of each color signal;
A division circuit that outputs a ratio r (N) of integral values of two color signals,
Calculation storage means for calculating and storing a gain value k (N + 1) necessary for capturing the (N + 1) -th frame image ;
The calculation storage means is based on a product of an arbitrary weighting factor α and the gain value k (N) of the current frame plus a product of the arbitrary weighting factor β and the ratio r (N) of the integration value. A gain value k (N + 1) is calculated, and the weighting factors α and β are obtained based on the difference value between the convergence value of the gain value and the gain value of the previous frame.
An automatic white balance adjustment device characterized by that.
ことを特徴とする請求項1記載の自動ホワイトバランス調整装置。 2. The automatic white balance adjusting apparatus according to claim 1, wherein
N番目の現画像フレームにおける各色信号を利得値k Each color signal in the Nth current image frame is represented by a gain value k. (N)(N) によりレベル調整する利得制御回路と、A gain control circuit for adjusting the level by
各色信号の出力値を積分する積分回路と、 An integration circuit for integrating the output value of each color signal;
各々2色の色信号の積分値の差分値d Difference value d of integral values of two color signals for each (N)(N) を出力する減算回路と、A subtraction circuit that outputs
(N+1)番目のフレーム画像を撮像する際に必要な利得値k Gain value k required for capturing the (N + 1) -th frame image (N+1)(N + 1) を算出し記憶する算出記憶手段とを有し、Calculation storage means for calculating and storing
上記算出記憶手段は、任意の重み係数αと現フレームの利得値k The calculation storage means includes an arbitrary weighting factor α and a gain value k of the current frame. (N)(N) の積に任意の重み係数βと上記積分値の差分値dThe difference value d between an arbitrary weighting factor β and the above integral value in the product of (N)(N) の積を加えたものに基づいて、上記利得値kBased on the product of (N+1)(N + 1) を算出し、上記重み係数α、βを、上記積分値の差分値と前フレームの利得値に基づいて求めるAnd calculate the weighting factors α and β based on the difference value of the integral value and the gain value of the previous frame.
ことを特徴とする自動ホワイトバランス調整装置。 An automatic white balance adjustment device characterized by that.
ことを特徴とする請求項1乃至3のいずれか記載の自動ホワイトバランス調整装置。 4. The automatic white balance adjusting device according to claim 1, wherein
ことを特徴とする請求項1乃至4のいずれか記載の自動ホワイトバランス調整装置。 5. The automatic white balance adjusting device according to claim 1, wherein
N番目の現画像フレームにおける各色信号を利得値k Each color signal in the Nth current image frame is represented by a gain value k. (N)(N) によりレベル調整する利得制御工程と、A gain control step of adjusting the level by
各色信号の出力値を積分する積分工程と、 An integration step of integrating the output value of each color signal;
各々2色の色信号の積分値の比r Ratio r of integral values of two color signals for each (N)(N) を出力する除算工程と、A division process that outputs
(N+1)番目のフレーム画像を撮像する際に必要な利得値k Gain value k required for capturing the (N + 1) -th frame image (N+1)(N + 1) を算出し記憶する算出記憶工程とを有し、A calculation storage step for calculating and storing
上記算出記憶工程は、任意の重み係数αと現フレームの利得値k The calculation storage step includes an arbitrary weighting factor α and a gain value k of the current frame. (N)(N) の積に任意の重み係数βと上記積分値の比rThe ratio r between the arbitrary weighting factor β and the above integral value in the product of (N)(N) の積を加えたものに基づいて、上記利得値kBased on the product of (N+1)(N + 1) を算出し、上記重み係数α、βを、上記利得値の収束値と前フレームの利得値の差分値に基づいて求めるAnd calculating the weighting factors α and β based on the difference between the convergence value of the gain value and the gain value of the previous frame.
ことを特徴とする自動ホワイトバランス調整方法。 An automatic white balance adjustment method characterized by this.
ことを特徴とする請求項6記載の自動ホワイトバランス調整方法。 The automatic white balance adjustment method according to claim 6.
N番目の現画像フレームにおける各色信号を利得値k Each color signal in the Nth current image frame is represented by a gain value k. (N)(N) によりレベル調整する利得制御工程と、A gain control step of adjusting the level by
各色信号の出力値を積分する積分工程と、 An integration step of integrating the output value of each color signal;
各々2色の色信号の積分値の差分値d Difference value d of integral values of two color signals for each (N)(N) を出力する減算工程と、A subtraction step for outputting
(N+1)番目のフレーム画像を撮像する際に必要な利得値k Gain value k required for capturing the (N + 1) -th frame image (N+1)(N + 1) を算出し記憶する算出記憶工程とを有し、A calculation storage step for calculating and storing
上記算出記憶工程は、任意の重み係数αと現フレームの利得値k The calculation storage step includes an arbitrary weighting factor α and a gain value k of the current frame. (N)(N) の積に任意の重み係数βと上記積分値の差分値dIs a difference value d between an arbitrary weighting factor β and the above integral value. (N)(N) の積を加えたものに基づいて、上記利得値kBased on the product of (N+1)(N + 1) を算出し、上記重み係数α、βを、上記積分値の差分値と前フレームの利得値に基づいて求めるAnd calculate the weighting factors α and β based on the difference value of the integral value and the gain value of the previous frame.
ことを特徴とする自動ホワイトバランス調整方法。 An automatic white balance adjustment method characterized by this.
ことを特徴とする請求項6乃至8のいずれか記載の自動ホワイトバランス調整方法。 9. The automatic white balance adjusting method according to claim 6, wherein the automatic white balance is adjusted.
ことを特徴とする請求項6乃至9のいずれか記載の自動ホワイトバランス調整方法。 10. The automatic white balance adjusting method according to claim 6, wherein the automatic white balance is adjusted.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP20772899A JP3619066B2 (en) | 1999-07-22 | 1999-07-22 | Automatic white balance adjustment device and automatic white balance adjustment method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP20772899A JP3619066B2 (en) | 1999-07-22 | 1999-07-22 | Automatic white balance adjustment device and automatic white balance adjustment method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001036923A JP2001036923A (en) | 2001-02-09 |
JP3619066B2 true JP3619066B2 (en) | 2005-02-09 |
Family
ID=16544567
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP20772899A Expired - Fee Related JP3619066B2 (en) | 1999-07-22 | 1999-07-22 | Automatic white balance adjustment device and automatic white balance adjustment method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3619066B2 (en) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006166258A (en) * | 2004-12-09 | 2006-06-22 | Matsushita Electric Ind Co Ltd | Color imaging device and color image signal compensation method |
JP5091550B2 (en) | 2007-06-12 | 2012-12-05 | 株式会社エルモ社 | White balance adjusting device and white balance adjusting method |
US8659670B2 (en) | 2009-04-20 | 2014-02-25 | Qualcomm Incorporated | Motion information assisted 3A techniques |
JP5482850B2 (en) * | 2012-09-05 | 2014-05-07 | 株式会社ニコン | Imaging device |
-
1999
- 1999-07-22 JP JP20772899A patent/JP3619066B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2001036923A (en) | 2001-02-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3784806B2 (en) | Digital auto white balance device | |
JP4628937B2 (en) | Camera system | |
US7358988B1 (en) | Image signal processor for performing image processing appropriate for an output device and method therefor | |
JPH04167771A (en) | Automatic exposure control device | |
KR20070068980A (en) | Camera | |
TW200400762A (en) | Digital color image pre-processing | |
EP2538661A1 (en) | Image processing apparatus and image processing method | |
JP5975642B2 (en) | Image processing apparatus, image processing method, and imaging apparatus | |
US20230196530A1 (en) | Image processing apparatus, image processing method, and image capture apparatus | |
JP4352730B2 (en) | Auto white balance processing apparatus and method, and image signal processing apparatus | |
JP2019029833A (en) | Imaging apparatus | |
JP4050547B2 (en) | Movie imaging system | |
JP3619066B2 (en) | Automatic white balance adjustment device and automatic white balance adjustment method | |
JP3967510B2 (en) | Digital camera | |
JPH11220739A (en) | Video camera device | |
JP5609788B2 (en) | Image processing apparatus and image processing method | |
JP5609787B2 (en) | Image processing apparatus and image processing method | |
JP4067775B2 (en) | White balance adjustment device | |
JP2611850B2 (en) | Color imaging device | |
JP3571274B2 (en) | Automatic white balance adjustment device and automatic white balance adjustment method | |
JPH03148987A (en) | Exposure controller for electronic image pickup equipment | |
KR100474123B1 (en) | Color gamut detection circuit and imaging device using it | |
JP2009111894A (en) | Video signal processing device, imaging apparatus and video signal processing method | |
JP2532956B2 (en) | Color video camera | |
JP3545249B2 (en) | White balance adjustment circuit and digital camera using the same |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040723 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040817 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041008 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20041109 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20041111 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071119 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081119 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081119 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091119 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091119 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101119 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111119 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121119 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121119 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131119 Year of fee payment: 9 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |