JP3958700B2 - Digital camera - Google Patents

Digital camera Download PDF

Info

Publication number
JP3958700B2
JP3958700B2 JP2003061970A JP2003061970A JP3958700B2 JP 3958700 B2 JP3958700 B2 JP 3958700B2 JP 2003061970 A JP2003061970 A JP 2003061970A JP 2003061970 A JP2003061970 A JP 2003061970A JP 3958700 B2 JP3958700 B2 JP 3958700B2
Authority
JP
Japan
Prior art keywords
data
green
white balance
scene
digital camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003061970A
Other languages
Japanese (ja)
Other versions
JP2004274367A (en
Inventor
玄太 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2003061970A priority Critical patent/JP3958700B2/en
Publication of JP2004274367A publication Critical patent/JP2004274367A/en
Application granted granted Critical
Publication of JP3958700B2 publication Critical patent/JP3958700B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、撮影シーンに応じたホワイトバランス調整機能を有するデジタルカメラに関する。
【0002】
【従来の技術】
従来、撮影シーンが屋外のシーンであるか屋内のシーンであるかを判別する機能を備えたデジタルカメラにおいては、被写体の色相(RGB情報)に基づいて撮影シーンを判別し、その判別結果に応じてホワイトバランス(以下、「WB」と記述する場合もある。)を自動調整していた。しかし、被写体の色相だけに基づいて撮影シーンの判別を行ったのでは、被写体の色温度分布が不均一の場合や、被写体が単一色あるいは同系色の物体の場合に、撮影シーンの誤判別が生じ易く、ホワイトバランスを誤調整してしまうことが多かった。その結果、ホワイトバランスずれによるカラーフェリアが生じていた。
【0003】
そこで、特許文献1に記載された発明においては、被写体の色相と輝度とに基づいて、撮影シーンが屋外のシーンであるか屋内のシーンであるかを判別することにより、撮影シーンの誤判別とホワイトバランスずれを防止するようにしている。
【0004】
【特許文献1】
特開2000−224608号公報
【0005】
【発明が解決しようとする課題】
しかし、緑シーン、特に外光があまり差し込まない暗い森や林の中で緑の草木を背景にしての撮影シーンは、色相データの分布が白色蛍光灯、メタルハライド光源、水銀灯等の照明下での撮影シーンと酷似しているため、特許文献1に記載された発明においても、撮影シーンの判別が正確に行われない場合がある。
【0006】
その場合は、屋外撮影であるにもかかわらず、誤って屋内撮影の白色蛍光灯等に適したホワイトバランス調整がなされてしまうことになる。例えば緑色植物を背景にして人物の撮影を行った場合に誤ったホワイトバランス調整を行うと、緑色植物の色はグレーじみた色になり、肌色はマゼンタじみた色になって、色の再現性が非常に悪くなる。
【0007】
本発明は、上記事情に鑑みてなされたもので、その目的は、暗い森や林の中などの緑シーン撮影時のホワイトバランスを適切に調整することができるデジタルカメラを提供することにある。
【0008】
【課題を解決するための手段】
本発明のデジタルカメラは、撮影シーンに応じたホワイトバランス調整機能を有するデジタルカメラであって、被写体の輝度を検出する輝度検出手段と、前記被写体の撮影画像を複数のエリアに分割して各エリアの色相を検出する色相検出手段と、前記輝度データと前記色相データとに基づいて、ホワイトバランス調整データを求めるホワイトバランス調整データ算出手段と、前記色相データのR/G−B/G座標における分布に基づいて、被写体の緑シーンらしさを示すデータを求める緑データ演算手段と、前記緑データ演算手段により得られたデータに基づいて、前記ホワイトバランス調整データを補正するホワイトバランス補正手段と、前記ホワイトバランス補正手段により補正された前記ホワイトバランス調整データに基づいて、ホワイトバランス調整を行うホワイトバランス調整手段とを備え、前記緑データ演算手段は、前記R/G−B/G座標における緑検出枠内に存在する前記色相データに基づく回帰直線を求め、前記回帰直線の傾き、及び前記回帰直線と前記緑検出枠内の前記色相データの座標データとの誤差に基づいて、前記緑シーンらしさを示すデータを求めるものである。
【0009】
ここで、R/Gは、R(赤)成分の信号強度とG(緑)成分の信号強度との比を示し、B/GはB(青)成分の信号強度とG(緑)成分の信号強度との比を示す。また、R/G−B/G座標は、R/Gをx軸(横軸)、B/Gをy軸(縦軸)にとった座標を示す。ホワイトバランス調整データは、例えばホワイトバランス調整ゲインである。また、緑シーンらしさを示すデータは、例えば、輝度データと色相データとに基づいて求めたホワイトバランス調整データを補正する補正量データとして算出される。
【0010】
本発明のデジタルカメラは、前記緑データ演算手段が、前記誤差が所定範囲内である前期色相データの数に基づいて、前記緑シーンらしさを示すデータを求めるものであるものを含む。このようにすると、緑シーンらしさをさらに制度よく求めることができる。
【0011】
本発明のデジタルカメラは、前記緑データ演算手段が、前記R/G−B/G座標における所定光源の検出枠が前記回帰直線の延長線上に存在する否かによって、前記緑シーンらしさを示すデータを修正するものであるものを含む。このようにすると、他の光源の影響と、屋外デイライトの影響を精度よく区別し、ホワイトバランス調整を適切に行うことができる。
【0012】
本発明のデジタルカメラは、前記ホワイトバランス補正手段が、前記緑シーンらしさを示すデータに応じて、晴れの場合のホワイトバランス調整データを利用した補正を行うものであるものを含む。
【0013】
本発明のデジタルカメラは、前記ホワイトバランス調整データ算出手段が、前記輝度データと前記色相データとに基づいて、撮影シーンが屋外シーンか屋内シーンかを判別するとともに、前記被写体の色温度を判別し、判別したデータに基づいて、ホワイトバランス調整データを求めるものであるものを含む。
【0014】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。図1は、本発明の実施の形態を示すデジタルカメラの概略構成を示す図である。なお、図1は、デジタルカメラの機能を主体に示したものであり、ハードウェア構成に正確に対応するものではない。
【0015】
図1に示すデジタルカメラにおいて、撮影レンズ11及び絞り12を介して固体撮像素子(以下、「CCD」と記述する。)13の受光面に結像された被写体像は、CCD13の各光電変換部で光の入射光量に応じた量の信号電荷に変換され蓄積される。各光電変換部に蓄積された信号電荷は、CCD駆動回路14から与えられるリードゲートパルスによってシフトレジスタに読み出され、レジスタ転送パルスによって転送され、信号電荷に応じた電圧信号として順次読み出される。CCD13は、蓄積した信号電荷をシャッタゲートパルスによって掃き出すことができ、これにより電荷の蓄積時間(シャッタスピード)を制御する、いわゆる電子シャッタ機能を有している。
【0016】
CCD13から順次読み出された電圧信号は、相関二重サンプリング回路(CDS回路)15に送られ、ここで各画素(光電変換部)毎のR、G、B信号がサンプリングホールドされ、A/D変換器16に送られる。A/D変換器16は、CDS回路15から順次与えられるR、G、B信号を10ビット(0〜1023)のデジタルのR、G、B信号に変換して出力する。なお、CCD駆動回路14、CDS回路15及びA/D変換器16は、タイミング発生回路17から与えられるタイミング信号によって同期して駆動されるようになっている。
【0017】
A/D変換器16から出力されたR、G、B信号は、積算回路35を経てCPU19へ送られるとともに、一旦メモリ18に格納された後、デジタル信号処理回路20に送られる。積算回路35とCPU19との間には乗算器36R、36G、36Bが設けられており、乗算器36R、36G、36Bには、機器のバラツキを調整するための調整ゲイン値が入力されるようになっている。積算回路35は、被写体画像を複数エリアに小分割(ここでは64×64分割とする。)した各エリア毎のR、G、B信号を積算するものである。CPU19は、シャッタボタン等を含むカメラ操作部31からの入力に基づいて各回路を統括制御し、オートフォーカス制御、自動露光制御などの一連の制御を実行してこのデジタルカメラの撮影動作全体を制御する。また、後述するホワイトバランスゲイン演算処理も行う。
【0018】
デジタル信号処理回路20は、同時化回路21、ホワイトバランス調整回路22、ガンマ補正回路23、YC信号作成回路24及びメモリ25を備えて構成されている。同時化回路21は、メモリ18から読み出された点順次のR、G、B信号を同時式に変換し、R、G、B信号を同時にホワイトバランス調整回路22に出力する。
【0019】
ホワイトバランス調整回路22は、R、G、B信号のデジタル値をそれぞれ調整するための乗算器22R、22G、22Bから構成されており、R、G、B信号は、それぞれ乗算器22R、22G、22Bに加えられる。乗算器22R、22G、22Bの他の入力は、R、G、B信号毎のホワイトバランス調整データであるゲイン値Rg、Gg、Bgであり、乗算器22R、22G、22Bによる乗算信号は、ホワイトバランス調整されたR'、G'、B'信号としてガンマ補正回路23に出力される。
【0020】
ガンマ補正回路23は、ホワイトバランス調整されたR'、G'、B'信号が所望のガンマ特性となるように入出力特性を変更し、また、10ビットの信号が8ビットの信号となるように変更し、YC信号作成回路24に出力する。YC信号作成回路24は、ガンマ補正されたR、G、B信号から輝度信号Yとクロマ信号Cr、Cbとを作成する。これらの輝度信号Yとクロマ信号Cr、Cb(YC信号)は、メモリ25に格納される。撮影時にメモリ25に格納されたYC信号は、図示しない圧縮回路によって所定のフォーマットに圧縮されたのち、メモリカードなどの記録媒体に記録される。
【0021】
次に、CPU19から出力されるホワイトバランス調整データであるゲイン値Rg、Gg、Bgについて説明する。カメラ操作部31の操作により、ホワイトバランス設定がマニュアルモードに設定されている場合は、設定された光源に対応するゲイン値が出力される。一方、ホワイトバランス設定がオートモードに設定されている場合は、積算回路35からの積算値に基づいて撮影シーンの判別を行い、撮影シーンに応じたゲイン値が出力される。なお、ストロボ34の使用時には、ホワイトバランス設定モードにかかわらずストロボ光源に対応したゲイン値が出力される。
【0022】
図2に、オートモード時にホワイトバランスゲインを演算するホワイトバランスゲイン演算処理部の概略機能ブロック図を示す。ホワイトバランスゲイン演算処理部は、積算回路35の出力であるR、G、B信号の積算値を利用してホワイトバランスゲインを演算するものであり、CPU17が所定のプログラムを実行することによって実現される。
【0023】
図2のホワイトバランスゲイン演算処理部は、ホワイトバランスゲイン算出部(WBゲイン算出部)40、緑データ演算部50、ホワイトバランスゲイン補正部(WBゲイン補正部)60を含んで構成され、WBゲイン算出部40は、輝度・色相算出部41、屋外/屋内判断部42、色温度判断部43、WBゲイン選択部44を含んで構成される。
【0024】
輝度・色相算出部41は、被写体画像を複数エリアに小分割(ここでは64×64分割とする。)した各エリアの積算値から、被写体画像の輝度データ(Y)及び色相データ(R、G、B)を算出し、それぞれ屋外/屋内判断部42及び色温度判断部43に与える。屋外/屋内判断部42は、被写体の輝度に基づいて撮影シーンが屋外シーンか屋内シーンかを判断し、WBゲイン選択部44に与える。また、色温度判断部43は、被写体の色相データに基づいて被写体の色温度を判断し、同じくWBゲイン選択部44に与える。
【0025】
WBゲイン選択部44は、屋外/屋内判断部42及び色温度判断部43の出力に基づいて被写体の光源を判別し、判別した光源に対応するWBゲインRa、Ga、Baを選択する。各種光源に対応するWBゲインは、図示しない記憶部に予め記憶しておく。
【0026】
緑データ演算部50は、積算回路35の積算値に基づいて被写体の緑シーンらしさを示すデータを演算するもので、演算された緑シーンらしさを示すデータは、緑補正量GrniとしてWBゲイン補正部60に与える。被写体の緑シーンらしさとは、撮影画像が葉緑等の屋外の緑シーンである程度を示すものである。なお、緑シーンらしさを示すデータである緑補正量Grniの算出方法は、後述する。
【0027】
WBゲイン補正部60は、光源に対応するWBゲインRa、Ga、Baを緑補正量Grniに応じて補正するもので、被写体が緑シーンらしい場合には、デイライトのWBゲインRd、Gd、Bdを加味したゲイン値に補正する。具体的には、次の式によって、補正されたゲイン値Rg、Gg、Bgを求める。
【0028】
Rg/Gg=(Ra/Ga)×Grni+(Rd/Gd)×(1−Grni)
Bg/Gg=(Ba/Ga)×Grni+(Bd/Gd)×(1−Grni)
【0029】
すなわち、完全に緑シーンであると判断される場合には、緑補正量Grni=0とし、WBゲインをデイライトのWBゲインRd、Gd、Bdとするものであり、屋内光源による画像であると判断される場合は、緑補正量Grni=1とし、WBゲイン算出部40で算出したWBゲインRa、Ga、Baとするものである。そして、完全に緑シーンとはいえないが、緑シーンらしい場合には、緑シーンらしさの度合いに応じて、緑補正量Grniを0と1の間で変化させることにより、光源に対応するWBゲインRa、Ga、BaとデイライトのWBゲインRd、Gd、Bdとが緑補正量Grniに応じた割合で加算された値が、補正されたゲイン値Rg、Gg、Bgとして出力される。
【0030】
続いて、緑データ演算部50による緑シーンらしさの演算について説明する。緑シーンらしさの演算は、被写体画像を小分割した64×64個の色相データを、図3に示すようなR/G−B/G座標にプロットしたデータを用いて行う。図3には、R/G−B/G座標上における各種光源の発光色や各種被写体の色相検出枠が示されており、緑シーンは、主として図3の緑検出枠81にプロットされる。プロットした結果、64×64個の分割エリアの色相データの内、所定個数以上が緑検出枠81に入る場合に、被写体の色相が緑であると判別する。しかし、緑検出枠81には、緑シーンの撮影画像だけでなく、前述したように、白色蛍光灯、メタルハライド光源、水銀灯等の照明下での撮影画像もプロットされるので、緑シーンの撮影画像か光源の影響かを次の演算によって判別する。
【0031】
緑検出枠81に所定個数以上の色相データがプロットされた場合、R/G−B/G座標上における64×64個の色相データの分布に基づいて、最小自乗法により回帰直線を求める。そして、緑検出枠81内に存在する色相データの個数、回帰直線の傾き、及び回帰直線と緑検出枠81内の色相データの座標データとの誤差に基づいて、緑シーンらしさを演算する。
【0032】
図4に、緑らしさの判別処理の概略フローを示す。図1に示すデジタルカメラは、緑シーンの検出によるWBゲインの補正機能を有効にするか無効にするかをカメラ操作部31によって設定可能となっており、ステップ401では、緑シーン補正機能のオンオフを判断する。補正機能がオフの場合は、緑シーンらしさを示すデータである緑補正量Grniを1にする(ステップ409)。
【0033】
補正機能がオンの場合は、ステップ402で、64×64個の分割エリアの色相データの内、所定個数以上が緑検出枠81に入るかどうかを判断し、所定個数未満の場合は、緑シーンではないと判断し、緑補正量Grniを1にする(ステップ409)。
【0034】
緑検出枠81に所定個数以上入る場合は、64×64個の分割エリアの色相データの内の緑検出枠に含まれる色相データに基づいて、最小自乗法により回帰直線を求める(ステップ403)。最小自乗法による回帰直線の求める式は周知であるので、説明を省略する。ここで求めた回帰直線の傾きをa、切片をbとすると、回帰直線は、(B/G)=a×(R/G)+bで表される。そして、求め傾きaが閾値S以上であるかどうかを判断し(ステップ404)、S以上でない場合は、緑補正量Grniを1にする(ステップ409)。この判断は、緑シーンの場合は、デイライト光源(屋外晴れ)の枠に影響を受けて、傾きが正になるのに対して、屋内光源シーンの場合は、全体にばらついた分布になることを利用するものである。
【0035】
回帰直線の傾きaが閾値S以上の場合は、ステップ405で色相データの分布を演算する。具体的には、回帰直線と緑検出枠81内の色相データの座標データとの誤差を求め、誤差が所定値以内の色相データの数を求める。誤差の求め方について図5を用いて説明する。緑検出枠81内の各色相データの座標(gri,gbi)が、次の式(1)及び式(2)を満たすか否かを演算する。ここで、Yid及びXidは、誤差の閾値である。
【0036】
|gbi−(a×gri+b)|<Yid (1)
|gri−(gbi−b)/a|<Xid (2)
【0037】
各色相データについて、式(1)及び式(2)の判断を行い、両式を満たす色相データの数を緑シーンらしさの個数とする。すなわち、緑シーンはデイライト光源の影響を受けるため、回帰直線82との誤差が小さくなるものと判断する。
【0038】
そして、式(1)及び式(2)を満たす色相データの個数から、図6に示すメンバシップ関数を用いて、緑補正量Grniを求める(ステップ406)。図6のメンバシップ関数は、式(1)及び式(2)を満たす色相データの個数がGRN_G1より多ければ、緑シーンである率が高いと判断して緑補正量Grniを1以下とし、GRN_G2より多ければ、完全に緑シーンと判断して緑補正量Grniをするものである。
【0039】
続いて、ステップ407で、回帰直線の延長線上の光源検出枠の有無による緑シーン判定条件を満たすかどうかを判断する。この判断は、回帰直線の傾きがデイライトの影響でない場合に、誤補正することを防ぐためのものである。すなわち、分割エリアの色相データが緑検出枠81に含まれ、回帰直線の傾きが正であり、かつ回帰直線との誤差が小さいことは、普通デイライトの影響であると推定されるが、他の光源の影響も考えられるからである。
【0040】
このことを図7を用いて説明する。最小自乗法によって求めた回帰直線が、図7の符合71で表されるものである場合、回帰直線の延長線上にデイライトの検出枠が存在するので、緑シーンであると判断することができる。したがって、緑シーン判定条件を満たすと判断し、ステップ406で求めた緑補正量Grniを出力する(ステップ408)。しかし、最小自乗法によって求めた回帰直線が、図7の符合72で表されるものである場合は、その延長線上に温白色蛍光灯光源の検出枠があって、その光源による影響と考えられるので、緑補正量Grniを1とする(ステップ409)。回帰直線の延長線上にどのような光源の検出枠があるかは、最小自乗法によって求めた回帰直線の傾き及び切片によって簡単に判断することができる。
【0041】
【発明の効果】
以上説明したように、本発明によれば、暗い森や林の中などの緑シーン撮影時のホワイトバランスを適切に調整することができるデジタルカメラを提供することができる。
【図面の簡単な説明】
【図1】本発明の実施の形態を示すデジタルカメラの概略構成を示す図
【図2】ホワイトバランスゲイン演算処理部の概略機能ブロック図
【図3】R/G−B/G座標上における各種光源の発光色や各種被写体の色相検出枠を示す図
【図4】緑らしさの判別処理の概略フローを示す図
【図5】回帰直線と緑検出枠内の色相データの座標データとの誤差の求め方を説明する図
【図6】緑シーンらしさのメンバシップ関数の一例を示す図
【図7】回帰直線の延長線上の光源検出枠の有無による緑シーン判定を説明する図
【符号の説明】
11・・・撮影レンズ
12・・・絞り
13・・・固体撮像素子(CCD)
14・・・CCD駆動回路
15・・・相関二重サンプリング回路(CDS回路)
16・・・A/D変換器
17・・・タイミング発生回路
18・・・メモリ
19・・・CPU
20・・・デジタル信号処理回路
21・・・同時化回路
22・・・ホワイトバランス調整回路
23・・・ガンマ補正回路
24・・・YC信号作成回路
25・・・メモリ
31・・・カメラ操作部
32・・・レンズ駆動部
33・・・絞り駆動部
34・・・ストロボ
35・・・積算回路
40・・・WBゲイン算出部
41・・・輝度・色相算出部
42・・・屋外/屋内判断部
43・・・色温度判断部
44・・・WBゲイン選択部
50・・・緑データ演算部
60・・・WBゲイン補正部
81・・・緑検出枠
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a digital camera having a white balance adjustment function corresponding to a shooting scene.
[0002]
[Prior art]
Conventionally, in a digital camera having a function of determining whether a shooting scene is an outdoor scene or an indoor scene, the shooting scene is determined based on the hue (RGB information) of the subject, and according to the determination result The white balance (hereinafter sometimes referred to as “WB”) is automatically adjusted. However, if the shooting scene is determined based only on the hue of the subject, erroneous determination of the shooting scene may occur if the subject's color temperature distribution is uneven or if the subject is a single color or similar color object. This is likely to occur and the white balance is often misadjusted. As a result, color failure has occurred due to white balance deviation.
[0003]
Therefore, in the invention described in Patent Document 1, based on the hue and brightness of the subject, it is determined whether the shooting scene is an outdoor scene or an indoor scene, thereby determining the shooting scene misclassification. The white balance is prevented from shifting.
[0004]
[Patent Document 1]
Japanese Patent Laid-Open No. 2000-224608
[Problems to be solved by the invention]
However, in a green scene, especially in a dark forest or forest where there is not much external light, the hue data distribution is under the illumination of white fluorescent lamps, metal halide light sources, mercury lamps, etc. Since it is very similar to a shooting scene, even in the invention described in Patent Document 1, the shooting scene may not be accurately determined.
[0006]
In this case, the white balance adjustment suitable for a white fluorescent lamp or the like for indoor photography is mistakenly performed despite outdoor photography. For example, if you take a picture of a person with a green plant in the background and make an incorrect white balance adjustment, the color of the green plant becomes grayish and the skin color becomes magenta. Becomes very bad.
[0007]
The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a digital camera capable of appropriately adjusting the white balance at the time of shooting a green scene such as in a dark forest or a forest.
[0008]
[Means for Solving the Problems]
The digital camera of the present invention is a digital camera having a white balance adjustment function according to a shooting scene, and a luminance detection means for detecting the luminance of the subject, and the photographed image of the subject is divided into a plurality of areas. A hue detection means for detecting the hue of the image, a white balance adjustment data calculation means for obtaining white balance adjustment data based on the luminance data and the hue data, and distribution of the hue data in R / GB / G coordinates Based on the data, green data calculating means for obtaining data indicating the green scene likeness of the subject, white balance correcting means for correcting the white balance adjustment data based on the data obtained by the green data calculating means, and the white Based on the white balance adjustment data corrected by the balance correcting means, White balance adjustment means for adjusting the color balance, and the green data calculation means obtains a regression line based on the hue data existing in the green detection frame in the R / GB / G coordinates, and the regression line The data indicating the green scene-likeness is obtained based on the inclination of the image and the error between the regression line and the coordinate data of the hue data in the green detection frame.
[0009]
Here, R / G indicates the ratio of the signal strength of the R (red) component and the signal strength of the G (green) component, and B / G is the signal strength of the B (blue) component and the G (green) component. The ratio to the signal strength is shown. The R / GB-G / G coordinates are coordinates with R / G on the x-axis (horizontal axis) and B / G on the y-axis (vertical axis). The white balance adjustment data is, for example, a white balance adjustment gain. Further, the data indicating the likelihood of a green scene is calculated as correction amount data for correcting white balance adjustment data obtained based on luminance data and hue data, for example.
[0010]
The digital camera according to the present invention includes a digital camera in which the green data calculation means obtains data indicating the green scene likeness based on the number of previous hue data whose error is within a predetermined range. In this way, the green scene-likeness can be obtained more systematically.
[0011]
In the digital camera of the present invention, the green data calculation means is a data indicating the green scene-likeness depending on whether a detection frame of a predetermined light source in the R / GB / G coordinates exists on an extension line of the regression line. Including those that modify In this way, the influence of other light sources and the influence of outdoor daylight can be accurately distinguished, and white balance adjustment can be performed appropriately.
[0012]
The digital camera of the present invention includes one in which the white balance correction means performs correction using white balance adjustment data in the case of fine weather according to the data indicating the green scene likeness.
[0013]
In the digital camera of the present invention, the white balance adjustment data calculation unit determines whether the shooting scene is an outdoor scene or an indoor scene based on the luminance data and the hue data, and determines the color temperature of the subject. , Including those for obtaining white balance adjustment data based on the determined data.
[0014]
DETAILED DESCRIPTION OF THE INVENTION
Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 is a diagram showing a schematic configuration of a digital camera showing an embodiment of the present invention. Note that FIG. 1 mainly shows the functions of the digital camera, and does not accurately correspond to the hardware configuration.
[0015]
In the digital camera shown in FIG. 1, the subject image formed on the light receiving surface of a solid-state imaging device (hereinafter referred to as “CCD”) 13 through the photographing lens 11 and the diaphragm 12 is converted into each photoelectric conversion unit of the CCD 13. Thus, the signal charge is converted into an amount corresponding to the amount of incident light and stored. The signal charge accumulated in each photoelectric conversion unit is read to the shift register by a read gate pulse given from the CCD drive circuit 14, transferred by a register transfer pulse, and sequentially read as a voltage signal corresponding to the signal charge. The CCD 13 has a so-called electronic shutter function that can sweep out the accumulated signal charge with a shutter gate pulse and thereby control the charge accumulation time (shutter speed).
[0016]
The voltage signal sequentially read from the CCD 13 is sent to a correlated double sampling circuit (CDS circuit) 15 where the R, G, B signals for each pixel (photoelectric conversion unit) are sampled and held, and A / D It is sent to the converter 16. The A / D converter 16 converts the R, G, and B signals sequentially given from the CDS circuit 15 into 10-bit (0 to 1023) digital R, G, and B signals and outputs the signals. The CCD drive circuit 14, the CDS circuit 15, and the A / D converter 16 are driven in synchronism with a timing signal supplied from the timing generation circuit 17.
[0017]
The R, G, and B signals output from the A / D converter 16 are sent to the CPU 19 through the integrating circuit 35, and once stored in the memory 18, are then sent to the digital signal processing circuit 20. Multipliers 36R, 36G, and 36B are provided between the integrating circuit 35 and the CPU 19, and an adjustment gain value for adjusting variations in the devices is input to the multipliers 36R, 36G, and 36B. It has become. The integration circuit 35 integrates R, G, and B signals for each area obtained by subdividing the subject image into a plurality of areas (here, 64 × 64 divisions). The CPU 19 performs overall control of each circuit based on input from the camera operation unit 31 including a shutter button and the like, and executes a series of controls such as auto focus control and automatic exposure control to control the entire photographing operation of the digital camera. To do. Also, white balance gain calculation processing described later is performed.
[0018]
The digital signal processing circuit 20 includes a synchronization circuit 21, a white balance adjustment circuit 22, a gamma correction circuit 23, a YC signal generation circuit 24, and a memory 25. The synchronization circuit 21 converts the dot-sequential R, G, B signals read from the memory 18 into simultaneous equations, and outputs the R, G, B signals to the white balance adjustment circuit 22 simultaneously.
[0019]
The white balance adjustment circuit 22 includes multipliers 22R, 22G, and 22B for adjusting digital values of the R, G, and B signals. The R, G, and B signals are respectively multiplied by the multipliers 22R, 22G, 22B. The other inputs of the multipliers 22R, 22G, and 22B are gain values Rg, Gg, and Bg, which are white balance adjustment data for each of the R, G, and B signals. A multiplication signal by the multipliers 22R, 22G, and 22B is white. The adjusted R ′, G ′, and B ′ signals are output to the gamma correction circuit 23.
[0020]
The gamma correction circuit 23 changes the input / output characteristics so that the white balance adjusted R ′, G ′, B ′ signals have the desired gamma characteristics, and the 10-bit signal becomes an 8-bit signal. And output to the YC signal generation circuit 24. The YC signal creation circuit 24 creates a luminance signal Y and chroma signals Cr and Cb from the gamma-corrected R, G, and B signals. These luminance signal Y and chroma signals Cr and Cb (YC signal) are stored in the memory 25. The YC signal stored in the memory 25 at the time of shooting is compressed into a predetermined format by a compression circuit (not shown) and then recorded on a recording medium such as a memory card.
[0021]
Next, gain values Rg, Gg, and Bg that are white balance adjustment data output from the CPU 19 will be described. When the white balance setting is set to the manual mode by the operation of the camera operation unit 31, a gain value corresponding to the set light source is output. On the other hand, when the white balance setting is set to the auto mode, the shooting scene is determined based on the integrated value from the integrating circuit 35, and a gain value corresponding to the shooting scene is output. When the strobe 34 is used, a gain value corresponding to the strobe light source is output regardless of the white balance setting mode.
[0022]
FIG. 2 is a schematic functional block diagram of a white balance gain calculation processing unit that calculates the white balance gain in the auto mode. The white balance gain calculation processing unit calculates the white balance gain using the integrated values of the R, G, and B signals that are output from the integrating circuit 35, and is realized by the CPU 17 executing a predetermined program. The
[0023]
2 includes a white balance gain calculation unit (WB gain calculation unit) 40, a green data calculation unit 50, and a white balance gain correction unit (WB gain correction unit) 60, and includes a WB gain. The calculation unit 40 includes a luminance / hue calculation unit 41, an outdoor / indoor determination unit 42, a color temperature determination unit 43, and a WB gain selection unit 44.
[0024]
The luminance / hue calculation unit 41 calculates luminance data (Y) and hue data (R, G) of the subject image from the integrated values of each area obtained by subdividing the subject image into a plurality of areas (here, 64 × 64 divisions). , B) are calculated and given to the outdoor / indoor determination unit 42 and the color temperature determination unit 43, respectively. The outdoor / indoor determination unit 42 determines whether the shooting scene is an outdoor scene or an indoor scene based on the luminance of the subject, and supplies the determination to the WB gain selection unit 44. Further, the color temperature determination unit 43 determines the color temperature of the subject based on the hue data of the subject and similarly supplies the color temperature to the WB gain selection unit 44.
[0025]
The WB gain selection unit 44 determines the light source of the subject based on the outputs of the outdoor / indoor determination unit 42 and the color temperature determination unit 43, and selects the WB gains Ra, Ga, and Ba corresponding to the determined light source. WB gains corresponding to various light sources are stored in advance in a storage unit (not shown).
[0026]
The green data calculation unit 50 calculates data indicating the likelihood of the subject's green scene based on the integration value of the integration circuit 35, and the calculated data indicating the likelihood of the green scene is the WB gain correction unit as the green correction amount Grni. 60. The green scene-likeness of the subject indicates a certain level in an outdoor green scene such as a leaf green. Note that a method of calculating the green correction amount Grni, which is data indicating the likelihood of a green scene, will be described later.
[0027]
The WB gain correction unit 60 corrects the WB gains Ra, Ga, and Ba corresponding to the light source according to the green correction amount Grni. If the subject looks like a green scene, the WB gains Rd, Gd, and Bd of the daylight are corrected. To a gain value that takes into account. Specifically, the corrected gain values Rg, Gg, and Bg are obtained by the following equation.
[0028]
Rg / Gg = (Ra / Ga) × Grni + (Rd / Gd) × (1-Grni)
Bg / Gg = (Ba / Ga) × Grni + (Bd / Gd) × (1-Grni)
[0029]
That is, when it is determined that the scene is completely green, the green correction amount Grni = 0, the WB gain is the WB gains Rd, Gd, and Bd of the daylight, and the image is an indoor light source. When the determination is made, the green correction amount Grni = 1 is set, and the WB gains Ra, Ga, Ba calculated by the WB gain calculation unit 40 are set. If it is not a completely green scene, but it seems to be a green scene, the WB gain corresponding to the light source is changed by changing the green correction amount Grni between 0 and 1 in accordance with the degree of the green scene. Values obtained by adding Ra, Ga, Ba and daylight WB gains Rd, Gd, Bd at a ratio corresponding to the green correction amount Grni are output as corrected gain values Rg, Gg, Bg.
[0030]
Next, the calculation of the green scene likeness by the green data calculation unit 50 will be described. The green scene-likeness is calculated using data obtained by plotting 64 × 64 hue data obtained by subdividing the subject image into R / GB / G coordinates as shown in FIG. FIG. 3 shows emission colors of various light sources and hue detection frames of various subjects on R / GB / G coordinates, and a green scene is mainly plotted in a green detection frame 81 of FIG. As a result of plotting, when a predetermined number or more of the hue data of 64 × 64 divided areas enter the green detection frame 81, it is determined that the hue of the subject is green. However, in the green detection frame 81, not only the photographed image of the green scene but also the photographed image under the illumination of a white fluorescent lamp, a metal halide light source, a mercury lamp, etc. are plotted as described above. Or the influence of the light source is determined by the following calculation.
[0031]
When a predetermined number or more of hue data is plotted in the green detection frame 81, a regression line is obtained by the least square method based on the distribution of 64 × 64 hue data on the R / GB / G coordinates. Based on the number of hue data present in the green detection frame 81, the slope of the regression line, and the error between the regression line and the coordinate data of the hue data in the green detection frame 81, the green scene likelihood is calculated.
[0032]
FIG. 4 shows a schematic flow of greenness determination processing. The digital camera shown in FIG. 1 can be set by the camera operation unit 31 to enable or disable the WB gain correction function based on the green scene detection. In step 401, the green scene correction function is turned on / off. Judging. If the correction function is off, the green correction amount Grni, which is data indicating the likelihood of a green scene, is set to 1 (step 409).
[0033]
If the correction function is on, it is determined in step 402 whether or not a predetermined number or more of the 64 × 64 divided area hue data falls within the green detection frame 81. Therefore, the green correction amount Grni is set to 1 (step 409).
[0034]
When a predetermined number or more is included in the green detection frames 81, a regression line is obtained by the least square method based on the hue data included in the green detection frames among the hue data of 64 × 64 divided areas (step 403). Since the equation for obtaining the regression line by the method of least squares is well known, the description thereof is omitted. Assuming that the slope of the regression line obtained here is a and the intercept is b, the regression line is represented by (B / G) = a × (R / G) + b. Then, it is determined whether or not the obtained inclination a is equal to or greater than the threshold value S (step 404). If it is not equal to or greater than S, the green correction amount Grni is set to 1 (step 409). This judgment is influenced by the frame of the daylight light source (outdoor sunny) in the case of a green scene, and the inclination becomes positive, whereas in the case of an indoor light source scene, the distribution varies throughout. Is to be used.
[0035]
If the slope a of the regression line is greater than or equal to the threshold value S, the distribution of hue data is calculated in step 405. Specifically, an error between the regression line and the coordinate data of the hue data in the green detection frame 81 is obtained, and the number of hue data whose error is within a predetermined value is obtained. The method for obtaining the error will be described with reference to FIG. It is calculated whether or not the coordinates (gri, gbi) of each hue data in the green detection frame 81 satisfy the following expressions (1) and (2). Here, Yid and Xid are error thresholds.
[0036]
| Gbi− (a × gri + b) | <Yid (1)
| Gri- (gbi-b) / a | <Xid (2)
[0037]
For each hue data, the judgments of the formulas (1) and (2) are made, and the number of hue data satisfying both formulas is set as the number of green scenes. That is, since the green scene is affected by the daylight light source, it is determined that the error from the regression line 82 is small.
[0038]
Then, the green correction amount Grni is obtained from the number of hue data satisfying the equations (1) and (2) using the membership function shown in FIG. 6 (step 406). The membership function in FIG. 6 determines that if the number of hue data satisfying equations (1) and (2) is greater than GRN_G1, the rate of green scenes is determined to be high, the green correction amount Grni is set to 1 or less, and GRN_G2 If it is more, it is determined that the scene is completely green and the green correction amount Grni is performed.
[0039]
Subsequently, in Step 407, it is determined whether or not a green scene determination condition is satisfied depending on the presence or absence of a light source detection frame on an extension line of the regression line. This determination is for preventing erroneous correction when the slope of the regression line is not influenced by daylight. That is, it is estimated that the hue data of the divided area is included in the green detection frame 81, the slope of the regression line is positive, and the error from the regression line is small, but this is due to the effect of ordinary daylight. This is because the influence of the light source is also considered.
[0040]
This will be described with reference to FIG. If the regression line obtained by the method of least squares is represented by the reference numeral 71 in FIG. 7, it can be determined that the scene is a green scene because there is a daylight detection frame on the extension line of the regression line. . Therefore, it is determined that the green scene determination condition is satisfied, and the green correction amount Grni obtained in step 406 is output (step 408). However, when the regression line obtained by the method of least squares is represented by reference numeral 72 in FIG. 7, there is a detection frame of the warm white fluorescent light source on the extension line, and it is considered that the influence is caused by the light source. Therefore, the green correction amount Grni is set to 1 (step 409). What kind of light source detection frame is on the extension line of the regression line can be easily determined by the slope and intercept of the regression line obtained by the least square method.
[0041]
【The invention's effect】
As described above, according to the present invention, it is possible to provide a digital camera capable of appropriately adjusting the white balance at the time of photographing a green scene such as a dark forest or a forest.
[Brief description of the drawings]
FIG. 1 is a diagram showing a schematic configuration of a digital camera showing an embodiment of the present invention. FIG. 2 is a schematic functional block diagram of a white balance gain calculation processing unit. FIG. 3 is a diagram showing various types on R / GB / G coordinates. FIG. 4 is a diagram showing a schematic flow of greenness discrimination processing. FIG. 5 is a diagram showing an error between the regression line and the coordinate data of the hue data in the green detection frame. FIG. 6 is a diagram illustrating an example of a membership function of green scene-likeness. FIG. 7 is a diagram illustrating green scene determination based on the presence or absence of a light source detection frame on an extension line of a regression line.
DESCRIPTION OF SYMBOLS 11 ... Shooting lens 12 ... Aperture 13 ... Solid-state image sensor (CCD)
14 ... CCD drive circuit 15 ... correlated double sampling circuit (CDS circuit)
16 ... A / D converter 17 ... timing generation circuit 18 ... memory 19 ... CPU
DESCRIPTION OF SYMBOLS 20 ... Digital signal processing circuit 21 ... Synchronization circuit 22 ... White balance adjustment circuit 23 ... Gamma correction circuit 24 ... YC signal creation circuit 25 ... Memory 31 ... Camera operation part 32 ... Lens drive unit 33 ... Aperture drive unit 34 ... Strobe 35 ... Integration circuit 40 ... WB gain calculation unit 41 ... Luminance / hue calculation unit 42 ... Outdoor / indoor judgment Unit 43 ... color temperature determination unit 44 ... WB gain selection unit 50 ... green data calculation unit 60 ... WB gain correction unit 81 ... green detection frame

Claims (5)

撮影シーンに応じたホワイトバランス調整機能を有するデジタルカメラであって、
被写体の輝度を検出する輝度検出手段と、
前記被写体の撮影画像を複数のエリアに分割して各エリアの色相を検出する色相検出手段と、
前記輝度データと前記色相データとに基づいて、ホワイトバランス調整データを求めるホワイトバランス調整データ算出手段と、
前記色相データのR/G−B/G座標における分布に基づいて、被写体の緑シーンらしさを示すデータを求める緑データ演算手段と、
前記緑データ演算手段により得られたデータに基づいて、前記ホワイトバランス調整データを補正するホワイトバランス補正手段と、
前記ホワイトバランス補正手段により補正された前記ホワイトバランス調整データに基づいて、ホワイトバランス調整を行うホワイトバランス調整手段とを備え、
前記緑データ演算手段は、前記R/G−B/G座標における緑検出枠内に存在する前記色相データに基づく回帰直線を求め、前記回帰直線の傾き、及び前記回帰直線と前記緑検出枠内の前記色相データの座標データとの誤差に基づいて、前記緑シーンらしさを示すデータを求めるものであるデジタルカメラ。
A digital camera having a white balance adjustment function according to a shooting scene,
Luminance detection means for detecting the luminance of the subject;
Hue detection means for detecting the hue of each area by dividing the photographed image of the subject into a plurality of areas;
White balance adjustment data calculating means for obtaining white balance adjustment data based on the luminance data and the hue data;
Green data calculating means for obtaining data indicating the green scene likeness of the subject based on the distribution of the hue data in R / GB / G coordinates;
White balance correction means for correcting the white balance adjustment data based on the data obtained by the green data calculation means;
White balance adjustment means for performing white balance adjustment based on the white balance adjustment data corrected by the white balance correction means,
The green data calculation means obtains a regression line based on the hue data existing in the green detection frame in the R / GB / G coordinates, and the slope of the regression line, and the regression line and the green detection frame A digital camera for obtaining data indicating the green scene-likeness based on an error from the coordinate data of the hue data.
請求項1記載のデジタルカメラであって、
前記緑データ演算手段は、前記誤差が所定範囲内である前記色相データの数に基づいて、前記緑シーンらしさを示すデータを求めるものであるデジタルカメラ。
The digital camera according to claim 1,
The green data calculation means is a digital camera for obtaining data indicating the green scene likeness based on the number of the hue data whose error is within a predetermined range.
請求項1又は2記載のデジタルカメラであって、
前記緑データ演算手段は、前記R/G−B/G座標における所定光源の検出枠が前記回帰直線の延長線上に存在する否かによって、前記緑シーンらしさを示すデータを修正するものであるデジタルカメラ。
The digital camera according to claim 1 or 2,
The green data calculation means is a digital unit that corrects data indicating the green scene-likeness depending on whether or not a detection frame of a predetermined light source in the R / GB / G coordinates exists on an extension of the regression line. camera.
請求項1ないし3のいずれか1項記載のデジタルカメラであって、
前記ホワイトバランス補正手段は、前記緑シーンらしさを示すデータに応じて、晴れの場合のホワイトバランス調整データを利用した補正を行うものであるデジタルカメラ。
The digital camera according to any one of claims 1 to 3,
The white balance correction unit is a digital camera that performs correction using white balance adjustment data in the case of fine weather according to data indicating the green scene-likeness.
請求項1ないし4のいずれか1項記載のデジタルカメラであって、
前記ホワイトバランス調整データ算出手段は、前記輝度データと前記色相データとに基づいて、撮影シーンが屋外シーンか屋内シーンかを判別するとともに、前記被写体の色温度を判別し、判別したデータに基づいて、ホワイトバランス調整データを求めるものであるデジタルカメラ。
The digital camera according to any one of claims 1 to 4,
The white balance adjustment data calculating means determines whether the shooting scene is an outdoor scene or an indoor scene based on the luminance data and the hue data, determines a color temperature of the subject, and based on the determined data A digital camera that seeks white balance adjustment data.
JP2003061970A 2003-03-07 2003-03-07 Digital camera Expired - Fee Related JP3958700B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003061970A JP3958700B2 (en) 2003-03-07 2003-03-07 Digital camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003061970A JP3958700B2 (en) 2003-03-07 2003-03-07 Digital camera

Publications (2)

Publication Number Publication Date
JP2004274367A JP2004274367A (en) 2004-09-30
JP3958700B2 true JP3958700B2 (en) 2007-08-15

Family

ID=33124032

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003061970A Expired - Fee Related JP3958700B2 (en) 2003-03-07 2003-03-07 Digital camera

Country Status (1)

Country Link
JP (1) JP3958700B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4677226B2 (en) * 2004-12-17 2011-04-27 キヤノン株式会社 Image processing apparatus and method
US7421121B2 (en) * 2005-02-08 2008-09-02 Micron Technology, Inc. Spectral normalization using illuminant exposure estimation
JP4670465B2 (en) * 2005-05-11 2011-04-13 ソニー株式会社 White balance control device
JP4752381B2 (en) * 2005-08-02 2011-08-17 コニカミノルタオプト株式会社 Imaging device
KR101251803B1 (en) 2011-08-30 2013-04-09 엘지이노텍 주식회사 Method of image process
CN113452981B (en) * 2020-03-24 2022-08-09 RealMe重庆移动通信有限公司 Image processing method, image processing device, electronic equipment and storage medium

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3889867B2 (en) * 1997-10-03 2007-03-07 オリンパス株式会社 Imaging device
JP3849834B2 (en) * 1999-02-02 2006-11-22 富士写真フイルム株式会社 Auto white balance control method
JP4385240B2 (en) * 2000-01-27 2009-12-16 富士フイルム株式会社 Auto white balance control method for digital camera and digital camera
JP3821729B2 (en) * 2002-03-07 2006-09-13 富士写真フイルム株式会社 Digital camera

Also Published As

Publication number Publication date
JP2004274367A (en) 2004-09-30

Similar Documents

Publication Publication Date Title
JP3849834B2 (en) Auto white balance control method
EP2426928B1 (en) Image processing apparatus, image processing method and program
US7009641B2 (en) Electronic camera with gain adjustment
US8614751B2 (en) Image processing apparatus and image processing method
US20070076103A1 (en) Image pickup apparatus and image processing method
US9036046B2 (en) Image processing apparatus and method with white balance correction
US8810681B2 (en) Image processing apparatus and image processing method
JP4042432B2 (en) Imaging device
CN113691795A (en) Image processing apparatus, image processing method, and storage medium
JP3821729B2 (en) Digital camera
US9769391B2 (en) Imaging device including light modulation element that varies between high and low transmittance for each segment
JP2008219838A (en) Imaging apparatus, white balance control device and white balance control method
US20070211165A1 (en) Imaging device, method for controlling imaging device, program of method for controlling imaging device, recording medium in which program of method for controlling imaging device is recorded
JP2004297650A (en) Control method of white balance and digital camera
JP2003333616A (en) White balance adjustment method, image pickup device, program, and storage medium
JP3958700B2 (en) Digital camera
JP2002290988A (en) Imaging device
JP2003163944A (en) White balance-control method and digital camera
JP4043928B2 (en) Digital camera
JP4028395B2 (en) Digital camera
JP4396225B2 (en) White balance control device and electronic device
JP4385240B2 (en) Auto white balance control method for digital camera and digital camera
JP3903095B2 (en) White balance control method and digital camera
JP3903093B2 (en) White balance control method and digital camera
JP2004349930A (en) Digital camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050222

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060325

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070420

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070501

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070510

R150 Certificate of patent or registration of utility model

Ref document number: 3958700

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110518

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110518

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120518

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130518

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140518

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees