JP2003143623A - 画像撮影方法および装置 - Google Patents

画像撮影方法および装置

Info

Publication number
JP2003143623A
JP2003143623A JP2001379630A JP2001379630A JP2003143623A JP 2003143623 A JP2003143623 A JP 2003143623A JP 2001379630 A JP2001379630 A JP 2001379630A JP 2001379630 A JP2001379630 A JP 2001379630A JP 2003143623 A JP2003143623 A JP 2003143623A
Authority
JP
Japan
Prior art keywords
light source
range
matrix
value
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001379630A
Other languages
English (en)
Other versions
JP2003143623A5 (ja
JP3863773B2 (ja
Inventor
Takashi Noguchi
高史 野口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Holdings Corp
Original Assignee
Fuji Photo Film Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Photo Film Co Ltd filed Critical Fuji Photo Film Co Ltd
Priority to JP2001379630A priority Critical patent/JP3863773B2/ja
Priority to US10/225,537 priority patent/US7265781B2/en
Publication of JP2003143623A publication Critical patent/JP2003143623A/ja
Publication of JP2003143623A5 publication Critical patent/JP2003143623A5/ja
Application granted granted Critical
Publication of JP3863773B2 publication Critical patent/JP3863773B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Processing Of Color Television Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

(57)【要約】 【課題】光源依存性を改善し、光源の種類にかかわら
ず、ホワイトバランスや色補正が適正に行われた画像を
得ることのできる画像撮影方法および装置を提供する。 【解決手段】ホワイトバランス補正回路を挟んで第1マ
トリクスおよび第2マトリクスの2つの色補正マトリク
スを有する色処理系により、入力画像データを出力画像
データに変換する画像撮影方法であって、撮影光源の範
囲を判別し、判別された光源の範囲に基づいて第1マト
リクスを決定することにより前記課題を解決する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像撮影方法およ
び装置に係り、特に、画像撮影装置の、CCDにより撮
影して得られた画像データ等の入力画像データをモニタ
表示用画像データ等の出力画像データに変換する色処理
系における光源依存性を改善する技術に関する。
【0002】
【従来の技術】デジタルカメラ等のカラー画像撮像系で
は、通常、CCDセンサ等のイメージセンサによって撮
影シーンを光電的に読み取り、撮像したカラー画像を液
晶ディスプレイ等のモニタに表示している。このように
デジタルカメラは、出力画像を最終的にモニタ出力用の
RGB信号として出力したり、あるいはJPEG圧縮を
行って輝度色差信号(YCC)として出力する。モニタ
出力用のRGB信号として出力する場合、出力すべきR
GB信号は規格で決められている。しかし、デジタルカ
メラで用いているCCDは、様々な種類があるため、そ
のCCDのRGB信号をモニタのRGB信号に画像変換
しなければならない。
【0003】例えば、図6に従来のデジタルカメラの色
処理系の一構成例を示す。図6に示すデジタルカメラの
色処理系は、CCD80から読み取られた画像データに
対して、ホワイトバランス補正を行うホワイトバランス
回路84およびγ補正を行うγ回路86を挟んで、2つ
の色補正マトリクス、第1マトリクス(リニア・マトリ
クスL−MTX)82、および第2マトリクス(クロマ
・マトリクスC−MTX)88が設置されている。
【0004】このように、図6に示す従来のデジタルカ
メラにおける色処理系では、2つの色補正マトリクスを
持ち、CCD80からの画像データに対して、第1マト
リクス(L−MTX)82を掛け、ホワイトバランス補
正およびγ補正を行った後、再度マトリクス(C−MT
X88)を掛け、CCD80のRGB信号を、ITU−
R(International Telecommunication Union-Radio co
mmunication sector)によって規定されたHDTVの推
奨規格であるBT709のRGB信号に変換している。
ここで、撮影光源の色味を取り除くホワイトバランス補
正は、一般に、特定の色空間上のゲイン調整で実現され
る。
【0005】
【発明が解決しようとする課題】しかしながら、ゲイン
調整によるホワイトバランス補正は、多くの場合、適切
な結果を与えるが、光源によっては光源の色味を完全に
取り除くことが出来ず、例えば、蛍光灯の下で撮影され
た肌色は、ホワイトバランス補正後もシアングリーン味
が残って、太陽光下で観察される肌色のような色再現に
はならないと言う問題がある。これを光源依存性と言
い、従来はこの光源依存性を改善する特段の技術は知ら
れていなかった。
【0006】本発明は、前記従来の問題に鑑みてなされ
たものであり、例えばデジタルカメラ等のカラー画像撮
影装置において、CCDで撮影して得られた画像データ
をモニタ出力用画像データに変換する、ホワイトバラン
ス補正回路を挟んで少なくとも2つの色補正マトリクス
を有する色処理系において、光源依存性を改善し、光源
の種類にかかわらず、ホワイトバランスや色補正が適正
に行われた画像を得ることのできる画像撮影方法および
装置を提供することを課題とする。
【0007】
【課題を解決するための手段】前記課題を解決するため
に、本発明の第1の態様は、入力画像データを、ホワイ
トバランス補正回路を挟んで第1マトリクスおよび第2
マトリクスの、少なくとも2つの色補正マトリクスを有
する色処理系により、出力画像データに変換する画像撮
影方法であって、撮影光源の範囲を判別し、該判別され
た光源の範囲に基づいて前記第1マトリクスを決定する
ことを特徴とする画像撮影方法を提供する。
【0008】また、前記撮影光源の範囲の判別は、同一
被写体から赤外光領域のカットの程度の異なる少なくと
も2画像の画像データを取り込み、前記取り込まれた画
像データに基づいて前記画像間で比較を行い、該比較の
結果前記画像間の差異が所定値より小さい場合には蛍光
灯であるとし、前記画像間の差異が前記所定値より大き
い場合には黒体輻射に準ずる光源であると判別すること
により撮影光源の範囲を判別する方法、または、色温度
が既知の物体の分光エネルギー分布、測光系の分光感度
分布、および予め定めた3つの関数の1次結合で表した
分光反射率分布の積の積和または積分値で定められた基
準値を求め、撮影光源からの光を測定し、前記基準値と
測定値との差が最小となる分光反射率分布を色温度毎に
求め、前記求めた分光反射率の最大値が1.0を越えた
異常成分の和を評価値として求め、前記評価値の最小値
に対応する色温度を前記撮影光源の色温度と推定するこ
とにより撮影光源の範囲を判別する方法、の2つの方法
のうち、少なくとも1つの方法を用いて行うようにした
ことが好ましい。
【0009】また、前記第1マトリクスを、前記判別さ
れた光源の範囲の各光源毎の平均色差の最大値が最小と
なるように決定するようにしたことが好ましい。
【0010】また、前記第1マトリクスを、前記判別さ
れた光源の範囲の各光源毎の平均色差の平均値が最小と
なるように決定するようにしたことが好ましい。
【0011】また、前記第1マトリクスを{Lij(i,
j=1〜3)}とし、前記判別された光源の範囲のうち
基準光源をP0 、その他の光源をPm (kは光源の種類
を表す)とし、r(λ)、g(λ)、b(λ)をそれぞ
れ、前記入力画像データの入力分光感度R(λ)、G
(λ)、B(λ)および前記第1マトリクス{Lij}と
から、次式 r(λ)=L11・R(λ)+L12・G(λ)+L13・B(λ) g(λ)=L21・R(λ)+L22・G(λ)+L23・B(λ) b(λ)=L31・R(λ)+L32・G(λ)+L33・B(λ) で規定される実効的な入力分光感度とするとき、次式 maxm {|log (Pm ,r)/( P0,r)−log (Pm ,g)/( P0,g)| +|log (Pm ,g)/( P0,g)−log (Pm ,b)/( P0,b)|} を最小化するようにして、前記第1マトリクスを決定す
るようにしたことが好ましい。
【0012】また、前記第1マトリクスを{Lij(i,
j=1〜3)}とし、前記判別された光源の範囲のうち
基準光源をP0 、その他の光源をPm (kは光源の種類
を表す)とし、r(λ)、g(λ)、b(λ)をそれぞ
れ、前記入力画像データの入力分光感度R(λ)、G
(λ)、B(λ)および前記第1マトリクス{Lij}と
から、次式 r(λ)=L11・R(λ)+L12・G(λ)+L13・B(λ) g(λ)=L21・R(λ)+L22・G(λ)+L23・B(λ) b(λ)=L31・R(λ)+L32・G(λ)+L33・B(λ) で規定される実効的な入力分光感度とするとき、次式 Σm {|log (Pm ,r)/( P0,r)−log (Pm ,g)/( P0,g)| +|log (Pm ,g)/( P0,g)−log (Pm ,b)/( P0,b)|} を最小化するようにして、前記第1マトリクスを決定す
るようにしたことが好ましい。
【0013】また、同様に前記課題を解決するために、
本発明の第2の態様は、入力画像データを出力画像デー
タに変換する、ホワイトバランス補正回路を挟んで第1
マトリクスおよび第2マトリクスの、少なくとも2つの
色補正マトリクスを有する色処理系を備えた画像撮影装
置であって、撮影光源の範囲を判別する手段と、該判別
された光源の範囲に基づいて、前記第1マトリクスを決
定する手段と、を備えたことを特徴とする画像撮影装置
を提供する。
【0014】また、前記撮影光源の範囲を判別する手段
として、同一被写体から、赤外光領域のカットの程度の
異なる少なくとも2画像の画像データを取り込む手段
と、前記取り込まれた画像データに基づいて前記画像を
比較する手段と、該比較の結果により前記撮影光源の種
類を判別する手段と、を含んで構成される撮影光源範囲
判別手段、または、色温度が既知の物体の分光エネルギ
ー分布、測光系の分光感度分布、および予め定めた3つ
の関数の1次結合で表した分光反射率分布の積の積和ま
たは積分値で定められた基準値を予め記憶した記憶手段
と、撮影光源からの光を測定する測定手段と、前記基準
値と測定値との差が最小となる分光反射率分布を色温度
毎に演算する分光反射率分布演算手段と、前記求めた分
光反射率の最大値が1.0を越えた異常成分の和を評価
値として演算する評価値演算手段と、前記評価値の最小
値に対応する色温度を前記撮影光源の色温度と推定する
手段と、を含んで構成される撮影光源範囲判別手段、の
2つの撮影光源範囲判別手段のうち、少なくとも1つを
有することが好ましい。
【0015】また、前記判別された光源の範囲に基づい
て、前記第1マトリクスを決定する手段は、前記判別さ
れた光源の範囲の各光源毎の平均色差の最大値を最小に
するように前記第1マトリクスを決定することが好まし
い。
【0016】また、前記判別された光源の範囲に基づい
て、前記第1マトリクスを決定する手段は、前記判別さ
れた光源の範囲の各光源毎の平均色差の平均値を最小に
するように前記第1マトリクスを決定することが好まし
い。
【0017】本発明において、「光源の範囲」とは、光
源の発光波形に関するクラスを意味し、具体的には、黒
体放射に従う光源なのか、蛍光灯であるのか、また、蛍
光灯であっても、通常(普通)形か、高演色形か、三波
長形かなどの発光波形に関するクラスを指し、「光源の
範囲を入力する」とは、どのような発光波形のクラスの
光源に属するのかを入力することを意味する。
【0018】また、本発明において、「入力分光感度」
とは、入力画像が、デジタルスチルカメラ(DSC)や
スキャナ等の画像入力装置により入力された画像であれ
ば、画像入力装置の分光感度を指す。なお、スキャナの
場合には、読取素子(CCD等)の分光感度(含フィル
タ)によるデータが使われることが多いので、 となるが、しかし、DSCの場合には、色補正マトリク
スを組み合わせることが多いので、 と表すことができる。従って、DSCの場合には、素子
分光感度そのものではなく、素子分光感度と色補正マト
リクスの組み合わせである点を考慮し、「組み合わせ」
を強調する目的で「実効的な入力分光感度」と記載する
が、上述したように、装置分光感度という意味では、
「入力分光感度」と「実効的な入力分光感度」とは、同
じ意味である。
【0019】なお、本発明において、素子分光感度およ
び色補正マトリクスが、共に不明であるDSC、もしく
は、入手できないDSCの場合には、入力分光感度は定
義できないが、民生用DSCは、建前上、BT709規
格に準拠することになっているので、BT709規格で
代用しても良い。この場合には、以下のように表すこと
ができる。 入力分光感度=BT709規格分光感度
【0020】また、本発明において、「撮像素子によら
ない入力画像データ」とは、入力画像が、CG(コンピ
ュータグラフィクス)画像のように、テレビモニタ上で
制作された画像である場合には、下記の定義を使うこと
ができない。 入力分光感度=装置分光感度 この場合には、下記のように、モニタの原色(蛍光体)
に対応する等色関数を入力分光感度とすることができ
る。 入力分光感度=モニタの原色に対応する等色関数 なお、原色が不明の場合には、例えば、家庭用テレビな
らば、下記のように、NTSC規格で、 入力分光感度=NTSC規格分光感度 ハイビジョンならば、下記のように、BT709規格
で、代用することができる。 入力分光感度=BT709規格分光感度
【0021】また、本発明において、「出力画像デー
タ」とは、画像入力装置(DSCやスキャナ)が出力す
る画像データを指す。
【0022】
【発明の実施の形態】以下、本発明の画像撮影方法およ
び装置について、添付の図面に示される好適実施形態を
基に詳細に説明する。
【0023】図1は、本発明に係る画像撮影装置の一実
施形態の概略構成を示すブロック図である。図1に示す
ように、本実施形態の画像撮影装置10は、CCD1
2、第1マトリクス(L−MTX)14、ホワイトバラ
ンス補正回路16、γ回路18、第2マトリクス(C−
MTX)20、モニタ22、光源範囲判別手段24およ
び第1マトリクス(L−MTX)決定手段26を有して
構成されている。なお、画像撮影装置10は、これ以外
にも、通常の撮影を行うのに必要な、画像メモリ、画像
処理部、画像出力部および各回路等を制御するCPUや
シャッタボタン等の各種操作スイッチ等を有しているが
説明は省略する。
【0024】このように、本実施形態においては、CC
D12によって撮影して得られた画像データに対して、
これを最終的に例えば液晶ディスプレイ等のモニタ22
に表示する場合に、画像データの変換をしなければなら
ない。そのため、ホワイトバランス補正を行うホワイト
バランス補正回路16およびγ補正を行うγ回路18を
挟んで、第1マトリクス(以下、L−MTXとする。)
14と第2マトリクス(以下、C−MTXとする。)2
0という2つの色補正マトリクスが設けられている。な
お、γ回路18とC−MTX20との順番はこの順番に
限定されず、L−MTX14とC−MTX20がホワイ
トバランス補正回路16を挟んで配置されていればよ
い。
【0025】光源範囲判別手段24は、画像の撮影を行
っている撮影光源の範囲を判別するものである。また、
第1マトリクス(L−MTX)決定手段26(以下、L
−MTX決定手段26とする)は、C−MTX20の光
源依存性を解消するように、上で判別された光源の範囲
においてL−MTX14を最適化するものである。な
お、光源範囲判別手段24において、撮影光源を一意に
確定することができれば、L−MTX14およびC−M
TX20は、その光源に対応するものを設定すればよ
く、特に最適化を行って決定する必要はない。このと
き、例えばL−MTX14は単位行列にして、C−MT
X20は、予め各光源毎に対応させてメモリに記憶して
おいたものから引っ張ってきて設定するようにしてもよ
い。
【0026】図2に、光源範囲判別手段24の概略構成
を示す。図2に示すように、CCD12には、撮影レン
ズ30、赤外光領域をカットするIRカットフィルタ3
2が設置されている。IRカットフィルタ32は、フィ
ルタ駆動手段34によって、撮影光軸上に出し入れされ
る。また、CCD12には、撮像素子としてのCCD1
2によって取り込まれたアナログ画像データをデジタル
画像データに変換するデータ変換部36が接続されてい
る。データ変換部36によってデジタル画像データに変
換された画像データは、光源範囲判別手段24に入力さ
れる。
【0027】光源範囲判別手段24は、IRカットフィ
ルタ32を介さずに取り込まれた画像データ(IR無画
像データ)を格納するIR無画像メモリ38a、IRカ
ットフィルタ32を介して取り込まれた画像データ(I
R有画像データ)を格納するIR有画像メモリ38b、
IR有画像データとIR無画像データを比較する画像比
較部40および該画像比較の結果から光源の種類を判別
する光源種判別部42を有している。
【0028】撮影レンズ30とCCD12との間に設置
されるIRカットフィルタ32は、例えば歯車機構等に
より構成されるフィルタ駆動手段34により、撮影光軸
に対し出し入れ自在に配置されており、IRカットフィ
ルタ32を介した画像(IR有画像)およびIRカット
フィルタ32を介さない画像(IR無画像)を自由に取
り込むことが可能である。例えば、実際の撮影に先立っ
て、シャッタボタンを半押しした状態で、IRカットフ
ィルタ32を撮影光軸に出し入れして、IRカットフィ
ルタ32を介して取得した画像(IR有画像)と、IR
カットフィルタ32を介さずに取得した画像(IR無画
像)の2種類の画像を取得(プレ撮影)し、それぞれI
R有画像メモリ38bおよびIR無画像メモリ38aに
格納する。画像比較部40は、IR有画像とIR無画像
を比較して、その画像間の差を算出する。光源種判別部
42は、前記画像間の差に基づいて、光源種を判別す
る。
【0029】以下、光源範囲判別手段24による光源範
囲の判別方法について説明する。まず、所定のボタン等
を操作して、IRカットフィルタ32を撮影光軸に出し
入れして、これから撮影しようとしている同一シーンに
対するIR有画像およびIR無画像を取得する。CCD
12によって取得された各画像データはデータ変換部3
6でデジタル画像データに変換されて、IR有画像はI
R有画像メモリ38bに、IR無画像はIR無画像メモ
リ38aにそれぞれ格納される。
【0030】次に、画像比較部40において、上で取得
した各画像間の差異を算出する。IR有画像をR(x,y)
、G(x,y) 、B(x,y) とし、また、IR無画像をR'
(x,y)、G'(x,y)、B'(x,y)とする。そして、両画像間
の差異Δを、次の式(1)により算出する。 Δ=Σ(x,y) {|R(x,y) −R'(x,y)|+|G(x,y) −G'(x,y)|+|B(x,y) −B'(x,y)|}/3Σ(x,y) ・・・・・・(1) ここで、和Σ(x,y) は、全ての画素(x,y)について
とるものとする。すなわち、差異Δは、その画像を構成
する全ての画素についての、R、GおよびBの差の平均
である。
【0031】ところで、タングステン等の黒体輻射に準
ずる光源は、赤外光領域に成分を持っているが、蛍光灯
は、赤外光領域に殆ど成分を持っていない。従って、こ
の違いを利用することにより、黒体輻射に準ずる光源と
蛍光灯とを識別することが可能となる。すなわち、黒体
輻射に準ずる光源の場合には、IRカットフィルタ32
を介して取り込んだIR有画像では、赤外光成分が殆ど
カットされるため、IRカットフィルタ32を介さずに
取り込まれたIR無画像とは、赤外光成分の有無に大き
な差が生じる。これに対し、蛍光灯の場合には、もとも
と赤外光領域に殆ど成分を持たないため、IR有画像と
IR無画像とでそれほど大きな差異は生じない。そこ
で、IR有画像とIR無画像を比較し、画像間で差異Δ
が所定値kaより大きい場合には、黒体輻射に準ずる光
源であるとし、また、差異Δが所定値ka以下の場合に
は、蛍光灯であるとして、光源種を識別することができ
る。
【0032】そこで、次に画像比較部40において、同
一シーンから得られたIR有画像とIR無画像との画像
間の差異Δを所定値kaと比較する。比較の結果、差異
Δが、所定値ka以下の場合には、光源種判別部42に
おいて、光源の種類は蛍光灯であると判定する。また、
差異Δが所定値kaより大きい場合には、光源種判別部
42において、光源の種類は黒体輻射に準ずるものであ
ると判定する。このようにして、光源が黒体輻射に準ず
るものであるか、あるいは蛍光灯であるかという大きな
光源の範囲の識別が可能となる。
【0033】また、図3に光源範囲判別手段の他の例を
示す。図3に示す光源範囲判別手段124は、光源の色
温度を推定することによって光源の範囲を判別するもの
である。実際に光源の範囲を判別する際には、前述した
図2に示す光源範囲判別手段24と、この図3に示す光
源範囲判別手段124のいずれか一方を用いて光源の範
囲を判別してもよいし、両方の手段を組み合わせて光源
の範囲を判別するようにしてもよい。当然のことなが
ら、両方の手段を用いた方が、光源の範囲を絞ることが
できる。
【0034】図3に示す光源範囲判別手段124は、色
温度が既知の物体の分光エネルギー分布、測光系の分光
感度分布および予め定めた3つの関数の1次結合で表し
た分光反射率分布の積の積和または積分値で定められた
基準値を予め記憶した記憶手段46と、色温度を推定す
る撮影光源からの光を測定する測定手段(CCD12)
と、前記基準値と測定値との差が最小となる分光反射率
分布を色温度毎に演算する分光反射率分布演算手段44
と、前記求めた分光反射率の最大値が1.0を越えた異
常成分の和を評価値として演算する評価値演算手段48
と、前記評価値の最小値に対応する色温度を前記色温度
を推定する撮影光源の色温度と推定する色温度推定手段
50とを有している。
【0035】まず、本光源範囲判別手段124による撮
影光源の色温度を推定する方法の原理を説明する。一般
的に、色温度Tの自然昼光が照明された被写体を撮影し
た場合のセンサ出力値は、次の式(2)で表すことがで
きる。 Eij T =∫ PT ( λ) ρi ( λ) Sj ( λ) dλ ・・・(2) ここで、Eij T はセンサ出力値、PT ( λ) は色温度T
の黒体輻射の分光エネルギー分布、ρi ( λ) はi番目
の被写体の分光反射率分布、Sj ( λ) はj番目のセン
サの分光感度分布である。なお、上記式(2)の被写体
の分光感度分布ρi ( λ) は、データを得るための情報
形態によってiが定まる。すなわち、被写体を撮影した
ときの撮影画像を想定すると、その撮影画像を縦横に多
数に分割した各々の画素から情報を得ることができるの
で、i番目の画素に対応する被写体の分光反射率分布ρ
i ( λ) と考えられる。
【0036】また、上記式(2)のセンサの分光感度分
布Sj ( λ) は、一般的には3原色(R、G、B)に対
応させてj=3にすることが好ましい。また、このセン
サの分光感度分布Sj ( λ) は、写真フィルムに適用し
た場合には写真フィルムの分光感度分布に、ビデオ等の
撮像装置に適用した場合には、撮像装置のセンサの分光
感度分布に置換することができる。
【0037】未知の色温度T0 で記録されたセンサ出力
値データ(Eij 0)がある場合、その被写体が撮影された
ときの撮影光源の色温度を求めることを考えると、次の
式(3)に示すように、データEij 0 とセンサ出力値E
ij T の差ΔEを最小にする色温度が解である。
【数1】
【0038】上記式(3)の差ΔEの最小化演算を実行
するためには、未知の分光反射率ρ i ( λ)を定式化す
ることが必要である。この分光反射率ρi ( λ)は、a
i kを加重係数(未知数)、ek ( λ)を固有ベクトル
とすると、次の式(4)で示すように、固有ベクトルの
加重和で表現できることが知られている。
【数2】
【0039】従って、上記式(2)は、式(4)を用い
て、次の式(5)のように表現することができる。
【数3】
【0040】各々の色温度でΔEに最小値を与える加重
係数ai k を用いて、上記式(4)から被写体の分光反
射率を復元した場合に得られる分光反射率が負の値にな
ったり、1.0を大幅に越えたりするような特異な現象
が生じる。これはつまり、差ΔEを最小化しようとする
時に、演算上で辻褄が合うように、分光反射率ρ
i (λ)が異常な値になることが想定される。また、分
光反射率は、0≦ρi ( λ)≦1であり、負の値や1.
0を越えることはない。これから、異常な分光反射率を
用いて撮影光源の色温度を推定することができる。
【0041】すなわち、分光反射率ρi ( λ)が1.0
を越える程「真の色温度」から、ずれていると想定し、
次の式(6)で示す、色温度推定のための評価値Vを導
入する。なお、式(6)で( )内が負のときは、0と
するものとする。
【数4】
【0042】この評価値Vを色温度に対してプロットす
るとV字型の窪みを有する特性が得られ、具体的な値を
与えてモデル演算した結果と一致する。そこで、上記V
字型の窪みである評価値Vの最小値に対応する色温度を
撮影光源の色温度と推定することができる。従って、こ
の原理を用いて図3の光源範囲判別手段124により、
次のようにして撮影光源の色温度を推定することで光源
の範囲を判別することができる。
【0043】色温度が既知の物体の分光エネルギー分
布、撮像系等の測光系の分光感度分布、および予め定め
た3つの関数の1次結合で表した分光反射率分布の積の
積和または積分値で定められた基準値を、予め求めて記
憶手段46に記憶しておく。ここで、色温度が既知の物
体の分光エネルギー分布としては、黒体輻射の分光エネ
ルギー分布、蛍光ランプの分光エネルギー分布および白
熱ランプ等がある。一方、撮影光源からの光をCCD1
2により測定し、分光反射率分布演算手段44におい
て、前記基準値と測定値との差が最小になる分光反射率
分布を色温度毎に求める。
【0044】次に、評価値演算手段48において、上で
求めた分光反射率の最大値が1.0を越えた他異常成分
の和を評価値Vとして式(6)によって求める。そし
て、最後に、色温度推定手段50において、前記評価値
Vの最小値に対応する色温度を撮影光源の色温度として
推定する。
【0045】以上説明したように、図2の光源範囲判別
手段24では、撮影光源が黒体輻射に準ずる光源か、蛍
光灯かという大まかな光源の範囲を判別することがで
き、また、図3の光源範囲判別手段124では、撮影光
源の色温度を推定することにより、撮影光源の範囲を判
別することができる。これら2つの光源範囲判別手段2
4および124は、いずれか一方のみを用いて光源範囲
の判別を行ってもよいし、両方を組み合わせて用いるよ
うにしてもよい。両方を組み合わせることにより、光源
の範囲をよりせまく絞り込むことができる。
【0046】次にL−MTXの決定方法について説明す
る。図4に、L−MTX決定手段26の概略構成を示
す。L−MTX決定手段26は、光源範囲判別手段24
(124)によって判別された光源の範囲において、C
−MTX20の光源依存性を解消するように、L−MT
X14を最適化するものである。図4に示すように、L
−MTX決定手段26は、光源毎の平均色差算出手段5
2、平均色差の最大値算出手段54、最大値比較手段5
6およびL−MTX設定手段58を有して構成される。
【0047】光源毎の平均色差算出手段52は、光源範
囲判別手段24で判別された光源の範囲、および予め記
憶されている例えばNCSチャート等のデータ、および
L−MTX設定手段58によって設定されたL−MTX
14の係数{Lij(i,j=1〜3)}を用いて、上記
光源範囲における各光源でNCSチャートを撮影した場
合に得られるであろう平均色差を各光源毎に算出する。
【0048】平均色差の最大値算出手段54は、上で算
出した、例えばNCSチャートによる各光源毎の平均色
差の中から最大のものを算出する。最大値比較手段56
は、上で算出された各光源毎の平均色差の最大値を最小
化するものであり、今算出された最大値を、それ以前の
最大値のうち最小のものと比較する。比較の結果、もし
今回の最大値の方が小さければ、これを新たに最大値中
の最小値として、再度、L−MTX設定手段58により
L−MTXを設定し直して、光源毎の平均色差の算出お
よび平均色差の最大値の算出を行い、上と同様の操作を
繰り返す。このようにして、平均色差の最大値を最小と
するようにL−MTXを最適化する。このようにしてL
−MTX14が決定される。
【0049】また、図5に、L−MTX決定手段の他の
例を示す。図5に示すL−MTX決定手段60は、光源
毎の平均色差の平均値を最小化するようにしてL−MT
Xを最適化するものである。L−MTX決定手段60
は、光源毎の平均色差算出手段62、平均色差の平均値
算出手段64、平均値比較手段66およびL−MTX設
定手段68を含んで構成される。
【0050】図5のL−MTX決定手段60は、光源毎
の平均色差の最大値の代わりに光源毎の平均色差の平均
値を使うことを除けば、前述した図4のL−MTX決定
手段26と同様である。すなわち、光源範囲判別手段2
4によって判別された光源の範囲および予め記憶されて
いるNCSチャートのデータおよびL−MTX決定手段
68で設定されたL−MTXを用いて、光源毎の平均色
差算出手段62で、各光源毎の平均色差を算出する。そ
して、平均色差の平均値算出手段64で、光源毎の平均
色差の平均値を算出し、平均値比較手段66で、この平
均値を以前に算出された平均値と比較し、L−MTX設
定手段68でL−MTXを再度設定し、上記操作を繰り
返し、平均値を最小にするようにしてL−MTXを最適
化する。
【0051】このように、L−MTX14を最小化して
決定するに当たり、光源毎の平均色差の最大値を最小に
するようにしてもよいし、光源毎の平均色差の平均値を
最小にするようにしてもよい。以下、この点について説
明する。まず、C−MTX20を固定化することに起因
する色再現誤差について説明する。
【0052】基準光源P0(λ) 下で得られる三刺激値X
YZを、撮影光源P(λ)下で得られる撮像系露光量の
線型結合により、次の式(7)のように近似する。
【数5】
【0053】ここで、式(7)において、記号(u,
v)は、内積(u,v)=∫u(λ)v(λ)dλを表
し、記号uv(λ)は、分光積uv(λ)=u(λ)v
(λ)を表すものとする。また、x、y、zのバー
( ̄)は等色関数を表し、係数CijはC−MTX20の
係数であり、h(λ)は、被写体分光反射率である。ま
た、r(λ)、g(λ)、b(λ)は、CCD分光感度
R(λ)、G(λ)、B(λ)およびL−MTX14の
係数Lijを用いて、次の式(8)〜(10)により規定
される撮像系分光感度である。 r(λ)=L11・R(λ)+L12・G(λ)+L13・B(λ) ・・・(8) g(λ)=L21・R(λ)+L22・G(λ)+L23・B(λ) ・・・(9) b(λ)=L31・R(λ)+L32・G(λ)+L33・B(λ) ・・・(10)
【0054】上記式(7)の近似式がよく成り立つよう
に、係数Cijを決定することで、C−MTX20が決定
される。実際の機器では、基準光源(D55)に対して
上記式(7)により最適化されたC−MTX20がすべ
ての光源に対して固定的に用いられており、C−MTX
20の固定化が光源依存性の一因となっている。そこ
で、L−MTXをうまく選ぶことによって、この光源依
存性を解消しようとするものである。
【0055】被写体分光反射率h(λ)に対して、基準
光源P0(λ) 下の露光量から計算される三刺激値をX、
Y、Zとし、撮影光源P(λ)下の露光量から計算され
る三刺激値をX’、Y’、Z’とすると、色変換係数の
固定化に起因するΔa* は、次の式(11)で評価でき
る。
【数6】
【0056】また、同様に、色変換係数の固定化に起因
するΔb* は、次の式(12)で評価できる。
【数7】
【0057】従って、適当な定数を用いれば、色再現誤
差は、次の式(13)で評価することができる。
【数8】
【0058】ところで、通常デジタルカメラの場合に
は、AE(オートエクスポージャ)機構があり、明るさ
を調整しているため、L* は実質的にキャンセルされて
いるため、ΔEについては、Δa* とΔb* のみを考え
ればよく、ΔEは次の式(14)で与えられる。 ΔE={(Δa* 2 + (Δb* 2 1/2 ・・・(14) これにより、式(13)の右辺を最小化すれば、色差Δ
Eを最小化することができる。
【0059】なお、式(13)からわかるように、この
式には被写体h(λ)が入っておらず、NCSチャート
のような特定のチャート等のデータを用いる必要はな
く、光源の範囲のデータがあれば、式(13)の右辺を
最小とするように最適化することで、L−MTXを決定
することができる。
【0060】実際には、式(13)の右辺について、複
数の光源Pm 中の最大値maxm をとって、次式(1
5)を最小化するようにして、前記L−MTXを決定す
るようにすればよい。
【数9】
【0061】あるいは、式(13)の右辺の平均値を最
小化するようにしてもよい。右辺の平均値を最小化する
ことと、各光源Pm についての和を最小化することとは
同値であるので、次の式(16)で表される和Σm を最
小化するようにして、前記L−MTXを決定するように
してもよい。
【数10】
【0062】このように、光源範囲判別手段24および
L−MTX決定手段26を画像撮影装置10に搭載した
ことで、撮影時に撮影光源の範囲を判別し、即座にこれ
に対応した最適なL−MTXを決定することができるた
め、C−MTX20を基準光源に対応したものとして固
定していても、撮影光源に依存することなく、品質のよ
い画像をモニタ22に表示することができる。
【0063】実際に画像撮影装置10で撮影を行う場合
には、撮影前(撮影時)に、撮影シーンに対して画像撮
影装置10を向けて、撮影光源の範囲を判別し、判別し
た撮影光源の範囲においてL−MTX14を最適化して
決定する。そして画像を撮影すると最適化して設定され
たL−MTX14およびC−MTX20等により色変換
(色補正)が行われ、高品質の画像がモニタ22に表示
される。
【0064】ところで、L−MTX14は、上述したよ
うに、その都度最適化により算出して決定せずに、各所
定範囲の光源に対して、予め最適化されたL−MTX1
4を算出して、それを持たせておき、判別された光源の
範囲に応じて切り換えるようにしてもよい。
【0065】以上説明したように、本実施形態によれ
ば、色補正マトリクスを2つ備えていることの特徴を活
かしてマトリクス(L−MTX)を決定し、画像撮影装
置の光源依存性を解消し、固定されたC−MTXにおい
ても、撮影光源を気にすることなく撮影を行い、ホワイ
トバランスや色補正が適正に行われた高品質な表示画像
を得ることが可能となった。
【0066】なお、上記実施形態では、撮像素子として
CCDを用い、CCDで被写体を撮像して画像を入力し
たが、撮像素子は、CCDに限定されるものではなく、
CCD以外にも、CMOSやフォトマルチプライヤ(光
電子増倍管)等も好適に利用することができる。さら
に、本発明は、このように撮像素子によって被写体を撮
像して得られた画像データの他、印刷原稿をスキャナに
よって収録して得られた画像データに対しても適用可能
である。また、この場合には、前記式(15)あるいは
前記式(16)におけるr、g、bは、実効的な入力分
光感度を表すものとする。
【0067】以上、本発明の画像撮影方法および装置に
ついて、詳細に説明したが、本発明は、以上の実施形態
に限定されるものではなく、本発明の要旨を逸脱しない
範囲において、各種の改良や変更を行ってもよいのはも
ちろんである。
【0068】
【発明の効果】以上説明した通り本発明によれば、画像
撮影装置の光源依存性を解消し、ホワイトバランスや色
補正が適正に行われた、高品質な画像を得ることが可能
となった。
【図面の簡単な説明】
【図1】 本発明に係る画像撮影装置の一実施形態の概
略構成を示すブロック図である。
【図2】 本実施形態における光源範囲判別手段の概略
構成を示すブロック図である。
【図3】 本実施形態における光源範囲判別手段の他の
例の概略構成を示すブロック図である。
【図4】 本実施形態におけるL−MTX決定手段の概
略構成を示すブロック図である。
【図5】 本実施形態におけるL−MTX決定手段の他
の例の概略構成を示すブロック図である。
【図6】 従来の画像撮影装置における色処理系の概略
を示すブロック図である。
【符号の説明】
10 画像撮影装置 12 CCD 14 第1マトリクス(L−MTX) 16 ホワイトバランス回路 18 γ回路 20 第2マトリクス(C−MTX) 22 モニタ 24 光源範囲判別手段 26、60 L−MTX決定手段 30 撮像レンズ 32 IRカットフィルタ 34 フィルタ駆動手段 36 データ変換部 38a IR無画像メモリ 38b IR有画像メモリ 40 画像比較部 42 光源種判別部 44 分光反射率分布演算手段 46 記憶手段 48 評価値演算手段 50 色温度推定手段 52、62 光源毎の平均色差算出手段 54 平均色差の最大値算出手段 56 最大値比較手段 58、68 L−MTX設定手段 64 平均色差の平均値算出手段 66 平均値比較手段

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】入力画像データを、ホワイトバランス補正
    回路を挟んで第1マトリクスおよび第2マトリクスの少
    なくとも2つの色補正マトリクスを有する色処理系によ
    り、出力画像データに変換する画像撮影方法であって、 撮影光源の範囲を判別し、 この判別された光源の範囲に基づいて前記第1マトリク
    スを決定することを特徴とする画像撮影方法。
  2. 【請求項2】前記撮影光源の範囲の判別は、同一被写体
    から赤外光領域のカットの程度の異なる少なくとも2画
    像の画像データを取り込み、前記取り込まれた画像デー
    タに基づいて前記画像間で比較を行い、該比較の結果前
    記画像間の差異が所定値より小さい場合には蛍光灯であ
    るとし、前記画像間の差異が前記所定値より大きい場合
    には黒体輻射に準ずる光源であると判別することにより
    撮影光源の範囲を判別する方法、 または、色温度が既知の物体の分光エネルギー分布、測
    光系の分光感度分布、および予め定めた3つの関数の1
    次結合で表した分光反射率分布の積の積和または積分値
    で定められた基準値を求め、撮影光源からの光を測定
    し、前記基準値と測定値との差が最小となる分光反射率
    分布を色温度毎に求め、前記求めた分光反射率の最大値
    が1.0を越えた異常成分の和を評価値として求め、前
    記評価値の最小値に対応する色温度を前記撮影光源の色
    温度と推定することにより撮影光源の範囲を判別する方
    法、 の2つの方法のうち、少なくとも1つの方法を用いて行
    うようにした請求項1に記載の画像撮影方法。
  3. 【請求項3】前記第1マトリクスを、前記判別された光
    源の範囲の各光源毎の平均色差の最大値が最小となるよ
    うに決定するようにした請求項1または2に記載の画像
    撮影方法。
  4. 【請求項4】前記第1マトリクスを、前記判別された光
    源の範囲の各光源毎の平均色差の平均値が最小となるよ
    うに決定するようにした請求項1または2に記載の画像
    撮影方法。
  5. 【請求項5】前記第1マトリクスを{Lij(i,j=1
    〜3)}とし、前記判別された光源の範囲のうち基準光
    源をP0 、その他の光源をPm (mは光源の種類を表
    す)とし、r(λ)、g(λ)、b(λ)をそれぞれ、
    前記入力画像データの入力分光感度R(λ)、G
    (λ)、B(λ)および前記第1マトリクス{Lij}と
    から、次式 r(λ)=L11・R(λ)+L12・G(λ)+L13・B(λ) g(λ)=L21・R(λ)+L22・G(λ)+L23・B(λ) b(λ)=L31・R(λ)+L32・G(λ)+L33・B(λ) で規定される実効的な入力分光感度とするとき、次式 maxm {|log (Pm ,r)/( P0,r)−log (Pm ,g)/( P0,g)| +|log (Pm ,g)/( P0,g)−log (Pm ,b)/( P0,b)|} を最小化するようにして、前記第1マトリクスを決定す
    るようにした請求項1または2に記載の画像撮影方法。
  6. 【請求項6】前記第1マトリクスを{Lij(i,j=1
    〜3)}とし、前記判別された光源の範囲のうち基準光
    源をP0 、その他の光源をPm (mは光源の種類を表
    す)とし、r(λ)、g(λ)、b(λ)をそれぞれ、
    前記入力画像データの入力分光感度R(λ)、G
    (λ)、B(λ)および前記第1マトリクス{Lij}と
    から、次式 r(λ)=L11・R(λ)+L12・G(λ)+L13・B(λ) g(λ)=L21・R(λ)+L22・G(λ)+L23・B(λ) b(λ)=L31・R(λ)+L32・G(λ)+L33・B(λ) で規定される実効的な入力分光感度とするとき、次式 Σm {|log (Pm ,r)/( P0,r)−log (Pm ,g)/( P0,g)| +|log (Pm ,g)/( P0,g)−log (Pm ,b)/( P0,b)|} を最小化するようにして、前記第1マトリクスを決定す
    るようにした請求項1または2に記載の画像撮影方法。
  7. 【請求項7】入力画像データを出力画像データに変換す
    る、ホワイトバランス補正回路を挟んで第1マトリクス
    および第2マトリクスの、少なくとも2つの色補正マト
    リクスを有する色処理系を備えた画像撮影装置であっ
    て、 撮影光源の範囲を判別する手段と、 該判別された光源の範囲に基づいて、前記第1マトリク
    スを決定する手段と、 を備えたことを特徴とする画像撮影装置。
  8. 【請求項8】前記撮影光源の範囲を判別する手段とし
    て、同一被写体から、赤外光領域のカットの程度の異な
    る少なくとも2画像の画像データを取り込む手段と、前
    記取り込まれた画像データに基づいて前記画像を比較す
    る手段と、該比較の結果により前記撮影光源の種類を判
    別する手段と、を含んで構成される撮影光源範囲判別手
    段、 または、色温度が既知の物体の分光エネルギー分布、測
    光系の分光感度分布、および予め定めた3つの関数の1
    次結合で表した分光反射率分布の積の積和または積分値
    で定められた基準値を予め記憶した記憶手段と、撮影光
    源からの光を測定する測定手段と、前記基準値と測定値
    との差が最小となる分光反射率分布を色温度毎に演算す
    る分光反射率分布演算手段と、前記求めた分光反射率の
    最大値が1.0を越えた異常成分の和を評価値として演
    算する評価値演算手段と、前記評価値の最小値に対応す
    る色温度を前記撮影光源の色温度と推定する手段と、を
    含んで構成される撮影光源範囲判別手段、 の2つの撮影光源範囲判別手段のうち、少なくとも1つ
    を有する請求項7に記載の画像撮影装置。
  9. 【請求項9】前記判別された光源の範囲に基づいて、前
    記第1マトリクスを決定する手段は、前記判別された光
    源の範囲の各光源毎の平均色差の最大値を最小にするよ
    うに前記第1マトリクスを決定する請求項7または8に
    記載の画像撮影装置。
  10. 【請求項10】前記判別された光源の範囲に基づいて、
    前記第1マトリクスを決定する手段は、前記判別された
    光源の範囲の各光源毎の平均色差の平均値を最小にする
    ように前記第1マトリクスを決定する請求項7または8
    に記載の画像撮影装置。
JP2001379630A 2001-08-22 2001-12-13 画像撮影方法および装置 Expired - Lifetime JP3863773B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2001379630A JP3863773B2 (ja) 2001-08-22 2001-12-13 画像撮影方法および装置
US10/225,537 US7265781B2 (en) 2001-08-22 2002-08-22 Method and apparatus for determining a color correction matrix by minimizing a color difference maximum or average value

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2001-251355 2001-08-22
JP2001251355 2001-08-22
JP2001379630A JP3863773B2 (ja) 2001-08-22 2001-12-13 画像撮影方法および装置

Publications (3)

Publication Number Publication Date
JP2003143623A true JP2003143623A (ja) 2003-05-16
JP2003143623A5 JP2003143623A5 (ja) 2005-04-07
JP3863773B2 JP3863773B2 (ja) 2006-12-27

Family

ID=26620782

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001379630A Expired - Lifetime JP3863773B2 (ja) 2001-08-22 2001-12-13 画像撮影方法および装置

Country Status (1)

Country Link
JP (1) JP3863773B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007067816A (ja) * 2005-08-31 2007-03-15 Olympus Imaging Corp 色調整方法及び色調整装置
JP2007195087A (ja) * 2006-01-23 2007-08-02 Sony Corp 撮像装置および画像処理方法
JP2009535927A (ja) * 2006-04-27 2009-10-01 クゥアルコム・インコーポレイテッド カラー補正における重み調整
US8055063B2 (en) 2003-09-30 2011-11-08 Sharp Laboratories Of America, Inc. Methods and systems for improving robustness of color balance correction
US8395678B2 (en) 2008-12-16 2013-03-12 Samsung Electronics Co., Ltd. Apparatus and method of reproducing color
JP2018142947A (ja) * 2017-02-28 2018-09-13 日本放送協会 信号処理回路及びプログラム
JPWO2018116972A1 (ja) * 2016-12-22 2019-10-24 日本電気株式会社 画像処理方法、画像処理装置および記録媒体

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8055063B2 (en) 2003-09-30 2011-11-08 Sharp Laboratories Of America, Inc. Methods and systems for improving robustness of color balance correction
JP2007067816A (ja) * 2005-08-31 2007-03-15 Olympus Imaging Corp 色調整方法及び色調整装置
JP4713983B2 (ja) * 2005-08-31 2011-06-29 オリンパスイメージング株式会社 色調整方法及び色調整装置
JP2007195087A (ja) * 2006-01-23 2007-08-02 Sony Corp 撮像装置および画像処理方法
JP4670654B2 (ja) * 2006-01-23 2011-04-13 ソニー株式会社 撮像装置および画像処理方法
JP2009535927A (ja) * 2006-04-27 2009-10-01 クゥアルコム・インコーポレイテッド カラー補正における重み調整
US8395678B2 (en) 2008-12-16 2013-03-12 Samsung Electronics Co., Ltd. Apparatus and method of reproducing color
JPWO2018116972A1 (ja) * 2016-12-22 2019-10-24 日本電気株式会社 画像処理方法、画像処理装置および記録媒体
JP7143767B2 (ja) 2016-12-22 2022-09-29 日本電気株式会社 画像処理方法、画像処理装置および画像処理プログラム
JP2018142947A (ja) * 2017-02-28 2018-09-13 日本放送協会 信号処理回路及びプログラム

Also Published As

Publication number Publication date
JP3863773B2 (ja) 2006-12-27

Similar Documents

Publication Publication Date Title
US7265781B2 (en) Method and apparatus for determining a color correction matrix by minimizing a color difference maximum or average value
US7084907B2 (en) Image-capturing device
EP0757473B1 (en) Image processing apparatus and method
US8803994B2 (en) Adaptive spatial sampling using an imaging assembly having a tunable spectral response
US8520097B2 (en) Image processing device, electronic camera, and image processing program
US8629919B2 (en) Image capture with identification of illuminant
US9426437B2 (en) Image processor performing noise reduction processing, imaging apparatus equipped with the same, and image processing method for performing noise reduction processing
KR101388130B1 (ko) 화상처리장치 및 화상처리방법
KR101352440B1 (ko) 화상처리장치, 화상처리방법, 및 기록매체
US20070252903A1 (en) Digital camera, storage medium for image signal processing, carrier wave and electronic camera
US20060227227A1 (en) Image pickup system and image processing program
EP1351524A2 (en) Method for automatic white balance of digital images
WO2004019608A1 (ja) 撮像システムおよび画像処理プログラム
US20040201727A1 (en) Printer system and image processing system having image correcting function
US20010030707A1 (en) Digital camera
JP4544308B2 (ja) 画像処理装置、撮像装置、方法およびプログラム
JP4049257B2 (ja) 固体撮像装置及びデジタルカメラ
JP3863773B2 (ja) 画像撮影方法および装置
EP1014695A2 (en) Correction of colour balance in images
JP2005033609A (ja) 固体撮像装置及びデジタルカメラ
JP2002290988A (ja) 撮像装置
JP4649734B2 (ja) 映像信号処理装置および映像信号処理プログラムを記録した記録媒体
JP3976562B2 (ja) 色補正マトリクス決定方法および装置
JP2007267170A (ja) 彩度調整機能を有する電子カメラ、および画像処理プログラム
Allen et al. Digital cameras and scanners

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040317

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040513

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060623

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060627

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060929

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091006

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091006

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101006

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111006

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121006

Year of fee payment: 6