JP2004222228A - フリッカ低減方法、撮像装置およびフリッカ低減回路 - Google Patents
フリッカ低減方法、撮像装置およびフリッカ低減回路 Download PDFInfo
- Publication number
- JP2004222228A JP2004222228A JP2003173642A JP2003173642A JP2004222228A JP 2004222228 A JP2004222228 A JP 2004222228A JP 2003173642 A JP2003173642 A JP 2003173642A JP 2003173642 A JP2003173642 A JP 2003173642A JP 2004222228 A JP2004222228 A JP 2004222228A
- Authority
- JP
- Japan
- Prior art keywords
- flicker
- image signal
- input image
- signal
- flicker component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000009467 reduction Effects 0.000 title claims description 152
- 238000000034 method Methods 0.000 title claims description 86
- 238000012545 processing Methods 0.000 claims abstract description 76
- 238000003384 imaging method Methods 0.000 claims abstract description 46
- 238000001228 spectrum Methods 0.000 claims abstract description 45
- 238000005286 illumination Methods 0.000 claims description 57
- 238000010606 normalization Methods 0.000 claims description 25
- 239000003086 colorant Substances 0.000 claims description 4
- 238000000605 extraction Methods 0.000 claims description 3
- 230000001131 transforming effect Effects 0.000 claims 1
- 238000001514 detection method Methods 0.000 description 46
- 230000008859 change Effects 0.000 description 40
- 238000004364 calculation method Methods 0.000 description 36
- 238000003775 Density Functional Theory Methods 0.000 description 32
- 238000010586 diagram Methods 0.000 description 31
- 230000002829 reductive effect Effects 0.000 description 28
- 230000014509 gene expression Effects 0.000 description 23
- 238000012937 correction Methods 0.000 description 17
- 230000010354 integration Effects 0.000 description 17
- 230000000295 complement effect Effects 0.000 description 13
- 230000007704 transition Effects 0.000 description 12
- 230000000694 effects Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000004091 panning Methods 0.000 description 5
- 238000005070 sampling Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 3
- 238000000926 separation method Methods 0.000 description 3
- 238000003786 synthesis reaction Methods 0.000 description 3
- 230000002238 attenuated effect Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000007562 laser obscuration time method Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000000750 progressive effect Effects 0.000 description 2
- 230000004043 responsiveness Effects 0.000 description 2
- 108010076504 Protein Sorting Signals Proteins 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000003313 weakening effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/745—Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
- Color Television Image Signal Generators (AREA)
- Image Processing (AREA)
Abstract
【解決手段】信号In’(x,y)は、フリッカ成分を含むRGB原色信号または輝度信号である。信号In’(x,y)を1水平周期以上の時間に渡って積分し、隣接するフィールドにおける積分値の差分値を連続する3フィールドにおける積分値の平均値で正規化する。その正規化後の差分値gn(y)を離散フーリエ変換してスペクトルを抽出し、その抽出したスペクトルからフリッカ係数Γn(y)を推定し、In’(x,y)/[1+Γn(y)]の演算を行う。
【選択図】 図4
Description
【発明の属する技術分野】
この発明は、蛍光灯の照明下でCMOS(相補型金属酸化物半導体)撮像素子などのXYアドレス走査型の撮像素子(イメージャ、イメージセンサ)によって被写体を撮影した場合に撮像素子から得られる映像信号に生じる蛍光灯フリッカを低減する方法、CMOS撮像素子などのXYアドレス走査型の撮像素子を用いたビデオカメラやデジタルスチルカメラなどの撮像装置、および、その撮像装置に用いるフリッカ低減回路に関する。
【0002】
【従来の技術】
商用交流電源によって直接点灯される蛍光灯の照明下で、ビデオカメラによって被写体を撮影すると、蛍光灯の輝度変化(光量変化)の周波数(商用交流電源周波数の2倍)とカメラの垂直同期周波数との違いによって、撮影出力の映像信号に時間的な明暗の変化、いわゆる蛍光灯フリッカを生じる。
【0003】
例えば、商用交流電源周波数が50Hzの地域において、非インバータ方式の蛍光灯の照明下で、NTSC方式(垂直同期周波数は60Hz)のCCDカメラによって被写体を撮影する場合、図28に示すように、1フィールド周期が1/60秒であるのに対して、蛍光灯の輝度変化の周期が1/100秒となるので、蛍光灯の輝度変化に対して各フィールドの露光タイミングがずれ、各画素の露光量がフィールドごとに変化する。
【0004】
そのため、例えば、露光時間が1/60秒であるときには、期間a1,a2,a3では、同じ露光時間でも露光量が異なり、露光時間が1/60秒より短いとき(ただし、後述のように1/100秒ではないとき)には、期間b1,b2,b3では、同じ露光時間でも露光量が異なる。
【0005】
蛍光灯の輝度変化に対する露光タイミングは、3フィールドごとに元のタイミングに戻るため、フリッカによる明暗変化は、3フィールドごとの繰り返しとなる。すなわち、各フィールドの輝度比(フリッカの見え方)は、露光期間によって変わるが、フリッカの周期は変わらない。
【0006】
ただし、デジタルカメラなど、プログレッシブ方式のカメラで、垂直同期周波数が30Hzの場合には、3フレームごとに明暗変化が繰り返される。
【0007】
さらに、蛍光灯は、白色光を発光するために、通常、複数の蛍光体、例えば、赤、緑、青の蛍光体が用いられている。しかし、これら蛍光体は、それぞれが固有の残光特性を有し、輝度変化の周期中に存在する放電停止から次の放電開始までの期間は、それぞれの残光特性で減衰発光する。そのため、この期間では、始めは白色であった光が、次第に色相を変えながら減衰することになるので、上記のように露光タイミングがずれると、明暗変化だけでなく、色相変化を生じる。また、蛍光灯は、特定の波長に強いピークが存在するという特有の分光特性を持っているため、色によって信号の変動成分が異なる。
【0008】
そして、このような色相変化、および色ごとの変動成分の差によって、いわゆる色フリッカが発生する。
【0009】
これに対して、図28の最下段に示すように、露光時間を蛍光灯の輝度変化の周期(1/100秒)の整数倍に設定すれば、露光タイミングにかかわらず露光量が一定となって、フリッカを生じない。
【0010】
実際、ユーザの操作によって、またはカメラでの信号処理により蛍光灯照明下であることを検出することによって、蛍光灯照明下である場合には露光時間を1/100秒の整数倍に設定する方式が考えられている。この方式によれば、単純な方法で、フリッカの発生を完全に防止することができる。
【0011】
しかし、この方式では、任意の露光時間に設定することができないため、適切な露出を得るための露光量調整手段の自由度が減ってしまう。
【0012】
そのため、任意のシャッタ速度(露光時間)のもとで蛍光灯フリッカを低減することができる方法が要求される。
【0013】
これについては、CCD撮像装置のように1画面内の全ての画素が同一の露光タイミングで露光される撮像装置の場合には、フリッカによる明暗変化および色変化がフィールド間でのみ現れるため、比較的容易に実現することができる。
【0014】
例えば、図28の場合、露光時間が1/100秒の整数倍でなければ、フリッカは3フィールドの繰り返し周期となるので、各フィールドの映像信号の平均値が一定となるように3フィールド前の映像信号から現在の輝度および色の変化を予測し、その予測結果に応じて各フィールドの映像信号のゲインを調整することによって、フリッカを実用上問題のないレベルまで抑圧することができる。
【0015】
しかしながら、CMOS撮像素子などのXYアドレス走査型の撮像素子では、画素ごとの露光タイミングが画面水平方向において読み出しクロック(画素クロック)の1周期分ずつ順次ずれ、全ての画素で露光タイミングが異なるため、上記の方法ではフリッカを十分抑圧することはできない。
【0016】
図29に、その様子を示す。上記のように画面水平方向でも各画素の露光タイミングが順次ずれるが、蛍光灯の輝度変化の周期に比べて1水平周期は十分短いので、同一ライン上の画素は露光タイミングが同時であると仮定し、画面垂直方向における各ラインの露光タイミングを示す。実際上、このように仮定しても問題はない。
【0017】
図29に示すように、XYアドレス走査型の撮像素子、例えばCMOS撮像素子では、ラインごとに露光タイミングが異なり(F1は、あるフィールドでの、その様子を示す)、各ラインで露光量に差を生じるため、フリッカによる明暗変化および色変化が、フィールド間だけでなくフィールド内でも生じ、画面上では縞模様(縞自体の方向は水平方向、縞の変化の方向は垂直方向)として現れる。
【0018】
図30に、被写体が均一なパターンの場合の、この画面内フリッカの様子を示す。縞模様の1周期(1波長)が1/100秒であるので、1画面中には1.666周期分の縞模様が発生することになり、1フィールド当たりの読み出しライン数をMとすると、縞模様の1周期は読み出しライン数ではL=M*60/100に相当する。なお、明細書および図面では、アスタリスク(*)を乗算の記号として用いる。
【0019】
図31に示すように、この縞模様は、3フィールド(3画面)で5周期(5波長)分となり、連続的に見ると垂直方向に流れるように見える。
【0020】
図30および図31には、フリッカによる明暗変化のみを示すが、実際には上述した色変化も加わり、画質が著しく劣化する。特に色フリッカは、シャッタ速度が速くなると顕著になるとともに、XYアドレス走査型の撮像素子では、その影響が画面内に現れるため、画質劣化がより目立つようになる。
【0021】
このようなXYアドレス走査型の撮像素子の場合にも、露光時間を蛍光灯の輝度変化の周期(1/100秒)の整数倍に設定することができれば、露光タイミングにかかわらず露光量が一定となって、画面内フリッカを含む蛍光灯フリッカを生じない。
【0022】
しかしながら、CMOS撮像素子などで、電子シャッタ速度を可変にすると、撮像装置が複雑になる。しかも、電子シャッタを自由に切れる撮像装置であっても、フリッカ防止のために露光時間を1/100秒の整数倍にしか設定できないとすると、適切な露出を得るための露光量調整手段の自由度が減ってしまう。
【0023】
そこで、CMOS撮像素子などのXYアドレス走査型の撮像素子に固有の蛍光灯フリッカを低減する方法が提案されている。
【0024】
特許文献1(特開2000−350102公報)または特許文献2(特開2000−23040公報)には、受光素子や測光素子により蛍光灯の光量を測定することによってフリッカ成分を推定し、その推定結果に応じて撮像素子からの映像信号の利得を制御する方法が示されている。
【0025】
特許文献3(特開2001−16508公報)には、現在の外光条件に適した第1の電子シャッタ値と蛍光灯の明滅周期に対して所定の関係を有する第2の電子シャッタ値との2条件で2種の画像を撮影し、両者の信号を比較することによってフリッカ成分を推定し、その推定結果に応じて撮像素子からの映像信号の利得を制御する方法が示されている。
【0026】
特許文献4(特開平11−164192号公報)には、あらかじめ蛍光灯照明下での明暗変化の様子を補正係数としてメモリ内に記録しておく一方で、映像信号成分とフリッカ成分の周波数の違いを利用して撮像素子からの映像信号からフリッカ成分の位相を検出し、その検出結果に応じてメモリ内の補正係数によって映像信号を補正する方法が示されている。
【0027】
特許文献5(特開2000−165752公報)には、フリッカの位相がちょうど180度反転するような時間差をもって露光された2つの映像信号から補正係数を算出し、その算出した補正係数によって映像信号を補正する方法が示されている。
【0028】
【特許文献1】
特開2000−350102公報。
【特許文献2】
特開2000−23040公報。
【特許文献3】
特開2001−16508公報。
【特許文献4】
特開平11−164192号公報。
【特許文献5】
特開2000−165752公報。
【0029】
【発明が解決しようとする課題】
しかしながら、特許文献1,2に記載のように、受光素子や測光素子により蛍光灯の光量を測定することによってフリッカ成分を推定する方法は、撮像装置に受光素子や測光素子を付加するので、撮像装置システムのサイズやコストが増大する。
【0030】
また、特許文献3に記載のように、異なるシャッタ条件(露出条件)で2種の画像を撮影してフリッカ成分を推定する方法も、撮像装置のシステムが複雑化する欠点があり、しかも、この方法は、動画の撮影には適さない欠点がある。
【0031】
また、特許文献4に記載のように、メモリ内に用意した係数を補正信号として用いる方法は、全ての種類の蛍光灯につき、補正係数を用意しておくことは不可能であるため、蛍光灯の種類によっては、フリッカ成分を正確に検出し、確実に低減することができない欠点がある。しかも、特許文献4に記載のように、映像信号成分とフリッカ成分の周波数の違いを利用して映像信号からフリッカ成分を抽出する方法では、フリッカ成分が微小な黒の背景部分や低照度の部分などでは、映像信号成分と区別してフリッカ成分を検出することが難しいとともに、画面中に動きのある物体が存在する場合には、フリッカ成分の検出性能が著しく低下する。
【0032】
また、特許文献5に記載のように、異なるタイミング条件で2種の画像を撮影してフリッカ成分を推定する方法は、特許文献3に記載の方法と同様に、撮像装置のシステムが複雑化するとともに、動画の撮影には適さない欠点がある。
【0033】
そこで、この発明は、受光素子などを用いることなく、簡単な信号処理のみによって、CMOS撮像素子などのXYアドレス走査型の撮像素子に固有の蛍光灯フリッカを、被写体や映像信号レベルおよび蛍光灯の種類などにかかわらず、高精度で検出し、確実かつ十分に低減することができるようにしたものである。
【0034】
【課題を解決するための手段】
第1の発明のフリッカ低減方法は、
蛍光灯照明下でXYアドレス走査型の撮像素子により被写体を撮影することによって得られる映像信号または輝度信号に含まれる蛍光灯フリッカ成分を低減する方法であって、
前記映像信号または前記輝度信号を入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する工程と、
その積分値、または隣接するフィールドまたはフレームにおける積分値の差分値を、正規化する工程と、
その正規化後の積分値または差分値のスペクトルを抽出する工程と、
その抽出したスペクトルからフリッカ成分を推定する工程と、
その推定したフリッカ成分を打ち消すように、推定したフリッカ成分と前記入力画像信号を演算する工程と、
を備えるものである。
【0035】
第2の発明のフリッカ低減方法は、
蛍光灯照明下でXYアドレス走査型の撮像素子により被写体を撮影することによって得られる各色の色信号に含まれる蛍光灯フリッカ成分を低減する方法であって、
前記各色の色信号を、それぞれ入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する工程と、
その積分値、または隣接するフィールドまたはフレームにおける積分値の差分値を、正規化する工程と、
その正規化後の積分値または差分値のスペクトルを抽出する工程と、
その抽出したスペクトルからフリッカ成分を推定する工程と、
その推定したフリッカ成分を打ち消すように、推定したフリッカ成分と前記入力画像信号を演算する工程と、
を備えるものである。
【0036】
第3の発明のフリッカ低減方法は、
蛍光灯照明下でXYアドレス走査型の撮像素子により被写体を撮影することによって得られる輝度信号および各色の色信号に含まれる蛍光灯フリッカ成分を低減する方法であって、
前記輝度信号および前記各色の色信号を、それぞれ入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する工程と、
その積分値、または隣接するフィールドまたはフレームにおける積分値の差分値を、正規化する工程と、
その正規化後の積分値または差分値のスペクトルを抽出する工程と、
その抽出したスペクトルからフリッカ成分を推定する工程と、
その推定したフリッカ成分を打ち消すように、推定したフリッカ成分と前記入力画像信号を演算する工程と、
を備えるものである。
【0037】
上記の方法の、この発明のフリッカ低減方法では、正規化後の積分値または差分値として、フリッカ成分以外の信号成分が除去されて、被写体にかかわらず、かつフリッカ成分が微小な黒の背景部分や低照度の部分などでも、フリッカ成分を容易に高精度で推定できる信号が得られ、その正規化後の積分値または差分値の適当な次数までのスペクトルを抽出することによって、蛍光灯の種類や輝度変化波形などにかかわらず、かつ被写体の影響によって信号成分が不連続となる領域でも、フリッカ成分を高精度で推定することができ、その推定したフリッカ成分と入力画像信号を演算することによって、入力画像信号からフリッカ成分を確実かつ十分に低減することができる。
【0038】
特に、第2または第3の発明のフリッカ低減方法では、映像信号として得られる各色の色信号ごとに、または輝度信号および各色の色信号ごとに、フリッカ成分を検出し、低減するので、色フリッカを含む蛍光灯フリッカを、高精度で検出し、確実かつ十分に低減することができる。
【0039】
【発明の実施の形態】
〔撮像装置の実施形態:図1〜図3〕
(システム構成:図1)
図1は、この発明の撮像装置の一実施形態のシステム構成を示し、XYアドレス走査型の撮像素子としてCMOS撮像素子を用いたビデオカメラの場合である。
【0040】
この実施形態の撮像装置、すなわちビデオカメラでは、被写体からの光が、撮像光学系11を介してCMOS撮像素子12に入射して、CMOS撮像素子12で光電変換され、CMOS撮像素子12からアナログ映像信号が得られる。
【0041】
CMOS撮像素子12は、CMOS基板上に、フォトダイオード(フォトゲート)、転送ゲート(シャッタトランジスタ)、スイッチングトランジスタ(アドレストランジスタ)、増幅トランジスタ、リセットトランジスタ(リセットゲート)などを有する画素が複数、2次元状に配列されて形成されるとともに、垂直走査回路、水平走査回路および映像信号出力回路が形成されたものである。
【0042】
CMOS撮像素子12は、後述のように原色系と補色系のいずれでもよく、CMOS撮像素子12から得られるアナログ映像信号は、RGB各色の原色信号または補色系の色信号である。
【0043】
そのCMOS撮像素子12からのアナログ映像信号は、IC(集積回路)として構成されたアナログ信号処理部13において、色信号ごとに、サンプルホールドされ、AGC(自動利得制御)によってゲインが制御され、A/D変換によってデジタル信号に変換される。
【0044】
そのアナログ信号処理部13からのデジタル映像信号は、ICとして構成されたデジタル信号処理部20において、後述のように処理され、デジタル信号処理部20内のフリッカ低減部25において、後述のように信号成分ごとに、この発明の方法によってフリッカ成分が低減された上で、最終的に輝度信号Yと赤、青の色差信号R−Y,B−Yに変換されて、デジタル信号処理部20から出力される。
【0045】
システムコントローラ14は、マイクロコンピュータなどによって構成され、カメラ各部を制御する。
【0046】
具体的に、システムコントローラ14から、ICによって構成されたレンズ駆動用ドライバ15に、レンズ駆動制御信号が供給され、レンズ駆動用ドライバ15によって、撮像光学系11のレンズが駆動される。
【0047】
また、システムコントローラ14からタイミングジェネレータ16に、タイミング制御信号が供給され、タイミングジェネレータ16からCMOS撮像素子12に、各種タイミング信号が供給されて、CMOS撮像素子12が駆動される。
【0048】
さらに、デジタル信号処理部20からシステムコントローラ14に、各信号成分の検波信号が取り込まれ、システムコントローラ14からのAGC信号によって、アナログ信号処理部13において、上記のように各色信号のゲインが制御されるとともに、システムコントローラ14によって、デジタル信号処理部20における信号処理が制御される。
【0049】
また、システムコントローラ14には、手ぶれセンサ17が接続され、撮影者の動作によって被写体が短時間で大きく変化する場合には、そのことが、手ぶれセンサ17の出力から、システムコントローラ14によって検出され、後述のようにフリッカ低減部25が制御される。
【0050】
また、システムコントローラ14には、マイクロコンピュータなどによって構成されたインタフェース19を介して、ユーザインタフェース18を構成する操作部18aおよび表示部18bが接続され、操作部18aでの設定操作や選択操作などが、システムコントローラ14によって検出されるとともに、カメラの設定状態や制御状態などが、システムコントローラ14によって表示部18bに表示される。
【0051】
撮影者が操作部18aでズーム操作などのカメラ操作を行うことによって被写体が短時間で大きく変化する場合には、そのことが、システムコントローラ14によって検出され、後述のようにフリッカ低減部25が制御される。
【0052】
また、後述のようなフリッカ低減処理が不要な場合には、そのことが、システムコントローラ14によって検出され、後述のようにフリッカ低減部25が制御される。
【0053】
(原色系システムの場合:図2)
図2に、原色系システムの場合のデジタル信号処理部20の一例を示す。
【0054】
原色系システムは、図1の撮像光学系11が被写体からの光をRGB各色の色光に分離する分解光学系を有し、CMOS撮像素子12としてRGB各色用のCMOS撮像素子を有する3板システム、または、CMOS撮像素子12として、光入射面にRGB各色の色フィルタが画面水平方向に1画素ごとに順次、繰り返し配列された一つのCMOS撮像素子を有する1板システムである。この場合、CMOS撮像素子12からは、RGB各色の原色信号がパラレルに読み出される。
【0055】
図2のデジタル信号処理部20では、クランプ回路21で、入力のRGB原色信号の黒レベルが所定レベルにクランプされ、ゲイン調整回路22で、露出量に応じてクランプ後のRGB原色信号のゲインが調整され、フリッカ低減部25R,25G,25Bで、この発明の方法によって、ゲイン調整後のRGB原色信号中のフリッカ成分が低減される。
【0056】
さらに、図2のデジタル信号処理部20では、ホワイトバランス調整回路27で、フリッカ低減後のRGB原色信号のホワイトバランスが調整され、ガンマ補正回路28で、ホワイトバランス調整後のRGB原色信号の階調が変換され、合成マトリクス回路29で、ガンマ補正後のRGB原色信号から、出力の輝度信号Yおよび色差信号R−Y,B−Yが生成される。
【0057】
原色系システムでは、一般に図2のようにRGB原色信号の処理が全て終了した後に輝度信号Yが生成されるので、図2のようにRGB原色信号の処理過程でRGB原色信号中のフリッカ成分を低減することによって、各色成分および輝度成分のフリッカ成分を共に十分に低減することができる。
【0058】
なお、フリッカ低減部25R,25G,25Bは、図2のように配置することが望ましいが、必ずしも、これに限定されるものではない。
【0059】
(補色系システムの場合:図3)
図3に、補色系システムの場合のデジタル信号処理部20の一例を示す。
【0060】
補色系システムは、図1のCMOS撮像素子12として、光入射面に補色系の色フィルタが形成された一つのCMOS撮像素子を有する1板システムである。補色系の色フィルタは、例えば、図3に色フィルタ1として示すように、ある一つおきの水平ライン位置Loでは、緑の色フィルタ部1Gとマゼンタの色フィルタ部1Mgが水平方向に1画素ごとに順次、繰り返し配列され、他の一つおきの水平ライン位置Leでは、シアンの色フィルタ部1Cyとイエローの色フィルタ部1Yeが水平方向に1画素ごとに順次、繰り返し配列されたものである。
【0061】
この場合、図1のCMOS撮像素子12からは、隣接する2水平ライン位置の映像信号が合成されて読み出される。したがって、CMOS撮像素子12からは、各水平期間において、図3の例では、緑の色信号とシアンの色信号との合成信号と、マゼンタの色信号とイエローの色信号との合成信号とが、1画素クロックごとに交互に得られる。
【0062】
図3のデジタル信号処理部20では、クランプ回路21で、その補色信号の黒レベルが所定レベルにクランプされ、ゲイン調整回路22で、露出量に応じてクランプ後の補色信号のゲインが調整され、輝度合成回路23で、ゲイン調整後の補色信号から輝度信号Yが生成されるとともに、原色分離回路24で、ゲイン調整後の補色信号からRGB原色信号が生成される。
【0063】
さらに、図3のデジタル信号処理部20では、フリッカ低減部25Yで、この発明の方法によって、輝度合成回路23からの輝度信号Y中のフリッカ成分が低減されるとともに、フリッカ低減部25R,25G,25Bで、この発明の方法によって、原色分離回路24からのRGB原色信号中のフリッカ成分が低減される。
【0064】
さらに、図3のデジタル信号処理部20では、ガンマ補正回路26で、フリッカ低減後の輝度信号の階調が補正されて、出力の輝度信号Yが得られ、ホワイトバランス調整回路27で、フリッカ低減後のRGB原色信号のホワイトバランスが調整され、ガンマ補正回路28で、ホワイトバランス調整後のRGB原色信号の階調が変換され、合成マトリクス回路29で、ガンマ補正後のRGB原色信号から色差信号R−Y,B−Yが生成される。
【0065】
補色系システムでは、図3のようにデジタル信号処理部20の比較的前段で輝度信号およびRGB原色信号が生成される。これは、輝度信号は、上記の合成信号から単純な加算処理によって容易に生成できるとともに、上記の合成信号から差分処理によってRGB原色信号を生成し、そのRGB原色信号から輝度信号を生成すると、輝度信号のS/Nが劣化するからである。
【0066】
しかし、このように輝度信号と色信号の処理系統を別にする場合には、各色成分のフリッカ成分を低減するだけでは、輝度成分のフリッカ成分を低減するのに十分でなく、図3のように別に輝度成分のフリッカ成分を低減することによって初めて、各色成分および輝度成分のフリッカ成分を共に十分に低減することができる。
【0067】
なお、フリッカ低減部25Yおよび25R,25G,25Bは、図3のように配置することが望ましいが、必ずしも、これに限定されるものではない。
【0068】
〔フリッカ低減方法の実施形態:図4〜図27〕
図2のフリッカ低減部25R,25G,25B、および図3のフリッカ低減部25Y,25R,25G,25Bは、それぞれ、以下の例のように構成される。したがって、以下では、フリッカ低減部25R,25G,25B,25Yを、フリッカ低減部25と総称する。
【0069】
また、以下において、入力画像信号とは、それぞれ、フリッカ低減部25に入力されるフリッカ低減前のRGB原色信号または輝度信号であり、出力画像信号とは、それぞれ、フリッカ低減部25から出力されるフリッカ低減後のRGB原色信号または輝度信号である。
【0070】
また、以下の例は、商用交流電源周波数が50Hzの地域において、蛍光灯の照明下で、NTSC方式(垂直同期周波数は60Hz)のCMOSカメラによって被写体を撮影する場合、したがって、蛍光灯フリッカを低減しないときには、図29〜図31に示したように、フリッカによる明暗変化および色変化が、フィールド間だけでなくフィールド内でも生じ、画面上では3フィールド(3画面)で5周期(5波長)分の縞模様として現れる場合である。
【0071】
蛍光灯が非インバータ方式の場合は勿論、インバータ方式の場合も、整流が十分でない場合にはフリッカを生じるので、蛍光灯が非インバータ方式の場合に限らない。
【0072】
(フリッカ低減方法の第1の例:図4)
図4は、フリッカ低減部25の第1の例を示す。
【0073】
図30および図31は、被写体が一様な場合であるが、一般にフリッカ成分は被写体の信号強度に比例する。
【0074】
そこで、一般の被写体についての任意のフィールドnおよび任意の画素(x,y)における入力画像信号(フリッカ低減前のRGB原色信号または輝度信号)をIn’(x,y)とすると、In’(x,y)は、フリッカ成分を含まない信号成分と、これに比例したフリッカ成分との和として、図17の式(1)で表される。
【0075】
In(x,y)は、信号成分であり、Γn(y)*In(x,y)は、フリッカ成分であり、Γn(y)は、フリッカ係数である。蛍光灯の発光周期(1/100秒)に比べて1水平周期は十分短く、同一フィールドの同一ラインではフリッカ係数は一定と見なすことができるので、フリッカ係数はΓn(y)で表す。
【0076】
Γn(y)を一般化するために、図17の式(2)に示すように、フーリエ級数に展開した形式で記述する。これによって、蛍光灯の種類によって異なる発光特性および残光特性を全て網羅した形式でフリッカ係数を表現することができる。
【0077】
式(2)中のλoは、図30に示した画面内フリッカの波長であり、1フィールド当たりの読み出しライン数をMとすると、L(=M*60/100)ラインに相当する。ωoは、λoで正規化された規格化角周波数である。
【0078】
γmは、各次(m=1,2,3‥)のフリッカ成分の振幅である。Φmnは、各次のフリッカ成分の初期位相を示し、蛍光灯の発光周期(1/100秒)と露光タイミングによって決まる。ただし、Φmnは3フィールドごとに同じ値になるので、直前のフィールドとの間のΦmnの差は、図17の式(3)で表される。
【0079】
<積分値の算出および保存>
図4の例では、まず、入力画像信号In’(x,y)が、フリッカ検出用に絵柄の影響を少なくするために、積分ブロック31で、図17の式(4)に示すように、画面水平方向に1ライン分に渡って積分され、積分値Fn(y)が算出される。式(4)中のαn(y)は、図17の式(5)で表されるように、信号成分In(x,y)の1ライン分に渡る積分値である。
【0080】
算出された積分値Fn(y)は、以後のフィールドでのフリッカ検出用に、積分値保持ブロック32に記憶保持される。積分値保持ブロック32は、少なくとも2フィールド分の積分値を保持できる構成とされる。
【0081】
被写体が一様であれば、信号成分In(x,y)の積分値αn(y)が一定値となるので、入力画像信号In’(x,y)の積分値Fn(y)からフリッカ成分αn(y)*Γn(y)を抽出することは容易である。
【0082】
しかし、一般的な被写体では、αn(y)にもm*ωo成分が含まれるため、フリッカ成分としての輝度成分および色成分と、被写体自身の信号成分としての輝度成分および色成分とを分離することができず、純粋にフリッカ成分のみを抽出することはできない。さらに、式(4)の第1項の信号成分に対して第2項のフリッカ成分は非常に小さいので、フリッカ成分は信号成分中にほとんど埋もれてしまう。
【0083】
参考として、図23に示す被写体(実際はカラー画像)についての、連続する3フィールドにおける積分値Fn(y)を、図24に示す。これは、赤色信号についてのもので、Field:N+0(実線)、Field:N+1(破線)、Field:N+2(点線)は、連続する3フィールドにおける第1、第2、第3フィールドである。図24からも分かるように、積分値Fn(y)から直接、フリッカ成分を抽出するのは不可能と言える。
【0084】
<平均値計算および差分計算>
そこで、図4の例では、積分値Fn(y)からαn(y)の影響を取り除くために、連続する3フィールドにおける積分値を用いる。
【0085】
すなわち、この例では、積分値Fn(y)の算出時、積分値保持ブロック32から、1フィールド前の同じラインの積分値Fn_1(y)、および2フィールド前の同じラインの積分値Fn_2(y)が読み出され、平均値計算ブロック33で、3つの積分値Fn(y),Fn_1(y),Fn_2(y)の平均値AVE[Fn(y)]が算出される。
【0086】
連続する3フィールドの期間中の被写体をほぼ同一と見なすことができれば、αn(y)は同じ値と見なすことができる。被写体の動きが3フィールドの間で十分小さければ、実用上、この仮定は問題ない。さらに、連続する3フィールドにおける積分値の平均値を演算することは、式(3)の関係から、フリッカ成分の位相が(−2π/3)*mずつ順次ずれた信号を加え合わせることになるので、結果的にフリッカ成分が打ち消されることになる。したがって、平均値AVE[Fn(y)]は、図18の式(6)で表される。
【0087】
ただし、以上は、図18の式(7)の近似が成り立つものとして、連続する3フィールドにおける積分値の平均値を算出する場合であるが、被写体の動きが大きい場合には、式(7)の近似が成り立たなくなる。
【0088】
そのため、被写体の動きが大きい場合を想定したフリッカ低減部25としては、積分値保持ブロック32に3フィールド以上に渡る積分値を保持し、当該のフィールドの積分値Fn(y)を合わせて4フィールド以上に渡る積分値の平均値を算出すればよい。これによって、時間軸方向のローパスフィルタ作用により、被写体が動いたことによる影響が小さくなる。
【0089】
ただし、フリッカは3フィールドごとの繰り返しとなるので、フリッカ成分を打ち消すには、連続するj(3の、2倍以上の整数倍、すなわち、6,9‥)フィールドにおける積分値の平均値を算出する必要があり、積分値保持ブロック32は、少なくとも(j−1)フィールド分の積分値を保持できる構成とする。
【0090】
図4の例は、図18の式(7)の近似が成り立つものとした場合である。この例では、さらに、差分計算ブロック34で、積分ブロック31からの当該フィールドの積分値Fn(y)と、積分値保持ブロック32からの1フィールド前の積分値Fn_1(y)との差分が計算され、図18の式(8)で表される差分値Fn(y)−Fn_1(y)が算出される。式(8)も、式(7)の近似が成り立つことを前提としている。
【0091】
図25に、図23に示した被写体についての、連続する3フィールドにおける差分値Fn(y)−Fn_1(y)を示す。これから分かるように、差分値Fn(y)−Fn_1(y)では、被写体の影響が十分除去されるため、図24に示した積分値Fn(y)に比べてフリッカ成分(フリッカ係数)の様子が明確に現れる。
【0092】
<差分値の正規化>
図4の例では、さらに、正規化ブロック35で、差分計算ブロック34からの差分値Fn(y)−Fn_1(y)が、平均値計算ブロック33からの平均値AVE[Fn(y)]で除算されることによって正規化され、正規化後の差分値gn(y)が算出される。
【0093】
正規化後の差分値gn(y)は、図18の式(6)(8)および三角関数の和積公式によって、図19の式(9)のように展開され、さらに図17の式(3)の関係から、図19の式(10)で表される。式(10)中の|Am|,θmは、式(11a)(11b)で表される。
【0094】
差分値Fn(y)−Fn_1(y)は、被写体の信号強度の影響が残るため、領域によってフリッカによる輝度変化および色変化のレベルが異なってしまうが、上記のように正規化することによって、全領域に渡ってフリッカによる輝度変化および色変化を同一レベルに合わせることができる。
【0095】
図26に、図23に示した被写体についての、連続する3フィールドにおける正規化後の差分値gn(y)を示す。
【0096】
<スペクトル抽出によるフリッカ成分の推定>
図19の式(11a)(11b)で表される|Am|,θmは、正規化後の差分値gn(y)の、各次のスペクトルの振幅および初期位相であり、正規化後の差分値gn(y)をフーリエ変換して、各次のスペクトルの振幅|Am|および初期位相θmを検出すれば、図20の式(12a)(12b)によって、図17の式(2)に示した各次のフリッカ成分の振幅γmおよび初期位相Φmnを求めることができる。
【0097】
そこで、図4の例では、DFTブロック51において、正規化ブロック35からの正規化後の差分値gn(y)の、フリッカの1波長分(Lライン分)に相当するデータを、離散フーリエ変換する。
【0098】
DFT演算をDFT[gn(y)]とし、次数mのDFT結果をGn(m)とすれば、DFT演算は、図20の式(13)で表される。式(13)中のWは、式(14)で表される。また、DFTの定義によって、式(11a)(11b)と式(13)との関係は、図20の式(15a)(15b)で表される。
【0099】
したがって、式(12a)(12b)(15a)(15b)から、図20の式(16a)(16b)によって、各次のフリッカ成分の振幅γmおよび初期位相Φmnを求めることができる。
【0100】
DFT演算のデータ長を、フリッカの1波長分(Lライン分)とするのは、これによって、ちょうどωoの整数倍の離散スペクトル群を直接、得ることができるからである。
【0101】
一般に、デジタル信号処理のフーリエ変換としては、FFT(高速フーリエ変換)が用いられるが、この発明の実施形態では、あえてDFTを用いる。その理由は、フーリエ変換のデータ長が2のべき乗になっていないので、FFTよりDFTの方が都合よいためである。ただし、入出力データを加工してFFTを用いることもできる。
【0102】
実際の蛍光灯照明下では、次数mを数次までに限定しても、フリッカ成分を十分近似できるので、DFT演算もデータを全て出力する必要はなく、この発明の用途ではFFTに比べて演算効率の点でデメリットはない。
【0103】
DFTブロック51では、まず、式(13)で定義されるDFT演算によって、スペクトルが抽出され、その後、式(16a)(16b)の演算によって、各次のフリッカ成分の振幅γmおよび初期位相Φmnが推定される。
【0104】
図4の例では、さらに、フリッカ生成ブロック53で、DFTブロック51からのγm,Φmnの推定値から、図17の式(2)で表されるフリッカ係数Γn(y)が算出される。
【0105】
ただし、上述したように、実際の蛍光灯照明下では、次数mを数次までに限定しても、フリッカ成分を十分近似できるので、式(2)によるフリッカ係数Γn(y)の算出に当たっては、総和次数を無限大ではなく、あらかじめ定められた次数、例えば2次までに限定することができる。
【0106】
図27に、図23に示した被写体についての、連続する3フィールドにおけるフリッカ係数Γn(y)を示す。
【0107】
上記の方法によれば、積分値Fn(y)ではフリッカ成分が信号成分中に完全に埋もれてしまう、フリッカ成分が微小な黒の背景部分や低照度の部分などの領域でも、差分値Fn(y)−Fn_1(y)を算出し、これを平均値AVE[Fn(y)]で正規化することによって、フリッカ成分を高精度で検出することができる。
【0108】
また、適当な次数までのスペクトルからフリッカ成分を推定することは、正規化後の差分値gn(y)を完全に再現しないで近似することになるが、これによって、かえって、被写体の状態によって正規化後の差分値gn(y)に不連続な部分を生じても、その部分のフリッカ成分を精度良く推定できることになる。
【0109】
<フリッカ低減のための演算>
図17の式(1)から、フリッカ成分を含まない信号成分In(x,y)は、図20の式(17)で表される。
【0110】
そこで、図4の例では、演算ブロック40で、フリッカ生成ブロック53からのフリッカ係数Γn(y)に1が加えられ、その和[1+Γn(y)]で入力画像信号In’(x,y)が除算される。
【0111】
これによって、入力画像信号In’(x,y)に含まれるフリッカ成分がほぼ完全に除去され、演算ブロック40からは、出力画像信号(フリッカ低減後のRGB原色信号または輝度信号)として、実質的にフリッカ成分を含まない信号成分In(x,y)が得られる。
【0112】
なお、システムが有する演算能力の制約から、上記の全ての処理を1フィールドの時間内で完結できない場合には、フリッカが3フィールドごとの繰り返しとなることを利用して、演算ブロック40内にフリッカ係数Γn(y)を3フィールドに渡って保持する機能を設け、3フィールド後の入力画像信号In’(x,y)に対して、その保持したフリッカ係数Γn(y)を演算する構成とすればよい。
【0113】
(飽和領域を考慮した場合の例:図5)
図4の例で、入力画像信号In’(x,y)のレベルが飽和領域にある場合、演算ブロック40で式(17)の演算を行うと、逆に信号成分(色成分または輝度成分)が変化してしまう。そこで、演算ブロック40は、図5の例のように構成することが望ましい。
【0114】
図5の例の演算ブロック40は、フリッカ生成ブロック53からのフリッカ係数Γn(y)に1を加える加算回路41、その和[1+Γn(y)]で入力画像信号In’(x,y)を除算する除算回路42、入力側のスイッチ43,出力側のスイッチ44、および飽和レベル判定回路45によって構成され、飽和レベル判定回路45で、入力画像信号In’(x,y)のレベルが飽和領域の閾値レベル以上であるか否かが、画素ごとに判断される。
【0115】
そして、入力画像信号In’(x,y)のレベルが飽和領域の閾値レベルに満たないときには、その画素では、飽和レベル判定回路45によってスイッチ43および44が除算回路42側に切り替えられて、上述したように、式(17)の演算結果が出力画像信号として、演算ブロック40から出力される。
【0116】
これに対して、入力画像信号In’(x,y)のレベルが飽和領域の閾値レベル以上であるときには、その画素では、飽和レベル判定回路45によってスイッチ43および44が反対側に切り替えられて、入力画像信号In’(x,y)が、そのまま出力画像信号として、演算ブロック40から出力される。
【0117】
したがって、入力画像信号In’(x,y)のレベルが飽和領域にある場合に、信号成分(色成分または輝度成分)が変化してしまうことがなく、高画質の出力画像信号が得られる。
【0118】
(フリッカ低減方法の第2の例:図6)
図4の例のように、差分値Fn(y)−Fn_1(y)を平均値AVE[Fn(y)]で正規化すれば、有限の計算精度を効果的に確保することができる。しかし、要求される計算精度を満足できる場合には、積分値Fn(y)を直接、平均値AVE[Fn(y)]で正規化してもよい。
【0119】
図6は、この場合の例を示し、正規化ブロック35で、積分ブロック31からの積分値Fn(y)が、平均値計算ブロック33からの平均値AVE[Fn(y)]で除算されることによって正規化され、正規化後の差分値gn(y)が算出される。
【0120】
ただし、この場合の正規化後の差分値gn(y)は、図21の式(18)で表されるものとなるので、後段の処理を図4の例と同様にするため、減算回路36で、図21の式(19)に示すように、式(18)で表される正規化後の差分値gn(y)から1を減算し、その結果をDFTブロック51に送出する。
【0121】
この場合、|Am|=γm,θm=Φmnであるので、図20の式(15a)(15b)から、γm,Φmnは、図21の式(20a)(20b)によって求めることができる。
【0122】
したがって、DFTブロック51では、図4の例では、式(13)で定義されるDFT演算によってスペクトルを抽出した後、式(16a)(16b)の演算によって各次のフリッカ成分の振幅γmおよび初期位相Φmnを推定するのに対して、図6の例では、式(13)で定義されるDFT演算によってスペクトルを抽出した後、式(20a)(20b)の演算によって各次のフリッカ成分の振幅γmおよび初期位相Φmnを推定する。以後の処理は、図4の例と同じである。
【0123】
図6の例では、差分計算ブロック34が不要となるので、その分、フリッカ低減部25を簡略化することができる。
【0124】
この例でも、演算ブロック40は、図5の例のように構成することが望ましい。
【0125】
(フリッカ低減方法の第3の例:図7)
図4の例で正規化に用いる平均値AVE[Fn(y)]は、図18の式(7)の近似が成り立つ場合には、式(6)で表されるようにαn(y)に等しいとともに、図17の式(4)の第2項[αn(y)*Γn(y)]は、第1項のαn(y)に比べて十分小さいので、正規化に及ぼす第2項の影響は非常に小さい。
【0126】
したがって、正規化については、平均値AVE[Fn(y)]の代わりに積分値Fn(y)を用いても、ほとんど問題がなく、平均値AVE[Fn(y)]を用いる場合と同様に、効果的にフリッカ成分を検出することができる。
【0127】
そこで、図7の例では、正規化ブロック35で、差分計算ブロック34からの差分値Fn(y)−Fn_1(y)を、積分ブロック31からの積分値Fn(y)で除算することによって正規化する。以後の処理は、図4の例と同じである。
【0128】
図7の例では、積分値保持ブロック32は1フィールド分の積分値を保持できればよいとともに、平均値計算ブロック33を必要としないので、フリッカ低減部25を簡略化することができる。
【0129】
この例でも、演算ブロック40は、図5の例のように構成することが望ましい。
【0130】
(非蛍光灯照明下では別の処理を行う場合の例:図8および図9)
非蛍光灯照明下(蛍光灯ではない照明環境)で撮影する場合、上述したフリッカ低減処理を行っても、特別の不具合を生じないが、この場合、本来不要な処理を行うことになるので、たとえフリッカ成分が十分小さくても、画質への影響が懸念される。
【0131】
そのため、非蛍光灯照明下で撮影する場合には、フリッカ低減処理が実行されず、入力画像信号In’(x,y)が、そのまま出力画像信号としてフリッカ低減部25から出力されるように、フリッカ低減部25を構成することが望ましい。
【0132】
図8は、そのようにフリッカ低減部25を構成した場合の一例を示す。正規化積分値算出ブロック30は、図4、図6または図7の例のように構成される。図4および図7の例では、積分値Fn(y)ではなく、差分値Fn(y)−Fn_1(y)が正規化されるが、便宜上、正規化積分値算出ブロックと称する。
【0133】
図8の例では、DFTブロック51とフリッカ生成ブロック53との間に、蛍光灯照明下判定ブロック52が設けられる。
【0134】
DFTブロック51で推定され、算出される各次の成分のレベル(振幅)γmは、蛍光灯照明下では、図22(A)に示すように、m=1の成分のレベルが、ある閾値Thより十分大きく、mが大きくなるにつれて急激にレベルが小さくなるのに対して、非蛍光灯照明下では、図22(B)に示すように、各次の成分のレベルが閾値Th以下となる。
【0135】
非蛍光灯照明下では、スペクトルがゼロになるのが理想であるが、実際上は、被写体が動くために、連続する複数フィールドの信号から生成される正規化後の差分値gn(y)または積分値gn(y)−1に、周波数成分を僅かに含むことは避けられない。
【0136】
そこで、蛍光灯照明下判定ブロック52では、例えば、m=1の成分のレベルが閾値Thを超えるか否かを判断し、閾値Thを超える場合には、蛍光灯照明下であると判定して、DFTブロック51からのγm,Φmnの推定値を、そのままフリッカ生成ブロック53に出力する。したがって、この場合には、上述したようにフリッカ低減処理が実行される。
【0137】
一方、m=1の成分のレベルが閾値Th以下である場合には、蛍光灯照明下判定ブロック52は、非蛍光灯照明下であると判定して、次数mの全てにつき、γmの推定値をゼロにする。したがって、この場合には、フリッカ係数Γn(y)もゼロとなり、入力画像信号In’(x,y)が、そのまま出力画像信号として演算ブロック40から出力される。
【0138】
図9は別の例を示す。この例では、蛍光灯照明下判定ブロック52は、図8の例と同様に蛍光灯照明下であるか否かを判定するが、非蛍光灯照明下であると判定した場合には、検出フラグCOMP_OFFをセットして、フリッカ生成ブロック53および演算ブロック40での処理を停止させ、入力画像信号In’(x,y)を、そのまま出力画像信号として演算ブロック40から出力させる。蛍光灯照明下である場合には、検出フラグCOMP_OFFがリセットされ、上述したようにフリッカ低減処理が実行される。
【0139】
図9の例では、非蛍光灯照明下で撮影する場合、画質への影響を無くすことができるだけでなく、消費電力を削減することができる。
【0140】
(撮影者の操作や動作によって被写体が大きく変化する場合:図10)
ズーミング、パンニング、チルティングなどのカメラ操作によって、または撮影者の手ぶれによって、被写体が短時間で大きく変化する場合が多々ある。この場合、図18の式(7)の仮定が成り立たなくなるので、結果的にフリッカ検出精度が悪化する。
【0141】
そこで、このように撮影者の操作または動作によって被写体が短時間で大きく変化する場合を考慮して、撮像装置は、例えば、図10の例のように構成する。
【0142】
図10の例では、フリッカ低減部25としては、図4、図6または図7の例において、フリッカ生成ブロック53と演算ブロック40との間に、スイッチ55,56およびフリッカ保持ブロック57が設けられ、システムコントローラ14から出力される後述の検出フラグDET_OFFが、スイッチ55および56に切り替え信号として供給される。
【0143】
フリッカ保持ブロック57は、3フィールド分のフリッカ係数Γn(y)を保持できるものとされ、1フィールド分の処理が終了するごとにフリッカ係数Γn(y)を次のフィールド用に格納するとともに、3フィールドごとの繰り返しで読み出し出力が切り替えられるようにされる。
【0144】
撮影者の操作または動作によって被写体が短時間で大きく変化する場合には、これがシステムコントローラ14によって検出される。
【0145】
例えば、撮影者が操作部18aのズームキーを押すと、それがインタフェース19を介してシステムコントローラ14によって検知される。システムコントローラ14は、これによって、望遠や広角の操作など、撮影者のズーム操作に応じて、レンズの駆動を制御する。また、撮影者の手ぶれは、手ぶれセンサ17によって検知され、システムコントローラ14に手ぶれ情報が送られる。システムコントローラ14は、その手ぶれ情報をもとに、手ぶれ補正を制御する。パンニングやチルティングも、システムコントローラ14によって検知され、システムコントローラ14は、パンニング中は手ぶれ補正を弱めるなどの制御を行う。このような検出制御は、一般にカメラで行われていることと変わらない。
【0146】
さらに、図10の例では、システムコントローラ14は、被写体が短時間で大きく変化するような撮影者の操作または動作を検出した場合には、検出フラグDET_OFFをセットし、そのような操作または動作がなされない場合には、検出フラグDET_OFFをリセットする。
【0147】
そして、被写体が短時間で大きく変化しない通常の状態では、検出フラグDET_OFFがリセットされることによって、フリッカ低減部25では、スイッチ55がフリッカ生成ブロック53側に切り替えられて、フリッカ生成ブロック53からの、そのときのフリッカ係数Γn(y)が演算ブロック40に供給され、フリッカ低減処理が実行されるとともに、スイッチ56がオンにされて、そのときのフリッカ係数Γn(y)がフリッカ保持ブロック57に格納される。
【0148】
一方、撮影者の操作または動作によって被写体が短時間で大きく変化する場合には、検出フラグDET_OFFがセットされることによって、フリッカ低減部25では、スイッチ55がフリッカ保持ブロック57側に切り替えられ、フリッカ生成ブロック53からの、そのときの検出精度の悪いフリッカ係数Γn(y)に代えて、フリッカ保持ブロック57から読み出された、被写体が短時間で大きく変化する操作または動作がなされる直前の、検出精度の良いフリッカ係数Γn(y)が、演算ブロック40に供給され、フリッカ低減処理が実行されるとともに、スイッチ56がオフにされて、そのときの検出精度の悪いフリッカ係数Γn(y)がフリッカ保持ブロック57に格納されるのが防止される。
【0149】
したがって、この例では、撮影者の操作または動作によって被写体が短時間で大きく変化する場合にも、フリッカ検出精度が良くなり、フリッカが確実かつ十分に低減される。
【0150】
さらに、この例では、検出フラグDET_OFFが、正規化積分値算出ブロック30、DFTブロック51およびフリッカ生成ブロック53にも送出され、撮影者の操作または動作によって被写体が短時間で大きく変化する場合には、検出フラグDET_OFFがセットされることによって、正規化積分値算出ブロック30、DFTブロック51およびフリッカ生成ブロック53での処理が停止される。したがって、この例では、消費電力を削減することもできる。
【0151】
なお、この例は、フリッカ係数Γn(y)を直前の信号にすげ替える場合であるが、より前段の信号、例えば積分値Fn(y)を、直前の信号にすげ替えるように構成してもよい。
【0152】
(撮影状況によっては別の処理を行う場合の例:図11および図12)
以下に示すように、撮影状況によってはフリッカ低減処理が不要となる場合がある。この場合、画質への影響を考慮すると、上述した非蛍光灯照明下で撮影する場合と同様に、本来不要なフリッカ低減処理は行わない方が望ましい。
【0153】
フリッカ低減処理が不要な撮影状況としては、第1に、動画と静止画の両方を撮影できるビデオカメラやデジタルスチルカメラで静止画を撮影する場合が挙げられる。
【0154】
この場合、CMOS撮像素子などのXYアドレス走査型の撮像素子を用いたカメラでも、1画面内の全ての画素の露光タイミング(露光開始および露光終了のタイミング)を同一にすることができ、蛍光灯フリッカの発生を回避することができる。撮像素子からの読み出しは、動画を撮影する場合のようなフレームレートの制約がないので、機械的なシャッタを閉じて遮光した状態で、ゆっくり行うことができる。
【0155】
そして、このように1画面内の全ての画素の露光タイミングを同一にして静止画を撮影する場合であるか否かについては、図1の実施形態では、操作部18aでのカメラ操作に基づいて、システムコントローラ14において検出することができる。
【0156】
フリッカ低減処理が不要な撮影状況としては、第2に、屋外の太陽光のもとなどで撮影する場合や、露光量の調整などによって露光時間(電子シャッタ時間)を蛍光灯の輝度変化の周期(1/100秒)の整数倍に設定する場合が挙げられる。
【0157】
蛍光灯照明下であるか否かは、図8および図9の例に示したように、DFTブロック51で抽出されたスペクトルのレベルから検出することができるが、ここで、屋外の太陽光のもとなどで撮影する場合というのは、同じ非蛍光灯照明下でも、被写体の光量などからシステムコントローラ14において、非蛍光灯照明下であることを直接検出できる場合である。
【0158】
また、上述したように、CMOS撮像素子などのXYアドレス走査型の撮像素子を用いたカメラでも、露光時間を蛍光灯の輝度変化の周期(1/100秒)の整数倍に設定したときには、画面内フリッカを含む蛍光灯フリッカを生じない。そして、露光量の調整などによって露光時間が蛍光灯の輝度変化の周期の整数倍に設定されたか否かは、システムコントローラ14において直接検出することができる。
【0159】
そこで、このようにシステムコントローラ14によってフリッカ低減処理が不要な撮影状況であると判断された場合には、フリッカ低減処理が実行されず、入力画像信号In’(x,y)が、そのまま出力画像信号としてフリッカ低減部25から出力されるように、システムを構成する。
【0160】
図11は、そのようにシステムを構成した場合の一例を示す。この例では、フリッカ低減部25において、DFTブロック51とフリッカ生成ブロック53との間にゼロ化ブロック59が設けられ、システムコントローラ14からのフリッカ低減オンオフ制御信号によって、ゼロ化ブロック59が制御される。
【0161】
そして、システムコントローラ14においてフリッカ低減処理が必要と判断された場合には、フリッカ低減オンオフ制御信号がオン状態とされ、ゼロ化ブロック59は、DFTブロック51からのγm,Φmnの推定値を、そのままフリッカ生成ブロック53に出力する。したがって、この場合には、上述したようにフリッカ低減処理が実行される。
【0162】
一方、システムコントローラ14においてフリッカ低減処理が不要と判断された場合には、フリッカ低減オンオフ制御信号がオフ状態とされ、ゼロ化ブロック59は、次数mの全てにつき、γmの推定値をゼロにする。したがって、この場合には、フリッカ係数Γn(y)もゼロとなり、入力画像信号In’(x,y)が、そのまま出力画像信号として演算ブロック40から出力される。
【0163】
図12は別の例を示す。この例では、フリッカ低減部25の演算ブロック40が、図5の例に示した加算回路41、除算回路42およびスイッチ43,44を有し、飽和レベル判定回路45を有しないものとして構成され、システムコントローラ14からのフリッカ低減オンオフ制御信号によって、スイッチ43および44が切り替えられる。
【0164】
そして、システムコントローラ14においてフリッカ低減処理が必要と判断された場合には、スイッチ43および44が除算回路42側に切り替えられて、上述したように、式(17)の演算結果が出力画像信号として、演算ブロック40から出力される。
【0165】
一方、システムコントローラ14においてフリッカ低減処理が不要と判断された場合には、スイッチ43および44が反対側に切り替えられて、入力画像信号In’(x,y)が、そのまま出力画像信号として、演算ブロック40から出力される。
【0166】
さらに、図12の例では、フリッカ低減オンオフ制御信号が、正規化積分値算出ブロック30、DFTブロック51およびフリッカ生成ブロック53にも送出され、システムコントローラ14においてフリッカ低減処理が不要と判断された場合には、正規化積分値算出ブロック30、DFTブロック51およびフリッカ生成ブロック53での処理が停止される。したがって、この例では、消費電力を削減することもできる。
【0167】
(検出されたフリッカ成分を調整する場合の例:図13〜図15)
上述した各例の方法によれば、蛍光灯フリッカが定常的・安定的に発生している状態では、入力画像信号からフリッカ成分を確実かつ効果的に低減することができる。
【0168】
しかし、上述した各例の方法では、フリッカ成分の検出に当たって、複数フィールド間の平均演算または差分演算を行うため、蛍光灯のスイッチをオンまたはオフにした瞬間や、蛍光灯照明下の部屋に入室し、または蛍光灯照明下の部屋から退出した時など、遷移的な非安定状態では、フリッカ成分を正確に検出することができない。そのため、このような状態のときに得られたフリッカ成分によってフリッカ低減処理を実行すると、入力画像信号に対して望ましくない補正が行われてしまうことがある。
【0169】
また、上述した各例の方法では、水平方向の被写体移動、またはパンニングやズーミングなどのカメラ操作や撮影者の手ぶれによって発生する水平方向の画角変化については、確実かつ安定的にフリッカを低減することができるが、垂直方向の被写体移動、またはチルティングやズーミングなどのカメラ操作や撮影者の手ぶれによって発生する垂直方向の画角変化については、フリッカ低減性能が若干低くなる。
【0170】
この問題は、図10に示した方法によって解決することができる。しかし、この方法では、被写体が短時間で大きく変化しない通常の安定状態と、撮影者の操作または動作によって被写体が短時間で大きく変化する場合との間で、フリッカ係数Γn(y)が切り替えられるので、撮影者は違和感を抱くことがある。
【0171】
また、通常の安定状態でも、外乱を抑えることはできないが、図10に示した方法では、追従性が速いため、外乱に直接反応し、かえってフリッカ低減の誤差を生じてしまうことがある。
【0172】
外乱の影響を少なくするには、フリッカ成分を推定する処理の過程で、LPF(ローパスフィルタ)によるフィルタリングを行い、かつ、その時定数を長くして、フリッカ推定の追従性を遅くすればよい。
【0173】
しかし、このように追従性を遅くすると、上述した状態遷移時の追従性まで遅くなってしまい、蛍光灯のスイッチをオンにした瞬間や、蛍光灯照明下の部屋に入室した時のように、フリッカ低減処理が必要であるにもかかわらず、なかなか処理が実行されないという問題や、蛍光灯のスイッチをオフにした瞬間や、蛍光灯照明下の部屋から退出した時のように、フリッカ低減処理が不要であるにもかかわらず、処理が続行されてしまうという問題を生じる。
【0174】
そのほか、検出されたフリッカ成分を、そのまま入力映像信号と演算する代わりに、必要に応じて、検出されたフリッカ成分を、その振幅や位相を調整した上で、入力映像信号と演算することによって、様々な場面で、よりフレキシブルかつ適切なフリッカ低減を行うことができる。
【0175】
そこで、以下の例は、フリッカ低減に係るパラメータである、推定されたフリッカ成分の振幅および位相を調整する場合である。
【0176】
図13に、この例の基本的な構成を示す。この例では、上述したフリッカ低減部25のDFTブロック51から得られる、推定されたフリッカ成分の振幅γmおよび初期位相Φmnのデータを、システムコントローラ14に取り込んで、システムコントローラ14内のパラメータ制御部14aで、後述のように調整し、その調整後の振幅γm’および初期位相Φmn’のデータを、フリッカ低減部25のフリッカ生成ブロック53に入力する。
【0177】
フリッカ生成ブロック53では、DFTブロック51から得られる振幅γmおよび初期位相Φmnに代えて、この調整後の振幅γm’および初期位相Φmn’から、図17の式(2)で表されるフリッカ係数Γn(y)が算出される。すなわち、この例では、図17の式(2)中のγmおよびΦmnは、γm’およびΦmn’で置き換えられる。
【0178】
なお、図13は、フリッカ低減部25の正規化積分値算出ブロック30を、図4に示した構成とする場合であるが、正規化積分値算出ブロック30は、図6または図7に示した構成としてもよい。
【0179】
<第1の具体例:図14>
図14は、この場合の第1の具体例を示す。
【0180】
パラメータ制御部14aの入力信号となる振幅γmおよび初期位相Φmnのデータは、実際上は1フィールド当たりm系統あるが、ここでは1系統にまとめて示す。パラメータ制御部14aの出力信号となる振幅γm’および初期位相Φmn’のデータについても、同様である。
【0181】
この例では、DFTブロック51からの振幅γmおよび初期位相Φmnのデータが、それぞれデジタルLPF(ローパスフィルタ)61および62に供給され、デジタルLPF61の出力データが、ゲイン調整回路(乗算回路)63に供給され、ゲイン調整回路63の出力データが、調整後の振幅γm’のデータとして、フリッカ生成ブロック53に入力されるとともに、デジタルLPF62の出力データが、調整後の初期位相Φmn’のデータとして、フリッカ生成ブロック53に入力される。
【0182】
デジタルLPF61の時定数Ta、およびデジタルLPF62の時定数Tpは、時定数設定ブロック65によって設定される。ゲイン調整回路63でのゲイン(乗算係数)Kaは、ゲイン設定ブロック66によって設定される。
【0183】
デジタルLPF61および62としては、時定数を一定範囲内で任意かつ連続的に変えることができるものが望ましいが、目的の時定数を設定できない場合には、それに近い時定数を設定できるものとすればよい。また、一つのLPFで時定数を連続的に変えることができない場合には、内部に別個の時定数を有する複数のLPFを用意し、これに時定数Ta,Tpとして制御コードを与えることによって、その複数のLPFから一つのLPFが選択されるように構成することができる。
【0184】
また、フリッカ発生時の初期位相Φmnは、周期的に変動する。例えば、商用交流電源周波数が50Hz、カメラの垂直同期周波数が60Hzの場合には、初期位相Φmnは、3フィールドごとに同じ値になり、直前のフィールドとの間では、図17の式(3)で表される差(違い)を生じる。
【0185】
そのため、デジタルLPF62は、この初期位相Φmnの変動を考慮して、同じ位相のデータに対して一つのLPFを構成する必要がある。すなわち、上記の例のように初期位相Φmnの変動の周期が3フィールドである場合には、デジタルLPF62として3つのLPFを設け、初期位相Φmnのデータを、これら3つのLPFに振り分けて入力する。
【0186】
さらに、振幅γmおよび初期位相Φmnのデータと、システムコントローラ14内で得られるAE(自動露出)制御情報およびAWB(オートホワイトバランス)制御情報とが、状態検出ブロック68に入力される。AE制御情報は、具体的には、画面の明るさの情報であり、AWB制御情報は、具体的には、色温度や蛍光灯照明下であるか否かを示す情報である。
【0187】
そして、状態検出ブロック68において、これら入力情報から、後述のように、現在の撮影環境が蛍光灯照明下であるか否か、あるいは、蛍光灯のスイッチがオンまたはオフにされるなど、非蛍光灯照明下から蛍光灯照明下への遷移状態、または蛍光灯照明下から非蛍光灯照明下への遷移状態にあるか否かなどの、蛍光灯フリッカの発生に影響する撮影状況が検出され、その検出結果に応じて制御モードが決定される。
【0188】
その決定された制御モードが、制御モード呈示信号によって、時定数設定ブロック65およびゲイン設定ブロック66に呈示され、これを受けて、時定数設定ブロック65は、デジタルLPF61および62の時定数TaおよびTpを設定し、ゲイン設定ブロック66は、ゲイン調整回路63でのゲインKaを設定する。
【0189】
図16に、状態検出ブロック68での上述した状態検出の判断基準の例を示す。まず、蛍光灯照明下でフリッカが定常的・安定的に発生している場合には、推定されたフリッカ成分の振幅γmは、ほぼ一定値となり、初期位相Φmnは、一定周期(商用交流電源周波数が50Hz、カメラの垂直同期周波数が60Hzの場合には、3フィールド)ごとにほぼ同じ値になる。
【0190】
したがって、これら情報から、蛍光灯照明下でフリッカが定常的・安定的に発生している状態であることを十分判断することができる。
【0191】
そのほか、蛍光灯照明下では、画面の明るさがほぼ一定周期で変動するので、そのことを示すAE制御の明るさ情報から、蛍光灯照明下であることを十分判断することができる。
【0192】
また、通常、AWB制御では、検波された色情報から光源を推定し、光源が蛍光灯であるか否かを判断しているので、そのAWB制御の光源推定情報から、蛍光灯照明下であることを判断することもできる。
【0193】
この例では、過去の複数フィールドに渡る以上の情報を総合的に判断することによって、検出の精度を高める。
【0194】
そして、状態検出ブロック68は、このように蛍光灯照明下でフリッカが定常的・安定的に発生している状態と判断した場合には、制御モードを後述のモードAに設定する。
【0195】
一方、非蛍光灯照明下で定常的にフリッカが発生していない場合には、推定されたフリッカ成分の振幅γmは、ノイズ成分のみで、ゼロ付近でランダムに変動し、初期位相Φmnは、ノイズによってランダムに変動する。
【0196】
したがって、これら情報から、非蛍光灯照明下でフリッカ低減処理が不要な状態であることを十分判断することができる。
【0197】
そのほか、非蛍光灯照明下では、画面の明るさの変動に周期性がないので、そのことを示すAE制御の明るさ情報から、非蛍光灯照明下であることを十分判断することができる。また、上述したAWB制御の光源推定情報から、非蛍光灯照明下であることを判断することもできる。
【0198】
この例では、過去の複数フィールドに渡る以上の情報を総合的に判断することによって、検出の精度を高める。
【0199】
そして、状態検出ブロック68は、このように非蛍光灯照明下で定常的にフリッカが発生していない(フリッカ低減処理が不要な)状態と判断した場合には、制御モードを後述のモードBに設定する。
【0200】
状態検出ブロック68で決定された制御モードに応じて、具体的に、時定数設定ブロック65およびゲイン設定ブロック66で、デジタルLPF61,62の時定数Ta,Tpおよびゲイン調整回路63でのゲインKaとして、いかなる値を設定すべきかについては、システムの構成やシステムに対する要求に応じて、以下のように決定する。
【0201】
まず、デジタルLPF61の時定数Taについては、上述したように、推定されたフリッカ成分の振幅γmは、ゼロ付近か否かの違いはあるものの、モードA(蛍光灯照明下でフリッカが定常的・安定的に発生している状態)でも、モードB(非蛍光灯照明下で定常的にフリッカが発生していない状態)でも、ほぼ一定値となる。ほぼ一定値とならないのは、外乱がある場合である。
【0202】
そこで、外乱に対して強い、よりロバストなシステムとするには、デジタルLPF61の時定数Taを長く設定するのが望ましい。しかし、制御モードが、モードAからモードBに、またはモードBからモードAに、遷移する場合を考えると、遷移時には追従性が速い方が良く、デジタルLPF61の時定数Taは短めに設定すべきである。
【0203】
すなわち、振幅γmについては、2つの相反する要求を同時に満足する必要がある。しかし、図4、図6または図7に示したような、この発明の方法の基本的な方法は、もともと外乱に対して強いアルゴリズムである。
【0204】
したがって、実際には、後者の追従性を重視して、時定数Taを短めに設定する。もちろん、モードAまたはモードBのような定常状態では時定数Taが長くなり、モードAからモードBへの遷移時またはモードBからモードAへの遷移時には時定数Taが短くなるように、時定数Taを動的に制御できれば、最も好適である。
【0205】
一方、デジタルLPF62の時定数Tpについては、モードA(蛍光灯照明下でフリッカが定常的・安定的に発生している状態)では、図16に示したように、フリッカ発生の原理によって、初期位相Φmnは一定周期ごとにほぼ同じ値となるので、外乱に対して強くなるように、時定数Tpを十分長く設定すべきである。
【0206】
これに対して、モードB(非蛍光灯照明下で定常的にフリッカが発生していない状態)では、初期位相Φmnはランダムな値を取り続けるので、時定数Tpを長く設定することによる効果は特に無い。具体的に、モードBでは、後述のゲイン調整の効果によって、時定数Tpは任意の値に設定することができる。
【0207】
なお、モードAとモードBの間で時定数TaまたはTpを切り替えるように構成してもよい。
【0208】
ゲイン調整回路63でのゲインKaについては、モードA(蛍光灯照明下でフリッカが定常的・安定的に発生している状態)では、図16に示すように振幅γmがほぼ一定値となるので、基本的にゲインKaを1に設定すればよい。
【0209】
ただし、ゲインKaは、振幅γmの補正率を決定するものであり(Ka=1に設定すると、入力の100%を出力し、補正率はゼロ)、ゲインKaを変えることによって、振幅γmの補正率を直接制御することができる。
【0210】
そして、実際の撮影環境では、あえて振幅を大きくしたい場合や、小さくしたい場合があるので、ゲインKaは、1に限らず、1より大きい値、または1より小さい値に設定できるように、システムを構成してもよい。
【0211】
一方、モードB(非蛍光灯照明下で定常的にフリッカが発生していない状態)では、振幅γmはノイズによってゼロ付近のランダムな値となる。そして本来、モードBではフリッカ低減処理を行う必要がないので、モードBでは、ゲインKaをゼロに設定して、不必要な処理がなされないようにする。
【0212】
以上は、モードAまたはモードBという安定状態(フリッカが定常的に発生している状態、または定常的に発生していない状態)の場合であるが、状態検出ブロック68で検出されるモードがモードAからモードBに変化したときには、撮影環境が蛍光灯照明下から非蛍光灯照明下に遷移した可能性が高く、状態検出ブロック68で検出されるモードがモードBからモードAに変化したときには、撮影環境が非蛍光灯照明下から蛍光灯照明下に遷移した可能性が高い。
【0213】
そして、図4、図6または図7に示したような、この発明の方法の基本的な方法では、複数フィールド間の平均演算または差分演算によってフリッカ成分を抽出するので、このような遷移時には、平均演算または差分演算に用いられる各信号列の一部にはフリッカ成分を含み、他の一部にはフリッカ成分を含まない状態となる。
【0214】
その結果、平均演算または差分演算によって得られるフリッカ成分に誤差を生じ、検出される振幅γmおよび初期位相Φmnにも誤差が発生する。そして、このような誤差を含む振幅γmおよび初期位相Φmnからフリッカ係数Γn(y)を算出すると、当然ながら、出力画像信号に悪影響を及ぼす。
【0215】
この問題を軽減するため、ゲイン設定ブロック66では、制御モードの遷移状態を検出し、遷移状態に応じてゲインKaの値を制御する。
【0216】
具体的に、制御モードがモードAからモードBに遷移した場合、遷移開始時点で既に振幅γmおよび初期位相Φmnの信頼性が落ちているので、遷移後、直ちにゲインKaを1からゼロに切り替えて、フリッカ生成ブロック53および演算ブロック40でのフリッカ低減処理を停止し、またはゲインKaを徐々に小さくして、フリッカ生成ブロック53および演算ブロック40でのフリッカ低減処理をスムーズに停止する。
【0217】
逆に制御モードがモードBからモードAに遷移した場合、遷移開始時点では未だ振幅γmおよび初期位相Φmnの信頼性が低いので、振幅γmおよび初期位相Φmnの信頼性が十分高くなるまで待ってから、ゲインKaをゼロから1に切り替えて、フリッカ生成ブロック53および演算ブロック40でのフリッカ低減処理を実行し、またはゲインKaを徐々に大きくして、フリッカ生成ブロック53および演算ブロック40でのフリッカ低減処理をスムーズに実行する。
【0218】
<第2の具体例:図15>
図15は、第2の具体例を示す。
【0219】
この例は、図14に示した例に対して、記憶部71〜74、スイッチ75〜78および状態検出ブロック69を付加したものである。
【0220】
記憶部71は、振幅γmのデータを記憶し、記憶部72は、初期位相Φmnのデータを記憶し、記憶部73は、ゲイン調整回路63の出力データを記憶し、記憶部74は、デジタルLPF62の出力データを記憶するものであり、スイッチ75〜78は、それぞれ、状態検出ブロック69の検出結果に応じて、記憶部71〜74の入力データと出力データのいずれかを選択するものであり、スイッチ75の出力データが、デジタルLPF61に供給され、スイッチ76の出力データが、デジタルLPF62に供給され、スイッチ77の出力データが、振幅γm’のデータとしてフリッカ生成ブロック53に入力され、スイッチ78の出力データが、初期位相Φmn’のデータとしてフリッカ生成ブロック53に入力される。
【0221】
状態検出ブロック69には、ズーミング情報および手ぶれ情報が入力される。状態検出ブロック69は、ズーミング情報からは、ズーミングによって大きな画角変化を生じているか否かを判断し、手ぶれ情報からは、パンニングやチルティング、または大振幅の手ぶれなどによって大きな画角変化を生じているか否かを判断する。
【0222】
そして、大きな画角変化を生じていないと判断した場合には、状態検出ブロック69は、スイッチ75〜78を、それぞれ記憶部71〜74ではない側に切り替える。すなわち、通常は、図14の例と同様に、フリッカ低減処理が実行される。
【0223】
一方、大きな画角変化を生じていると判断した場合には、状態検出ブロック69は、スイッチ75〜78を、それぞれ記憶部71〜74側に切り替える。
【0224】
すなわち、大きな画角変化を生じている状態では、振幅γmおよび初期位相Φmnの信頼性が落ちるので、過去に求められて記憶部73および74に記憶されている振幅データおよび初期位相データが、振幅γm’および初期位相Φmn’としてフリッカ生成ブロック53に入力される。
【0225】
図16に示すように、モードA(蛍光灯照明下でフリッカが定常的・安定的に発生している状態)では、振幅γmおよび初期位相Φmnが安定しているので、過去の値を用いても何ら問題はなく、むしろ過去の値を積極的に利用すべきである。
【0226】
ただし、画角変化中にデジタルLPF61および62に信頼性の低いデータが入力され続けると、次にスイッチ77および78が記憶部73および74ではない側に切り替えられた直後の振幅γm’および初期位相Φmn’は、誤差を含んだものとなる。
【0227】
これを防止するため、大きな画角変化を生じている状態では、状態検出ブロック69は、スイッチ77および78を記憶部73および74側に切り替えるだけでなく、スイッチ75および76を記憶部71および72側に切り替えて、そのときの信頼性の低いデータが、デジタルLPF61および62に入力されずに、記憶部71および72に記憶されている、大きな画角変化を生じる前の信頼性の高いデータが、デジタルLPF61および62に入力されるように制御する。
【0228】
なお、ズーミング情報や手ぶれ情報に限らず、別途、振幅γmおよび初期位相Φmnの信頼性を判定して、その判定結果の信頼性レベル情報を、状態検出ブロック69の入力情報とし、信頼性レベル情報が振幅γmおよび初期位相Φmnの信頼性が低いことを示す場合には、上記のようにスイッチ75〜78が記憶部71〜74側に切り替えられることによって、過去の信頼性の高いデータが用いられるように構成することもできる。
【0229】
<効果>
以上の例によれば、蛍光灯照明下や非蛍光灯照明下の定常状態では外乱の影響をより受けにくく、それでいて遷移時の応答性・追従性の良い処理を実現することができる。また、状態遷移時や画角変化時、またはフリッカ検出パラメータの信頼性が低い場合などにも、スムーズに、かつ違和感なく、適切な処理を行うことができる。
【0230】
〔他の実施形態〕
(積分について)
上述した各例は、入力画像信号In’(x,y)を1ライン分に渡って積分する場合であるが、入力画像信号In’(x,y)の積分は、絵柄の影響を少なくしてフリッカ成分のサンプリング値を得るためであるので、1ラインに限らず、複数ラインの時間に渡って行ってもよい。上述したように画面上では縞模様として現れる蛍光灯フリッカ(画面内フリッカ)の1周期はL(=M*60/100)ラインに相当するので、その1周期、すなわちLラインで、少なくとも2つのサンプリング値を得るようにすれば、いわゆるサンプリングの定理から、フリッカ成分を検出することができる。
【0231】
実際上は、画面内フリッカの1周期、すなわちLラインで、数個以上ないし10個以上のサンプリング値を得ることが望ましいが、その場合でも、入力画像信号In’(x,y)を水平周期の数倍以上ないし10倍以上の時間に渡って積分することができる。また、積分時間は、2.5水平周期などというように、水平周期のちょうど整数倍でなくてもよい。
【0232】
そして、このように積分時間を長くし、単位時間当たりのサンプリング数を減らす場合には、DFTブロック51におけるDFT演算の負担を軽くすることができるとともに、被写体が画面垂直方向に動いた場合に、その影響を少なくすることができる。
【0233】
(その他について)
図2のような原色系システムの場合、図2のようにフリッカ低減部25R,25G,25BによってRGB各色の原色信号ごとにフリッカ成分を検出し、低減する代わりに、例えば、合成マトリクス回路29の輝度信号Yの出力側に、上述した例のようなフリッカ低減部25を設けて、輝度信号Y中のフリッカ成分を検出し、低減するように構成してもよい。
【0234】
また、上述した実施形態は、フリッカ低減部25を含むデジタル信号処理部20をハードウェアによって構成する場合であるが、フリッカ低減部25またはデジタル信号処理部20の一部または全部をソフトウェアによって構成してもよい。
【0235】
また、上述した実施形態は、垂直同期周波数が60Hz(1フィールド周期が1/60秒)の場合であるが、この発明は、例えば、デジタルカメラなど、プログレッシブ方式のカメラで、垂直同期周波数が30Hz(1フレーム周期が1/30秒)の場合にも適用することができる。この場合は、3フレーム周期(1/10秒)が蛍光灯の発光周期(1/100秒)の整数倍となる(フリッカの縞模様は3フレームで10波長分となる)ので、上述した実施形態のフィールドをフレームに置き換えればよい。
【0236】
さらに、この発明は、CMOS撮像素子以外のXYアドレス走査型の撮像素子を用いる場合にも適用することができる。
【0237】
【発明の効果】
上述したように、この発明によれば、受光素子などを用いることなく、簡単な信号処理のみによって、CMOS撮像素子などのXYアドレス走査型の撮像素子に固有の蛍光灯フリッカを、被写体や映像信号レベルおよび蛍光灯の種類などにかかわらず、高精度で検出し、確実かつ十分に低減することができる。
【0238】
特に、RGB各色の原色信号につき、この発明のフリッカ低減方法を用いる場合には、明暗フリッカだけでなく色フリッカをも、高精度で検出し、確実かつ十分に低減することができる。
【0239】
また、信号レベルが飽和領域にあるときにはフリッカ低減の演算を行わないようにする場合には、フリッカ低減の演算を行うことによって逆に信号成分が変化してしまうことを防止することができる。
【0240】
また、非蛍光灯照明下であるときにはフリッカ低減の演算を行わないようにする場合には、フリッカ低減の演算を行うことによる画質への影響を防止することができる。
【0241】
さらに、撮影者の操作または動作によって被写体が短時間で大きく変化するときには、直前に推定したフリッカ成分、または直前の信号に基づいて推定したフリッカ成分を演算する場合には、被写体が短時間で大きく変化することによるフリッカ検出精度の悪化を防止することができる。
【0242】
さらに、静止画を撮影するときなどのようにフリッカ低減処理が不要な撮影状況であるときにはフリッカ低減の演算を行わないようにする場合には、フリッカ低減の演算を行うことによる画質への影響を防止することができる。
【0243】
さらに、推定したフリッカ成分を調整し、その調整後のフリッカ成分を入力画像信号と演算する場合には、蛍光灯照明下や非蛍光灯照明下の定常状態では外乱の影響をより受けにくく、それでいて遷移時の応答性・追従性の良い処理を実現することができるとともに、状態遷移時や画角変化時、またはフリッカ検出パラメータの信頼性が低い場合などにも、スムーズに、かつ違和感なく、適切な処理を行うことができる。
【図面の簡単な説明】
【図1】この発明の撮像装置の一実施形態のシステム構成を示す図である。
【図2】原色系システムのデジタル信号処理部の一例を示す図である。
【図3】補色系システムのデジタル信号処理部の一例を示す図である。
【図4】フリッカ低減部の第1の例を示す図である。
【図5】飽和領域を考慮した場合の演算ブロックの一例を示す図である。
【図6】フリッカ低減部の第2の例を示す図である。
【図7】フリッカ低減部の第3の例を示す図である。
【図8】非蛍光灯照明下を考慮した場合のフリッカ低減部の一例を示す図である。
【図9】非蛍光灯照明下を考慮した場合のフリッカ低減部の他の例を示す図である。
【図10】撮影者の操作または動作によって被写体が短時間で大きく変化する場合を考慮した場合の撮像装置の例を示す図である。
【図11】撮影状況によってフリッカ低減処理が不要となる場合を考慮した場合の撮像装置の一例を示す図である。
【図12】撮影状況によってフリッカ低減処理が不要となる場合を考慮した場合の撮像装置の他の例を示す図である。
【図13】推定されたフリッカ成分を調整する場合の例の基本的な構成を示す図である。
【図14】推定されたフリッカ成分を調整する場合の第1の具体例を示す図である。
【図15】推定されたフリッカ成分を調整する場合の第2の具体例を示す図である。
【図16】図14および図15の例の説明に供する図である。
【図17】各例の説明に供する式を示す図である。
【図18】各例の説明に供する式を示す図である。
【図19】各例の説明に供する式を示す図である。
【図20】各例の説明に供する式を示す図である。
【図21】各例の説明に供する式を示す図である。
【図22】図8および図9の例の説明に供する図である。
【図23】試験で用いた被写体を示す図である。
【図24】図23の被写体の場合の積分値を示す図である。
【図25】図23の被写体の場合の差分値を示す図である。
【図26】図23の被写体の場合の正規化後の差分値を示す図である。
【図27】図23の被写体の場合の推定されたフリッカ係数を示す図である。
【図28】CCD撮像素子の場合の蛍光灯フリッカの説明に供する図である。
【図29】XYアドレス走査型の撮像素子の場合の蛍光灯フリッカの説明に供する図である。
【図30】XYアドレス走査型の撮像素子の場合の蛍光灯フリッカの1画面内の縞模様を示す図である。
【図31】XYアドレス走査型の撮像素子の場合の蛍光灯フリッカの連続する3画面に渡る縞模様を示す図である。
【符号の説明】
主要部については図中に全て記述したので、ここでは省略する。
Claims (40)
- 蛍光灯照明下でXYアドレス走査型の撮像素子により被写体を撮影することによって得られる映像信号または輝度信号に含まれる蛍光灯フリッカ成分を低減する方法であって、
前記映像信号または前記輝度信号を入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する工程と、
その積分値、または隣接するフィールドまたはフレームにおける積分値の差分値を、正規化する工程と、
その正規化後の積分値または差分値のスペクトルを抽出する工程と、
その抽出したスペクトルからフリッカ成分を推定する工程と、
その推定したフリッカ成分を打ち消すように、推定したフリッカ成分と前記入力画像信号を演算する工程と、
を備えるフリッカ低減方法。 - 蛍光灯照明下でXYアドレス走査型の撮像素子により被写体を撮影することによって得られる各色の色信号に含まれる蛍光灯フリッカ成分を低減する方法であって、
前記各色の色信号を、それぞれ入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する工程と、
その積分値、または隣接するフィールドまたはフレームにおける積分値の差分値を、正規化する工程と、
その正規化後の積分値または差分値のスペクトルを抽出する工程と、
その抽出したスペクトルからフリッカ成分を推定する工程と、
その推定したフリッカ成分を打ち消すように、推定したフリッカ成分と前記入力画像信号を演算する工程と、
を備えるフリッカ低減方法。 - 蛍光灯照明下でXYアドレス走査型の撮像素子により被写体を撮影することによって得られる輝度信号および各色の色信号に含まれる蛍光灯フリッカ成分を低減する方法であって、
前記輝度信号および前記各色の色信号を、それぞれ入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する工程と、
その積分値、または隣接するフィールドまたはフレームにおける積分値の差分値を、正規化する工程と、
その正規化後の積分値または差分値のスペクトルを抽出する工程と、
その抽出したスペクトルからフリッカ成分を推定する工程と、
その推定したフリッカ成分を打ち消すように、推定したフリッカ成分と前記入力画像信号を演算する工程と、
を備えるフリッカ低減方法。 - 請求項1〜3のいずれかのフリッカ低減方法において、
前記正規化工程では、前記差分値を連続する複数フィールドまたは複数フレームにおける積分値の平均値で除算するフリッカ低減方法。 - 請求項1〜3のいずれかのフリッカ低減方法において、
前記正規化工程では、前記積分値を連続する複数フィールドまたは複数フレームにおける積分値の平均値で除算し、その除算結果から所定値を減算するフリッカ低減方法。 - 請求項1〜3のいずれかのフリッカ低減方法において、
前記正規化工程では、前記差分値を前記積分値で除算するフリッカ低減方法。 - 請求項1〜3のいずれかのフリッカ低減方法において、
前記スペクトル抽出工程では、正規化後の積分値または差分値をフーリエ変換するフリッカ低減方法。 - 請求項1〜3のいずれかのフリッカ低減方法において、
前記入力画像信号のレベルが飽和領域にあるか否かを判断し、飽和領域にあると判定したときには、前記入力画像信号を、そのまま出力画像信号として取り出すフリッカ低減方法。 - 請求項1〜3のいずれかのフリッカ低減方法において、
抽出したスペクトルのレベルから蛍光灯照明下であるか否かを判断し、蛍光灯照明下ではないと判定したときには、前記入力画像信号を、そのまま出力画像信号として取り出すフリッカ低減方法。 - 請求項1〜3のいずれかのフリッカ低減方法において、
撮影者の操作または動作によって被写体が短時間で大きく変化するか否かを判断し、大きく変化すると判定したときには、直前に推定したフリッカ成分、または直前の信号に基づいて推定したフリッカ成分と、前記入力画像信号を演算するフリッカ低減方法。 - 請求項1〜3のいずれかのフリッカ低減方法において、
フリッカ低減処理が不要な撮影状況であるか否かを判断し、不要な撮影状況であると判定したときには、前記入力画像信号を、そのまま出力画像信号として取り出すフリッカ低減方法。 - 請求項1〜3のいずれかのフリッカ低減方法において、
推定したフリッカ成分を調整し、その調整後のフリッカ成分を前記入力画像信号と演算するフリッカ低減方法。 - 請求項1〜3のいずれかのフリッカ低減方法において、
推定したフリッカ成分の振幅データおよび初期位相データを、それぞれローパスフィルタを通して調整し、その調整後の振幅データおよび初期位相データを用いて、前記入力画像信号と演算するフリッカ成分を生成するフリッカ低減方法。 - 請求項13のフリッカ低減方法において、
調整後の振幅データおよび初期位相データを記憶部に保存しておき、一定の状態が検出された場合には、その保存されている振幅データおよび初期位相データを用いて、前記入力画像信号と演算するフリッカ成分を生成するフリッカ低減方法。 - XYアドレス走査型の撮像素子と、
この撮像素子により被写体を撮影することによって得られる映像信号または輝度信号を入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する手段と、
その積分値、または隣接するフィールドまたはフレームにおける積分値の差分値を、正規化する手段と、
その正規化後の積分値または差分値のスペクトルを抽出する手段と、
その抽出されたスペクトルからフリッカ成分を推定する手段と、
その推定されたフリッカ成分を打ち消すように、推定されたフリッカ成分と前記入力画像信号を演算する手段と、
を備える撮像装置。 - XYアドレス走査型の撮像素子と、
この撮像素子により被写体を撮影することによって得られる各色の色信号を、それぞれ入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する手段と、
その積分値、または隣接するフィールドまたはフレームにおける積分値の差分値を、正規化する手段と、
その正規化後の積分値または差分値のスペクトルを抽出する手段と、
その抽出されたスペクトルからフリッカ成分を推定する手段と、
その推定されたフリッカ成分を打ち消すように、推定されたフリッカ成分と前記入力画像信号を演算する手段と、
を備える撮像装置。 - XYアドレス走査型の撮像素子と、
この撮像素子により被写体を撮影することによって得られる輝度信号および各色の色信号を、それぞれ入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する手段と、
その積分値、または隣接するフィールドまたはフレームにおける積分値の差分値を、正規化する手段と、
その正規化後の積分値または差分値のスペクトルを抽出する手段と、
その抽出されたスペクトルからフリッカ成分を推定する手段と、
その推定されたフリッカ成分を打ち消すように、推定されたフリッカ成分と前記入力画像信号を演算する手段と、
を備える撮像装置。 - 請求項15〜17のいずれかの撮像装置において、
前記正規化手段は、前記差分値を連続する複数フィールドまたは複数フレームにおける積分値の平均値で除算する撮像装置。 - 請求項15〜17のいずれかの撮像装置において、
前記正規化手段は、前記積分値を連続する複数フィールドまたは複数フレームにおける積分値の平均値で除算し、その除算結果から所定値を減算する撮像装置。 - 請求項15〜17のいずれかの撮像装置において、
前記正規化手段は、前記差分値を前記積分値で除算する撮像装置。 - 請求項15〜17のいずれかの撮像装置において、
前記スペクトル抽出手段は、正規化後の積分値または差分値をフーリエ変換する手段である撮像装置。 - 請求項15〜17のいずれかの撮像装置において、
前記入力画像信号のレベルが飽和領域にあるか否かを判断し、飽和領域にあると判定したときには、前記入力画像信号を、そのまま出力画像信号として取り出す手段を備える撮像装置。 - 請求項15〜17のいずれかの撮像装置において、
前記スペクトル抽出手段によって抽出されたスペクトルのレベルから蛍光灯照明下であるか否かを判断し、蛍光灯照明下ではないと判定したときには、前記入力画像信号を、そのまま出力画像信号として取り出す手段を備える撮像装置。 - 請求項15〜17のいずれかの撮像装置において、
撮影者の操作または動作によって被写体が短時間で大きく変化するか否かを判断し、大きく変化すると判定したときには、前記演算手段に対して、前記フリッカ成分推定手段によって直前に推定されたフリッカ成分、または直前の信号に基づいて前記フリッカ成分推定手段によって推定されたフリッカ成分と、前記入力画像信号を演算させる手段を備える撮像装置。 - 請求項15〜17のいずれかの撮像装置において、
フリッカ低減処理が不要な撮影状況であるか否かを判断し、不要な撮影状況であると判定したときには、前記入力画像信号を、そのまま出力画像信号として取り出す手段を備える撮像装置。 - 請求項15〜17のいずれかの撮像装置において、
前記フリッカ成分推定手段によって推定されたフリッカ成分を調整して、前記入力画像信号と演算されるフリッカ成分を生成する調整手段を備える撮像装置。 - 請求項15〜17のいずれかの撮像装置において、
前記フリッカ成分推定手段によって推定されたフリッカ成分の振幅データおよび初期位相データを調整して、前記入力画像信号と演算されるフリッカ成分を生成するローパスフィルタ手段を備える撮像装置。 - 請求項27の撮像装置において、
前記ローパスフィルタ手段によって調整された振幅データおよび初期位相データを保存する記憶手段と、
一定の状態が検出された場合に、前記記憶手段に保存されている振幅データおよび初期位相データを用いて、前記入力画像信号と演算するフリッカ成分を生成する手段とを備える撮像装置。 - 蛍光灯照明下でXYアドレス走査型の撮像素子により被写体を撮影することによって得られる映像信号または輝度信号に含まれる蛍光灯フリッカ成分を低減する回路であって、
前記映像信号または前記輝度信号を入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する手段と、
その積分値、または隣接するフィールドまたはフレームにおける積分値の差分値を、正規化する手段と、
その正規化後の積分値または差分値のスペクトルを抽出する手段と、
その抽出されたスペクトルからフリッカ成分を推定する手段と、
その推定されたフリッカ成分を打ち消すように、推定されたフリッカ成分と前記入力画像信号を演算する手段と、
を備えるフリッカ低減回路。 - 蛍光灯照明下でXYアドレス走査型の撮像素子により被写体を撮影することによって得られる各色の色信号に含まれる蛍光灯フリッカ成分を低減する回路であって、
前記各色の色信号を、それぞれ入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する手段と、
その積分値、または隣接するフィールドまたはフレームにおける積分値の差分値を、正規化する手段と、
その正規化後の積分値または差分値のスペクトルを抽出する手段と、
その抽出されたスペクトルからフリッカ成分を推定する手段と、
その推定されたフリッカ成分を打ち消すように、推定されたフリッカ成分と前記入力画像信号を演算する手段と、
を備えるフリッカ低減回路。 - 蛍光灯照明下でXYアドレス走査型の撮像素子により被写体を撮影することによって得られる輝度信号および各色の色信号に含まれる蛍光灯フリッカ成分を低減する回路であって、
前記輝度信号および前記各色の色信号を、それぞれ入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する手段と、
その積分値、または隣接するフィールドまたはフレームにおける積分値の差分値を、正規化する手段と、
その正規化後の積分値または差分値のスペクトルを抽出する手段と、
その抽出されたスペクトルからフリッカ成分を推定する手段と、
その推定されたフリッカ成分を打ち消すように、推定されたフリッカ成分と前記入力画像信号を演算する手段と、
を備えるフリッカ低減回路。 - 請求項29〜31のいずれかのフリッカ低減回路において、
前記正規化手段は、前記差分値を連続する複数フィールドまたは複数フレームにおける積分値の平均値で除算するフリッカ低減回路。 - 請求項29〜31のいずれかのフリッカ低減回路において、
前記正規化手段は、前記積分値を連続する複数フィールドまたは複数フレームにおける積分値の平均値で除算し、その除算結果から所定値を減算するフリッカ低減回路。 - 請求項29〜31のいずれかのフリッカ低減回路において、
前記正規化手段は、前記差分値を前記積分値で除算するフリッカ低減回路。 - 請求項29〜31のいずれかのフリッカ低減回路において、
前記スペクトル抽出手段は、正規化後の積分値または差分値をフーリエ変換する手段であるフリッカ低減回路。 - 請求項29〜31のいずれかのフリッカ低減回路において、
前記入力画像信号のレベルが飽和領域にあるか否かを判断し、飽和領域にあると判定したときには、前記入力画像信号を、そのまま出力画像信号として取り出す手段を備えるフリッカ低減回路。 - 請求項29〜31のいずれかのフリッカ低減回路において、
前記スペクトル抽出手段によって抽出されたスペクトルのレベルから蛍光灯照明下であるか否かを判断し、蛍光灯照明下ではないと判定したときには、前記入力画像信号を、そのまま出力画像信号として取り出す手段を備えるフリッカ低減回路。 - 請求項29〜31のいずれかのフリッカ低減回路において、
外部手段の制御によって、前記演算手段に対して、前記フリッカ成分推定手段によって直前に推定されたフリッカ成分、または直前の信号に基づいて前記フリッカ成分推定手段によって推定されたフリッカ成分と、前記入力画像信号を演算させる手段を備えるフリッカ低減回路。 - 請求項29〜31のいずれかのフリッカ低減回路において、
外部手段の制御によって、前記入力画像信号を、そのまま出力画像信号として取り出す手段を備えるフリッカ低減回路。 - 請求項29〜31のいずれかのフリッカ低減回路において、
前記フリッカ成分推定手段によって推定され、かつ外部手段によって調整されたフリッカ成分を前記入力画像信号と演算する手段を備えるフリッカ低減回路。
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003173642A JP4423889B2 (ja) | 2002-11-18 | 2003-06-18 | フリッカ低減方法、撮像装置およびフリッカ低減回路 |
PCT/JP2003/013237 WO2004047427A1 (ja) | 2002-11-18 | 2003-10-16 | フリッカ低減方法、撮像装置およびフリッカ低減回路 |
EP03756640A EP1566962A4 (en) | 2002-11-18 | 2003-10-16 | FLAG REDUCTION PROCEDURE, IMAGING DEVICE AND FLAG REDUCTION SWITCHING |
KR1020057008810A KR101040842B1 (ko) | 2002-11-18 | 2003-10-16 | 플리커 저감 방법, 촬상 장치 및 플리커 저감 회로 |
US10/535,114 US7656436B2 (en) | 2002-11-18 | 2003-10-16 | Flicker reduction method, image pickup device, and flicker reduction circuit |
AU2003302113A AU2003302113A1 (en) | 2002-11-18 | 2003-10-16 | Flicker reduction method, image pickup device, and flicker reduction circuit |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002333158 | 2002-11-18 | ||
JP2003173642A JP4423889B2 (ja) | 2002-11-18 | 2003-06-18 | フリッカ低減方法、撮像装置およびフリッカ低減回路 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004222228A true JP2004222228A (ja) | 2004-08-05 |
JP4423889B2 JP4423889B2 (ja) | 2010-03-03 |
Family
ID=32328307
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003173642A Expired - Fee Related JP4423889B2 (ja) | 2002-11-18 | 2003-06-18 | フリッカ低減方法、撮像装置およびフリッカ低減回路 |
Country Status (6)
Country | Link |
---|---|
US (1) | US7656436B2 (ja) |
EP (1) | EP1566962A4 (ja) |
JP (1) | JP4423889B2 (ja) |
KR (1) | KR101040842B1 (ja) |
AU (1) | AU2003302113A1 (ja) |
WO (1) | WO2004047427A1 (ja) |
Cited By (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006319831A (ja) * | 2005-05-16 | 2006-11-24 | Sony Corp | 画像処理装置および撮像装置 |
EP1732313A1 (en) * | 2005-06-10 | 2006-12-13 | Sony Corporation | Image processing apparatus and image capture apparatus |
EP1734747A1 (en) * | 2005-06-13 | 2006-12-20 | Sony Corporation | Image-processing apparatus and image-pickup apparatus |
EP1758374A2 (en) | 2005-08-26 | 2007-02-28 | Sony Corporation | Exposure control method, exposure control apparatus and image pickup apparatus |
JP2007074555A (ja) * | 2005-09-08 | 2007-03-22 | Sony Corp | フリッカ低減方法、フリッカ低減回路及び撮像装置 |
JP2007174678A (ja) * | 2005-12-22 | 2007-07-05 | Magnachip Semiconductor Ltd | イメージセンサのフリッカー検出回路及び方法 |
JP2007235808A (ja) * | 2006-03-03 | 2007-09-13 | Nec Saitama Ltd | 撮影装置及び方法並びにプログラム |
JP2008011226A (ja) * | 2006-06-29 | 2008-01-17 | Kyocera Corp | 撮像装置のフリッカ検出方法と装置 |
CN100525397C (zh) * | 2005-12-27 | 2009-08-05 | 索尼株式会社 | 摄像装置和方法 |
US7589763B2 (en) | 2005-04-19 | 2009-09-15 | Sony Corporation | Flicker correction method and device, and imaging device |
JP2009212627A (ja) * | 2008-03-03 | 2009-09-17 | Sony Corp | 画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム |
US7675552B2 (en) | 2005-04-19 | 2010-03-09 | Sony Corporation | Flicker correction method and device, and imaging device |
JP2010063169A (ja) * | 2005-06-13 | 2010-03-18 | Sony Corp | 画像処理装置および撮像装置 |
WO2010058567A1 (ja) * | 2008-11-20 | 2010-05-27 | パナソニック株式会社 | フリッカ低減装置、集積回路及びフリッカ低減方法 |
US7764312B2 (en) | 2005-05-13 | 2010-07-27 | Sony Corporation | Flicker correction method and device, and imaging device |
US20110025881A1 (en) * | 2009-07-28 | 2011-02-03 | Sanyo Electric Co., Ltd. | Video camera |
JP2011044786A (ja) * | 2009-08-19 | 2011-03-03 | Acutelogic Corp | 撮像装置のフリッカ検出方法及びフリッカ検出装置、フリッカ検出プログラム |
WO2011093112A1 (ja) * | 2010-01-29 | 2011-08-04 | ソニー株式会社 | 画像処理装置、および信号処理方法、並びにプログラム |
JP2011163947A (ja) * | 2010-02-10 | 2011-08-25 | Seiko Epson Corp | 光特性測定方法およびその装置 |
JP4809443B2 (ja) * | 2006-01-05 | 2011-11-09 | クゥアルコム・インコーポレイテッド | 画像取込デバイスにおける自動フリッカ補正 |
US8144213B2 (en) | 2008-02-04 | 2012-03-27 | Panasonic Corporation | Imaging device, integrated circuit, and imaging method for encoding image frames based on detected flicker of a light source |
KR20120036961A (ko) * | 2009-06-09 | 2012-04-18 | 구글 잉크. | 영상 시퀀스에서 플리커의 검출 및 억제 |
WO2012104932A1 (ja) * | 2011-02-04 | 2012-08-09 | パナソニック株式会社 | フリッカ補正装置、フリッカ補正方法、およびフリッカ補正プログラム |
US8432460B2 (en) | 2005-08-30 | 2013-04-30 | Sony Corporation | Flicker detection device, flicker elimination device, image pickup device, and flicker detection method |
US8456540B2 (en) | 2009-10-26 | 2013-06-04 | Kabushiki Kaisha Toshiba | Solid-state imaging device |
US8542292B2 (en) | 2011-02-04 | 2013-09-24 | Panasonic Corporation | Flicker correction device, flicker correction method and flicker correction program |
US8730346B2 (en) | 2010-11-17 | 2014-05-20 | Kabushiki Kaisha Toshiba | Solid-state imaging apparatus |
WO2014199542A1 (ja) * | 2013-06-14 | 2014-12-18 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 撮像装置、集積回路およびフリッカ低減方法 |
JP2015005850A (ja) * | 2013-06-20 | 2015-01-08 | 株式会社Jvcケンウッド | 撮像装置、及びフリッカ低減方法 |
WO2016031402A1 (ja) * | 2014-08-27 | 2016-03-03 | ソニー株式会社 | 撮像装置および撮像装置の制御方法 |
WO2018101092A1 (ja) * | 2016-11-30 | 2018-06-07 | オリンパス株式会社 | 撮像装置およびフリッカ判定方法 |
US10104308B2 (en) | 2014-07-31 | 2018-10-16 | Canon Kabushiki Kaisha | Image capturing apparatus, method for controlling the same, and storage medium |
Families Citing this family (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4259998B2 (ja) * | 2003-12-19 | 2009-04-30 | 三洋電機株式会社 | フリッカ検出装置及び撮像装置 |
JP4796755B2 (ja) * | 2004-07-01 | 2011-10-19 | Hoya株式会社 | 像ブレ補正装置 |
CN100484197C (zh) * | 2004-11-15 | 2009-04-29 | 索尼株式会社 | 闪烁校正方法、闪烁校正电路、以及使用它们的摄像装置 |
US7538799B2 (en) | 2005-01-14 | 2009-05-26 | Freescale Semiconductor, Inc. | System and method for flicker detection in digital imaging |
US7683948B2 (en) * | 2005-03-31 | 2010-03-23 | Freescale Semiconductor, Inc. | System and method for bad pixel replacement in image processing |
US7593040B2 (en) | 2006-01-30 | 2009-09-22 | Omnivision Technologies, Inc. | Image anti-shake in digital cameras |
EP2092448A1 (en) * | 2006-11-14 | 2009-08-26 | Koninklijke Philips Electronics N.V. | Method and apparatus for detecting slow motion |
KR100891434B1 (ko) * | 2007-05-16 | 2009-04-03 | 주식회사 코아로직 | 플리커 노이즈 검출 장치, 방법 및 그 기록매체 |
JP4971956B2 (ja) * | 2007-11-27 | 2012-07-11 | キヤノン株式会社 | フリッカ補正装置、フリッカ補正方法並びに撮像装置 |
JP5111100B2 (ja) | 2007-12-28 | 2012-12-26 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム及び記憶媒体 |
JP2010021645A (ja) * | 2008-07-08 | 2010-01-28 | Nikon Corp | 画像処理装置、撮像装置、および画像処理プログラム |
JP5106283B2 (ja) * | 2008-07-15 | 2012-12-26 | 三洋電機株式会社 | ビデオカメラ |
US7911505B2 (en) * | 2008-08-20 | 2011-03-22 | Eastman Kodak Company | Detecting illuminant flicker |
JP4626689B2 (ja) * | 2008-08-26 | 2011-02-09 | ソニー株式会社 | 撮像装置、補正回路および補正方法 |
JP5218239B2 (ja) * | 2009-04-14 | 2013-06-26 | ソニー株式会社 | 画像データ処理装置および撮像装置 |
JP5523124B2 (ja) * | 2010-01-26 | 2014-06-18 | キヤノン株式会社 | 撮像装置 |
JP5682196B2 (ja) * | 2010-09-22 | 2015-03-11 | セイコーエプソン株式会社 | 画像補正回路、撮影装置および画像補正プログラム |
US9418270B2 (en) | 2011-01-31 | 2016-08-16 | Hand Held Products, Inc. | Terminal with flicker-corrected aimer and alternating illumination |
US9088727B2 (en) | 2011-04-06 | 2015-07-21 | Pelco, Inc. | Spatially-varying flicker detection |
WO2012147337A1 (ja) * | 2011-04-28 | 2012-11-01 | オリンパス株式会社 | フリッカ検出装置、フリッカ検出方法およびフリッカ検出プログラム |
TWI469632B (zh) * | 2011-11-09 | 2015-01-11 | Silicon Motion Inc | 抗閃爍攝錄裝置與攝錄方法 |
US8736711B2 (en) * | 2012-03-19 | 2014-05-27 | Htc Corporation | Camera with anti-flicker capability and image capturing method with anti-flicker capability |
US9367907B2 (en) * | 2013-04-12 | 2016-06-14 | Panasonic Intellectual Property Corporation Of America | Flicker reducing device, imaging device, and flicker reducing method |
JP2016034094A (ja) | 2014-07-31 | 2016-03-10 | ソニー株式会社 | 画像処理装置、画像処理方法、プログラム、およびイメージセンサ |
JP6300118B2 (ja) * | 2015-09-24 | 2018-03-28 | カシオ計算機株式会社 | 撮像装置、フリッカ検出方法及びプログラム |
CN105430289B (zh) * | 2015-11-19 | 2018-05-15 | 广东顺德中山大学卡内基梅隆大学国际联合研究院 | 一种基于cmos图像传感器检测led闪烁频率的方法 |
KR102523301B1 (ko) * | 2015-12-15 | 2023-04-19 | 삼성전자주식회사 | 플리커를 제거하는 이미지 센서 회로 및 이를 포함하는 카메라 장치 |
KR20220048090A (ko) | 2020-10-12 | 2022-04-19 | 삼성전자주식회사 | 주파수 도메인을 이용한 이미지 센서의 검사 방법 및 이를 수행하는 검사 시스템 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6195127B1 (en) * | 1996-07-18 | 2001-02-27 | Sanyo Electric Co., Ltd. | Digital camera, having a flash unit, which determines proper flash duration through an assessment of image luminance and, where needed, a preliminary flash emission |
JPH11122513A (ja) * | 1997-10-09 | 1999-04-30 | Matsushita Electric Ind Co Ltd | 蛍光灯フリッカー補正装置及びそれを使用したカメラ |
JP3506900B2 (ja) * | 1998-03-03 | 2004-03-15 | 松下電器産業株式会社 | フリッカ補正装置 |
US6850278B1 (en) * | 1998-11-27 | 2005-02-01 | Canon Kabushiki Kaisha | Solid-state image pickup apparatus |
JP3476400B2 (ja) | 1999-10-19 | 2003-12-10 | 松下電器産業株式会社 | フリッカ検出・補正装置およびフリッカ検出・補正方法 |
US6710818B1 (en) * | 1999-10-08 | 2004-03-23 | Matsushita Electric Industrial Co., Ltd. | Illumination flicker detection apparatus, an illumination flicker compensation apparatus, and an ac line frequency detection apparatus, methods of detecting illumination flicker, compensating illumination flicker, and measuring ac line frequency |
US7298401B2 (en) * | 2001-08-10 | 2007-11-20 | Micron Technology, Inc. | Method and apparatus for removing flicker from images |
JP2003198932A (ja) | 2001-12-27 | 2003-07-11 | Sharp Corp | フリッカ補正装置およびフリッカ補正方法、並びにフリッカ補正プログラムを記録した記録媒体 |
-
2003
- 2003-06-18 JP JP2003173642A patent/JP4423889B2/ja not_active Expired - Fee Related
- 2003-10-16 US US10/535,114 patent/US7656436B2/en active Active
- 2003-10-16 EP EP03756640A patent/EP1566962A4/en not_active Withdrawn
- 2003-10-16 KR KR1020057008810A patent/KR101040842B1/ko not_active IP Right Cessation
- 2003-10-16 WO PCT/JP2003/013237 patent/WO2004047427A1/ja active Application Filing
- 2003-10-16 AU AU2003302113A patent/AU2003302113A1/en not_active Abandoned
Cited By (59)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7589763B2 (en) | 2005-04-19 | 2009-09-15 | Sony Corporation | Flicker correction method and device, and imaging device |
US7675552B2 (en) | 2005-04-19 | 2010-03-09 | Sony Corporation | Flicker correction method and device, and imaging device |
US7764312B2 (en) | 2005-05-13 | 2010-07-27 | Sony Corporation | Flicker correction method and device, and imaging device |
JP4539432B2 (ja) * | 2005-05-16 | 2010-09-08 | ソニー株式会社 | 画像処理装置および撮像装置 |
JP2006319831A (ja) * | 2005-05-16 | 2006-11-24 | Sony Corp | 画像処理装置および撮像装置 |
US8416337B2 (en) | 2005-05-16 | 2013-04-09 | Sony Corporation | Image process apparatus and method for processing a color image signal |
JP4539449B2 (ja) * | 2005-06-10 | 2010-09-08 | ソニー株式会社 | 画像処理装置および撮像装置 |
JP2006345368A (ja) * | 2005-06-10 | 2006-12-21 | Sony Corp | 画像処理装置および撮像装置 |
EP1732313A1 (en) * | 2005-06-10 | 2006-12-13 | Sony Corporation | Image processing apparatus and image capture apparatus |
US7995112B2 (en) | 2005-06-13 | 2011-08-09 | Sony Corporation | Image-processing apparatus and image-pickup apparatus |
JP2010063169A (ja) * | 2005-06-13 | 2010-03-18 | Sony Corp | 画像処理装置および撮像装置 |
EP1734747A1 (en) * | 2005-06-13 | 2006-12-20 | Sony Corporation | Image-processing apparatus and image-pickup apparatus |
EP1758374A2 (en) | 2005-08-26 | 2007-02-28 | Sony Corporation | Exposure control method, exposure control apparatus and image pickup apparatus |
US8031237B2 (en) | 2005-08-26 | 2011-10-04 | Sony Corporation | Exposure control method, exposure control apparatus and image pickup apparatus |
US8432460B2 (en) | 2005-08-30 | 2013-04-30 | Sony Corporation | Flicker detection device, flicker elimination device, image pickup device, and flicker detection method |
US7639285B2 (en) | 2005-09-08 | 2009-12-29 | Sony Corporation | Flicker reduction method, flicker reduction circuit and image pickup apparatus |
JP2007074555A (ja) * | 2005-09-08 | 2007-03-22 | Sony Corp | フリッカ低減方法、フリッカ低減回路及び撮像装置 |
US8520094B2 (en) | 2005-12-22 | 2013-08-27 | Intellectual Ventures Ii Llc | Flicker detecting circuit and method in image sensor |
JP2007174678A (ja) * | 2005-12-22 | 2007-07-05 | Magnachip Semiconductor Ltd | イメージセンサのフリッカー検出回路及び方法 |
US7663669B2 (en) | 2005-12-27 | 2010-02-16 | Sony Corporation | Imaging apparatus including an XY-address-scanning imaging device, imaging method, and recording medium |
CN100525397C (zh) * | 2005-12-27 | 2009-08-05 | 索尼株式会社 | 摄像装置和方法 |
JP4809443B2 (ja) * | 2006-01-05 | 2011-11-09 | クゥアルコム・インコーポレイテッド | 画像取込デバイスにおける自動フリッカ補正 |
JP2007235808A (ja) * | 2006-03-03 | 2007-09-13 | Nec Saitama Ltd | 撮影装置及び方法並びにプログラム |
JP2008011226A (ja) * | 2006-06-29 | 2008-01-17 | Kyocera Corp | 撮像装置のフリッカ検出方法と装置 |
US8144213B2 (en) | 2008-02-04 | 2012-03-27 | Panasonic Corporation | Imaging device, integrated circuit, and imaging method for encoding image frames based on detected flicker of a light source |
JP2009212627A (ja) * | 2008-03-03 | 2009-09-17 | Sony Corp | 画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム |
US8115828B2 (en) | 2008-03-03 | 2012-02-14 | Sony Corporation | Image processing apparatus, flicker reduction method, imaging apparatus, and flicker reduction program |
JPWO2010058567A1 (ja) * | 2008-11-20 | 2012-04-19 | パナソニック株式会社 | フリッカ低減装置、集積回路及びフリッカ低減方法 |
US8451345B2 (en) | 2008-11-20 | 2013-05-28 | Panasonic Corporation | Flicker reduction device, integrated circuit, and flicker reduction method |
WO2010058567A1 (ja) * | 2008-11-20 | 2010-05-27 | パナソニック株式会社 | フリッカ低減装置、集積回路及びフリッカ低減方法 |
JP5628684B2 (ja) * | 2008-11-20 | 2014-11-19 | パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America | フリッカ低減装置、集積回路及びフリッカ低減方法 |
KR20120036961A (ko) * | 2009-06-09 | 2012-04-18 | 구글 잉크. | 영상 시퀀스에서 플리커의 검출 및 억제 |
US8903171B2 (en) | 2009-06-09 | 2014-12-02 | Google Inc. | Detection and suppression of flicker in a sequence of images |
JP2012529820A (ja) * | 2009-06-09 | 2012-11-22 | グーグル インコーポレイテッド | 画像列中のフリッカの検出および抑制 |
KR101678547B1 (ko) | 2009-06-09 | 2016-11-22 | 구글 잉크. | 영상 시퀀스에서 플리커의 검출 및 억제 |
US20110025881A1 (en) * | 2009-07-28 | 2011-02-03 | Sanyo Electric Co., Ltd. | Video camera |
US8441550B2 (en) * | 2009-07-28 | 2013-05-14 | Sanyo Electric Co., Ltd. | Imaging device program and method for preventing the generation of flicker |
JP2011044786A (ja) * | 2009-08-19 | 2011-03-03 | Acutelogic Corp | 撮像装置のフリッカ検出方法及びフリッカ検出装置、フリッカ検出プログラム |
US8570395B2 (en) | 2009-10-26 | 2013-10-29 | Kabushiki Kaisha Toshiba | Solid-state imaging device |
US8456540B2 (en) | 2009-10-26 | 2013-06-04 | Kabushiki Kaisha Toshiba | Solid-state imaging device |
WO2011093112A1 (ja) * | 2010-01-29 | 2011-08-04 | ソニー株式会社 | 画像処理装置、および信号処理方法、並びにプログラム |
JP2011160090A (ja) * | 2010-01-29 | 2011-08-18 | Sony Corp | 画像処理装置、および信号処理方法、並びにプログラム |
US8890975B2 (en) | 2010-01-29 | 2014-11-18 | Sony Corporation | Image processing apparatus, signal processing method and computer-readable medium for image flicker correction |
JP2011163947A (ja) * | 2010-02-10 | 2011-08-25 | Seiko Epson Corp | 光特性測定方法およびその装置 |
US8730346B2 (en) | 2010-11-17 | 2014-05-20 | Kabushiki Kaisha Toshiba | Solid-state imaging apparatus |
US8542292B2 (en) | 2011-02-04 | 2013-09-24 | Panasonic Corporation | Flicker correction device, flicker correction method and flicker correction program |
JP2012165118A (ja) * | 2011-02-04 | 2012-08-30 | Panasonic Corp | フリッカ補正装置、フリッカ補正方法、およびフリッカ補正プログラム |
WO2012104932A1 (ja) * | 2011-02-04 | 2012-08-09 | パナソニック株式会社 | フリッカ補正装置、フリッカ補正方法、およびフリッカ補正プログラム |
US9344640B2 (en) | 2013-06-14 | 2016-05-17 | Panasonic Intellectual Property Corporation Of America | Imaging device, integrated circuit, and flicker reduction method |
CN104541499A (zh) * | 2013-06-14 | 2015-04-22 | 松下电器(美国)知识产权公司 | 摄像装置、集成电路以及闪烁减少方法 |
WO2014199542A1 (ja) * | 2013-06-14 | 2014-12-18 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 撮像装置、集積回路およびフリッカ低減方法 |
JPWO2014199542A1 (ja) * | 2013-06-14 | 2017-02-23 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 撮像装置、集積回路およびフリッカ低減方法 |
CN104541499B (zh) * | 2013-06-14 | 2018-05-18 | 松下电器(美国)知识产权公司 | 摄像装置、集成电路以及闪烁减少方法 |
US9264628B2 (en) | 2013-06-20 | 2016-02-16 | JVC Kenwood Corporation | Imaging apparatus and flicker reduction method |
JP2015005850A (ja) * | 2013-06-20 | 2015-01-08 | 株式会社Jvcケンウッド | 撮像装置、及びフリッカ低減方法 |
US10104308B2 (en) | 2014-07-31 | 2018-10-16 | Canon Kabushiki Kaisha | Image capturing apparatus, method for controlling the same, and storage medium |
WO2016031402A1 (ja) * | 2014-08-27 | 2016-03-03 | ソニー株式会社 | 撮像装置および撮像装置の制御方法 |
US10244183B2 (en) | 2014-08-27 | 2019-03-26 | Sony Corporation | Image capturing device and method of controlling image capturing device |
WO2018101092A1 (ja) * | 2016-11-30 | 2018-06-07 | オリンパス株式会社 | 撮像装置およびフリッカ判定方法 |
Also Published As
Publication number | Publication date |
---|---|
KR20050075425A (ko) | 2005-07-20 |
JP4423889B2 (ja) | 2010-03-03 |
KR101040842B1 (ko) | 2011-06-14 |
AU2003302113A1 (en) | 2004-06-15 |
US20060055823A1 (en) | 2006-03-16 |
EP1566962A4 (en) | 2009-09-16 |
WO2004047427A1 (ja) | 2004-06-03 |
EP1566962A1 (en) | 2005-08-24 |
US7656436B2 (en) | 2010-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4423889B2 (ja) | フリッカ低減方法、撮像装置およびフリッカ低減回路 | |
JP4483744B2 (ja) | 撮像装置及び撮像制御方法 | |
JP3826904B2 (ja) | 撮像装置およびフリッカ低減方法 | |
JP5035025B2 (ja) | 画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム | |
JP4487640B2 (ja) | 撮像装置 | |
JP4106554B2 (ja) | 撮影環境判定方法および撮像装置 | |
JP4904749B2 (ja) | フリッカ低減方法、フリッカ低減回路及び撮像装置 | |
WO2017090300A1 (ja) | 画像処理装置、および画像処理方法、ならびにプログラム | |
EP1091571A2 (en) | Apparatus and methods for detection and compensation of illumination flicker, detection and measurement of AC line frequency | |
KR20060128649A (ko) | 화상 처리 장치 및 촬상 장치 | |
JP2007174537A (ja) | 撮像装置 | |
JP2014050042A (ja) | 画像処理装置及び固体撮像装置 | |
JP2010147565A (ja) | 撮像装置 | |
JP2004179839A (ja) | 固体撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060525 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20090824 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090826 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20091002 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091021 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091117 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091130 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121218 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121218 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131218 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |