JP2010520673A - 撮像装置及びフリッカ検出方法 - Google Patents

撮像装置及びフリッカ検出方法 Download PDF

Info

Publication number
JP2010520673A
JP2010520673A JP2009551947A JP2009551947A JP2010520673A JP 2010520673 A JP2010520673 A JP 2010520673A JP 2009551947 A JP2009551947 A JP 2009551947A JP 2009551947 A JP2009551947 A JP 2009551947A JP 2010520673 A JP2010520673 A JP 2010520673A
Authority
JP
Japan
Prior art keywords
image
flicker
charge accumulation
accumulation time
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009551947A
Other languages
English (en)
Other versions
JP4856765B2 (ja
Inventor
謙太郎 新倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Electronics Corp
Original Assignee
Renesas Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Electronics Corp filed Critical Renesas Electronics Corp
Priority to JP2009551947A priority Critical patent/JP4856765B2/ja
Publication of JP2010520673A publication Critical patent/JP2010520673A/ja
Application granted granted Critical
Publication of JP4856765B2 publication Critical patent/JP4856765B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

露光制御部15は、CMOSセンサ10の電荷蓄積時間を制御する。CMOSセンサ10は、電荷蓄積時間T1で画像P1を撮影し、電荷蓄積時間T2で画像P2を撮影する。電荷蓄積時間T1は、第1の明滅周期で明滅する光源下での撮影画像にフリッカを生じさせない。電荷蓄積時間T2は、電荷蓄積時間T1と異なる。差分画像生成部17は、画像P1と画像P2の輝度の違いが強調されて現れる差分画像DPを生成する。フリッカ検出部18は、差分画像DPに表れる画像P1と画像P2の輝度の違いに基づいて、画像P2におけるフリッカ発生を検出する。

Description

本発明は、デジタルスチルカメラ等に適用される撮像装置に関し、特に、蛍光灯などの光源の照度変動に起因して撮影画像に生じるフリッカの検出機能を有する撮像装置及びフリッカ検出方法に関する。
固体撮像素子の1つであるCMOS(Complementary Metal Oxide Semiconductor)センサは、いわゆるライン露光を行う。このため、CMOSセンサの撮像面を構成する各画素(フォトダイオード)の電荷蓄積が行われるタイミングには、それぞれの画素の走査タイミングに応じてライン(走査線)毎にずれが生じる。したがって、インバータ方式でない蛍光灯照明による室内など、被写体の明るさが周期的に変化する環境下でCMOSセンサを用いた撮影を行うと、撮影画像に明暗の横縞が発生する場合がある。このように撮影画像に横縞が発生する現象は、フリッカと呼ばれる。
撮影画像のフリッカの発生を抑制する方法の1つに、CMOSセンサの電荷蓄積時間(シャッタスピード)を光源の明滅周期の整数倍に設定する方法がある(例えば、特許文献1を参照)。このように電荷蓄積時間を調整された撮像装置では、画素毎に電荷蓄積が行われるタイミングがずれている場合であっても、各画素の電荷蓄積時間内における光源の光量変動は均一化される。したがって、フリッカの発生を抑えることができる。
例えば、上述したインバータ方式でない蛍光灯の明滅周波数は、商用交流電源の電源周波数の2倍である。つまり、蛍光灯の明滅周期は、電源周波数が50Hzである地域では1/100秒であり、電源周波数が60Hzである地域では1/120秒である。したがって、電源周波数が50Hzである地域では、電荷蓄積時間をN/100秒とすればよく、電源周波数が60Hzである地域では、電荷蓄積時間をM/120秒とすればよい。ここで、N及びMは正の整数である。しかしながら、特許文献1には、フリッカ自体を検出する手法や、フリッカの検出に応じてCMOSセンサの電荷蓄積時間を最適化する手法は開示されていない。
特許文献2には、CMOSセンサにより得られた撮影画像をもとに演算されたフリッカ指標値を用いてフリッカの発生を検出し、その検出結果に応じて電荷蓄積時間を切り替える撮像装置が開示されている。
より具体的に述べると、特許文献2に開示された撮像装置は、CMOSセンサの電荷蓄積時間を、第1の電源周波数(例えば50Hz)に対応した第1の電荷蓄積時間(例えばN/100秒)と、第2の電源周波数(例えば60Hz)に対応した第2の電荷蓄積時間(例えばM/120秒)との間で切り替え可能である。さらに、特許文献2の撮像装置は、CMOSセンサによる撮影画像中の所定ラインに含まれる複数の画素の画素値を積算した射影出力値Dを計算し、複数のフレーム間における射影出力値Dの変化量を表すフリッカ指標値Iを算出する。例えば、4フレーム分の撮影画像を用いたフリッカ指標値Iは、以下の(1)式により算出される。なお、(1)式においてD(n)は、第nフレームにおける所定ラインの射影出力値である。
Figure 2010520673
特許文献2に開示された撮像装置による電荷蓄積時間の切り替えはフリッカ指標値I1及びI2を比較することによっておこなわれる。フリッカ指標値I1は、第1の電荷蓄積時間に設定して撮影された撮影画像から得られる。フリッカ指標値I2は、第2の電荷蓄積時間に設定して撮影された撮影画像から得られる。特許文献2に開示された撮像装置は、フリッカ指標値が小さいほうの電荷蓄積時間を選択する。また、例えば、第1の電荷蓄積時間に設定されているときにフリッカ指標値I1が所定の閾値を超えて大きくなった場合に、第1の電荷蓄積時間から第2の電荷蓄積時間への切り替えが実行される。
特開2003−189172号公報 特開2002−84466号公報
上述したように、特許文献2に開示された撮像装置は、連続して撮影される複数の撮影画像の所定ラインに関して画素値の積算値(射影出力値)を算出する。さらに、特許文献2に開示された撮像装置は、2つの撮影画像の間での射影出力値の差分を所定のフレーム数に亘って計測することでフリッカ指標値を得る。さらに、特許文献2に開示された撮像装置は、得られたフリッカ指標値を用いてフリッカを検出する。しかしながら、特許文献2に開示された撮像装置によるフリッカ検出方法には、以下に述べるように、フレームレートへの依存性が大きいという問題がある。
特許文献2に開示されたフリッカ判定手法は、撮影画像における所定ラインの各画素の光電変換のタイミングと光源の明滅周期とが同調していないことを利用して、撮影画像のフリッカを検出する。(例えば、特許文献2の第43〜第46段落を参照)。したがって、例えば、1フレーム期間と光源の明滅周期とが同調している場合、つまり、1フレーム期間が光源の明滅周期の整数倍となる場合には、撮影画像における所定ラインの各画素の蓄積電荷量は、連続して撮影される複数の撮影画像の間で変動がない。つまり、この場合は、特許文献2に開示された方法によるフリッカ検出は困難である。このように、特許文献2に開示された撮像装置によるフリッカ検出方法は、フレームレートへの依存性が大きいという問題を有する。
本発明の一態様にかかる撮像装置は、撮像素子、制御部、及びフリッカ検出部を含む。前記制御部は、第1の電荷蓄積時間に調整された前記撮像素子による第1の画像の撮影と、第2の電荷蓄積時間に調整された前記撮像素子による第2の画像の撮影を制御する。前記第1の電荷蓄積時間は、第1の明滅周期で明滅する光源下での撮影画像にフリッカを生じさせない。前記第2の電荷蓄積時間は、前記第1の電荷蓄積時間とは異なる。前記フリッカ検出部は、前記第1の電荷蓄積時間に調整された前記撮像素子により撮影される第1の画像と前記第2の電荷蓄積時間に調整された前記撮像素子により撮影される第2の画像との間の輝度の違いに基づいて、前記第2の画像におけるフリッカ発生を検出する。
このように構成された撮像装置を用いて第1の明滅周期で明滅する光源下にて撮影が行われる場合、第1の電荷蓄積時間で得られる第1の画像にはフリッカが出現しない。一方、第2の電荷蓄積時間で得られる第2の画像には、第2の画像の1フレーム期間が光源の第1の明滅周期の整数倍であるか否かに関わらず、第2の電荷蓄積時間が光源の第1の明滅周期に同調していない場合にフリッカによる横縞が出現する。このため、第1及び第2の画像の間の輝度の違いを利用することにより、第1及び2の撮影画像の1フレーム期間が光源の明滅周期の整数倍であるか否かに関わらず、フリッカ検出が可能である。したがって、上述した本発明の一態様にかかる撮像装置によれば、フリッカ検出精度のフレームレートへの依存性を少なくし、フリッカ検出精度を向上させることができる。
本発明の他の態様は、フリッカ検出方法である。具体的には、第1の電荷蓄積時間に調整された撮像素子による第1の画像の撮影と、第2の電荷蓄積時間に調整された撮像素子による第2の画像の撮影とを行うために、撮像素子の電荷蓄積時間は、第1の電荷蓄積時間と第2の電荷蓄積時間との間で切り替え得られる。前記第1の電荷蓄積時間は、光源の第1の明滅周期と同調しており、前記第1の明滅周期で明滅する前記光源下での撮影画像にフリッカを生じさせない。前記第2の電荷蓄積時間は、前記第1の電荷蓄積時間とは異なる。さらに、前記第1及び第2の画像の間の輝度の違いに基づいて、前記第2の撮影画像におけるフリッカの発生が検出される。
上述した本発明の他の態様にかかるフリッカ検出方法によれば、第1及び第2の画像の間の輝度の違いを利用することによって、第1及び2の画像の1フレーム期間が光源の明滅周期の整数倍であるか否かに関わらず、フリッカの検出が可能となる。このため、フリッカ検出精度のフレームレートへの依存性を少なくし、フリッカ検出精度を向上させることができる。
本発明により、フリッカ検出精度のフレームレートへの依存性を少なくし、フリッカ検出精度を向上させた撮像装置を提供できる。
発明の実施の形態1にかかる撮像装置1のブロック図である。 発明の実施の形態1にかかる撮像装置1における差分画像生成の具体例を説明するための図である。 発明の実施の形態1にかかる撮像装置1により生成される差分画像を説明するための概念図である。 発明の実施の形態1にかかる撮像装置1により生成される差分画像を説明するための概念図である。 発明の実施の形態1にかかる撮像装置1によるフリッカ検出処理手順の一例を示すフローチャートである。 発明の実施の形態2にかかる撮像装置1によるフリッカ検出処理手順を示すフローチャートである。 発明の実施の形態2にかかる撮像装置1によるフリッカ検出処理手順を示すフローチャートである。 発明の実施の形態3にかかる撮像装置2のブロック図である。 発明の実施の形態3にかかる撮像装置2による差分画像を用いたフリッカの検出及びフリッカ周波数の検出を説明するための図である。 発明の実施の形態3にかかる撮像装置2による差分画像を用いたフリッカの検出及びフリッカ周波数の検出を説明するための図である。 発明の実施の形態3にかかる撮像装置2による差分画像を用いたフリッカの検出及びフリッカ周波数の検出を説明するための図である。 発明の実施の形態3にかかる撮像装置2によるフリッカ検出処理手順を示すフローチャートである。
ここでは、具体的な実施の形態を参照しながら本発明について説明する。本願が属する技術分野の当業者であれば、本発明の教示に基づいて様々な変形例が実現可能であることを認識でき、ここで説明のために示される実施の形態に本発明が限定されるものでないことも認識できる。
以下では、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。各図面において、同一要素には同一の符号が付されており、説明の明確化のため、必要に応じて重複説明は省略される。
発明の実施の形態1.
図1は、本実施の形態にかかる撮像装置1のブロック図である。図1において、CMOSセンサ10は、CMOS集積回路の製造プロセスを流用して製造される固体撮像素子である。CMOSセンサ10は、マトリクス内の各画素に対応するフォトダイオードによって形成された撮像面を有する。また、CMOSセンサ10の各画素には、各画素に蓄積された信号電荷を選択的に読み出すためのトランジスタと、各画素に蓄積された信号電荷をリセットするためのトランジスタが配置されている。このように構成されたCMOSセンサ10は、CCDイメージセンサとは対照的に、撮像面を構成する各画素の電荷蓄積タイミングが各画素の走査タイミングに応じて異なっており、画素毎に異なるタイミングで電荷蓄積を行って画像信号を生成する。
CDS(Correlated double sampling)回路11は、相関二重サンプリングを行うことにより、CMOSセンサ10により生成される画像信号のノイズを除去する。増幅器12は、相関二重サンプリングによるノイズ除去が行われた後の画像信号を増幅する。増幅器12の利得は、CMOSセンサ10による撮影画像が所望の輝度となるように、CMOSセンサ10の電荷蓄積時間と共に後述する露光制御部15により制御される。
A/D変換器13は、増幅器12により増幅された画像信号をサンプリングし、デジタル信号に変換する。A/D変換器13より出力されるデジタル画像信号は、図示しない画像処理部に入力され、画像処理部(不図示)によってカラー信号補間、カラー補正、ホワイトバランス調整等が行われる。
画素値積算部14は、A/D変換器13の出力信号を入力し、撮影画像フレーム毎に画面全体領域又は画面の一部の領域に含まれる画素の画素値を積算し、得られた積算値を露光制御部15に供給する。画素値積算部14は、画素値の積算値を用いて撮影画像フレームの画素値の平均値を計算し、得られた平均値を露光制御部15に供給してもよい。
露光制御部15は、画素値積算部14より供給される撮影画像の画素値の積算値又は平均値をもとに、CMOSセンサ10の電荷蓄積時間(シャッタスピード)及び増幅器12の利得を決定する。露光制御部15は、CMOSセンサ10の電荷蓄積時間が決定した値となるよう制御するために、タイミングジェネレータ16に対して設定信号を出力する。また、露光制御部15は、増幅器12の利得を設定するための設定信号を増幅器12に対して出力する。
さらに、露光制御部15は、本実施の形態にかかるフリッカ検出を実行するために、後述する差分画像生成部17により生成される差分画像DP(difference picture)の元になる画像P1及びP2を得るために、CMOSセンサ10の電荷蓄積時間の制御を行う。
より詳しく述べると、露光制御部15は、CMOSセンサ10の電荷蓄積時間を2つの電荷蓄積時間T1及びT2の間で交互に切り替えて撮影を実行する。一方の電荷蓄積時間T1は、蛍光灯などの光源の第1の明滅周期に同調しており第1の明滅周期で明滅する光源下でのCMOSセンサ10の撮影画像にフリッカを生じさせない第1の電荷蓄積時間である。他方の電荷蓄積時間T2は、第1の電荷蓄積時間とは異なる第2の電荷蓄積時間である。第2の電荷蓄積時間の具体例には、後述するように複数の例がある。
例えば、光源の第1の明滅周期が1/100秒(明滅周波数100Hz)である場合、第1の電荷蓄積時間T1は、光源の第1の明滅周期の整数倍、つまりN/100秒とし、第2の電荷蓄積時間T2は、N/100秒以外の値とすればよい。また、例えば、光源の第1の明滅周期が1/120秒(明滅周波数120Hz)である場合、第1の電荷蓄積時間T1は、光源の第1の明滅周期の整数倍、つまりN/120秒とし、第2の電荷蓄積時間T2は、N/120秒以外の値とすればよい。ここでNは正の整数である。以下、本実施の形態では、光源の第1の明滅周期が1/100秒であるものとして説明する。
タイミングジェネレータ16は、CMOSセンサ10の各画素の電荷蓄積時間が露光制御部15によって指示される値となるように、各画素に蓄積された電荷のリセットタイミングを規定するパルス信号と、各画素に蓄積された信号電荷を読み出すための垂直選択を規定するパルス信号とをCMOSセンサ10に出力する。
差分画像生成部17は、上述した露光制御部15の制御に基づいて異なる2つの電荷蓄積時間T1及びT2で撮影された2フレームの画像P1及びP2に関する画像信号を入力し、これら2フレームの画像P1及びP2の間の差分画像DPを生成する。ここで、差分画像DPは、2フレームの撮影画像の間で、撮像面における水平・垂直位置が対応する画素の画素値の差分を演算することにより得られる画像である。
差分画像生成部17の処理内容の具体例について図2を用いて説明する。図2の例は、1フレームの画像21を垂直方向に24分割、水平方向に8分割して合計192個のブロックに分割し、各ブロックについて画素値の積算を行う。さらに、各ブロックの積算値を水平方向に集計して得られる合計24個のブロック(図2の符号22)について画素値の平均値を算出する。差分画像生成部17は、2フレームの画像P1及びP2それぞれについて図2に示す平均値の算出を行った後に、2フレームの間でブロック毎の平均値の差分を演算することによって、フリッカ検出用の差分画像DPを生成する。つまり、図2の例による演算を行うことによって、水平方向が1ブロックに集約され、垂直方向が24ブロックに集約された差分画像DPが生成される。
なお、図2の例は差分画像DPの生成処理の一例にすぎないことはもちろんである。つまり、差分画像DPは、1フレームの撮影画像の画面全体について生成してもよいし、画面の一部について生成してもよい。画像の画面の一部分について差分画像を生成する場合は、1画像内でのフリッカによる明暗縞の周期に応じて、少なくとも明暗縞の1周期分を含むライン数を用いればよい。1画像内でのフリッカによる明暗縞の周期は、光源の明滅周期(又は明滅周波数)及び撮像装置1の1フレーム期間(又はフレームレート)を用いて算出可能である。
また、差分画像DPは、画素値同士の直接の差分ではなく、図2を用いて説明したように、所定の部分領域を単位として画素値を積算して得られる積算値の間の差分や画素値の平均値の間の差分によって生成してもよい。また、差分画像DPは、例えば、画像P1及びP2の輝度値の差分によって差分画像DPを生成してもよい。各画素の輝度値は、Bayer配列の色情報を持つ画像信号から生成される。また、RGB信号のうちで最も輝度信号に近いG信号をもとに、画像P1及びP2のG信号値の差分によって差分画像DPを生成してもよい。
図1に戻り説明を続ける。図1において、フリッカ検出部18は、差分画像生成部17により生成された差分画像DPを入力し、画像P1及びP2の走査方向に対して垂直な方向、つまり差分画像DPの画面垂直方向における差分画像DPの画素値の変動(輝度の変動)に基づいて、第2の画像P2におけるフリッカ発生を検出する。したがって、フリッカ検出部18は、差分画像DPの画面垂直方向における輝度変動検出部を有するとも言える。言い換えると、フリッカ検出部18は、差分画像DPの明暗縞検出部を有するとも言える。
ここで、差分画像DPを用いたフリッカ検出の原理を図3A及びBを用いて説明する。図3Aは、撮像装置1の撮影環境が日中屋外などの明滅する光源下でない場合に、電荷蓄積時間T1で撮影される画像P1と電荷蓄積時間T2で撮影される画像P2の差分画像DPを示している。図3Aの場合は、画像P1及びP2にフリッカが発生しないため、被写体の移動やノイズを除くと画像P1及びP2は同一の画像となる。したがって、これらの差分画像DPの画素値または輝度値は、理想的には画面全体に亘ってゼロとなり、差分画像DPの画面垂直方向の輝度変動は検出されない。
一方、図3Bは、第1の明滅周期で明滅する光源下にて撮影された画像P1及びP2の差分画像DPを示している。図3Bの場合、画像P1の電荷蓄積時間T1は光源の明滅周期と同調しているために画像P1にフリッカは生じない。しかし、画像P2の電荷蓄積時間T2を光源の第1の明滅周期と同調していない電荷蓄積時間とした場合、画像P2にはフリッカが生じる。このため、差分画像DPには、画像P2に含まれるフリッカによる明暗の横縞が強調されて出現する。つまり、差分画像DPには、その垂直方向に沿って輝度変動が現れる。このため、フリッカ検出部18において、差分画像DPの垂直方向の輝度変動を検出することにより、第2の画像P2におけるフリッカ発生を検出することができる。
なお、差分画像DPの垂直方向の輝度変動の検出は、様々な手法により可能である。例えば、差分画像DPの輝度値の統計的な解析の結果を用いて検出するとよい。具体的には、差分画像のDPの垂直方向の輝度値の平均値及び標準偏差(又は分散)を算出し、算出された平均値及び標準偏差が、フリッカがない場合の差分画像DPの輝度値の平均値及び標準偏差と、フリッカがある場合の差分画像DPの輝度値の平均値及び標準偏差のいずれに近いかを判定すればよい。
また、差分画像DPの垂直方向の輝度変動の検出は、デジタルマッチドフィルタを用いて行うこともできる。光源の明滅周期(又は明滅周波数)及び撮像装置1の1フレーム期間(又はフレームレート)をもとに1フレームの撮影画像に含まれるフリッカによる横縞の数を理論的に算出することができる。例えば、光源の明滅周波数が100Hzであり、撮像装置1の撮影フレームレートが20フレーム/秒である場合は、1フレームの撮影画像に含まれるフリッカ縞の本数は理論的には5本である。このようにして、フリッカ縞に起因する差分画像DPの輝度変動を示す基準波形を予め理論的に求めておき、当該基準波形と観測された差分画像DPの輝度変動波形との相互相関をデジタルマッチドフィルタにより算出すればよい。同様に、フリッカによる輝度変動の無い基準波形(つまり、直流波形)と観測された差分画像DPの輝度変動波形との相互相関もデジタルマッチドフィルタにより算出すればよい。これにより、観測された差分画像DPの輝度変動がフリッカ有りの場合に近いか、フリッカ無しの場合に近いかを判定できる。
また、そのほかにも、差分画像DPのフーリエ変換を実行し、差分画像DPの空間周波数スペクトルをもとに差分画像DPの輝度変動を検出してもよい。
続いて以下では、撮像装置1におけるフリッカ検出手順を図4に示すフローチャートを用いて説明する。ステップS101では、CMOSセンサ10は、露光制御部15の制御により、電荷蓄積時間を第1の電荷蓄積時間T1として撮影を行い第1の画像P1を得る。次に、ステップS102では、露光制御部15は、CMOSセンサ10の電荷蓄積時間を第2の電荷蓄積時間T2に切り替え、CMOSセンサ10は、第2の電荷蓄積時間T2による撮影を行って第2の画像P2を得る。ステップS103では、差分画像生成部17は、画像P1及びP2の間の差分画像DPを生成する。ステップS104では、フリッカ検出部18は、差分画像DPの垂直方向の輝度変動を検出する。
ステップS104にて垂直方向の輝度変動が検出されなければ、画像P1及びP2にフリッカが無いこと、言い換えると、光源の明滅に起因するフリッカが発生する撮影環境でないことが検出される(ステップS105)。一方、ステップS104にて差分画像DPの輝度変動が検出されると、光源の明滅に起因するフリッカが画像P2に発生していること、言い換えると、光源の明滅に起因するフリッカが発生する撮影環境であることが検出される(ステップS106)。
なお、図4のフローチャートにおいて、画像P1及びP2の取得順序に制約はない。つまり、第2の電荷蓄積時間T2による撮影は、第1の電荷蓄積時間T1による撮影の前に行われてもよい。
以上に述べたように本実施の形態にかかる撮像装置1は、異なる電荷蓄積時間で撮影された2つの画像P1及びP2を取得し、これら2枚の画像P1及びP2の間の輝度の違いを抽出するために画像P1及びP2の差分画像DPを生成し、撮影画像DPの垂直方向(画像P1及びP2の走査方向に対して垂直な方向)における輝度変動によってフリッカを検出することとした。
第2の電荷蓄積時間T2で得られる画像P2には、画像P2の1フレーム期間が光源の明滅周期の整数倍である場合にもフリッカによる横縞が出現する。したがって、本実施の形態にかかる撮像装置1によれば、画像P1及び画像P2の間の輝度の違いを利用することにより、画像P1及びP2の1フレーム期間が光源の明滅周期の整数倍であるか否かに関わらずフリッカ検出が可能である。このため、撮像装置1は、フリッカ検出精度のフレームレートへの依存性を少なくし、フリッカ検出精度を向上させることができる。
なお、特許文献2に開示された撮像装置は、フリッカの検出に要する撮影画像フレーム数が多いため、フリッカ検出に要する時間が長いという別の問題点を有する。(1)式に示したように、特許文献2に開示された撮像装置は、画像フレーム間での画素値の変化量を積算し、この変化量の積算値をフリッカ指標値とし、当該フリッカ指標値に対する閾値判定を行うことから、少なくとも3フレーム以上の画像を要する。またさらに、フリッカの検出に多数の画像フレームを要する特許文献2の手法は、被写体の移動による画素値の変化によって誤検出を生じ易いと考えられる。また、フリッカ指標値の変動がフリッカによるものであるか、被写体移動によるものであるかを判別するためには、フリッカ指標値をさらに多くのフレーム数に亘って計測する必要があることが、特許文献2に記載されている(例えば、特許文献2の第63〜第79段落)。このように、判定精度を向上させると、上述したフリッカ検出時間の長さに関する問題点が増長される結果となる。
これに対して、本実施の形態にかかる撮像装置1は、異なる電荷蓄積時間によって撮影された少なくとも2枚の画像フレームをもとにフリッカを検出可能である。つまり、フリッカ検出に要する画像フレーム数が少ないため、フリッカ検出に要する時間を短縮することができ、被写体の移動による画素値の変化に起因する誤検出を生じ難いという利点ある。
なお、撮像装置1を搭載したデジタルスチルカメラ等においては、撮像装置1によるフリッカ検出を電源起動時、CMOSセンサ10による撮影画像の輝度が大きく変化したとき、操作者の操作によって露出調整やデジタルスチルカメラにプリセットされた撮影モードの変更がおこなわれたとき等に行うとよい。また、撮像装置1を搭載したデジタルスチルカメラ等が動作している間は、電荷蓄積時間を交互に切り替えて画像P1及びP2の取得を繰り返し行い、撮像装置1によるフリッカ検出を継続的に繰り返し行ってもよい。このような構成によれば、撮影環境の変化に速やかに対応することができる。
また、撮像装置1は、画像P1及びP2の取得を複数回実行して複数の差分画像DPを生成し、複数の差分画像DPをもとにフリッカ有無の検出を行うようにしてもよい。例えば、差分画像DPを4回生成し、差分画像DPの垂直方向の輝度変動が4回連続して検出される場合にフリッカ有りを検出してもよい。このような構成によれば、フリッカ有無の検出精度を改善できる。
発明の実施の形態2.
上述した発明の実施の形態1にかかる撮像装置1を搭載したデジタルスチルカメラ等が、光源の明滅周期が第1の明滅周期(本実施の形態では1/100秒)である環境・地域でのみ使用されるのであれば、図4に示したフリッカ検出手順により100Hzフリッカが発生していることを検出できる。しかしながら、発明の実施の形態1にかかる撮像装置1を搭載したデジタルスチルカメラ等が、光源の明滅周期が異なる複数の環境・地域で使用される場合を考慮すると、図4に示した手順によりフリッカが発生していることを検出できるが、光源のいかなる明滅周波数に基づくフリッカであるのかは検出できない。このため、図4の手順のみでは、フリッカを発生させないために、CMOSセンサ10の電荷蓄積時間や増幅器12の利得などの設定変更を行うことができない。そこで、図4に示したフリッカ検出手順の変形例を図5及び6を用いて説明する。
図5及び6のフローチャートは、CMOSセンサ10の撮影画像にフリッカを生じさせる原因となる光源の明滅周波数を特定することで、フリッカを回避するためのCMOSセンサ10や増幅器12の設定変更を行うことを可能とするフリッカ検出手順の一例を示している。図5及び6の例では、光源の明滅周期が第1の明滅周期(1/100秒)か第2の明滅周期(1/120秒)のいずれかである環境を例に説明する。
ステップS201では、電荷蓄積時間を光源の第1の明滅周期(1/100秒)と第2の明滅周期(1/120秒)の公倍数である第1の電荷蓄積時間T1としてCMOSセンサ10による撮影を行い、第1の画像P1を得る。つまり、第1の電荷蓄積時間T1は、第1の明滅周期で明滅する光源下及び第2の明滅周期で明滅する光源下のいずれの環境でも、CMOSセンサ10の撮影画像にフリッカを生じさせない電荷蓄積時間である。具体的には、第1の電荷蓄積時間T1は、10N/100秒、例えば10/100秒にセットされる。
ステップS202では、電荷蓄積時間T2としてCMOSセンサ10による撮影を行い、第2の画像P2を得る。電荷蓄積時間T2は、光源の第1の明滅周期(1/100秒)の倍数であり、かつ、第2の明滅周期(1/120秒)の倍数ではない時間である。つまり、第2の電荷蓄積時間T2は、第1の明滅周期で明滅する光源下では撮影画像にフリッカを生じさせず、第2の明滅周期で明滅する光源下では撮影画像にフリッカを発生させる電荷蓄積時間である。例えば、第2の電荷蓄積時間T2は、12/100秒とすればよい。
ステップS203では、差分画像生成部17は、画像P1及びP2の間の差分画像DP1を生成する。ステップS204では、フリッカ検出部18は、差分画像DP1の垂直方向の輝度変動の有無を検出する。
ここで、第1のケースとして、画像P1及びP2の撮影が、第1の明滅周期(1/100秒)で明滅する光源下で行われた場合を考える。当該第1のケースでは、画像P1及びP2の両方ともフリッカが発生しない。このため、被写体の移動やノイズを除くと撮影画像P1及びP2は同一の画像となるから、差分画像DP1の垂直方向の輝度変動も検出されない。このため、当該第1のケースでは、フリッカ無しが検出される(ステップS205)。これにより、現在の撮影環境は、少なくとも電荷蓄積時間をN/100秒とすれば撮影画像にフリッカが生じない環境(第1の明滅周期で明滅する光源下、またはフリッカの無い屋外等の環境)であると判定できる。
次に、第2のケースとして、画像P1及びP2の撮影が、第2の明滅周期(1/120秒)で明滅する光源下で行われた場合を考える。当該第2のケースでは、撮影画像P1にはフリッカが発生せず、画像P2にフリッカが発生する。このため、ステップS104では差分画像DP1の垂直方向の輝度変動が検出される。したがって、当該第2のケースでは、フリッカ発生が検出される(ステップS206)。この場合のフリッカが、第1の明滅周期(1/100秒)で明滅する光源に起因するものでないことは、フリッカの発生原理から明らかである。このため、仮に、光源の明滅周期の候補が第1の明滅周期(1/100秒)及び第2の明滅周期(1/120秒)の2通りのみであるならば、撮影画像P1及びP2の撮影環境が、第2の明滅周期(1/120秒)の光源下であると判断することができる。
したがって、上述したステップS201乃至S206によってフリッカの発生が検出されない場合は、ユーザの指示などよる通常の撮影を行う際のCMOSセンサ10の電荷蓄積時間を、N/100秒に設定すればよい。また、既に通常撮影時のCMOSセンサ10の電荷蓄積時間がN/100秒とされているなら、この設定を継続すればよい。一方、上述したステップS201乃至S206によってフリッカの発生が検出された場合は、通常撮影時のCMOSセンサ10の電荷蓄積時間をM/120秒とすればよい。ここで、N及びMは正の整数である。
上述したように、光源の明滅周期の候補が第1の明滅周期(1/100秒)及び第2の明滅周期(1/120秒)の2通りのみであるならば、フリッカの発生が検出されたことによって(ステップS206)、画像P1及びP2の撮影環境が、第2の明滅周期(1/120秒)の光源下であると判断することができる。そこで、ステップS207では、通常撮影時のCMOSセンサ10の電荷蓄積時間をM/120秒に設定する。その後、ステップS208以降の確認処理が不要と判断される場合には、ここでフリッカ検出処理を終了してもよい。
一方、ステップS208において、追加の確認処理が必要と判断される場合には、図6に示す確認処理に進む。ステップS209及びS210では、CMOSセンサ10の電荷蓄積時間をM/120秒及びW/120秒として撮影を行って画像P3及びP4を得る。ここで、M及びWは正の整数である。更に、図5で説明したように、M/120秒及びW/120秒のうちのいずれか一方は、1/100秒と1/120秒の公倍数となり、他方は1/100秒と1/120秒の公倍数ではないように選択することが好ましい。
ステップS211では、画像P3及びP4の間の差分画像DP2が生成される。ステップS212では、生成された差分画像DP2の垂直方向の輝度変動が検出される。この場合、撮像装置1の故障等がなければ、差分画像DP2の垂直方向の輝度変動は検出されず、フリッカ検出処理を終了する(ステップS213)。一方、差分画像DP2の垂直方向の輝度変動が検出される例外的な場合には、もう一度ステップS201に戻り、再度フリッカ検出処理を実行する(ステップS214)。フリッカ検出処理の再実行の結果、再びステップS213にて輝度変動が検出された場合、撮像装置1の故障など何らかの異常な事象が発生していると考えられる。このため、撮像装置1の外部に何らかの通知信号を出力する。ここでの通知信号は、外部のプロセッサに異常事象の発生を通知するための電気信号であってもよいし、ユーザに通知するための表示や音声出力を行うための信号でもよい。
図5及び6は、フリッカの発生要因として想定される光源の明滅周期が2通りである場合を想定して説明した。したがって、フリッカの発生要因となる光源の明滅周期が3通り以上である場合は、図6のステップS212において差分画像DP2の垂直方向の輝度変動が検出される場合がある。この場合は、CMOSセンサ10の電荷蓄積時間を光源の第3の明滅周期に対応した時間に設定し、更に第3の明滅周期に対応した電荷蓄積時間でフリッカが発生しないことの確認処理を、図6の処理手順と同様に行えばよい。
以上に示した手順によりフリッカ検出処理を行ってフリッカが発生しない電荷蓄積時間を求めた後に、露光制御部15が、フリッカが発生しない電荷蓄積時間による通常の撮影を行うよう、タイミングジェネレータ16のパルス送出タイミング、増幅器12の利得などを設定することにより、フリッカのない撮影画像を得ることができる。これにより、この撮像装置1を搭載したデジタルスチルカメラなどの使用者の利便性を向上させることができる。なお、フリッカの検出処理を行う時期は、電源起動時など本発明の実施の形態1で述べた種々の時期とすればよい。
また、図5では、2回の撮影により得られる画像P1及びP2の差分画像DPの輝度変動を検出することによってフリッカ有無を検出する例を示した。しかしながら、上述した発明の実施の形態1と同様に、画像P1の取得とP2の取得を交互に繰り返し行いフリッカ検出を継続的に繰り返し行ってもよい。このような構成によれば、撮影環境の変化に速やかに対応することができる。また、上述した発明の実施の形態1と同様に、撮像P1及びP2の取得を複数回実行して複数の差分画像DPを生成し、複数の差分画像DPをもとにフリッカ有無の検出を行うようにしてもよい。このような構成によれば、フリッカ有無の検出精度を向上させることができる。なお、図5に限らず図6も同様であるのは言うまでもない。
発明の実施の形態3.
上述した発明の実施の形態1又は2にかかる撮像装置1は、異なる電荷蓄積時間で撮影された2つの画像P1及びP2を用いて生成される差分画像DPの輝度変動の有無によって、フリッカを検出する構成を説明した。本実施の形態にかかる撮像装置2は、さらに、差分画像DPの画面垂直方向における輝度変動の周期(画素値の変動周期)に基づいて、光源の明滅周波数(つまりフリッカ周波数)の検出まで行うよう構成されている。このような構成は、撮像装置2が搭載されたデジタルスチルカメラ等が、日本国内のように商用交流電源の電源周波数が50Hzと60Hzの2通りであり、CMOSセンサ10の撮影画像にフリッカを発生させる光源の明滅周波数が2通り存在する地域で使用される場合に特に有効である。以下では、本実施の形態にかかる撮像装置2の構成及びフリッカ検出手順について詳しく説明する。
撮像装置2のブロック図を図7に示す。図7において、フリッカ検出部28を除く構成要素は、上述した撮像装置1が有するものと同一であるため、これらの構成要素には図1と同一の符号を付して、これらの構成要素に関する詳細な説明を省略する。なお、撮像装置2が有する露光制御部15は、CMOSセンサ10の電荷蓄積時間を2つの電荷蓄積時間T1及びT2の間で交互に切り替えて撮影を実行する点において発明の実施の形態1にかかる撮像装置1と同様である。ただし、このときの電荷蓄積時間T1及びT2は、それぞれ、光源の第1の明滅周期(例えば1/100秒)及び第2の明滅周期(例えば1/120秒)に応じて設定される。以下、本実施の形態では、光源の第1の明滅周期が1/100秒であって、これに応じた第1の電荷蓄積時間T1がN/100秒であるとして説明する。また、光源の第2の明滅周期が1/120秒であって、これに応じた第2の電荷蓄積時間T2がM/120秒であるとして説明する。ここで、N及びMは正の整数である。ただし、第2の電荷蓄積時間T2は、光源の第1の明滅周期"1/100秒"の整数倍以外の値に決定される。
フリッカ検出部28は、差分画像生成部17により生成された差分画像DPを入力し、差分画像DPの画面垂直方向における画素値の変動(輝度の変動)に基づいて、画像P1又はP2のフリッカ発生を検出する。さらに、フリッカ検出部28は、差分画像DPの画面垂直方向における輝度変動の周期を解析することにより、画像P1及びP2のどちらにフリッカが発生しているか、言い換えると、撮影環境が第1の明滅周期(1/100秒)及び第2の明滅周期(1/120秒)のいずれの光源下であるかを検出する。すなわち、フリッカ検出部28は、差分画像DPの輝度変動の周波数(つまりフリッカ周波数)を検出するフリッカ周波数検出部を有しているといえる。このため、図7では、図1との違いを明瞭にすべく、フリッカ検出部28のブロック内にフリッカ周波数検出部内蔵と記載している。
第1の電荷蓄積時間T1をN/100秒、第2の電荷蓄積時間T2をM/120秒として差分画像DPを生成した場合、発明の実施の形態1において説明したように、差分画像DPの画面垂直方向の輝度変動の有無を検出することによって、フリッカが発生しているか否かを検出可能である。しかしながら、単に、差分画像DPの輝度変動の有無を検出するのみでは、撮像装置2の撮影環境が100Hzフリッカの光源下であるのか120Hzフリッカの光源下であるのかについて判定不能である。このため、本実施の形態では、差分画像DPの輝度変動の周期を以下のように解析して、撮影環境のフリッカ周波数を判定する。
図8A乃至Cは、差分画像DPの画面垂直方向における輝度変動の波形を示す概念図である。図8Aは、画像P1及びP2のいずれにもフリッカが発生していない場合の差分画像DPの輝度変動を示している。この場合、撮影画像P1及びP2は、被写体の移動やノイズを除くと同一画像となる。このため、差分画像DPの画素値(輝度)は、理想的には図8Aのように一定の直流波形となる。
図8Bは、光源の明滅周波数が100Hzであって、画像P2にフリッカが発生する場合における差分画像DPの輝度変動を示している。この場合の差分画像DPの画素値(輝度)の変動周波数は、光源の明滅周波数(100Hz)並びに画像P1及びP2の撮影時のフレームレートに応じて定まる。
また、図8Cは、光源の明滅周波数が120Hzであって撮影画像P1にフリッカが発生する場合における差分画像DPの輝度変動を示している。この場合の差分画像DPの画素値(輝度)の変動周波数は、光源の明滅周波数(120Hz)並びに撮影画像P1及びP2の撮影時のフレームレートに応じて定まる。
図8B及びCに示すように、差分画像DPの輝度変動の周波数は、光源の明滅周波数に比例する。このため、差分画像DPの輝度変動の周期又は周波数を解析することで、100Hzフリッカ及び120Hxフリッカのいずれが発生しているかを判定できる。
フリッカ検出部28における差分画像DPの垂直方向の輝度変動周波数の解析は、デジタルマッチドフィルタを用いて行うことができる。具体的には光源の明滅周波数が100Hz(100Hzフリッカ)である場合の差分画像DPの輝度変動を示す基準波形Aと、光源の明滅周波数が120Hz(120Hzフリッカ)である場合の差分画像DPの輝度変動を示す基準波形Bを予め準備しておく。次に、観測された差分画像DPの輝度変動波形と基準波形A及びBとの相互相関をデジタルマッチドフィルタにより算出する。そして、基準波形A及びBのどちら観測された差分画像DPの輝度変動波形に近いかを、算出された相互相関値に従って判定すればよい。
また、そのほかにも、フリッカ検出部28は、差分画像DPのフーリエ変換を実行し、差分画像DPの空間周波数スペクトルをもとに差分画像DPの輝度変動の周波数を検出するよう構成されてもよい。また、CMOSセンサ10のフレームレートが大きい場合は、画像P1又はP2に含まれるフリッカによる横縞の数が相対的に小さくなる。このような場合は、差分画像DPに含まれるフリッカによる横縞の垂直方向のピクセル数を計測し、得られたピクセル数が100Hzフリッカによる横縞と120Hzフリッカによる横縞のどちらに近いかによってフリッカ周波数を判定してもよい。
続いて以下では、撮像装置2におけるフリッカ検出手順を図9に示すフローチャートを用いて説明する。ステップS301では、露光制御部15の制御によって、電荷蓄積時間を第1の電荷蓄積時間T1(N/100秒)としてCMOSセンサ10が撮影を行い、第1の画像P1を得る。次に、ステップS302では、露光制御部15は、CMOSセンサ10の電荷蓄積時間を第2の電荷蓄積時間T2(M/120秒)に切り替え、CMOSセンサ10は電荷蓄積時間T2で撮影を行い第2の画像P2を得る。ステップS303では、差分画像生成部17は、画像P1及びP2の間の差分画像DPを生成する。ステップS304では、フリッカ検出部28は、差分画像DPの垂直方向の輝度変動周波数fsを計測する。
フリッカ検出部28は、計測された輝度変動周波数fsが略ゼロ、つまり、差分画像DPの輝度変動波形が直流波形に近い場合は、"フリッカ無し"を検出する(ステップS305及びS306)。また、計測された輝度変動周波数fsが光源の100Hzフリッカに相当する周波数である場合、フリッカ検出部28は、光源の明滅に起因する100Hzフリッカが画像P2に発生していること、言い換えると、光源の明滅に起因する100Hzフリッカが発生する撮影環境であることを検出する(ステップS305及びS307)。また、計測された輝度変動周波数fsが光源の120Hzフリッカに相当する周波数である場合、フリッカ検出部28は、光源の明滅に起因する120Hzフリッカが画像P1に発生していること、言い換えると、光源の明滅に起因する120Hzフリッカが発生する撮影環境であることを検出する(ステップS305及びS308)。
上述したように、本実施の形態にかかる撮像装置2は、光源の2通りの明滅周波数のそれぞれに同調した2つの電荷蓄積時間T1及びT2によって画像P1及びP2を取得し、画像P1及びP2の間の差分画像DPを生成する。さらに、撮像装置2は、撮影画像P1及びP2の走査方向に対して垂直な方向である差分画像DPの画面垂直方向の輝度変動の周期又は周波数を解析することで、2通りの明滅周波数(例えば、100Hzと120Hz)いずれに起因するフリッカであるかを検出するよう構成される。なお、フリッカ検出後の露光制御部15などにおける設定変更、通常撮影への対応などは、上述した発明の実施の形態1及び2で記載した内容とほぼ同様であるので、ここでは新たな説明を割愛する。
このような構成により、フリッカの検出だけでなくフリッカ周波数の検出までを行うことができる。また、このような構成であれば、50Hz及び60Hzの2通りの電源周波数が使用される日本国内のような地域に限らず、ヨーロッパ等の電源周波数が50Hzのみである地域及び北米等の電源周波数60Hzのみの地域においてもフリッカ検出が可能である。このため、撮像装置2は、使用地域によらず汎用的に使用可能である。
なお、撮像装置2を搭載したデジタルスチルカメラ等においてフリッカの検出処理を行う時期は、電源起動時など本発明の実施の形態1で述べた種々の時期とすればよい。
また、撮像装置2は、画像P1及びP2の取得を複数回実行して複数の差分画像DPを生成し、複数の差分画像DPをもとにフリッカ有無の検出及びフリッカ周波数の検出を行うようにしてもよい。例えば、差分画像DPを4回生成し、差分画像DPの垂直方向の輝度変動が4回連続して検出され、かつ、そのフリッカ周波数が一定と判断される場合にフリッカ有りを検出してもよい。このような構成によれば、フリッカ有無及びフリッカ周波数の誤判定を抑制し、フリッカ有無及びフリッカ周波数の検出精度を向上させることができる。
さらに、本発明は上述した実施の形態のみに限定されるものではなく、既に述べた本発明のスコープ及び要旨を逸脱しない範囲において変形・変更が可能である。
なお、上述した本発明の実施の形態によって支持される本発明のスコープには、以下に列挙する装置及び方法も包含される。
本発明の他の態様1.
撮像素子と、
第1の明滅周期で明滅する光源下での撮影画像にフリッカを生じさせない第1の電荷蓄積時間に調整された前記撮像素子による第1の画像の撮影を制御するとともに、前記第1の電荷蓄積時間とは異なる第2の電荷蓄積時間に調整された前記撮像素子による第2の画像の撮影を制御するよう構成された制御部と、
前記第1及び第2の画像の間の差分画像を生成するよう構成された差分画像生成部と、
前記第1及び第2の画像の走査方向に対して垂直な方向における前記差分画像の画素値の変動に基づいて、前記第2の撮影画像におけるフリッカ発生を検出するよう構成されたフリッカ検出部と、
を備え、
前記差分画像は、前記第1の画像の水平方向の画素値の積算値と、前記第2の画像の水平方向の画素値の積算値との差分を演算することにより生成される、撮像装置。
本発明の他の態様2.
前記差分画像生成部による前記差分画像の生成は、前記第1及び第2の画像の一部分について行われる、前記本発明の他の態様1にかかる撮像装置。
本発明の他の態様3.
撮像素子と、
第1の明滅周期で明滅する光源下での撮影画像にフリッカを生じさせない第1の電荷蓄積時間に調整された前記撮像素子による第1の画像の撮影を制御するとともに、前記第1の明滅周期で明滅する前記光源下での撮影画像にフリッカを生じさせる第2の電荷蓄積時間に調整された前記撮像素子による第2の画像の撮影を制御するよう構成された制御部と、
前記第1及び第2の画像の間の輝度の違いに基づいて、前記第2の画像におけるフリッカ発生を検出するフリッカ検出部と、
を備え、
前記第1の電荷蓄積時間は1/100秒の整数倍であり、前記第2の電荷蓄積時間は1/120秒の整数倍である、撮像装置。
本発明の他の態様4.
撮像素子の電荷蓄積時間を、光源の第1の明滅周期に同調しており、前記第1の明滅周期で明滅する前記光源下での撮影画像にフリッカを生じさせない第1の電荷蓄積時間と前記第1の電荷蓄積時間とは異なる第2の電荷蓄積時間との間で切り替えて、前記第1の電荷蓄積時間に調整された前記撮像素子による第1の画像の撮影と、前記第2の電荷蓄積時間に調整された前記撮像素子による第2の画像の撮影を行うこと、および
前記第1及び第2の画像の間の輝度の違いに基づいて、前記第2の撮影画像におけるフリッカ発生を検出すること、
を備え、
前記第1の電荷蓄積時間による前記撮影と前記第1の電荷蓄積時間による前記撮影は交互に繰り返し行われ、
前記第2の画像における前記フリッカ発生の検出は、交互に繰り返し撮影される前記第1及び第2の画像を用いて繰り返し行われる、フリッカ検出方法。
本発明の他の態様5.
撮像素子の電荷蓄積時間を、光源の第1の明滅周期に同調しており前記第1の明滅周期で明滅する前記光源下での撮影画像にフリッカを生じさせない第1の電荷蓄積時間と、前記第1の電荷蓄積時間とは異なる第2の電荷蓄積時間との間で切り替えて、前記第1の電荷蓄積時間に調整された前記撮像素子による第1の画像の撮影と、前記第2の電荷蓄積時間に調整された前記撮像素子による第2の画像の撮影を行うこと、
前記第1及び第2の画像の間の差分画像を生成すること、及び
前記第1及び第2の画像の走査方向に対して垂直な方向における前記差分画像の画素値の変動に基づいて、前記第2の撮影画像におけるフリッカ発生を検出すること、
を備える、フリッカ検出方法。
本発明の他の態様6.
前記差分画像は、前記第1及び第2の画像の間で、対応する各画素間の画素値の差分を演算することにより生成される前記本発明の他の態様5にかかるフリッカ検出方法。
本発明の他の態様7.
前記差分画像は、前記第1の画像の水平方向の画素値の積算値と、前記第2の画像の水平方向の画素値の積算値との差分を演算することにより生成される、前記本発明の他の態様5にかかるフリッカ検出方法。
本発明の他の態様8.
前記差分画像は、前記第1及び第2の画像の一部分に関して生成される、前記本発明の他の態様6又は7にかかるフリッカ検出方法。
本発明の他の態様9.
前記第2の電荷蓄積時間は、前記第1の明滅周期で明滅する光源下での撮影画像にフリッカを生じさせる電荷蓄積時間であって、かつ、前記光源の第2の明滅周期に同調しており、前記第2の明滅周期で明滅する前記光源下での撮影画像にフリッカを生じさせない電荷蓄積時間である、前記本発明の他の態様5にかかるフリッカ検出方法。
本発明の他の態様10.
前記第1の電荷蓄積時間は1/100秒の整数倍であり、前記第2の電荷蓄積時間は1/120秒の整数倍である、前記本発明の他の態様9にかかるフリッカ検出方法。
本発明の他の態様11.
前記フリッカ発生の検出は、前記第1及び第2の画像の走査方向に対して垂直な方向での前記差分画像中の画素値の変動周期又は変動周波数に応じて、前記第1又は第2の画像のどちらにフリッカが発生しているかを検出することを含む、前記本発明の他の態様9にかかるフリッカ検出方法。
本発明の他の態様12.
撮像素子と、
第1の明滅周期で明滅する光源下での撮影画像にフリッカを生じさせない第1の電荷蓄積時間に調整された前記撮像素子による第1の画像の撮影、及び、前記第1の明滅周期と同調しておらず、前記第1の明滅周期で明滅する前記光源下での撮影画像にフリッカを生じさせる第2の電荷蓄積時間に調整された前記撮像素子による第2の画像の撮影を制御する手段と、
前記第1及び第2の画像の間の差分画像を生成する手段と、
前記差分画像に基づいて、前記第2の撮影画像におけるフリッカ発生を検出する手段と、
を備える、撮像装置。
1、2 撮像装置
10 CMOSセンサ
11 CDS(Correlated double sampling)回路
12 増幅器
13 A/D変換器
14 画素値積算部
15 露光制御部
16 タイミングジェネレータ
17 差分画像生成部
18、28 フリッカ検出部

Claims (9)

  1. 撮像素子と、
    第1の明滅周期で明滅する光源下での撮影画像にフリッカを生じさせない第1の電荷蓄積時間に調整された前記撮像素子による第1の画像の撮影と、前記第1の電荷蓄積時間とは異なる第2の電荷蓄積時間に調整された前記撮像素子による第2の画像の撮影を制御するよう構成された制御部と、
    前記第1及び第2の画像の間の輝度の違いに基づいて、前記第2の画像におけるフリッカ発生を検出するよう構成されたフリッカ検出部と、
    を備える撮像装置。
  2. 前記制御部は、前記撮像素子が前記第1の電荷蓄積時間による撮影と、前記第2の電荷蓄積時間による撮影とを交互に繰り返し実行するよう制御する、請求項1に記載の撮像装置。
  3. 前記第1及び第2の画像の間の差分画像を生成するよう構成された差分画像生成部をさらに備え、
    前記フリッカ検出部は、前記第1及び第2の画像の走査方向と垂直な方向における前記差分画像の画素値の変動に基づいて、前記第2の画像におけるフリッカ発生を検出する、請求項1に記載の撮像装置。
  4. 前記差分画像は、前記第1及び第2の画像の間で、対応する各画素間の画素値の差分を演算することにより生成される、請求項3に記載の撮像装置。
  5. 前記第1及び第2の画像の間の差分画像を生成するよう構成された差分画像生成部をさらに備え、
    前記フリッカ検出部は、前記第1及び第2の画像の走査方向と垂直な方向における前記差分画像の画素値の変動に基づいて、前記第2の画像におけるフリッカ発生を検出する、請求項2に記載の撮像装置。
  6. 前記差分画像は、前記第1及び第2の画像の間で、対応する各画素間の画素値の差分を演算することにより生成される、請求項5に記載の撮像装置。
  7. 前記第2の電荷蓄積時間は、前記第1の明滅周期で明滅する前記光源下での撮影画像にフリッカを生じさせる電荷蓄積時間であって、かつ、前記第2の電荷蓄積時間は、前記光源の第2の明滅周期に同調しており、前記第2の明滅周期で明滅する前記光源下での撮影画像にフリッカを生じさせない電荷蓄積時間である請求項1に記載の撮像装置。
  8. 前記第1及び第2の画像の間の差分画像を生成するよう構成された差分画像生成部をさらに備え、
    前記フリッカ検出部は、前記第1及び第2の画像の走査方向と垂直な方向における前記差分画像の画素値の変動周期又は変動周波数に応じて、前記第1及び第2の画像のどちらにフリッカが発生しているかを検出する、請求項7に記載の撮像装置。
  9. 第1の明滅周期で明滅する光源下での撮影画像にフリッカを生じさせない第1の電荷蓄積時間に調整された撮像素子による第1の画像の撮影を行うこと、
    前記第1の電荷蓄積時間とは異なる第2の電荷蓄積時間に調整された前記撮像素子による第2の画像の撮影を行うこと、及び
    前記第1及び第2の画像の間の輝度の違いに基づいて、前記第2の画像におけるフリッカの発生を検出すること、
    を備える、フリッカ検出方法。
JP2009551947A 2007-03-05 2007-09-27 撮像装置及びフリッカ検出方法 Expired - Fee Related JP4856765B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009551947A JP4856765B2 (ja) 2007-03-05 2007-09-27 撮像装置及びフリッカ検出方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2007054056 2007-03-05
JP2007054056 2007-03-05
JP2009551947A JP4856765B2 (ja) 2007-03-05 2007-09-27 撮像装置及びフリッカ検出方法
PCT/JP2007/069425 WO2008108025A1 (en) 2007-03-05 2007-09-27 Imaging apparatus and flicker detection method

Publications (2)

Publication Number Publication Date
JP2010520673A true JP2010520673A (ja) 2010-06-10
JP4856765B2 JP4856765B2 (ja) 2012-01-18

Family

ID=38754559

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009551947A Expired - Fee Related JP4856765B2 (ja) 2007-03-05 2007-09-27 撮像装置及びフリッカ検出方法

Country Status (6)

Country Link
US (3) US8279303B2 (ja)
EP (1) EP2119220A1 (ja)
JP (1) JP4856765B2 (ja)
KR (1) KR101085802B1 (ja)
CN (1) CN101622859B (ja)
WO (1) WO2008108025A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011176622A (ja) * 2010-02-24 2011-09-08 Nikon Corp 撮像装置
JP2012134677A (ja) * 2010-12-20 2012-07-12 Samsung Electronics Co Ltd 撮像装置および撮像方法
US8743240B2 (en) 2010-12-20 2014-06-03 Samsung Electronics Co., Ltd Imaging apparatus and imaging method
JP2017063264A (ja) * 2015-09-24 2017-03-30 カシオ計算機株式会社 撮像装置、フリッカ検出方法及びプログラム
JP2017085463A (ja) * 2015-10-30 2017-05-18 カシオ計算機株式会社 撮像装置、フリッカ検出方法及びプログラム

Families Citing this family (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5276308B2 (ja) * 2007-11-21 2013-08-28 キヤノン株式会社 撮像装置およびその制御方法
JP4626689B2 (ja) * 2008-08-26 2011-02-09 ソニー株式会社 撮像装置、補正回路および補正方法
JP5644451B2 (ja) * 2010-05-25 2014-12-24 株式会社リコー 画像処理装置および画像処理方法、ならびに、撮像装置
US8462229B2 (en) * 2010-09-30 2013-06-11 Hewlett-Packard Development Company, L.P. Detection of flicker within captured imaged frames
US20120154628A1 (en) * 2010-12-20 2012-06-21 Samsung Electronics Co., Ltd. Imaging device and method
TWI423657B (zh) * 2011-01-25 2014-01-11 Pixart Imaging Inc 影像系統及其干擾消除方法
JP5798430B2 (ja) 2011-10-03 2015-10-21 浜松ホトニクス株式会社 蛍光観測装置及び蛍光観測方法
TWI469632B (zh) * 2011-11-09 2015-01-11 Silicon Motion Inc 抗閃爍攝錄裝置與攝錄方法
CN103139483B (zh) * 2011-11-30 2015-12-02 宝山钢铁股份有限公司 一种非匀速运动情况下tdi ccd均匀成像的光源频闪控制方法
JP2014045408A (ja) * 2012-08-28 2014-03-13 Sony Corp 画像データ処理装置、撮像装置、及び画像データ処理方法
JP2014050042A (ja) * 2012-09-03 2014-03-17 Toshiba Corp 画像処理装置及び固体撮像装置
JP6041593B2 (ja) * 2012-09-14 2016-12-14 キヤノン株式会社 固体撮像装置
US9293500B2 (en) 2013-03-01 2016-03-22 Apple Inc. Exposure control for image sensors
US9276031B2 (en) 2013-03-04 2016-03-01 Apple Inc. Photodiode with different electric potential regions for image sensors
US9741754B2 (en) 2013-03-06 2017-08-22 Apple Inc. Charge transfer circuit with storage nodes in image sensors
US9549099B2 (en) 2013-03-12 2017-01-17 Apple Inc. Hybrid image sensor
US9319611B2 (en) 2013-03-14 2016-04-19 Apple Inc. Image sensor with flexible pixel summing
GB2514557A (en) * 2013-05-28 2014-12-03 Snell Ltd Image processing
CN104301617B (zh) 2013-07-19 2017-09-22 富士通株式会社 闪烁检测方法和闪烁检测设备
US9596423B1 (en) 2013-11-21 2017-03-14 Apple Inc. Charge summing in an image sensor
CN109334252B (zh) * 2013-11-22 2020-10-20 惠普深蓝有限责任公司 打印机、打印的方法以及非瞬态计算机可读介质
US9596420B2 (en) 2013-12-05 2017-03-14 Apple Inc. Image sensor having pixels with different integration periods
US9473706B2 (en) 2013-12-09 2016-10-18 Apple Inc. Image sensor flicker detection
EP3089442B1 (en) * 2013-12-25 2022-01-05 Hitachi Astemo, Ltd. Vehicle-mounted image recognition device
US10285626B1 (en) 2014-02-14 2019-05-14 Apple Inc. Activity identification using an optical heart rate monitor
US9277144B2 (en) 2014-03-12 2016-03-01 Apple Inc. System and method for estimating an ambient light condition using an image sensor and field-of-view compensation
US9232150B2 (en) 2014-03-12 2016-01-05 Apple Inc. System and method for estimating an ambient light condition using an image sensor
US9584743B1 (en) 2014-03-13 2017-02-28 Apple Inc. Image sensor with auto-focus and pixel cross-talk compensation
US9497397B1 (en) 2014-04-08 2016-11-15 Apple Inc. Image sensor with auto-focus and color ratio cross-talk comparison
US9538106B2 (en) 2014-04-25 2017-01-03 Apple Inc. Image sensor having a uniform digital power signature
US9686485B2 (en) 2014-05-30 2017-06-20 Apple Inc. Pixel binning in an image sensor
JP6525525B2 (ja) * 2014-07-31 2019-06-05 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
GB201418619D0 (en) * 2014-10-20 2014-12-03 Apical Ltd Method
CN107251543B (zh) 2015-02-16 2018-09-07 富士胶片株式会社 成像装置、闪烁检测方法及记录介质
WO2016139847A1 (ja) * 2015-03-02 2016-09-09 富士フイルム株式会社 撮像装置、フリッカ検出方法、及びフリッカ検出プログラム
JP6171116B2 (ja) * 2015-03-02 2017-07-26 富士フイルム株式会社 撮像装置、フリッカ検出方法、及びフリッカ検出プログラム
JP6645494B2 (ja) * 2015-04-09 2020-02-14 ソニー株式会社 撮像装置および方法、電子機器、並びに車載用電子機器
US9997121B2 (en) * 2015-05-21 2018-06-12 Apple Inc. Display with physically modeled charge accumulation tracking
US9571749B2 (en) * 2015-05-26 2017-02-14 Novatek Microelectronics Corp. Flicker detecting method for image capturing device
JPWO2017064829A1 (ja) * 2015-10-15 2018-08-02 ソニー株式会社 映像信号処理装置、映像信号処理方法およびプログラム
KR102523301B1 (ko) 2015-12-15 2023-04-19 삼성전자주식회사 플리커를 제거하는 이미지 센서 회로 및 이를 포함하는 카메라 장치
JP6659163B2 (ja) 2016-03-16 2020-03-04 キヤノン株式会社 フラッシュバンド判定装置、その制御方法、およびプログラム
US9912883B1 (en) 2016-05-10 2018-03-06 Apple Inc. Image sensor with calibrated column analog-to-digital converters
CN106131445A (zh) * 2016-07-08 2016-11-16 深圳天珑无线科技有限公司 一种拍摄方法和装置
JP2018026716A (ja) * 2016-08-10 2018-02-15 オリンパス株式会社 撮像装置、撮像方法及び撮像プログラム
EP3516692B1 (en) 2016-09-23 2022-02-16 Apple Inc. Stacked backside illuminated spad array
KR20180083593A (ko) * 2017-01-13 2018-07-23 삼성전자주식회사 이미지 처리 방법 및 이를 구현하는 전자 장치
US10656251B1 (en) 2017-01-25 2020-05-19 Apple Inc. Signal acquisition in a SPAD detector
CN110235024B (zh) 2017-01-25 2022-10-28 苹果公司 具有调制灵敏度的spad检测器
US10962628B1 (en) 2017-01-26 2021-03-30 Apple Inc. Spatial temporal weighting in a SPAD detector
KR102659504B1 (ko) * 2017-02-03 2024-04-23 삼성전자주식회사 복수의 이미지들간의 변화에 기반하여 동영상을 촬영하는 전자 장치 및 그 제어 방법
CN109274861B (zh) * 2017-07-17 2020-11-03 南京中兴新软件有限责任公司 多图像传感器切换方法、相应终端及存储介质
US10622538B2 (en) 2017-07-18 2020-04-14 Apple Inc. Techniques for providing a haptic output and sensing a haptic input using a piezoelectric body
US10440301B2 (en) 2017-09-08 2019-10-08 Apple Inc. Image capture device, pixel, and method providing improved phase detection auto-focus performance
US11019294B2 (en) 2018-07-18 2021-05-25 Apple Inc. Seamless readout mode transitions in image sensors
US10848693B2 (en) 2018-07-18 2020-11-24 Apple Inc. Image flare detection using asymmetric pixels
KR102501659B1 (ko) * 2018-10-02 2023-02-21 삼성디스플레이 주식회사 플리커 정량화 시스템 및 이의 구동 방법
US11516408B2 (en) * 2020-05-29 2022-11-29 Canon Kabushiki Kaisha Image capturing apparatus, method for driving image capturing apparatus to detect flicker during shooting
US11563910B2 (en) 2020-08-04 2023-01-24 Apple Inc. Image capture devices having phase detection auto-focus pixels
US11546532B1 (en) 2021-03-16 2023-01-03 Apple Inc. Dynamic correlated double sampling for noise rejection in image sensors
CN113569713A (zh) * 2021-07-23 2021-10-29 浙江大华技术股份有限公司 视频图像的条纹检测方法及装置、计算机可读存储介质
CN113592801A (zh) * 2021-07-23 2021-11-02 浙江大华技术股份有限公司 视频图像的条纹干扰检测方法及其装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001016508A (ja) * 1999-06-30 2001-01-19 Toshiba Corp 固体撮像装置
JP2002330350A (ja) * 2001-04-26 2002-11-15 Fujitsu Ltd Xyアドレス型固体撮像装置のフリッカノイズ低減方法
JP2003189129A (ja) * 2001-12-18 2003-07-04 Sony Corp 撮像信号処理装置及びフリッカ検出方法
JP2004007402A (ja) * 2002-03-25 2004-01-08 Seiko Epson Corp フリッカ検出装置、フリッカ補正装置、撮像装置、フリッカ検出プログラムおよびフリッカ補正プログラム
JP2004088720A (ja) * 2002-06-26 2004-03-18 Yokogawa Electric Corp カメラシステム
JP2006245784A (ja) * 2005-03-01 2006-09-14 Canon Inc 固体撮像装置及びその駆動方法並びに撮像システム
JP2008109253A (ja) * 2006-10-24 2008-05-08 Sanyo Electric Co Ltd 光源状態検出装置及び方法並びに撮像装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001044774A (ja) 1999-07-29 2001-02-16 Kenwood Corp オーディオ再生システム
US6710818B1 (en) 1999-10-08 2004-03-23 Matsushita Electric Industrial Co., Ltd. Illumination flicker detection apparatus, an illumination flicker compensation apparatus, and an ac line frequency detection apparatus, methods of detecting illumination flicker, compensating illumination flicker, and measuring ac line frequency
JP3370979B2 (ja) 2000-09-08 2003-01-27 三菱電機株式会社 撮像装置および自動レベル調整方法
US7187405B2 (en) * 2001-10-02 2007-03-06 Avago Technologies General Ip (Singapore) Pte. Ltd. Automatic flicker frequency detection device and method
JP2003189172A (ja) 2001-12-18 2003-07-04 Sony Corp 撮像装置及びその露光制御方法
US7142234B2 (en) * 2002-12-10 2006-11-28 Micron Technology, Inc. Method for mismatch detection between the frequency of illumination source and the duration of optical integration time for imager with rolling shutter
US8045017B2 (en) * 2004-05-20 2011-10-25 Omnivision Technologies, Inc. Methods and systems for detecting flash rate of surrounding lights for controlling camcorder frame rate
JP4539449B2 (ja) * 2005-06-10 2010-09-08 ソニー株式会社 画像処理装置および撮像装置
JP2007006049A (ja) * 2005-06-23 2007-01-11 Funai Electric Co Ltd 固体撮像装置
US8068148B2 (en) * 2006-01-05 2011-11-29 Qualcomm Incorporated Automatic flicker correction in an image capture device
US7667740B2 (en) * 2006-07-28 2010-02-23 Hewlett-Packard Development Company, L.P. Elimination of modulated light effects in rolling shutter CMOS sensor images

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001016508A (ja) * 1999-06-30 2001-01-19 Toshiba Corp 固体撮像装置
JP2002330350A (ja) * 2001-04-26 2002-11-15 Fujitsu Ltd Xyアドレス型固体撮像装置のフリッカノイズ低減方法
JP2003189129A (ja) * 2001-12-18 2003-07-04 Sony Corp 撮像信号処理装置及びフリッカ検出方法
JP2004007402A (ja) * 2002-03-25 2004-01-08 Seiko Epson Corp フリッカ検出装置、フリッカ補正装置、撮像装置、フリッカ検出プログラムおよびフリッカ補正プログラム
JP2004088720A (ja) * 2002-06-26 2004-03-18 Yokogawa Electric Corp カメラシステム
JP2006245784A (ja) * 2005-03-01 2006-09-14 Canon Inc 固体撮像装置及びその駆動方法並びに撮像システム
JP2008109253A (ja) * 2006-10-24 2008-05-08 Sanyo Electric Co Ltd 光源状態検出装置及び方法並びに撮像装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011176622A (ja) * 2010-02-24 2011-09-08 Nikon Corp 撮像装置
JP2012134677A (ja) * 2010-12-20 2012-07-12 Samsung Electronics Co Ltd 撮像装置および撮像方法
US8743240B2 (en) 2010-12-20 2014-06-03 Samsung Electronics Co., Ltd Imaging apparatus and imaging method
JP2017063264A (ja) * 2015-09-24 2017-03-30 カシオ計算機株式会社 撮像装置、フリッカ検出方法及びプログラム
JP2017085463A (ja) * 2015-10-30 2017-05-18 カシオ計算機株式会社 撮像装置、フリッカ検出方法及びプログラム

Also Published As

Publication number Publication date
US20120229671A1 (en) 2012-09-13
US20120320233A1 (en) 2012-12-20
WO2008108025A1 (en) 2008-09-12
KR101085802B1 (ko) 2011-11-22
CN101622859A (zh) 2010-01-06
JP4856765B2 (ja) 2012-01-18
EP2119220A1 (en) 2009-11-18
KR20090086103A (ko) 2009-08-10
CN101622859B (zh) 2011-06-15
US20100013953A1 (en) 2010-01-21
US8279303B2 (en) 2012-10-02

Similar Documents

Publication Publication Date Title
JP4856765B2 (ja) 撮像装置及びフリッカ検出方法
KR100721664B1 (ko) 이미지 센서의 플리커 검출 회로 및 방법
KR101143861B1 (ko) 플리커 보정방법 및 플리커 보정회로와 그것들을 이용한촬상장치
KR20120135382A (ko) 촬상장치 및 촬상방법
JP3749038B2 (ja) 固体撮像装置
JP2007174537A (ja) 撮像装置
KR20070024559A (ko) 촬상 장치 및 신호 처리 방법
JP2010103746A (ja) 撮像装置
JP2006345368A (ja) 画像処理装置および撮像装置
JP2008228037A (ja) 位相調整装置、位相調整方法およびデジタルカメラ
JP2009017213A (ja) 撮像装置
JP5331766B2 (ja) 撮像装置
JP2011030207A (ja) 撮像装置、閃光判定方法およびプログラム
JP4519306B2 (ja) フリッカ除去装置
JP4867822B2 (ja) 画像処理装置及び画像処理方法、並びに撮像装置
JP2008113237A (ja) 撮像装置におけるフリッカ検出方法と装置
JP2006332917A (ja) 撮像装置
JP2007329604A (ja) 蛍光灯フリッカ検出回路
JP5818451B2 (ja) 撮像装置および制御方法
JP2020072392A (ja) 撮像装置、撮像装置の制御方法およびプログラム
JP2010171811A (ja) 撮像装置
JP2009253808A (ja) 画像処理装置、撮像装置、画像処理方法、およびプログラム
JP2009111613A (ja) フリッカ補正装置
JP2016122941A (ja) 画像処理装置
JP2012134677A (ja) 撮像装置および撮像方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110826

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111018

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111028

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141104

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4856765

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees