JP2006352242A - フリッカ検出可能な撮像装置 - Google Patents

フリッカ検出可能な撮像装置 Download PDF

Info

Publication number
JP2006352242A
JP2006352242A JP2005172347A JP2005172347A JP2006352242A JP 2006352242 A JP2006352242 A JP 2006352242A JP 2005172347 A JP2005172347 A JP 2005172347A JP 2005172347 A JP2005172347 A JP 2005172347A JP 2006352242 A JP2006352242 A JP 2006352242A
Authority
JP
Japan
Prior art keywords
flicker
signal
flicker component
component
valley
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005172347A
Other languages
English (en)
Other versions
JP4335849B2 (ja
Inventor
Seiji Takahashi
誠治 高橋
Akira Okawa
章 大川
Noriyuki Uenishi
紀行 上西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2005172347A priority Critical patent/JP4335849B2/ja
Priority to TW094134060A priority patent/TWI285049B/zh
Priority to US11/250,428 priority patent/US7471316B2/en
Priority to CNB2005101145352A priority patent/CN100429928C/zh
Priority to KR1020050101200A priority patent/KR100709543B1/ko
Publication of JP2006352242A publication Critical patent/JP2006352242A/ja
Application granted granted Critical
Publication of JP4335849B2 publication Critical patent/JP4335849B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time

Abstract

【課題】 フリッカ検出精度を高めることができるMOS型撮像素子を有する撮像装置を提供する。
【解決手段】 MOS型撮像素子を有する撮像装置において,撮像素子から供給されるフレーム毎の画像信号から撮像環境下の周期的な輝度変化に対応するフリッカ成分の信号を抽出し,当該フリッカ成分信号から所定の基準低振値以下の信号と基準高振幅値以上の信号とを除去する補正を行い,当該補正されたフリッカ成分信号の山と谷からフリッカ成分の周波数または周期を検出するフリッカ検出部を有する。山と谷の検出では,微分値がゼロクロスとなり周期毎の平均輝度値より大きければ山,小さければ谷と判別する。これにより,白熱灯などの微少な輝度変化をフリッカ成分信号から除去し,高輝度画像の信号成分を除去することができる。さらに,高精度にフリッカ成分の山と谷を判別できる。
【選択図】 図4

Description

本発明は,XYアドレス方式の撮像素子を有する撮像装置に関し,特に蛍光灯など商用電源によるフリッカを検出することができる撮像装置に関する。
デジタルスチルカメラなど画像撮影する撮像装置において,近年CMOSイメージセンサなどXYアドレス方式のMOS型撮像素子が使用されるようになってきている。CMOSイメージセンサは,構造が簡単で低コスト化でき高画質で低消費電力であるが,画素毎に(正確にはライン毎に)光電変換を行うタイミングが異なるため,蛍光灯照明下など明るさが周期的に変化する環境下で撮影すると撮像画像に明暗の横縞が発生する。この撮像画像に含まれる横縞はフリッカと称される。
このようなフリッカを抑制するために,フリッカが発生しているか否かを検出し,発生している場合は,フリッカ周波数に応じた露光時間(シャッタースピード)に制御することが提案されている。そして,フリッカの発生を検出し且つフリッカの周波数(商用電源50Hzまたは60Hz)を判別する方法が種々提案されている。例えば,特許文献1,2,3に記載されるとおりである。
特開2003−189129号公報 特開2002−84466号公報 特開2001−119708号公報 上記の特許文献のうち特許文献1には,CMOSイメージセンサから得られた画像信号からフリッカ成分を抽出し,そのフリッカ成分の輝度の高い部分と低い部分を「山」,「谷」とそれぞれ判定し,「山」,「谷」の数と間隔からフリッカ周波数を判定することが記載されている。フリッカ成分の抽出は,前後するフレームの画像信号の差分をとることで画像信号に含まれる被写体の画像成分を除去することで行われる。
しかしながら,特許文献1に記載されたフリッカの検出方法及びフリッカ周波数の検出方法は,抽出したフリッカ成分が常に理想的なフリッカ成分波形であることが前提であり,現実の画像信号には適用困難な場合がある。たとえば,第1に,白熱灯など,商用電源の周波数に同期した輝度変化が微弱な場合は,必ずしもフリッカ発生に伴う露光時間の制御を行う必要がない。その輝度変化による横縞はそれほど目立たないからである。しかし,かかる微弱な周期的な輝度変化に対応してフリッカの発生を検出してしまうと,フリッカ周波数に制約された露光時間制御が必要になり画質低下を招く場合がある。第2に,撮像中の被写体の高速移動や撮像範囲の高速移動に伴い,連続するフレームの被写体画像が異なり,一方のフレーム画像にのみ高輝度画像が含まれる場合がある。かかる場合は,連続するフレーム間の差分から抽出されるフリッカ成分の信号波形は理想的な波形とはかけ離れたものとなり,フリッカが存在することの判断とフリッカ周波数の検出が困難になる。
そこで,本発明の目的は,フリッカ検出精度を高めることができる撮像素子を有する撮像装置を提供することにある。
上記の目的を達成するために,本発明の第1の側面によれば,撮像素子を有する撮像装置において,前記撮像素子から供給されるフレーム毎の画像信号から撮像環境下の周期的な輝度変化に対応するフリッカ成分の信号を抽出し,当該フリッカ成分信号から所定の基準低振値以下の信号を除去する補正を行い,当該補正されたフリッカ成分信号の山と谷からフリッカ成分の周波数または周期を検出するフリッカ検出部を有する撮像装置である。
上記の第1の側面によれば,白熱灯などの微少な輝度変化をフリッカ成分信号から除去することができるので,不必要なフリッカ検出を回避することができる。
上記の目的を達成するために,本発明の第2の側面によれば,撮像素子を有する撮像装置において,前記撮像素子から供給されるフレーム毎の画像信号から撮像環境下の周期的な輝度変化に対応するフリッカ成分の信号を抽出し,当該フリッカ成分信号から所定の基準高振値以上の信号を除去する補正を行い,当該補正されたフリッカ成分信号の山と谷からフリッカ成分の周波数または周期を検出するフリッカ検出部を有する撮像装置である。
例えば,連続するフレームの画像信号の差分をとることによりフリッカ成分の信号を抽出する場合などにおいて,連続するフレームの画像信号内の被写体画像が異なり,差分成分であるフリッカ成分信号に一方のフレームの被写体信号が残る場合がある。その残った被写体信号が高輝度の場合,フリッカ成分信号に大きな振幅値が含まれ,フリッカ成分信号の山と谷を適切に検出することができない。上記の第2の側面によれば,かかる高輝度のノイズ成分を除去するので,フリッカ成分信号の山と谷を適切に検出することができる。
上記の目的を達成するために,本発明の第3の側面によれば,撮像素子を有する撮像装置において,前記撮像素子から供給されるフレーム毎の画像信号から撮像環境下の周期的な輝度変化に対応するフリッカ成分の信号を抽出し,当該フリッカ成分信号の各周期での平均値を基準にしてフリッカ成分信号の山と谷を判別し,当該判別された山と谷からフリッカ成分の周波数または周期を検出するフリッカ検出部を有する撮像装置である。
上記の第3の側面によれば,抽出されたフリッカ成分信号が理想的な信号と異なる波形成分を含んでいる場合でも,各周期の平均値を基準にして,それより高い部分を山と判別し低い部分を谷と判別することにより,フリッカ成分による山と谷を適切に判別することができる。
本発明によれば,抽出されたフリッカ成分信号に適切な補正が加えられ,また歪み波形に対してもそれに対応した判断基準値を利用するので,フリッカ成分信号の山と谷を適切に判別してフリッカ成分の有無と周波数を正確に検出することができる。
以下,図面にしたがって本発明の実施の形態について説明する。但し,本発明の技術的範囲はこれらの実施の形態に限定されず,特許請求の範囲に記載された事項とその均等物まで及ぶものである。
図1は,本実施の形態における撮像装置の構成とフリッカによる横縞を示す図である。図1(A)に示した撮像装置は,MOS型撮像素子であるCMOSイメージセンサ10と,そこからの出力画像信号11に対してCDS(相関二重サンプリング)によるノイズ除去処理やAD変換処理や平滑化処理など種々の信号処理を行う信号処理部12と,そこから出力されるデジタル画像信号13に含まれるフリッカ成分信号を検出しそれに基づいて露光制御を行う制御部14と,制御部により表示制御される液晶パネルや有機ELパネルなどからなる表示部16と,シャッターなどの操作手段を有する操作部18とを有する。制御部14は,マイクロプロセッサからなり,本実施の形態におけるフリッカ検出部と,フリッカ検出部が検出したフリッカ周波数または周期に基づいて露光時間ETを演算する露光制御部と,表示部16への表示制御を行う表示制御部などを有する。
CMOSイメージセンサは,フォトダイオードなどの光電変換素子とそれにより光電変換された電圧を増幅するトランジスタとを有する画素がマトリクス状に配置され,各画素に設けられた選択トランジスタを介して,画素内で増幅された電圧を垂直方向に延びるデータ線に出力する。選択トランジスタは,水平方向に延びる走査線により順次選択され,画素内の電圧をデータ線に出力する。複数のデータ線に出力された画像信号は,点順次で信号処理部12に出力される。
このように,CMOSイメージセンサは,XYアドレス方式の撮像素子であり,走査線の走査タイミングに対応して画素内の画像信号が出力される。したがって,各行の画像信号の撮像期間は互いにずれている。そのため,商用電源周波数に対応して周期的に輝度が変化する蛍光灯環境下で撮像した場合,各行の画像信号には周期的に変化する蛍光灯の輝度が含まれることになる。しかも,各行の撮像期間は互いにずれているので,蛍光灯の輝度変化の影響が各行で異なることになり,撮像された画像には横縞が存在することになる。
図1(B)にはフリッカによる横縞が示されている。フレーム期間Fnにおいて4つの横縞と菱形の被写体が画像信号に含まれている。50Hzの商用電源の場合,電源電圧を正極性と負極性の最大値が1/100秒間隔で発生するので,蛍光灯の輝度は1/100秒の周期で変化する。したがって,センサ内の全走査線の走査が4/100秒で行われると4本の横縞が生じることになる。一方,次のフレーム期間Fn+1では横縞は垂直方向に僅かにずれて発生することになる。
ところが,蛍光灯のフリッカ周期が1/100秒の場合,露光時間(シャッター速度)をフリッカ周期の整数倍であるN/100秒に設定すると,各行の画素に入射される蛍光灯の光量の累積値が全て等しくなるので,たとえフリッカによる周期的に輝度が変化する照明光が存在していても,上記の横縞は生成されない。つまり,露光時間がフリッカ周期の整数倍と異なる場合に,各行の画素の蛍光灯入射光量が異なり横縞の発生を招くのである。商用電源が60Hzの場合は,蛍光灯の輝度は1/120秒の周期で変化する。
図2は,制御部14による自動露光制御工程のフローチャート図である。制御部14は,信号処理部12から信号処理済みのデジタル画像信号13を入力し,内部のフレームメモリ内にフレーム毎に格納する(S1)。そして,その画像信号を解析してフリッカの存在とフリッカ周波数(または周期)とを検出する(S2)。フリッカが存在する場合は(S3のYES),フリッカ周波数に対応する露光時間ETを決定する(S4)。つまり,前述したとおり,露光時間ETがフリッカ周期の整数倍になるようにする。一方,フリッカが存在しない場合は(S3のNO),フリッカ周波数に制約されないで露光時間を決定する(S5)。つまり,画像の明るさに対応した最適露光時間または操作部18から指定された露光時間(シャッター速度)にすることができる。
このように,フリッカが存在する場合は,フリッカ周期の整数倍という制約の下で画像の明るさに対応した最適露光時間または指定露光時間に最も近い露光時間にする必要がある。したがって,フリッカの検出は必要最小限の範囲で行われることが望ましい。
図3は,制御部14によるフリッカ検出工程のフローチャート図である。フリッカ検出工程は,特許文献1に記載された方法と同等である。すなわち,最初に1フレームの画像信号について水平ライン毎に変化する輝度を算出する(S11)。各水平ライン内の画像信号の累積値がそのラインの輝度になる。また,1フレーム内を複数の水平領域に分割し,各水平領域内の複数のラインの画像信号の累積を算出しても良い。
つぎに,前フレームの水平ライン毎の輝度または水平領域毎の輝度と現フレームの水平ライン毎の輝度または水平領域毎の輝度との差分を求める(S12)。図1(B)に示したとおり,連続するフレーム内の被写体は通常同等であるので,それら前後するフレーム画像信号の輝度の差分を求めると,被写体の輝度成分が除去され横縞のフリッカ成分だけとなる。したがって,この差分データ内にフリッカによる横縞が存在するか否かを検出すればよく,存在する場合はその横縞の個数を検出することでフリッカの周波数(または周期)を検出することができる。
工程S13では,差分データを元に周波数分析を行い,フリッカの存在とフリッカ周波数(又は周期)を判別する。このフリッカ周波数の判別は,差分データの時間(フレーム画像の垂直方向)に対して変化する「山」と「谷」を検出し,その数をカウントしまたはその間隔を検出することにより行うことができる。このフリッカ周波数判別工程については更に後で詳述する。最後に,判別するフリッカ周波数を確定するために,複数回にわたり上記のフリッカ周波数判別をし,判別したフリッカ周波数が複数回一致した場合に,その一致したフリッカ周波数を判別フリッカ周波数として確定する(S14)。
図4は,本実施の形態におけるフリッカ周波数判別工程のフローチャート図である。このフリッカ周波数判別工程は,図3の工程S13を具体的に示している。つまり,前後するフレームの画像信号の差分成分をフリッカ成分として抽出し,そのフリッカ成分信号に対して2つの補正処理S21,S22を行い,補正されたデータについて「山」と「谷」と「それ以外」の3つの状態を判定し(3値判定,S23),「山」と「谷」の個数や間隔からフリッカ周波数を判別する(S24)。補正処理は,第1に差分データであるフリッカ成分信号の低振幅成分を除去する処理(S21)と,高振幅成分を除去する処理(S22)とである。この処理の順番は逆になっても良い。低振幅成分を除去することで,白熱灯などの微弱なフリッカ成分を不必要にフリッカとして検出することを回避することができる。また,高振幅成分を除去することで,差分データに高輝度成分が含まれていてもそれを除去して適切に「山」と「谷」の判定を行うことができる。
また,「山」と「谷」と「それ以外」の判定処理S23では,補正されたフリッカ成分信号の周期毎の平均値を算出し,その平均値より大きい極大値ピークを「山」と小さい極小値ピークを「谷」とそれぞれ判定する。これにより,高輝度成分が含まれていてもフリッカ成分を見落とすことなく判定することができる。極大値ピークは微分値が正から負へのゼロクロス点,極小値ピークは微分値が負から正へのゼロクロス点を検出することにより判別可能である。
図2,3,4に示した処理は,制御部14を構成するプロセッサに内蔵された判定プログラムを実行することにより行われる。
図5は,第1の本実施の形態におけるフリッカ周波数判別工程の低振幅成分除去の補正処理を示す図である。図5(A)には,前後するフレームの画像信号の差分をとることで抽出されたフリッカ成分の信号が示されている。破線が蛍光灯のフリッカ成分F1であり,実線が白熱灯のフリッカ成分F2である。蛍光灯のフリッカ成分F1に比較すると白熱灯のフリッカ成分F2は微弱であり振幅が非常に小さい。
フリッカ成分の周波数(50Hz,60Hz)または周期は,その信号の山と谷の位置を検出することにより行われる。信号の山と谷の位置を検出する方法は種々の方法が考えられるが,一般的には横軸の時間(画像の垂直方向)に対する輝度値の微分値がゼロになる位置が信号の山(極大値)または谷(極小値)として検出される。微分値が正から負に変化するゼロクロス点は山(極大値),負から正に変化するゼロクロス点は谷(極小値)として検出できる。または,平均輝度Faより大きい正から負へのゼロクロス点を山,平均輝度より小さい負から正へのゼロクロス点を谷と判別することで,ノイズにより発生した山や谷をフリッカ成分の山,谷の判定結果から除外することができる。この平均輝度Faは,最大輝度と最小輝度の中間値を求めることで求めることができる。
この方法で白熱灯のフリッカ成分F2を解析した場合,「山」と「谷」と「それ以外」を検出する3値判定の結果は,図5(A)に示されるように山と谷が交互に発生するものとなる。そのため,蛍光灯のフリッカ成分と同等の周波数または周期が検出され,フリッカが存在することとその周波数または周期が所定の値であるという解析結果になる。
しかしながら,白熱灯によるフリッカ成分は蛍光灯に比較すると微弱であり,それによって認識される程度の横縞が画像に生成されることはない。したがって,白熱灯のフリッカ成分は無視して,それに制約されずに露光時間を制御するのが望ましい。フリッカ成分が検出されるとその周期の整数倍になるよう露光時間を制御する必要があり,被写体に最適な露光時間または操作者が望む露光時間にできなくなるからである。
そこで,本実施の形態では,差分信号から白熱灯によるフリッカ成分F2を除去するための補正処理を行う。図5(B)に示されるように,フリッカ成分の平均輝度ラインFaを求め,その平均輝度ラインFaから基準低振幅Yaより小さい信号成分を除去する。または基準低振幅Yaより小さい信号成分に対しては山や谷以外の値に設定し,後で行われる3値判定で山と谷が検出されないようにする。その結果,差分信号に白熱灯のフリッカ成分が含まれていても,かかる微弱な信号は低振幅成分を除去する補正処理により除去されるので,不必要にフリッカ有りと判定されることはなくなる。このように,本実施の形態では,補正処理に低振幅ノイズをカットするフィルタ処理を行う。
図6は,第2の実施の形態におけるフリッカ周波数判別工程の高振幅成分除去の補正処理を示す図である。図6(A)には,差分信号として抽出した蛍光灯のフリッカ成分F3が示される。この例は,前後するフレーム画像のうち一方のみに部分的な高輝度の画像信号が存在する例である。被写体が高速に移動したりカメラの方向が高速に変化した場合などにこのような状況になることが考えられる。そのため,前後するフレーム画像信号の差分信号は部分的に高振幅になる。図6(A)のフリッカ成分F3は,左から3つめの山の振幅が他の振幅より突出して大きくなっている。その結果,平均輝度ラインFaは全ての山の振幅より大きくなる。
かかるフリッカ成分F3に対して,前述の3値判定を行うと,微分値が正から負へのゼロクロス点であっても平均輝度ラインFaより小さい点は山と判定されず,結局,4つの谷と1つの山が判定されるだけであり,蛍光灯のフリッカ成分を正確に判定することができなくなる。
図6(B)には,差分信号からなる別の蛍光灯のフリッカ成分F4が示される。この例も,前後するフレーム画像のうち一方のみに部分的な高輝度の画像信号が存在する例である。図中,部分100に高輝度の画像信号が存在し,フリッカ成分F4に高い振幅成分が含まれている。また,部分100では本来なら谷になるべき部分も平均輝度ラインFaより高くなっている。さらに,部分100の波形が乱れている。
かかるフリッカ成分F4を微分値のゼロクロスによる3値判定をすると,図6(B)中の判定結果(1)に示されるような「山,谷,山,谷,山,谷,山,谷,山,谷,山,谷」となり,さらに,平均輝度ラインFaより高い輝度のみを「山」,低い輝度のみを「谷」と判定すると,図6(B)中の判定結果(2)に示されるように「山,山,谷,山,谷,山,山,山,谷」となる。
図7は,図6(B)のフリッカ成分に対する山谷判定後のフリッカ成分を示す図である。破線が山谷判定後のフリッカ成分の信号である。図7(A)には,山谷判定後のフリッカ成分F5(破線)と,差分信号として抽出したフリッカ成分F4とが示されている。図6(B)の判定結果(2)において,連続して検出された「山」に対しては,最大輝度を有する点を「山」と判定することで図7(A)のフリッカ成分F5を抽出することができる。
図7(B)は,このようにして抽出したフリッカ成分F5と実際の蛍光灯のフリッカ成分F1とが対比して示されている。この図から理解できるように,判定されたフリッカ成分F5に対する3値判定結果は(1)に示すとおりである。それに対して,実際のフリッカ成分F1の3値判定結果は(2)に示すとおりである。つまり,差分により抽出されたフリッカ成分には部分100において高い輝度信号が含まれていたため,3値判定されたフリッカ成分F5はその部分で波形が乱れ検出されるべき谷と山が検出されていない。そのため,フリッカ検出工程では,期待される周波数のフリッカが検出されず,フリッカが存在しないと誤って判定されることが予想される。
そこで,第2の実施の形態では,前後するフレームの画像信号の差分から抽出したフリッカ成分F4に対して,第1の実施の形態の低振幅成分を除去する補正処理に加えて,高い振幅成分を除去する補正処理を行う。つまり,図4の処理S21,S22の補正処理である。
図8は,第2の実施の形態における補正処理を示す図である。図8(A)には,図6(B)と同じ差分信号であるフリッカ成分F5が示されている。そして,第2の実施の形態では,このフリッカ成分の信号F5のうち,輝度平均値Faから基準低振幅値Ya以下の成分を除去し,さらに輝度平均値Faから基準高振幅値Yb以上の成分を除去する。前者が低振幅成分除去の補正処理であり,後者が高振幅成分除去の補正処理である。その結果,図8(B)の低振幅110と高振幅112とが除去される。または,フリッカ成分F5について,低振幅110と高振幅112とが「山」と「谷」とは別の「その他」に分類される。このように低振幅110と高振幅112とを除去する補正処理後のフリッカ成分F6が,図中の破線のようになる。
上記の基準低振幅値Yaは,白熱灯に対応させて固定的に設定されるのが望ましいが,基準高振幅値Ybは,その都度高輝度信号の振幅値が異なるので,フレーム毎に変化させてもよい。
図8(B)に破線で示した補正後のフリッカ成分F6は,高振幅成分112が除去され,山114,谷116,山118が存在している。これらの山と谷の検出は,微分値のゼロクロス点により検出できる。ここで,平均輝度ラインFaより輝度が大きい点を山,小さい点を谷に分類すると,谷116が判別されないことになる。これでは,実際のフリッカ成分の谷116が判別されなくなり,適切にフリッカ成分の存在とその周波数(または周期)を検出することができない。
図9は,第3の実施の形態におけるフリッカ判定工程を説明する図である。このフリッカ判定工程は,主に3値判定処理の改良に関する。図9(A)には図8の補正処理後のフリッカ成分F6が示されている。第3の実施の形態では,補正されたフリッカ成分F6の微分値のゼロクロス点から「山」と「谷」を検出し,フリッカ成分F6の周期を仮に検出する。そして,その仮に検出した周期内の平均輝度値Fa1〜Fa4を求める。この平均輝度値は,例えば,各周期内の最大値と最小値の平均により求められる。そして,微分値のゼロクロス点から検出している「山」と「谷」に対して,対応する周期の平均輝度値Fa1〜Fa4より大きい極大点を「山」と,小さい極小点を「谷」とそれぞれ判別する。図9(A)には前述のように行われた3値判定結果が示されている。
図9(B)は,上記のように判別されたフリッカ成分F7(破線)と,実際のフリッカ成分F1(実線)とが重ねて示されている。この図から理解できるとおり,平均輝度ラインFaより大きい場合でも「谷」と判定されているので,判別フリッカ成分F7は,その波形は歪んでいるものの,実際のフリッカ成分の周波数(または周期)と同等に「山」「谷」を検出することができている。
図4に戻り,周期毎の輝度平均値に基づいて3値判定S23を行った後,判定された「山」と「谷」の間隔や個数からフリッカ成分の周波数(または周期)を判別する(S24)。そして,図3の工程S14のように,複数回判別したフリッカ周波数を判別値として確定し,図2のフリッカ周波数に対応する露光時間の決定(S4)を行う。フリッカが検出されない場合は,フリッカ周波数に制約されないで露光時間を決定する(S5)。
以上説明したとおり,本実施の形態では,前後するフレームの画像信号の差分を求めてフリッカ成分を抽出し,そのフリッカ成分の信号を低振幅除去と高振幅除去を含む補正処理を行い,3値判定において周期毎の平均輝度値とを求めその平均輝度値に基づいて補正された信号の「山」と「谷」を判別する。平均輝度値を基準として「山」と「谷」を判別することで,ノイズによる微分値ゼロの点を「山」「谷」から除外することができる。また,全平均輝度値ではなく周期毎の平均輝度値を使用することで,高輝度画像信号が含まれることによる信号歪みが生じてもフリッカ成分を確実に判別することができる。
また,以上ではCMOSイメージセンサ等のMOS型撮像素子を例にとって説明したが、他のMOS型撮像素子はもとより,CCD等の撮像素子であっても,XYアドレス型であれば本発明を適用できることは言うまでもない。
以上の実施の形態をまとめると,次の付記のとおりである。
(付記1)撮像素子を有する撮像装置において,
前記撮像素子から供給されるフレーム毎の画像信号から撮像環境下の周期的な輝度変化に対応するフリッカ成分の信号を抽出し,当該フリッカ成分信号から所定の基準低振値以下の信号を除去する補正処理を行い,当該補正されたフリッカ成分信号の山と谷からフリッカ成分の周波数または周期を検出するフリッカ検出部を有することを特徴とする撮像装置。
(付記2)付記1において,
前記フリッカ検出部は,前記所定の基準低振値以下の信号を除去する補正処理に加えて,前記フリッカ成分信号から所定の基準高振値以上の信号を除去する補正処理を行うことを特徴とする撮像装置。
(付記3)付記1または2において,
前記フリッカ検出部は,前記補正されたフリッカ成分信号の各周期での平均値を基準にして当該フリッカ成分信号の山と谷を判別し,当該判別された山と谷からフリッカ成分の周波数または周期を検出することを特徴とする撮像装置。
(付記4)付記3において,
前記フリッカ検出部は,前記フリッカ成分の信号の抽出を,前後するフレームの画像信号間の差分成分を求めることにより行うことを特徴とする撮像装置。
(付記5)付記1または2において,
前記フリッカ検出部は,前記抽出されたフリッカ成分信号に対して平滑化処理を行い,その後前記補正処理を行うことを特徴とする撮像装置。
(付記6)付記1または2において,
さらに,前記フリッカ検出部により検出されたフリッカ成分の周波数または周期に対応して露光時間を制御する露光時間制御部を有することを特徴とする撮像装置。
(付記7)撮像素子を有する撮像装置において,前記撮像素子から供給されるフレーム毎の画像信号から撮像環境下の周期的な輝度変化に対応するフリッカ成分の信号を抽出し,当該フリッカ成分信号から所定の基準高振値以上の信号を除去する補正を行い,当該補正されたフリッカ成分信号の山と谷からフリッカ成分の周波数または周期を検出するフリッカ検出部を有する撮像装置。
(付記8)付記7において,
前記フリッカ検出部は,前記補正されたフリッカ成分信号の各周期での平均値を基準にして当該フリッカ成分信号の山と谷を判別し,当該判別された山と谷からフリッカ成分の周波数または周期を検出することを特徴とする撮像装置。
(付記9)撮像素子を有する撮像装置において,前記撮像素子から供給されるフレーム毎の画像信号から撮像環境下の周期的な輝度変化に対応するフリッカ成分の信号を抽出し,当該フリッカ成分信号の各周期での平均値を基準にしてフリッカ成分信号の山と谷を判別し,当該判別された山と谷からフリッカ成分の周波数または周期を検出するフリッカ検出部を有する撮像装置。
本実施の形態における撮像装置の構成とフリッカによる横縞を示す図である。 制御部14による自動露光制御工程のフローチャート図である。 制御部14によるフリッカ検出工程のフローチャート図である。 図4は,本実施の形態におけるフリッカ周波数判別工程のフローチャート図である。 第1の本実施の形態におけるフリッカ周波数判別工程の低振幅成分除去の補正処理を示す図である。 第2の本実施の形態におけるフリッカ周波数判別工程の高振幅成分除去の補正処理を示す図である。 図6(B)のフリッカ成分に対する山谷判定後のフリッカ成分を示す図である。 第2の実施の形態における補正処理を示す図である。 第3の実施の形態におけるフリッカ判定工程を説明する図である。
符号の説明
S21:低振幅成分除去の補正処理工程 S22:高振幅成分除去の補正処理工程
S23:3値判定工程

Claims (6)

  1. 撮像素子を有する撮像装置において,
    前記撮像素子から供給されるフレーム毎の画像信号から撮像環境下の周期的な輝度変化に対応するフリッカ成分の信号を抽出し,当該フリッカ成分信号から所定の基準低振値以下の信号を除去する補正処理を行い,当該補正されたフリッカ成分信号の山と谷からフリッカ成分の周波数または周期を検出するフリッカ検出部を有することを特徴とする撮像装置。
  2. 請求項1において,
    前記フリッカ検出部は,前記所定の基準低振値以下の信号を除去する補正処理に加えて,前記フリッカ成分信号から所定の基準高振値以上の信号を除去する補正処理を行うことを特徴とする撮像装置。
  3. 請求項1または2において,
    前記フリッカ検出部は,前記補正されたフリッカ成分信号の各周期での平均値を基準にして当該フリッカ成分信号の山と谷を判別し,当該判別された山と谷からフリッカ成分の周波数または周期を検出することを特徴とする撮像装置。
  4. 請求項3において,
    前記フリッカ検出部は,前記フリッカ成分の信号の抽出を,前後するフレームの画像信号間の差分成分を求めることにより行うことを特徴とする撮像装置。
  5. 撮像素子を有する撮像装置において,
    前記撮像素子から供給されるフレーム毎の画像信号から撮像環境下の周期的な輝度変化に対応するフリッカ成分の信号を抽出し,当該フリッカ成分信号から所定の基準高振値以上の信号を除去する補正を行い,当該補正されたフリッカ成分信号の山と谷からフリッカ成分の周波数または周期を検出するフリッカ検出部を有する撮像装置。
  6. 撮像素子を有する撮像装置において,
    前記撮像素子から供給されるフレーム毎の画像信号から撮像環境下の周期的な輝度変化に対応するフリッカ成分の信号を抽出し,当該フリッカ成分信号の各周期での平均値を基準にしてフリッカ成分信号の山と谷を判別し,当該判別された山と谷からフリッカ成分の周波数または周期を検出するフリッカ検出部を有する撮像装置。
JP2005172347A 2005-06-13 2005-06-13 フリッカ検出可能な撮像装置 Expired - Fee Related JP4335849B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2005172347A JP4335849B2 (ja) 2005-06-13 2005-06-13 フリッカ検出可能な撮像装置
TW094134060A TWI285049B (en) 2005-06-13 2005-09-29 Image capture device capable of flicker detection
US11/250,428 US7471316B2 (en) 2005-06-13 2005-10-17 Image capture device capable of flicker detection
CNB2005101145352A CN100429928C (zh) 2005-06-13 2005-10-24 能够进行闪烁检测的图像捕捉设备
KR1020050101200A KR100709543B1 (ko) 2005-06-13 2005-10-26 플리커 검출 가능한 촬상 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005172347A JP4335849B2 (ja) 2005-06-13 2005-06-13 フリッカ検出可能な撮像装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2009037958A Division JP4850920B2 (ja) 2009-02-20 2009-02-20 フリッカ検出可能な撮像装置

Publications (2)

Publication Number Publication Date
JP2006352242A true JP2006352242A (ja) 2006-12-28
JP4335849B2 JP4335849B2 (ja) 2009-09-30

Family

ID=37519995

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005172347A Expired - Fee Related JP4335849B2 (ja) 2005-06-13 2005-06-13 フリッカ検出可能な撮像装置

Country Status (5)

Country Link
US (1) US7471316B2 (ja)
JP (1) JP4335849B2 (ja)
KR (1) KR100709543B1 (ja)
CN (1) CN100429928C (ja)
TW (1) TWI285049B (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009017213A (ja) * 2007-07-04 2009-01-22 Canon Inc 撮像装置
JP2009017214A (ja) * 2007-07-04 2009-01-22 Canon Inc フリッカ検出装置及びフリッカ検出方法
KR100891434B1 (ko) 2007-05-16 2009-04-03 주식회사 코아로직 플리커 노이즈 검출 장치, 방법 및 그 기록매체
JP2010098416A (ja) * 2008-10-15 2010-04-30 Nikon Corp 撮像装置
JP4809443B2 (ja) * 2006-01-05 2011-11-09 クゥアルコム・インコーポレイテッド 画像取込デバイスにおける自動フリッカ補正
JP2012010306A (ja) * 2010-05-25 2012-01-12 Ricoh Co Ltd 画像処理装置および画像処理方法、ならびに、撮像装置
JP2013046325A (ja) * 2011-08-26 2013-03-04 Nikon Corp 撮像装置
JP2014220763A (ja) * 2013-05-10 2014-11-20 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体
JP2014220764A (ja) * 2013-05-10 2014-11-20 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体
WO2014199542A1 (ja) * 2013-06-14 2014-12-18 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 撮像装置、集積回路およびフリッカ低減方法
JP2017139636A (ja) * 2016-02-04 2017-08-10 リコーイメージング株式会社 ライブビュー機能を有する撮影装置
JP2020129756A (ja) * 2019-02-08 2020-08-27 ローム株式会社 フリッカ検出装置

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7920175B2 (en) * 2005-01-13 2011-04-05 Canon Kabushiki Kaisha Electronic still camera performing composition of images and image capturing method therefor
KR100721664B1 (ko) 2005-12-22 2007-05-23 매그나칩 반도체 유한회사 이미지 센서의 플리커 검출 회로 및 방법
JP2008209900A (ja) * 2007-02-02 2008-09-11 Canon Inc カメラシステム及びレンズ装置
KR100820840B1 (ko) * 2007-02-12 2008-04-11 엘지전자 주식회사 프로젝터 및 프로젝터의 플리커 제거 방법
KR20080098864A (ko) * 2007-05-07 2008-11-12 삼성전자주식회사 이미지 센서의 플리커 감소 방법 및 장치
JP4836896B2 (ja) * 2007-08-27 2011-12-14 三洋電機株式会社 ビデオカメラ
MY142600A (en) * 2007-12-03 2010-12-15 Mimos Berhad System and method for authenticating image liveness
CN101459779B (zh) * 2007-12-14 2010-09-08 凌阳多媒体股份有限公司 于视频采集装置中的自动闪烁探测与修正的装置及方法
US8266168B2 (en) * 2008-04-24 2012-09-11 Lexisnexis Risk & Information Analytics Group Inc. Database systems and methods for linking records and entity representations with sufficiently high confidence
US8149093B2 (en) * 2008-06-06 2012-04-03 Lyngsoe Systems System and method for wireless communications
JP5099701B2 (ja) * 2008-06-19 2012-12-19 シャープ株式会社 信号処理装置、信号処理方法、制御プログラム、可読記録媒体、固体撮像装置および電子情報機器
JP4626689B2 (ja) * 2008-08-26 2011-02-09 ソニー株式会社 撮像装置、補正回路および補正方法
JP5396862B2 (ja) * 2009-01-07 2014-01-22 リコーイメージング株式会社 撮像装置
US8462229B2 (en) 2010-09-30 2013-06-11 Hewlett-Packard Development Company, L.P. Detection of flicker within captured imaged frames
US8804003B2 (en) 2011-01-28 2014-08-12 Aptina Imaging Corporation Flicker detection for imaging devices with high frame rates
US8711245B2 (en) 2011-03-18 2014-04-29 Digitaloptics Corporation Europe Ltd. Methods and systems for flicker correction
US9088727B2 (en) 2011-04-06 2015-07-21 Pelco, Inc. Spatially-varying flicker detection
CN102256062A (zh) * 2011-05-06 2011-11-23 钰创科技股份有限公司 自动侦测影像闪烁的电路及其方法
TWI469632B (zh) * 2011-11-09 2015-01-11 Silicon Motion Inc 抗閃爍攝錄裝置與攝錄方法
WO2013165377A1 (en) * 2012-04-30 2013-11-07 Hewlett-Packard Development Company, L. P. A system and method of modifying the dynamic range
CN104125401B (zh) * 2014-07-22 2017-08-25 广州三星通信技术研究有限公司 控制图像传感器工作的方法和拍摄装置
KR102523301B1 (ko) * 2015-12-15 2023-04-19 삼성전자주식회사 플리커를 제거하는 이미지 센서 회로 및 이를 포함하는 카메라 장치
CN107223265B (zh) * 2016-03-22 2020-11-27 广东虚拟现实科技有限公司 条纹集合查找方法、装置以及系统
WO2017161495A1 (zh) * 2016-03-22 2017-09-28 广东虚拟现实科技有限公司 条纹集合查找方法、装置以及系统
CN106131445A (zh) * 2016-07-08 2016-11-16 深圳天珑无线科技有限公司 一种拍摄方法和装置
WO2018010149A1 (zh) * 2016-07-14 2018-01-18 广东虚拟现实科技有限公司 闪烁光源的识别方法以及装置
CN108462837B (zh) * 2018-03-13 2022-06-21 中兴通讯股份有限公司 拍摄方法及装置
CN109151255B (zh) * 2018-08-31 2021-05-25 惠州华阳通用电子有限公司 一种基于光电检测的摄像头闪烁消除方法及装置
CN110381276B (zh) * 2019-05-06 2021-08-13 华为技术有限公司 一种视频拍摄方法及电子设备
CN110248110B (zh) * 2019-06-28 2021-03-26 Oppo广东移动通信有限公司 拍摄参数设置方法、设置装置、终端设备及可读存储介质
WO2021195861A1 (zh) * 2020-03-30 2021-10-07 深圳市大疆创新科技有限公司 一种抗频闪方法、装置、系统及计算机可读存储介质
CN112351216B (zh) * 2020-10-10 2022-04-05 深圳开阳电子股份有限公司 检测和消除视频闪烁的方法及图像处理设备
CN113301220B (zh) * 2021-04-27 2024-01-05 上海欧菲智能车联科技有限公司 一种车载摄像头与车灯的同步方法及fpga芯片
CN116718267B (zh) * 2023-08-08 2023-10-31 四川京炜交通工程技术有限公司 一种移动式交通技术监控成像频闪补光灯照度测量方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62289735A (ja) * 1986-06-10 1987-12-16 Matsushita Electric Ind Co Ltd 不規則フリツカの測定装置
JPH06276415A (ja) * 1993-03-17 1994-09-30 Nippon Hoso Kyokai <Nhk> フリッカー防止方法および装置
TW290678B (ja) * 1994-12-22 1996-11-11 Handotai Energy Kenkyusho Kk
JP3892172B2 (ja) * 1998-07-24 2007-03-14 松下電器産業株式会社 固体撮像装置
JP2000156822A (ja) 1998-11-19 2000-06-06 Sony Corp クランプ回路
JP3476400B2 (ja) 1999-10-19 2003-12-10 松下電器産業株式会社 フリッカ検出・補正装置およびフリッカ検出・補正方法
DE10033420A1 (de) * 2000-07-08 2002-01-17 Philips Corp Intellectual Pty Vorrichtung zur Reduktion von Flackerstörungen
JP3370979B2 (ja) 2000-09-08 2003-01-27 三菱電機株式会社 撮像装置および自動レベル調整方法
JP4416959B2 (ja) * 2001-04-26 2010-02-17 富士通マイクロエレクトロニクス株式会社 Xyアドレス型固体撮像装置のフリッカノイズ低減方法
US7298401B2 (en) * 2001-08-10 2007-11-20 Micron Technology, Inc. Method and apparatus for removing flicker from images
US7187405B2 (en) * 2001-10-02 2007-03-06 Avago Technologies General Ip (Singapore) Pte. Ltd. Automatic flicker frequency detection device and method
JP3823314B2 (ja) * 2001-12-18 2006-09-20 ソニー株式会社 撮像信号処理装置及びフリッカ検出方法
JP2004112739A (ja) * 2002-07-25 2004-04-08 Fujitsu Ltd 固体イメージセンサ
US7142234B2 (en) * 2002-12-10 2006-11-28 Micron Technology, Inc. Method for mismatch detection between the frequency of illumination source and the duration of optical integration time for imager with rolling shutter
JP2004260574A (ja) * 2003-02-26 2004-09-16 Matsushita Electric Ind Co Ltd フリッカ検出方法およびフリッカ検出装置
KR100557660B1 (ko) * 2004-07-29 2006-03-10 매그나칩 반도체 유한회사 영상 신호에서의 플리커 검출 방법
US7502054B2 (en) * 2004-12-20 2009-03-10 Pixim, Inc. Automatic detection of fluorescent flicker in video images
US8068148B2 (en) * 2006-01-05 2011-11-29 Qualcomm Incorporated Automatic flicker correction in an image capture device

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4809443B2 (ja) * 2006-01-05 2011-11-09 クゥアルコム・インコーポレイテッド 画像取込デバイスにおける自動フリッカ補正
KR100891434B1 (ko) 2007-05-16 2009-04-03 주식회사 코아로직 플리커 노이즈 검출 장치, 방법 및 그 기록매체
JP2009017213A (ja) * 2007-07-04 2009-01-22 Canon Inc 撮像装置
JP2009017214A (ja) * 2007-07-04 2009-01-22 Canon Inc フリッカ検出装置及びフリッカ検出方法
JP2010098416A (ja) * 2008-10-15 2010-04-30 Nikon Corp 撮像装置
JP2012010306A (ja) * 2010-05-25 2012-01-12 Ricoh Co Ltd 画像処理装置および画像処理方法、ならびに、撮像装置
JP2013046325A (ja) * 2011-08-26 2013-03-04 Nikon Corp 撮像装置
JP2014220764A (ja) * 2013-05-10 2014-11-20 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体
JP2014220763A (ja) * 2013-05-10 2014-11-20 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体
US9794491B2 (en) 2013-05-10 2017-10-17 Canon Kabushiki Kaisha Imaging apparatus having anti-flicker timing offset, control method, and storage medium therefor
WO2014199542A1 (ja) * 2013-06-14 2014-12-18 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 撮像装置、集積回路およびフリッカ低減方法
US9344640B2 (en) 2013-06-14 2016-05-17 Panasonic Intellectual Property Corporation Of America Imaging device, integrated circuit, and flicker reduction method
JPWO2014199542A1 (ja) * 2013-06-14 2017-02-23 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 撮像装置、集積回路およびフリッカ低減方法
JP2017139636A (ja) * 2016-02-04 2017-08-10 リコーイメージング株式会社 ライブビュー機能を有する撮影装置
JP2020129756A (ja) * 2019-02-08 2020-08-27 ローム株式会社 フリッカ検出装置
JP7222745B2 (ja) 2019-02-08 2023-02-15 ローム株式会社 フリッカ検出装置

Also Published As

Publication number Publication date
TW200644623A (en) 2006-12-16
US20060279641A1 (en) 2006-12-14
TWI285049B (en) 2007-08-01
KR100709543B1 (ko) 2007-04-20
CN1882041A (zh) 2006-12-20
US7471316B2 (en) 2008-12-30
CN100429928C (zh) 2008-10-29
KR20060129926A (ko) 2006-12-18
JP4335849B2 (ja) 2009-09-30

Similar Documents

Publication Publication Date Title
JP4335849B2 (ja) フリッカ検出可能な撮像装置
KR101950396B1 (ko) 촬상장치 및 촬상방법
JP4106554B2 (ja) 撮影環境判定方法および撮像装置
JP4337353B2 (ja) フリッカ検出装置、フリッカ補正装置、撮像装置、フリッカ検出プログラムおよびフリッカ補正プログラム
JP4979369B2 (ja) イメージセンサのフリッカー検出回路及び方法
JP5134688B2 (ja) 光学的タッチセンサー式装置における周囲光の補正
JP4840578B2 (ja) 撮像装置のフリッカ検出方法と装置
JP2006245784A (ja) 固体撮像装置及びその駆動方法並びに撮像システム
JP2001119708A (ja) フリッカ検出・補正装置およびフリッカ検出・補正方法
US7202897B2 (en) Solid-state image pickup exposure control system and method
JP2003304548A5 (ja)
JP2002044688A (ja) 固体撮像素子の画素欠陥検出方法およびその方法を用いた撮像装置
JP4850920B2 (ja) フリッカ検出可能な撮像装置
JP2011169842A (ja) フリッカー測定方法およびその装置
JP2006238060A (ja) 画像処理装置およびこの画像処理装置を備えたデジタルカメラ
JP2002290994A (ja) 小型カメラモジュールの異物検査方法およびその異物検査装置
JP4660223B2 (ja) 照明ランプ劣化検出装置
JP4331120B2 (ja) 欠陥画素検出方法
JP2008113237A (ja) 撮像装置におけるフリッカ検出方法と装置
JP2010093471A (ja) 撮像装置、撮像装置用半導体集積回路、および欠陥画素判定方法
JP2006345279A (ja) 固体撮像素子の画素欠陥検出方法
JP2010273147A (ja) 撮像信号特定状態検出装置、撮像装置、撮像信号特定状態検出方法、プログラムおよび集積回路
JP2007329604A (ja) 蛍光灯フリッカ検出回路
JP2011114760A (ja) カメラモジュールの検査方法
JP2004048616A (ja) センサモジュール

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20080731

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090623

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090625

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120703

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4335849

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120703

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120703

Year of fee payment: 3

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120703

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120703

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130703

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees