JP5035025B2 - 画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム - Google Patents
画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム Download PDFInfo
- Publication number
- JP5035025B2 JP5035025B2 JP2008051534A JP2008051534A JP5035025B2 JP 5035025 B2 JP5035025 B2 JP 5035025B2 JP 2008051534 A JP2008051534 A JP 2008051534A JP 2008051534 A JP2008051534 A JP 2008051534A JP 5035025 B2 JP5035025 B2 JP 5035025B2
- Authority
- JP
- Japan
- Prior art keywords
- flicker
- flicker component
- component
- signal
- field
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/745—Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
Description
フィールド周期あるいはフレーム周期に同期した変化パターンのフリッカ成分を含む可能性のある映像信号を入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する積分手段と、
前記積分手段により得られる積分値、あるいは、前記積分手段により得られる積分値の隣接するフィールドあるいはフレームにおける差分値を正規化する正規化手段と、
前記正規化手段により正規化された前記積分値あるいは前記差分値のスペクトルを抽出する抽出手段と、
前記抽出手段により抽出された前記スペクトルからフィールド単位あるいはフレーム単位のフリッカ成分を、複素平面上において推定する推定手段と、
前記推定手段により推定された最新の前記フリッカ成分と、前記推定手段により過去に推定された1つ以上のフリッカ成分とから、フィールド周期あるいはフレーム周期に同期した前記変化パターン中の各フィールドのフリッカ成分、あるいは、各フレームのフリッカ成分の虚数軸方向の平均値と実数軸方向の平均値とにより示される、当該複素平面上の原点に対するずれ量を、最新の前記フリッカ成分のずれ量として検出する検出手段と、
前記検出手段により検出されたフリッカ成分のずれ量に基づいて、最新の前記フリッカ成分を補正する補正手段と、
前記補正手段により補正された前記フリッカ成分を打ち消すように、補正されたフリッカ成分と前記入力画像信号とを演算する演算手段と
を備えることを特徴とする。
(システム構成:図1)
図1は、この発明の撮像装置の一実施形態のシステム構成を示し、XYアドレス走査型の撮像素子としてCMOS撮像素子を用いたビデオカメラの場合である。
図2に、原色系システムの場合のデジタル信号処理部20の一例を示す。
図3に、補色系システムの場合のデジタル信号処理部20の一例を示す。
図2のフリッカ低減部25R,25G,25B、および図3のフリッカ低減部25Y,25R,25G,25Bのそれぞれは、処理対象の信号が異なるが、同様に構成されるものである。したがって、以下では、フリッカ低減部25R,25G,25B,25Yを、フリッカ低減部25と総称する。
次に、図4に示したフリッカ低減部25と、システムコントローラ14が実現するフリッカずれ量補正部とのそれぞれについて、その構成と動作について具体的に説明する。
図5は、フリッカ低減部25の第1の例を示す。
図24および図25は、被写体が一様な場合であるが、一般にフリッカ成分は被写体の信号強度に比例する。
図5の例では、まず、入力画像信号In’(x,y)が、フリッカ検出用に絵柄の影響を少なくするために、積分ブロック31で、図11の式(4)に示すように、画面水平方向に1ライン分に渡って積分され、積分値Fn(y)が算出される。式(4)中のαn(y)は、図11の式(5)で表されるように、信号成分In(x,y)の1ライン分に渡る積分値である。
そこで、図5の例では、積分値Fn(y)からαn(y)の影響を取り除くために、連続する3フィールドにおける積分値を用いる。
図5の例では、さらに、正規化ブロック35で、差分計算ブロック34からの差分値Fn(y)−Fn_1(y)が、平均値計算ブロック33からの平均値AVE[Fn(y)]で除算されることによって正規化され、正規化後の差分値gn(y)が算出される。
図13の式(11a)(11b)で表される|Am|,θmは、正規化後の差分値gn(y)の、各次のスペクトルの振幅および初期位相であり、正規化後の差分値gn(y)をフーリエ変換して、各次のスペクトルの振幅|Am|および初期位相θmを検出すれば、図14の式(12a)(12b)によって、図11の式(2)に示した各次のフリッカ成分の振幅γmおよび初期位相Φmnを求めることができる。
図11の式(1)から、フリッカ成分を含まない信号成分In(x,y)は、図14の式(17)で表される。
図5の例で、入力画像信号In’(x,y)のレベルが飽和領域にある場合、演算ブロック40で式(17)の演算を行うと、逆に信号成分(色成分または輝度成分)が変化してしまう。そこで、演算ブロック40は、図6の例のように構成することが望ましい。
図4に示したように、システムコントローラ14が実現するフリッカずれ量補正部は、ずれ量補正ブロック141、重心計算ブロック142、メモリ143、位相・振幅抽出ブロック144、フリッカ生成ブロック145を備える構成とされたものである。図4に示したように、システムコントローラ14が実現するフリッカずれ量補正部のずれ量補正ブロック141とメモリ143とに対して、フリッカ低減部25において検出されるフリッカ成分が、複素平面上に表現された値(Im,Re)として供給するようにされている。
(正規化積分値算出ブロックの第2の構成例:図9)
図5に示した正規化積分値算出ブロック30のように、差分値Fn(y)−Fn_1(y)を平均値AVE[Fn(y)]で正規化すれば、有限の計算精度を効果的に確保することができる。しかし、要求される計算精度を満足できる場合には、積分値Fn(y)を直接、平均値AVE[Fn(y)]で正規化してもよい。
図5の例で正規化に用いる平均値AVE[Fn(y)]は、図12の式(7)の近似が成り立つ場合には、式(6)で表されるようにαn(y)に等しいとともに、図11の式(4)の第2項[αn(y)*Γn(y)]は、第1項のαn(y)に比べて十分小さいので、正規化に及ぼす第2項の影響は非常に小さい。
非蛍光灯照明下(蛍光灯ではない照明環境)で撮影する場合、上述したフリッカ低減処理を行っても、特別の不具合を生じないが、この場合、本来不要な処理を行うことになるので、たとえフリッカ成分が十分小さくても、画質への影響が懸念される。
以下に示すように、撮影状況によってはフリッカ低減処理が不要となる場合がある。この場合、画質への影響を考慮すると、上述した非蛍光灯照明下で撮影する場合と同様に、本来不要なフリッカ低減処理は行わない方が望ましい。
(積分について)
上述した各例は、入力画像信号In’(x,y)を1ライン分に渡って積分する場合であるが、入力画像信号In’(x,y)の積分は、絵柄の影響を少なくしてフリッカ成分のサンプリング値を得るためであるので、1ラインに限らず、複数ラインの時間に渡って行ってもよい。上述したように画面上では縞模様として現れる蛍光灯フリッカ(画面内フリッカ)の1周期はL(=M*60/100)ラインに相当するので、その1周期、すなわちLラインで、少なくとも2つのサンプリング値を得るようにすれば、いわゆるサンプリングの定理から、フリッカ成分を検出することができる。
図2のような原色系システムの場合、図2のようにフリッカ低減部25R,25G,25BによってRGB各色の原色信号ごとにフリッカ成分を検出し、低減する代わりに、例えば、合成マトリクス回路29の輝度信号Yの出力側に、上述した例のようなフリッカ低減部25を設けて、輝度信号Y中のフリッカ成分を検出し、低減するように構成してもよい。
Claims (5)
- フィールド周期あるいはフレーム周期に同期した変化パターンのフリッカ成分を含む可能性のある映像信号を入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する積分手段と、
前記積分手段により得られる積分値、あるいは、前記積分手段により得られる積分値の隣接するフィールドあるいはフレームにおける差分値を正規化する正規化手段と、
前記正規化手段により正規化された前記積分値あるいは前記差分値のスペクトルを抽出する抽出手段と、
前記抽出手段により抽出された前記スペクトルからフィールド単位あるいはフレーム単位のフリッカ成分を、複素平面上において推定する推定手段と、
前記推定手段により推定された最新の前記フリッカ成分と、前記推定手段により過去に推定された1つ以上のフリッカ成分とから、フィールド周期あるいはフレーム周期に同期した前記変化パターン中の各フィールドのフリッカ成分、あるいは、各フレームのフリッカ成分の虚数軸方向の平均値と実数軸方向の平均値とにより示される、当該複素平面上の原点に対するずれ量を、最新の前記フリッカ成分のずれ量として検出する検出手段と、
前記検出手段により検出されたフリッカ成分のずれ量に基づいて、最新の前記フリッカ成分を補正する補正手段と、
前記補正手段により補正された前記フリッカ成分を打ち消すように、補正されたフリッカ成分と前記入力画像信号とを演算する演算手段と
を備えることを特徴とする画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記入力画像信号として、R(赤)信号、G(緑)信号、B(青)信号の3原色信号のそれぞれを用いるようにすることを特徴とする画像処理装置。 - フィールド周期あるいはフレーム周期に同期した変化パターンのフリッカ成分を含む可能性のある映像信号を入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する積分工程と、
前記積分工程において得られる積分値、あるいは、前記積分工程において得られる積分値の隣接するフィールドあるいはフレームにおける差分値を正規化する正規化工程と、
前記正規化工程において正規化した前記積分値あるいは前記差分値のスペクトルを抽出する抽出工程と、
前記抽出工程において抽出した前記スペクトルからフィールド単位あるいはフレーム単位のフリッカ成分を、複素平面上において推定する推定工程と、
前記推定工程において推定した最新の前記フリッカ成分と、前記推定工程において過去に推定した1つ以上のフリッカ成分とから、フィールド周期あるいはフレーム周期に同期した前記変化パターン中の各フィールドのフリッカ成分、あるいは、各フレームのフリッカ成分の虚数軸方向の平均値と実数軸方向の平均値とにより示される、当該複素平面上の原点に対するずれ量を、最新の前記フリッカ成分のずれ量として検出する検出工程と、
前記検出工程において検出したフリッカ成分のずれ量に基づいて、最新の前記フリッカ成分を補正する補正工程と、
前記補正工程において補正した前記フリッカ成分を打ち消すように、推定されたフリッカ成分と前記入力画像信号とを演算する演算工程と
を有することを特徴とするフリッカ低減方法。 - XYアドレス走査型の撮像素子と、
この撮像素子により被写体を撮影することによって得られる映像信号を入力画像信号として、その入力画像信号を1水平周期以上の時間に渡って積分する積分手段と、
前記積分手段により得られる積分値、あるいは、前記積分手段により得られる積分値の隣接するフィールドあるいはフレームにおける差分値を正規化する正規化手段と、
前記正規化手段により正規化された前記積分値あるいは前記差分値のスペクトルを抽出する抽出手段と、
前記抽出手段により抽出された前記スペクトルからフィールド単位あるいはフレーム単位のフリッカ成分を、複素平面上において推定する推定手段と、
前記推定手段により推定された最新の前記フリッカ成分と、前記推定手段により過去に推定された1つ以上のフリッカ成分とから、フィールド周期あるいはフレーム周期に同期した前記変化パターン中の各フィールドのフリッカ成分、あるいは、各フレームのフリッカ成分の虚数軸方向の平均値と実数軸方向の平均値とにより示される、当該複素平面上の原点に対するずれ量を、最新の前記フリッカ成分のずれ量として検出する検出手段と、
前記検出手段により検出されたフリッカ成分のずれ量に基づいて、最新の前記フリッカ成分を補正する補正手段と、
前記補正手段により補正された前記フリッカ成分を打ち消すように、推定されたフリッカ成分と前記入力画像信号とを演算する演算手段と
を備えることを特徴とする撮像装置。 - フィールド周期あるいはフレーム周期に同期した変化パターンのフリッカ成分を含む可能性のある映像信号を入力画像信号として処理する画像処理装置に搭載されたコンピュータが実行するプログラムであって、
積分手段が、前記入力画像信号を1水平周期以上の時間に渡って積分する積分ステップと、
正規化手段が、前記積分ステップにより得られる積分値、あるいは、前記積分ステップにより得られる積分値の隣接するフィールドあるいはフレームにおける差分値を正規化する正規化ステップと、
抽出手段が、前記正規化ステップにおいて正規化した前記積分値あるいは前記差分値のスペクトルを抽出する抽出ステップと、
推定手段が、前記抽出ステップにおいて抽出した前記スペクトルからフィールド単位あるいはフレーム単位のフリッカ成分を、複素平面上において推定する推定ステップと、
検出手段が、前記推定ステップにおいて推定した最新の前記フリッカ成分と、前記推定ステップにおいて過去に推定した1つ以上のフリッカ成分とから、フィールド周期あるいはフレーム周期に同期した前記変化パターン中の各フィールドのフリッカ成分、あるいは、各フレームのフリッカ成分の虚数軸方向の平均値と実数軸方向の平均値とにより示される、当該複素平面上の原点に対するずれ量を、最新の前記フリッカ成分のずれ量として検出する検出ステップと、
補正手段が、前記検出ステップにおいて検出したフリッカ成分のずれ量に基づいて、最新の前記フリッカ成分を補正する補正ステップと、
演算手段が、前記補正ステップにおいて補正した前記フリッカ成分を打ち消すように、補正した前記フリッカ成分と前記入力画像信号とを減算する演算ステップと
を前記コンピュータが実行することを特徴とするフリッカ低減プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008051534A JP5035025B2 (ja) | 2008-03-03 | 2008-03-03 | 画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム |
US12/380,543 US8115828B2 (en) | 2008-03-03 | 2009-02-27 | Image processing apparatus, flicker reduction method, imaging apparatus, and flicker reduction program |
CN2009101182665A CN101527787B (zh) | 2008-03-03 | 2009-03-03 | 图像处理装置、闪烁减少方法和成像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008051534A JP5035025B2 (ja) | 2008-03-03 | 2008-03-03 | 画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009212627A JP2009212627A (ja) | 2009-09-17 |
JP5035025B2 true JP5035025B2 (ja) | 2012-09-26 |
Family
ID=41012884
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008051534A Expired - Fee Related JP5035025B2 (ja) | 2008-03-03 | 2008-03-03 | 画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US8115828B2 (ja) |
JP (1) | JP5035025B2 (ja) |
CN (1) | CN101527787B (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7568628B2 (en) | 2005-03-11 | 2009-08-04 | Hand Held Products, Inc. | Bar code reading device with global electronic shutter control |
US7770799B2 (en) | 2005-06-03 | 2010-08-10 | Hand Held Products, Inc. | Optical reader having reduced specular reflection read failures |
US20100259612A1 (en) * | 2009-04-09 | 2010-10-14 | Lars Christian | Control Module For Video Surveillance Device |
JP5211002B2 (ja) | 2009-09-15 | 2013-06-12 | 日立オートモティブシステムズ株式会社 | 駆動制御装置 |
US9591230B2 (en) * | 2009-12-23 | 2017-03-07 | Honeywell International Inc. | Systems and methods for reduced image flicker |
JP5625371B2 (ja) * | 2010-01-29 | 2014-11-19 | ソニー株式会社 | 画像処理装置、および信号処理方法、並びにプログラム |
US8462229B2 (en) * | 2010-09-30 | 2013-06-11 | Hewlett-Packard Development Company, L.P. | Detection of flicker within captured imaged frames |
US9418270B2 (en) | 2011-01-31 | 2016-08-16 | Hand Held Products, Inc. | Terminal with flicker-corrected aimer and alternating illumination |
US8542292B2 (en) * | 2011-02-04 | 2013-09-24 | Panasonic Corporation | Flicker correction device, flicker correction method and flicker correction program |
TWI469632B (zh) * | 2011-11-09 | 2015-01-11 | Silicon Motion Inc | 抗閃爍攝錄裝置與攝錄方法 |
CN104104882B (zh) * | 2013-04-09 | 2017-08-11 | 展讯通信(上海)有限公司 | 图像闪烁检测方法及装置、图像捕获设备 |
US9367907B2 (en) * | 2013-04-12 | 2016-06-14 | Panasonic Intellectual Property Corporation Of America | Flicker reducing device, imaging device, and flicker reducing method |
US10244183B2 (en) | 2014-08-27 | 2019-03-26 | Sony Corporation | Image capturing device and method of controlling image capturing device |
WO2016135373A1 (en) * | 2015-02-23 | 2016-09-01 | Antti Aunio | System and method for monitoring and improving healthy living environment |
JP6337948B2 (ja) * | 2016-12-05 | 2018-06-06 | 株式会社Jvcケンウッド | 画像処理装置、及びフリッカ低減方法 |
EP3695596A4 (en) | 2017-10-12 | 2021-04-21 | SZ DJI Technology Co., Ltd. | SYSTEMS AND METHODS FOR THE AUTOMATIC DETECTION AND CORRECTION OF LUMINANCE VARIATIONS IN IMAGES |
CN110213497B (zh) * | 2019-05-15 | 2021-01-29 | 成都微光集电科技有限公司 | 一种检测图像闪烁条纹方法及调整图像曝光时间的方法 |
CN113923356B (zh) * | 2021-10-08 | 2023-08-29 | 重庆紫光华山智安科技有限公司 | 同步调节方法、装置、电子设备和计算机可读存储介质 |
CN116150421B (zh) * | 2023-04-23 | 2023-07-18 | 深圳竹云科技股份有限公司 | 图像的展示方法、装置、计算机设备和存储介质 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3476400B2 (ja) * | 1999-10-19 | 2003-12-10 | 松下電器産業株式会社 | フリッカ検出・補正装置およびフリッカ検出・補正方法 |
JP3370979B2 (ja) * | 2000-09-08 | 2003-01-27 | 三菱電機株式会社 | 撮像装置および自動レベル調整方法 |
JP2003198932A (ja) * | 2001-12-27 | 2003-07-11 | Sharp Corp | フリッカ補正装置およびフリッカ補正方法、並びにフリッカ補正プログラムを記録した記録媒体 |
JP4423889B2 (ja) * | 2002-11-18 | 2010-03-03 | ソニー株式会社 | フリッカ低減方法、撮像装置およびフリッカ低減回路 |
CN100589533C (zh) * | 2002-11-18 | 2010-02-10 | 索尼株式会社 | 闪烁降低方法、图像拾取装置与闪烁降低电路 |
JP4259998B2 (ja) * | 2003-12-19 | 2009-04-30 | 三洋電機株式会社 | フリッカ検出装置及び撮像装置 |
KR100557660B1 (ko) * | 2004-07-29 | 2006-03-10 | 매그나칩 반도체 유한회사 | 영상 신호에서의 플리커 검출 방법 |
EP1814310B1 (en) * | 2004-11-15 | 2012-01-04 | Sony Corporation | Flicker correcting method, flicker correcting circuit, and imaging device using them |
JP4483744B2 (ja) * | 2005-08-26 | 2010-06-16 | ソニー株式会社 | 撮像装置及び撮像制御方法 |
JP4904749B2 (ja) * | 2005-09-08 | 2012-03-28 | ソニー株式会社 | フリッカ低減方法、フリッカ低減回路及び撮像装置 |
JP5111100B2 (ja) * | 2007-12-28 | 2012-12-26 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム及び記憶媒体 |
-
2008
- 2008-03-03 JP JP2008051534A patent/JP5035025B2/ja not_active Expired - Fee Related
-
2009
- 2009-02-27 US US12/380,543 patent/US8115828B2/en not_active Expired - Fee Related
- 2009-03-03 CN CN2009101182665A patent/CN101527787B/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US8115828B2 (en) | 2012-02-14 |
CN101527787A (zh) | 2009-09-09 |
CN101527787B (zh) | 2011-07-06 |
JP2009212627A (ja) | 2009-09-17 |
US20090219409A1 (en) | 2009-09-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5035025B2 (ja) | 画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム | |
JP4423889B2 (ja) | フリッカ低減方法、撮像装置およびフリッカ低減回路 | |
JP3826904B2 (ja) | 撮像装置およびフリッカ低減方法 | |
JP4483744B2 (ja) | 撮像装置及び撮像制御方法 | |
JP4487640B2 (ja) | 撮像装置 | |
JP4904749B2 (ja) | フリッカ低減方法、フリッカ低減回路及び撮像装置 | |
JP4106554B2 (ja) | 撮影環境判定方法および撮像装置 | |
JP4371108B2 (ja) | 撮像装置および方法、記録媒体、並びにプログラム | |
JP6343200B2 (ja) | 撮像装置およびその制御方法ならびにプログラム | |
JP2007174537A (ja) | 撮像装置 | |
US10412356B2 (en) | Image processing apparatus and image processing method | |
EP1725023B1 (en) | Image process apparatus and image pickup apparatus | |
JP4880375B2 (ja) | 画像信号処理装置及び画像信号処理方法 | |
JP2007158964A (ja) | 画像処理装置および撮像装置 | |
JP2009253808A (ja) | 画像処理装置、撮像装置、画像処理方法、およびプログラム | |
JP2010193112A (ja) | 画像処理装置およびディジタルスチルカメラ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20090824 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20091006 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20101228 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120127 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120403 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120515 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120605 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120618 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150713 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150713 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |