JP4719584B2 - 動き検出プログラム、動き検出方法、動き検出装置、 - Google Patents
動き検出プログラム、動き検出方法、動き検出装置、 Download PDFInfo
- Publication number
- JP4719584B2 JP4719584B2 JP2006030704A JP2006030704A JP4719584B2 JP 4719584 B2 JP4719584 B2 JP 4719584B2 JP 2006030704 A JP2006030704 A JP 2006030704A JP 2006030704 A JP2006030704 A JP 2006030704A JP 4719584 B2 JP4719584 B2 JP 4719584B2
- Authority
- JP
- Japan
- Prior art keywords
- motion
- determination threshold
- image information
- determination
- difference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Image Analysis (AREA)
- Studio Devices (AREA)
Description
しかし、この方法では、二つの画像に含まれるノイズ領域が、動きと誤検出される可能性がある。このため、従来では、以下のような動き検出技術が提案されている。
本発明の他の目的は、画像情報に含まれるノイズを動きと誤検出することなく、小さな処理負荷にて、正確な動き検出を行うことが可能な技術を提供することにある。
前記画像情報の撮影時パラメータに応じて、第1判定閾値を決定するステップと、
前記差分と前記第1判定閾値とに基づいて前記画像情報における動き領域を判別するステップと、
をコンピュータに実行させる動き検出プログラムを提供する。
前記画像情報の撮影時パラメータに基づいて第2判定閾値を設定するステップと、
前記複数の画像情報の間の差分に基づき検出された動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定するステップと、をコンピュータに実行させる動き検出プログラムを提供する。
前記画像情報の撮影時パラメータに応じて、第1判定閾値および第2判定閾値を決定するステップと、
前記差分と前記第1判定閾値とに基づいて前記画像情報における動き領域を判別するステップと、
前記動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定するステップと、
をコンピュータに実行させる動き検出プログラムを提供する。
前記画像情報の撮影時パラメータに応じて、第1判定閾値を決定するステップと、
前記差分と前記第1判定閾値とに基づいて前記画像情報における動き領域を判別するステップと、
を含む動き検出方法を提供する。
前記画像情報の撮影時パラメータに応じて、第1判定閾値を決定する閾値設定手段と、
前記差分と前記第1判定閾値とに基づいて前記画像情報における動き領域を判別する判定手段と、
を含む動き検出装置を提供する。
画像のノイズは、カメラのゲイン値が大きいほど多く発生する。その為、ゲイン値が大きくなる暗所で撮影した画像は、フレーム間の差分を取ると、差分値が大きくなってしまい、ノイズを「動きあり」と誤検出してしまう。そこで、ゲイン値が大きい時は、差分検出時の判定閾値を大きくする。これにより、ゲイン値が大きくなるほど、差分値が大きくなければ動きと判定されないようにする。
ゲイン値と露光時間で第1判定閾値を調整しても、完全にはノイズと動きを分離することはできない。
本発明では、第1判定閾値で検出された動き領域の周囲に存在する他の動き検出領域の個数の大小を、第2判定閾値と比較して、当該中心の動き領域が、ノイズか否かを判別する。
すなわち、ゲイン値が大きい場合は、第2判定閾値を大きく設定して、第1判定閾値で検出された動き領域の小さな固まり(孤立点)から大きな固まり(孤立点)まで、ノイズとして除去されるようにする。
また、画像情報に含まれるノイズを動きと誤検出することなく、小さな処理負荷にて、正確な動き検出を行うことが可能となる。
図1、図2、図3は、本発明の一実施の形態である動き検出プログラム、動き検出方法、動き検出装置の作用の一例を示すフローチャートである。
図4に例示されるように、本実施の形態のシステムは、撮像部10、撮像制御部20、動き検出部30を含んでいる。
撮像制御部20は、撮像部10におけるゲイン値(感度)、露光時間等の撮影条件を制御する。すなわち、撮像制御部20は、ユーザからの撮影条件21の入力を受けて、撮像部10の撮影条件を適宜設定する。
本実施の形態の場合、この画像データ40とともに、当該画像データ40の感度、露光時間等の撮影条件を示す撮影時パラメータ50が、動き検出部30に対して出力される。
フレームメモリ31は、たとえば、撮像部10において時系列に撮影された複数の画像データ40(画像41、画像42)が格納される。
閾値設定部33は、撮像制御部20から入力される撮影時パラメータ50に応じて、第1判定閾値51、および第2判定閾値52を算出し、動き判定部34および孤立点ノイズ判定部35にそれぞれ出力する。
第2判定閾値52も、露光時間teまたはゲイン値gに基づいて、閾値I_exposure、または閾値I_gainのように決定される。
本実施の形態の場合、画像41、画像42のフレーム間の差分は、輝度成分や色み成分の差分を取ることで行う。例えば、光の三原色RGBの各成分を用いて行う場合は、以下のような式で差分値Δaを算出する。
本実施の形態の場合、差分値Δaを算出した後、動き領域か否かの判定は、上述のように、撮影時パラメータ50を用いて行う。例えば、撮影時パラメータ50として露光時間teまたはゲイン値gを用いて、第1判定閾値51を制御する。
撮影時パラメータ50として露光時間teを用いる場合も、ゲイン値gを用いる場合と同様に第1判定閾値51を設定する。差分値Δaが閾値d_exposure(第1判定閾値51)よりも大きい場合は、動き領域とする。
上述のように、本実施の形態では、露光時間te、ゲイン値g等の撮影時パラメータ50を用いることで、画像41と画像42の差分値Δaから、動き領域をより高精度に決定することができる。
本実施の形態の全体の動作は、図1のフローチャートのようになる。
すなわち、撮像部10で画像を撮影し(ステップ101)、画像データ40と、対応する撮影時パラメータ50を得る(ステップ102)。
そして、最終的に判定バッファ36に残った動き判定結果43を、任意のアプリケーションに出力する(ステップ105)。
まず、撮影時パラメータ50に応じて、閾値設定部33で、閾値d_exposureまたは閾値d_gainを決定する(ステップ201)。
そして、動き判定部34において、差分値Δaを、閾値d_gainまたは閾値d_exposureを用いて判定する(ステップ203)。
次に、図3のフローチャートを参照して、上述のステップ104の孤立点除去処理300について説明する。
以上、述べたように、本実施の形態では、複数の画像41、画像42の差分値Δaを第1判定閾値51と比較して動きの有無を判定する場合に、画像41、画像42におけるゲイン値g、露光時間te等の撮影時パラメータ50の値に応じて第1判定閾値51の値を決定する。
さらに、動き判定結果43に含まれる孤立点ノイズの除去において用いられる第2判定閾値52(閾値I_exposure、閾値I_gain)の決定において、ゲイン値g、露光時間te等の撮影時パラメータ50の値を反映させることで、より的確に、動き判定結果43から孤立点ノイズの除去を行うことができ、動き領域の検出精度がより向上する。
デジタルカメラでは、比較的短い露光時間teで連続して撮影された複数の画像41、画像42を合成することで高画質を実現する場合がある。
このため、画像41と画像42の間における被写体の動き領域を検出し、当該領域を除外(手振れ補正)して合成することが考えられる。この動き検出に、上述の本実施の形態の動き検出技術を適用する。
まず、被写体を比較的短い露光時間teで撮影して時系列に複数の画像41、画像42を連写する(ステップ401)。
次に、画像41と画像42の全体の位置合わせを行う(ステップ403)。
その後、時間的に後方の画像42において、動き判定結果43で動き領域と判定された領域を除外して、画像41と合成し、合成画像を得る(ステップ406)。
たとえば、本発明の動き検出プログラム、動き検出方法、動き検出装置は、画像合成に限らず、画像内の被写体の動きを検出することが必要な用途に広く適用することができる。
複数の画像情報の間の差分を算出するステップと、
前記画像情報の撮影時パラメータに応じて、第1判定閾値を決定するステップと、
前記差分と前記第1判定閾値とに基づいて前記画像情報における動き領域を判別するステップと、
をコンピュータに実行させることを特徴とする動き検出プログラム。
(付記2)
複数の画像情報につき、
前記画像情報の撮影時パラメータに基づいて第2判定閾値を設定するステップと、
前記複数の画像情報の間の差分に基づき検出された動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定するステップと、をコンピュータに実行させることを特徴とする動き検出プログラム。
(付記3)
付記1または付記2記載の動き検出プログラムにおいて、
前記撮影時パラメータは、前記画像情報の撮影に用いられた撮像装置のゲイン値であることを特徴とする動き検出プログラム。
(付記4)
付記1または付記2記載の動き検出プログラムにおいて、
前記撮影時パラメータは、前記画像情報の撮影時における露光時間であることを特徴とする動き検出プログラム。
(付記5)
付記3記載の動き検出プログラムにおいて、
前記第1判定閾値を決定するステップは、前記ゲイン値が大きいときには前記第1判定閾値を大きく設定し、前記ゲイン値が小さいときには前記第1判定閾値を小さく設定することを特徴とする動き検出プログラム。
(付記6)
付記3記載の動き検出プログラムにおいて
前記第2判定閾値を設定するステップは、前記ゲイン値が大きいときには前記第2判定閾値を大きく設定し、前記ゲイン値が小さいときには前記第2判定閾値を小さく設定することを特徴とする動き検出プログラム。
(付記7)
付記4記載の動き検出プログラムにおいて、
前記第1判定閾値を決定するステップは、前記露光時間が長いときには前記第1判定閾値を大きく設定し、前記露光時間が短いときには前記第1判定閾値を小さく設定することを特徴とする動き検出プログラム。
(付記8)
付記4記載の動き検出プログラムにおいて
前記第2判定閾値を設定するステップは、前記露光時間が長いときには前記第2判定閾値を大きく設定し、前記露光時間が短いときには前記第2判定閾値を小さく設定することを特徴とする動き検出プログラム。
(付記9)
付記1記載の動き検出プログラムにおいて、
さらに、複数の前記画像情報の一方から前記動き領域を除去して、他方の前記画像情報と重ね合わせる手振れ補正処理を前記コンピュータに実行させることを特徴とする動き検出プログラム。
(付記10)
複数の画像情報の間の差分を算出するステップと、
前記画像情報の撮影時パラメータに応じて、第1判定閾値および第2判定閾値を決定するステップと、
前記差分と前記第1判定閾値とに基づいて前記画像情報における動き領域を判別するステップと、
前記動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定するステップと、
をコンピュータに実行させることを特徴とする動き検出プログラム。
(付記11)
複数の画像情報の間の差分を算出するステップと、
前記画像情報の撮影時パラメータに応じて、第1判定閾値を決定するステップと、
前記差分と前記第1判定閾値とに基づいて前記画像情報における動き領域を判別するステップと、
を含むことを特徴とする動き検出方法。
(付記12)
複数の画像情報につき、
前記画像情報の撮影時パラメータに基づいて第2判定閾値を設定するステップと、
前記複数の画像情報の間の差分に基づき検出された動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定するステップと、を含むことを特徴とする動き検出方法。
(付記13)
複数の画像情報の間の差分を算出するステップと、
前記画像情報の撮影時パラメータに応じて、第1判定閾値および第2判定閾値を決定するステップと、
前記差分と前記第1判定閾値とに基づいて前記画像情報における動き領域を判別するステップと、
前記動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定するステップと、
を含むことを特徴とする動き検出方法。
(付記14)
複数の画像情報の間の差分を算出する差分検出手段と、
前記画像情報の撮影時パラメータに応じて、第1判定閾値を決定する閾値設定手段と、
前記差分と前記第1判定閾値とに基づいて前記画像情報における動き領域を判別する判定手段と、
を含むことを特徴とする動き検出装置。
(付記15)
複数の画像情報につき、
前記画像情報の撮影時パラメータに基づいて第2判定閾値を設定する閾値設定手段と、
前記複数の画像情報の間の差分に基づき検出された動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定する判定手段と、
を含むことを特徴とする動き検出装置。
(付記16)
複数の画像情報の間の差分を算出する差分検出手段と、
前記画像情報の撮影時パラメータに応じて、第1判定閾値および第2判定閾値を決定する閾値設定手段と、
前記差分と前記第1判定閾値とに基づいて前記画像情報における動き領域を判別する処理、および前記動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定する処理を行う判定手段と、
を含むことを特徴とする動き検出装置。
20 撮像制御部
21 撮影条件
30 動き検出部
31 フレームメモリ
32 差分検出部
33 閾値設定部
34 動き判定部
35 孤立点ノイズ判定部
36 判定バッファ
40 画像データ
41 画像
42 画像
43 動き判定結果
43a 人物
43b ノイズ
50 撮影時パラメータ
51 第1判定閾値
52 第2判定閾値
A 被写体
d_exposure 閾値(第1判定閾値)
d_gain 閾値(第1判定閾値)
I_exposure 閾値(第2判定閾値)
I_gain 閾値(第2判定閾値)
g ゲイン値(撮影時パラメータ)
te 露光時間(撮影時パラメータ)
Claims (6)
- 複数の画像情報の間の差分を算出するステップと、
前記画像情報の撮影時パラメータであるゲイン値又は露光時間が大きくなるほど、第1判定閾値および第2判定閾値を大きくし、前記ゲイン値又は前記露光時間が小さくなるほど、前記第1判定閾値および前記第2判定閾値を小さくするステップと、
前記差分が前記第1判定閾値よりも大きい場合、その差分に対応する領域を前記画像情報における動き領域として判別するステップと、
前記動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定するステップと、
をコンピュータに実行させることを特徴とする動き検出プログラム。 - 複数の画像情報につき、
前記画像情報の撮影時パラメータであるゲイン値又は露光時間が大きくなるほど、第2判定閾値を大きくし、前記ゲイン値又は前記露光時間が小さくなるほど、前記第2判定閾値を小さくするステップと、
前記複数の画像情報の間の差分に基づき検出された動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定するステップと、をコンピュータに実行させることを特徴とする動き検出プログラム。 - 複数の画像情報の間の差分を算出するステップと、
前記画像情報の撮影時パラメータであるゲイン値又は露光時間が大きくなるほど、第1判定閾値および第2判定閾値を大きくし、前記ゲイン値又は前記露光時間が小さくなるほど、前記第1判定閾値および前記第2判定閾値を小さくするステップと、
前記差分が前記第1判定閾値よりも大きい場合、その差分に対応する領域を前記画像情報における動き領域として判別するステップと、
前記動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定するステップと、
を含むことを特徴とする動き検出方法。 - 複数の画像情報につき、
前記画像情報の撮影時パラメータであるゲイン値又は露光時間が大きくなるほど、第2判定閾値を大きくし、前記ゲイン値又は前記露光時間が小さくなるほど、前記第2判定閾値を小さくするステップと、
前記複数の画像情報の間の差分に基づき検出された動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定するステップと、
を含むことを特徴とする動き検出方法。 - 複数の画像情報の間の差分を算出する差分検出手段と、
前記画像情報の撮影時パラメータであるゲイン値又は露光時間が大きくなるほど、第1判定閾値および第2判定閾値を大きくし、前記ゲイン値又は前記露光時間が小さくなるほど、前記第1判定閾値および前記第2判定閾値を小さくする閾値設定手段と、
前記差分が前記第1判定閾値よりも大きい場合、その差分に対応する領域を前記画像情報における動き領域として判別する第1の判定手段と、
前記動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定する第2の判定手段と、
を含むことを特徴とする動き検出装置。 - 複数の画像情報につき、
前記画像情報の撮影時パラメータであるゲイン値又は露光時間が大きくなるほど、第2判定閾値を大きくし、前記ゲイン値又は前記露光時間が小さくなるほど、前記第2判定閾値を小さくする閾値設定手段と、
前記複数の画像情報の間の差分に基づき検出された動き領域の周囲に存在する他の前記動き領域の数と前記第2判定閾値とによって、当該動き領域が孤立したノイズ領域か否かを判定する判定手段と、
を含むことを特徴とする動き検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006030704A JP4719584B2 (ja) | 2006-02-08 | 2006-02-08 | 動き検出プログラム、動き検出方法、動き検出装置、 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006030704A JP4719584B2 (ja) | 2006-02-08 | 2006-02-08 | 動き検出プログラム、動き検出方法、動き検出装置、 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007213191A JP2007213191A (ja) | 2007-08-23 |
JP4719584B2 true JP4719584B2 (ja) | 2011-07-06 |
Family
ID=38491587
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006030704A Expired - Fee Related JP4719584B2 (ja) | 2006-02-08 | 2006-02-08 | 動き検出プログラム、動き検出方法、動き検出装置、 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4719584B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5105616B2 (ja) | 2008-02-08 | 2012-12-26 | カシオ計算機株式会社 | 撮像装置及びプログラム |
JP5417746B2 (ja) * | 2008-06-19 | 2014-02-19 | ソニー株式会社 | 動き適応型ノイズ低減装置、画像信号処理装置、画像入力処理装置、および、動き適応ノイズ低減方法 |
JP5464541B2 (ja) * | 2009-01-20 | 2014-04-09 | 株式会社日立国際電気 | ノイズリダクション回路 |
WO2011021235A1 (ja) * | 2009-08-18 | 2011-02-24 | 富士通株式会社 | 画像処理方法および画像処理装置 |
JP6039188B2 (ja) * | 2012-02-06 | 2016-12-07 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
JP5892079B2 (ja) * | 2013-01-29 | 2016-03-23 | トヨタ自動車株式会社 | 物体検出装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06292063A (ja) * | 1993-04-02 | 1994-10-18 | Nippon Telegr & Teleph Corp <Ntt> | 画像の動領域検出方法 |
JP2002218443A (ja) * | 2000-10-31 | 2002-08-02 | Hitachi Kokusai Electric Inc | 侵入物体検出のためのしきい値を自動的に決定する侵入物体検出方法及び侵入物体監視装置 |
-
2006
- 2006-02-08 JP JP2006030704A patent/JP4719584B2/ja not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06292063A (ja) * | 1993-04-02 | 1994-10-18 | Nippon Telegr & Teleph Corp <Ntt> | 画像の動領域検出方法 |
JP2002218443A (ja) * | 2000-10-31 | 2002-08-02 | Hitachi Kokusai Electric Inc | 侵入物体検出のためのしきい値を自動的に決定する侵入物体検出方法及び侵入物体監視装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2007213191A (ja) | 2007-08-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8405736B2 (en) | Face detection using orientation sensor data | |
CN111028189A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
US10359498B2 (en) | Image pickup apparatus having function of generating simulation image,control method therefor, and storage medium | |
US8605999B2 (en) | Signal processing apparatus and method, noise reduction apparatus and method, and program therefor | |
JP5803467B2 (ja) | 画像処理装置および撮像装置、ならびに画像処理方法 | |
US10127635B2 (en) | Method and device for image noise estimation and image capture apparatus | |
JP4719584B2 (ja) | 動き検出プログラム、動き検出方法、動き検出装置、 | |
CN104349066A (zh) | 一种生成高动态范围图像的方法、装置 | |
JP2010118862A (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
US20190230269A1 (en) | Monitoring camera, method of controlling monitoring camera, and non-transitory computer-readable storage medium | |
JP2007082044A (ja) | 撮像方法および撮像装置 | |
JP2007281555A (ja) | 撮像装置 | |
JP2011135553A (ja) | 撮像装置、画像処理方法、及び、コンピュータプログラム | |
JP6365355B2 (ja) | 画像生成装置および画像生成方法 | |
JP6227935B2 (ja) | 画像処理装置および画像処理方法 | |
US10129449B2 (en) | Flash band, determination device for detecting flash band, method of controlling the same, storage medium, and image pickup apparatus | |
JP2014179920A (ja) | 撮像装置及びその制御方法、プログラム、並びに記憶媒体 | |
JP2017098843A (ja) | 撮像装置、物体追尾方法、及びプログラム | |
CN113744139A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
JP3534551B2 (ja) | 動き検出装置 | |
JP2010074315A (ja) | 被写体追尾方法及び撮像装置 | |
JP5300413B2 (ja) | 動きベクトル検出装置及び動きベクトル検出方法及び撮像装置及びプログラム | |
JP2009088884A (ja) | 撮像データにおける動きベクトル検出方法と装置 | |
JP2008160547A (ja) | 動き検出装置及び方法並びに撮像装置 | |
JP5868197B2 (ja) | ノイズ低減装置およびその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20081022 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100907 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20101105 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20101207 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110221 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20110301 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110329 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110404 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140408 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |