JP4164762B2 - Light source detection device and crime prevention notification device - Google Patents
Light source detection device and crime prevention notification device Download PDFInfo
- Publication number
- JP4164762B2 JP4164762B2 JP2004105846A JP2004105846A JP4164762B2 JP 4164762 B2 JP4164762 B2 JP 4164762B2 JP 2004105846 A JP2004105846 A JP 2004105846A JP 2004105846 A JP2004105846 A JP 2004105846A JP 4164762 B2 JP4164762 B2 JP 4164762B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- light source
- change
- camera
- synchronized
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Burglar Alarm Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Description
本発明は、動く光源を検知することのできる光源検知装置、及び懐中電灯などの動く光源を検知して通報を行うことのできる防犯通報装置に関するものである。 The present invention relates to a light source detection device capable of detecting a moving light source, and a crime prevention notification device capable of reporting by detecting a moving light source such as a flashlight.
夜間において、部屋に侵入した者を発見するために赤外線カメラを備えた防犯装置を部屋に設置することが行われている。
この防犯装置によれば、赤外線カメラで温度の高い物を検知することができるので、夜間、部屋に侵入した者を発見することができる。
At night, a crime prevention apparatus equipped with an infrared camera is installed in a room in order to detect a person who has entered the room.
According to this security device, an infrared camera can detect an object having a high temperature, so that a person who has entered the room at night can be found.
ところが、前記赤外線カメラを備えた防犯装置で、部屋に侵入した者を検知しようとすれば、赤外線カメラで撮影した画像に基づいて温度の分布画像を作り、その中から動く物体を抽出し、人間かどうか判定しなければならず、判定処理が複雑になるという問題がある。判定の信頼性をあげようとすれば、高度な画像処理が要求され、防犯装置全体のコストが上がる。 However, if a crime prevention device equipped with the infrared camera tries to detect a person who has entered the room, it creates a temperature distribution image based on the image taken by the infrared camera, extracts moving objects from it, There is a problem that the determination process becomes complicated. If an attempt is made to increase the reliability of the determination, advanced image processing is required, and the cost of the entire security device increases.
そこで、本発明は、夜間、動く光源を、簡単な画像処理で確実に検知することのできる光源検知装置を提供することを目的とする。
また、本発明は、夜間、懐中電灯などの移動光源を持って部屋に侵入した者を、簡単な画像処理で確実に発見することのできる防犯通報装置を提供することを目的とする。
Accordingly, an object of the present invention is to provide a light source detection device that can reliably detect a moving light source at night by simple image processing.
It is another object of the present invention to provide a crime prevention reporting device that can reliably detect a person who has entered a room with a moving light source such as a flashlight at night by simple image processing.
本発明者は、懐中電灯などの移動光源の光が、部屋の床や壁などに投影されれば、そこから反射される光(投影光)を伴うこと、移動光源の光や投影光は固定しておらず、ある程度のスピードで、しかも同期して動くという特性があることに注目した。
本発明の光源検知装置は、室内を監視するカメラと、カメラで撮影された画像の中から輝度変化又は位置変化のある光の部分を探索する探索手段と、探索された光の部分が複数存在する場合に、面積の大小のペアを選択し、選択されたペアを追跡する追跡手段と、前記ペアを構成する光のうち、小さい光の変化と、大きい光の変化とが時間的に同期しているかどうか調べる同期検知手段と、それらが同期している場合に、所定の信号出力を行う出力手段とを備えるものである。
If the light of a moving light source such as a flashlight is projected on the floor or wall of a room, the present inventor is accompanied by light reflected from the light (projection light), and the light of the moving light source or the projection light is fixed. I noticed that it has a characteristic of moving at a certain speed and synchronously.
The light source detection device according to the present invention includes a camera for monitoring a room, search means for searching for a portion of light having a luminance change or position change from an image captured by the camera, and a plurality of searched light portions. When selecting a pair of large and small areas, a tracking means for tracking the selected pair and a change in a small light and a change in a large light among the lights constituting the pair are synchronized in time. Synchronization detecting means for checking whether or not they are output, and output means for outputting a predetermined signal when they are synchronized.
前記の構成によれば、まず、探索手段により、カメラで撮影された画像の中から動きのある光の部分を輝度変化又は位置変化に基づいて探索する。動きを見るのは、部屋の備え付けの電灯や窓から入って来る街頭の光などは動かないので、これらの光を除外するためである。
次に追跡手段によって、大小のペアを取り出して追跡する。このペアは、一つは移動光源、他の一つはその投影光であることを想定している。動く光であってもペアが作れない場合は除外する。例えば車両のヘッドライトがカメラに写っていない場合に、ヘッドライトの投影光のみがカメラに写っていても除外する。
According to the above configuration, first, the searching means searches the moving light portion from the image taken by the camera based on the luminance change or the position change. The reason for seeing the movement is to exclude the lights in the room and the street light coming from the windows.
Next, the tracking means takes out the large and small pairs and tracks them. This pair assumes that one is a moving light source and the other is its projection light. Even if it is a moving light, it is excluded if a pair cannot be made. For example, when the headlight of the vehicle is not reflected in the camera, even if only the projection light of the headlight is reflected in the camera is excluded.
次に同期検知手段によって、小さい光の変化と、大きい光の変化とが時間的に同期しているかどうか調べる。小さい光と大きい光とが同期して変化すれば、それらは、同じ光源から出た光であることが判明するからである。
このようにして、カメラでとらえた画像に基づいて、動く光源を確実に検知することができる。
Next, the synchronization detection means checks whether the small light change and the large light change are synchronized in time. This is because if the small light and the large light change synchronously, they are found to be light emitted from the same light source.
In this way, a moving light source can be reliably detected based on the image captured by the camera.
前記同期検知手段は、小さい光の輝度変化又は位置変化と、大きい光の位置変化とが時間的に同期しているかどうか調べることが好ましい。例えば移動光源を手に持って振ると、移動光源は位置変化としてとらえられ、移動光源の角度だけを変化させれば、カメラの画面に写った輝度変化としてとられることができる。大きい光は、投影光であるから、位置変化としてとらえることができる。 It is preferable that the synchronization detection means examines whether the luminance change or position change of small light and the position change of large light are synchronized in time. For example, if the moving light source is shaken by hand, the moving light source can be regarded as a change in position, and if only the angle of the moving light source is changed, it can be taken as a change in luminance reflected on the camera screen. Since the large light is the projection light, it can be regarded as a change in position.
また、本発明の防犯通報装置は、前記大小のペアの光が同期している場合に、小さい光を懐中電灯などの移動光源、大きい光をその投影光とみなすことができる。これにより、侵入者がいると判断して通報することができる。 Moreover, the crime prevention notification apparatus of the present invention can regard small light as a moving light source such as a flashlight and large light as projection light when the large and small pairs of lights are synchronized. Thereby, it can be determined that there is an intruder and can be notified.
以下、本発明の実施の形態を、添付図面を参照しながら詳細に説明する。
図1は、光源検知装置を含む防犯通報装置のシステム構成図であり、この防犯通報装置は、室内に設置されたカメラ1、コンピュータ2、警報ブザー3及び携帯電話機4と、室外につながるインターネット回線とから構成される。カメラ1は、室内の任意の位置に設置される(図1ではコンピュータ2の横に置かれている)。
Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.
FIG. 1 is a system configuration diagram of a security notification device including a light source detection device. This security notification device includes a camera 1, a
図2は、カメラの視野に写る室内画面図であり、図2(a)は室内の構造を示す画面、図2(b)は、夜の室内の画面を表している。なお、図2(b)において、床、壁、窓枠が白い線で描かれているが、これは位置参照のために描いたもので、実際には撮影した画面に写らない。
図3は、実際にカメラ1の画面に写った夜の室内の画面図であり、この画面の大きさは、例えば17インチ、800画素×600画素とする。画像の輝度は、値0から255の範囲にある(0が最も暗く、255が最も明るい)。図3の画面に写っているのは、懐中電灯の光源S及びその床への投影光Pである。
2A and 2B are indoor screen views reflected in the field of view of the camera. FIG. 2A shows a screen showing the indoor structure, and FIG. 2B shows a night indoor screen. In FIG. 2 (b), the floor, wall, and window frame are drawn with white lines, but these are drawn for position reference, and are not actually shown on the captured screen.
FIG. 3 is a screen view of the room in the night actually reflected on the screen of the camera 1, and the size of this screen is, for example, 17 inches, 800 pixels × 600 pixels. The brightness of the image is in the range of values 0 to 255 (0 is the darkest and 255 is the brightest). The light source S of the flashlight and the projection light P onto the floor are shown on the screen of FIG.
コンピュータ2は、カメラ1の画面に基づいて、フローチャート(図4)に示すような画像処理を行う。これらの画像処理機能の全部又は一部は、CD−ROMやハードディスクなど所定の媒体に記録されたプログラムを、コンピュータ2が実行することにより実現される。
図4において、まずカメラ1の画面に写った画像を取り込み(ステップS1)、閾値を用いて二値化処理を行う(ステップS2)。この二値化閾値は、室内電灯照明のない部屋の夜間撮影画面用の閾値であり、かなり暗い輝度に設定されている。これにより、画面内は、明るい光の部分と暗い部分とのいずれかに分けて表示される。
The
In FIG. 4, first, an image captured on the screen of the camera 1 is captured (step S1), and binarization processing is performed using a threshold value (step S2). This binarization threshold is a threshold for night shooting screens of rooms without room light illumination, and is set to a considerably dark luminance. As a result, the screen is divided into either a bright light portion or a dark portion.
コンピュータ2は、二値化画面に基づき、明るい光の部分を探索する(ステップS3)。
さらに、光の部分が動いているかどうか判定する(ステップS4)。この動きの判定は、カメラ1の画面上の光の動きに基づいて判定するのが簡便である。例えば、動きのある光の部分を探索する際に、次の変化までの時間間隔の閾値、例えば10秒という閾値を用いて、この閾値以内に光の位置又は輝度の変化を検出したときに動きのある光を検出したと判断する。この閾値以内に変化しない光は、動く光源の光でなく、固定された光源(例えば照明器具や街灯の光)とみなす。
The
Further, it is determined whether or not the light portion is moving (step S4). It is simple to determine this movement based on the movement of light on the screen of the camera 1. For example, when searching for a moving light portion, a threshold value of a time interval until the next change, for example, a threshold value of 10 seconds is used, and a motion is detected when a change in light position or brightness is detected within this threshold value. It is determined that a certain light is detected. Light that does not change within this threshold is not a moving light source, but a fixed light source (for example, light from a luminaire or streetlight).
また、カメラ1の画面上の変化で判定するのではなく、実空間(部屋の中の三次元座標)の速度を算出して判定してもよい。そのためには、撮影するカメラ1の画面上での位置と、実空間の位置との関係を予め把握しておく必要がある。このためには、カメラ1の位置や姿勢をパラメータとする、カメラ1の画面上の二次元座標と、実際の三次元座標との変換式をコンピュータ2のプログラムに組み込んでおく必要がある(特開平4ー20189号公報、特開平6ー35443号公報など参照)。ただし、画面上の二次元座標を三次元座標に変換するには、三次元空間での座標の数を1つ減らす必要がある。これには、人間が懐中電灯を手に持つとして、その懐中電灯の床からの高さを、一定の高さ(例えば1m)に設定しておけばよい。コンピュータ2は、光の部分が部屋の中の三次元座標で、閾値を超える速度で動いているときに、光の部分が動いていると判定する。閾値以下の速度で動いている場合は、カメラ1の振動やぶれなどによるものであり、実際には動いていない固定光源であるとみなす。
Alternatively, the determination may be made by calculating the speed of the real space (three-dimensional coordinates in the room) instead of determining the change on the screen of the camera 1. For this purpose, it is necessary to grasp in advance the relationship between the position on the screen of the camera 1 to be photographed and the position in the real space. For this purpose, it is necessary to incorporate into the program of the computer 2 a conversion formula between the two-dimensional coordinates on the screen of the camera 1 and the actual three-dimensional coordinates using the position and orientation of the camera 1 as parameters (special features). (See Kaihei 4-20189, JP-A-6-35443, etc.). However, in order to convert two-dimensional coordinates on the screen into three-dimensional coordinates, it is necessary to reduce the number of coordinates in the three-dimensional space by one. For this purpose, it is only necessary to set the height of the flashlight from the floor to a certain height (for example, 1 m), assuming that a human holds the flashlight. The
次に、光の部分が複数存在するかどうか判定する(ステップS5)。これは、懐中電灯の光が、部屋の床や壁などに投影されれば、そこから反射される光(投影光P)を伴うことに注目したものである。室外を走行する自転車や車両などのライトの投影光は、ライト自体が画面に写っている場合を除いて、室内では1つの単独の光として振舞う。したがって、このステップS5の判定で排除される。 Next, it is determined whether or not there are a plurality of light portions (step S5). This is because the light of the flashlight is accompanied by light (projection light P) reflected from the floor or wall of the room when reflected. The projection light of a light such as a bicycle or a vehicle that travels outdoors behaves as a single light indoors, except when the light is reflected on the screen. Therefore, it is excluded by the determination in step S5.
次に、光の部分が連続して存在する領域の面積(単位:全画面に対する面積比)を測定する。この面積が閾値(例えば3%)よりも大きい場合、大きい光の部分とし、閾値よりも小さい場合、小さい光の部分とする。この測定に基づいて、一対の大小のペアを取り出す(ステップS6)。そして、小さな方を「光源S」、大きな方を「投影光P」とみなして、それぞれの光の部分を時間差分法等を用いて追跡する(ステップS7,S8)。追跡の間、光源S又は投影光Pを見失うことがあれば(ステップS9)、スタートに戻る。 Next, the area (unit: area ratio with respect to the entire screen) of a region where light portions continuously exist is measured. When this area is larger than a threshold value (for example, 3%), it is set as a large light portion, and when it is smaller than the threshold value, it is set as a small light portion. Based on this measurement, a pair of large and small is taken out (step S6). Then, the smaller one is regarded as “light source S” and the larger one as “projection light P”, and the respective light portions are traced using a time difference method or the like (steps S7 and S8). If the light source S or the projection light P may be lost during tracking (step S9), the process returns to the start.
そして、光源Sの輝度変化又は位置変化と、投影光Pの位置変化とが同期して動くかどうか調べる(ステップS10)。
投影光Pが光源Sの反射光であれば、光源Sが動いたり、角度を変えたりすれば、投影光Pが大きく振れるはずである。
図5は、光源Sの輝度変化(a)と投影光Pの位置変化(b)との関係を示す図である。
Then, it is checked whether or not the luminance change or position change of the light source S and the position change of the projection light P move in synchronization (step S10).
If the projection light P is the reflected light of the light source S, the projection light P should shake greatly if the light source S moves or changes the angle.
FIG. 5 is a diagram showing the relationship between the luminance change (a) of the light source S and the positional change (b) of the projection light P.
図5(a)では、光源Sの回転操作により、光源Sの輝度がバックグラウンド(カメラの暗いレベルに対する検出限界)と飽和値(カメラの明るいレベルに対する検出限界)との間を変動している。投影光Pの輝度が最大の状態では、光源Sがカメラ1の方を向いていることを示している。
図5(b)は、投影光Pの位置が振れている状態を示している。投影光Pの振れが0に対応する位置はカメラ1の位置である。投影光Pがこの位置にあるとき、投影光Pの輝度が最大になっており、投影光Pがこの位置から離れるに従って、投影光Pの輝度が低下しているので、光源Sと投影光Pとは同期していることが分かる。
In FIG. 5A, the brightness of the light source S varies between the background (detection limit for the dark level of the camera) and the saturation value (detection limit for the bright level of the camera) by the rotation operation of the light source S. . In the state where the brightness of the projection light P is maximum, it indicates that the light source S faces the camera 1.
FIG. 5B shows a state where the position of the projection light P is shaken. The position where the shake of the projection light P corresponds to 0 is the position of the camera 1. When the projection light P is at this position, the brightness of the projection light P is maximum, and the brightness of the projection light P decreases as the projection light P moves away from this position. It can be seen that is synchronized.
図6は、光源Sの振れ変化(a)と投影光Pの振れ変化(b)との関係を示す図である。図6(a)では、光源Sの移動(例えば懐中電灯を持つ手の振れ)により、光源Sの位置が変化している。 図6(b)は、投影光Pの位置が振れている状態を示している。図6(a),(b)から、投影光Pの振れと、光源Sの振れとは、相似波形になっており、光源Sと投影光Pとは同期していることが分かる。 FIG. 6 is a diagram showing the relationship between the shake change (a) of the light source S and the shake change (b) of the projection light P. In FIG. 6A, the position of the light source S is changed by the movement of the light source S (for example, shaking of the hand holding a flashlight). FIG. 6B shows a state where the position of the projection light P is shaken. 6 (a) and 6 (b), it can be seen that the shake of the projection light P and the shake of the light source S have similar waveforms, and the light source S and the projection light P are synchronized.
以上のように、光源Sと投影光Pとが同期して動いている場合は、投影光Pは、光源Sに照らされた部分からの反射光であるので、光源Sは、懐中電灯などの移動光源であることが分かる。
移動光源であることが分かれば、その映像を不揮発性のメモリに記憶し(ステップS11)、コンピュータ2に通報、警報の設定がなされていれば、外部に通報・警報信号を送出する。
As described above, when the light source S and the projection light P are moving in synchronism, the projection light P is reflected light from a portion illuminated by the light source S. Therefore, the light source S is a flashlight or the like. It turns out that it is a moving light source.
If it is determined that the light source is a moving light source, the video is stored in a non-volatile memory (step S11), and if a report or alarm is set to the
この結果、図1に示した警報ブザー3を鳴らしたり、ネットワークを通して警備会社や警察署に通報したりする。また、家の所有者の携帯電話機4に電話をかけたり、電子メールを送ったりしてもよい。
以上に説明したように、簡単な画像処理によって、夜間室内に侵入したものが懐中電灯を使えば、これを確実に検知することができる。
As a result, the
As described above, if a flashlight is used to enter a room at night by simple image processing, this can be reliably detected.
以上で、本発明の実施の形態を説明したが、本発明の実施は、前記の形態に限定されるものではなく、本発明の範囲内で種々の変更を施すことが可能である。 Although the embodiments of the present invention have been described above, the embodiments of the present invention are not limited to the above-described embodiments, and various modifications can be made within the scope of the present invention.
1 カメラ
2 コンピュータ
3 警報ブザー
4 携帯電話機
P 投影光
S 光源
1
Claims (4)
カメラで撮影された画像の中から輝度変化又は位置変化のある光の部分を探索する探索手段と、
探索された光の部分が複数存在する場合に、面積の大小のペアを選択し、選択されたペアを追跡する追跡手段と、
前記ペアを構成する光のうち、小さい光の変化と、大きい光の変化とが時間的に同期しているかどうか調べる同期検知手段と、
それらが同期している場合に、所定の信号出力を行う出力手段とを備えることを特徴とする光源検知装置。 A camera to monitor the room,
Search means for searching for a portion of light having a luminance change or a position change from an image taken by a camera;
A tracking means for selecting a pair of large and small areas and tracking the selected pair when there are a plurality of searched light portions;
Synchronization detection means for examining whether a change in small light and a change in large light among the light constituting the pair are synchronized in time,
An output means for outputting a predetermined signal when they are synchronized with each other.
カメラで撮影された画像の中から輝度変化又は位置変化のある光の部分を探索する探索手段と、
探索された光の部分が複数存在する場合に、面積の大小のペアを選択し、選択されたペアを追跡する追跡手段と、
前記ペアを構成する光のうち、小さい光の変化と、大きい光の変化とが時間的に同期しているかどうか調べる同期検知手段と、
それらが同期している場合に、小さい光を懐中電灯などの移動光源、大きい光をその投影光とみなし、通報を行う通報手段とを備えることを特徴とする防犯通報装置。
A camera to monitor the room,
Search means for searching for a portion of light having a luminance change or a position change from an image taken by a camera;
A tracking means for selecting a pair of large and small areas and tracking the selected pair when there are a plurality of searched light portions;
Synchronization detection means for examining whether a change in small light and a change in large light among the light constituting the pair are synchronized in time,
A crime prevention reporting apparatus comprising: a moving light source such as a flashlight when the light is synchronized; and a reporting means for reporting a large light as the projection light.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004105846A JP4164762B2 (en) | 2004-03-31 | 2004-03-31 | Light source detection device and crime prevention notification device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004105846A JP4164762B2 (en) | 2004-03-31 | 2004-03-31 | Light source detection device and crime prevention notification device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005293105A JP2005293105A (en) | 2005-10-20 |
JP4164762B2 true JP4164762B2 (en) | 2008-10-15 |
Family
ID=35325980
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004105846A Expired - Fee Related JP4164762B2 (en) | 2004-03-31 | 2004-03-31 | Light source detection device and crime prevention notification device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4164762B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AT503817B1 (en) * | 2006-01-19 | 2008-01-15 | Arc Seibersdorf Res Gmbh | METHOD AND DEVICE FOR DETECTING BRIGHTNESS-MODULATED LIGHT SOURCES |
-
2004
- 2004-03-31 JP JP2004105846A patent/JP4164762B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2005293105A (en) | 2005-10-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10161866B2 (en) | Particle detector, system and method | |
US10395498B2 (en) | Fire detection apparatus utilizing a camera | |
US10304306B2 (en) | Smoke detection system and method using a camera | |
JPWO2016157327A1 (en) | Video surveillance system and video surveillance method | |
TWI663580B (en) | A control method of surveillance system | |
US20120128330A1 (en) | System and method for video recording device detection | |
US7412076B2 (en) | Image processing apparatus, image processing method, recording medium, and program | |
US20190266869A1 (en) | Smoke Detection System and Method Using a Camera | |
WO2018005616A1 (en) | Smoke detection system and method using a camera | |
JP4656977B2 (en) | Sensing device | |
JP2012212236A (en) | Left person detection device | |
KR102270858B1 (en) | CCTV Camera System for Tracking Object | |
US8259997B2 (en) | Real-time tracking system | |
JP4164762B2 (en) | Light source detection device and crime prevention notification device | |
EP3839908A1 (en) | Close object detection for surveillance cameras | |
JP3965003B2 (en) | Image recognition device and monitoring device | |
KR101611696B1 (en) | System and method for position tracking by sensing the sound and event monitoring network thereof | |
JPH1188870A (en) | Monitoring system | |
CA2671680C (en) | Systeme de poursuite en temps reel | |
JPH11339150A (en) | Fire detector using image processing | |
JP2002245567A (en) | Fire detector | |
JP2005027023A (en) | Camera system and monitoring method | |
KR20230032649A (en) | Method and System for surveillance | |
JP2002175530A (en) | Image recognizing device | |
WO2012065241A1 (en) | System and method for video recording device detection |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080625 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080703 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080716 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110808 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120808 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130808 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |