JP2006099241A - Abnormality detection apparatus, abnormality detection method and abnormality detection program - Google Patents
Abnormality detection apparatus, abnormality detection method and abnormality detection program Download PDFInfo
- Publication number
- JP2006099241A JP2006099241A JP2004282100A JP2004282100A JP2006099241A JP 2006099241 A JP2006099241 A JP 2006099241A JP 2004282100 A JP2004282100 A JP 2004282100A JP 2004282100 A JP2004282100 A JP 2004282100A JP 2006099241 A JP2006099241 A JP 2006099241A
- Authority
- JP
- Japan
- Prior art keywords
- flow
- pixel
- average
- abnormality detection
- state index
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Generation (AREA)
- Closed-Circuit Television Systems (AREA)
- Emergency Alarm Devices (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
Description
本発明は、人が集まる場所で何らかのトラブルが発生した場合に人ごみの状態に変化が起こることに注目し、これを画像処理により検知する異常検知装置、異常検知方法および異常検知プログラムに関する。 The present invention relates to an abnormality detection device, an abnormality detection method, and an abnormality detection program for detecting a change in the state of a crowd when some trouble occurs in a place where people gather, and detecting this by image processing.
人が多く集まる場所では、様々なトラブルが発生し、安全管理、防災の観点からこれらのトラブルを検知し、迅速な対応を行う必要がある。そこで、定点カメラの映像を利用し、トラブルを自動的に検知することにより監視員の負担を軽減する技術に期待が持たれている。 In a place where many people gather, various troubles occur, and it is necessary to detect these troubles from the viewpoints of safety management and disaster prevention, and take prompt measures. Therefore, there is an expectation for a technology that reduces the burden on the observer by automatically detecting troubles using the video of the fixed point camera.
従来技術としては、定点カメラの映像を元に、動きベクトル(オプティカルフロー)を用いるものがある(例えば特許文献1参照)。この従来技術では、正常時の動きベクトルの注目領域(ブロック)内の平均(平均ベクトル)と分散とを求めておき、観測時に算出された平均ベクトルとの差異が大きくなった場合に異常として検知するものである。
上述した従来技術では、道路での車のように流れが固定的な(流れの方向が固定されているような)場合には有効であるが、駅のコンコースにおける人ごみのように、その方向、人数、速度などの状態が時間とともに多様に変化するような場合には適用が困難であるという問題があった。 The above-mentioned conventional technique is effective when the flow is fixed (like the direction of the flow is fixed) like a car on a road, but it is the direction like a crowd at a station concourse. There is a problem that it is difficult to apply when the number of people, the speed, etc. change variously with time.
本発明は、このような事情を考慮してなされたものであり、その目的は、駅のコンコースなどにおける人の流れのように、その方向や状態が複雑でかつ時間とともに多様に変化するような場合にも、人ごみの状態が局所的に変化したことを検知することができる異常検知装置、異常検知方法および異常検知プログラムを提供することにある。 The present invention has been made in consideration of such circumstances, and the purpose of the present invention is to make the direction and state complex and change variously over time, such as the flow of people in a station concourse. Even in such a case, an object of the present invention is to provide an abnormality detection device, an abnormality detection method, and an abnormality detection program that can detect that the state of the crowd has changed locally.
この発明は上記の課題を解決すべくなされたもので、監視対象の動画像をフレーム画像毎に入力する入力手段と、フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出する画素フロー算出手段と、算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出する状態指標算出手段と、前記状態指標に基づいて、前記監視対象の異常を検知する異常検知手段とを具備することを特徴とする異常検知装置である。 The present invention has been made to solve the above-described problems. An input means for inputting a moving image to be monitored for each frame image and an optical flow in each image are obtained in a target area set in advance in the frame image. A pixel flow calculation unit that calculates a pixel flow indicating the movement of each pixel from the optical flow, and a state index that indicates a feature of the spatial distribution of the pixel flow in the frame image is calculated from the calculated pixel flow. An abnormality detection apparatus comprising: a state index calculation unit; and an abnormality detection unit that detects an abnormality of the monitoring target based on the state index.
また、本発明は、上記の発明において、1フレーム画像内に少なくとも2以上の対象領域を設け、前記状態指標算出手段は、前記対象領域内の各画素フローに基づいて、各対象領域の平均フローを算出し、各対象領域の平均フローの差異に基づいて、前記状態指標を算出することを特徴とする。 Further, in the present invention, the present invention provides at least two or more target areas in one frame image, and the state index calculation means calculates the average flow of each target area based on each pixel flow in the target area. And the state index is calculated based on the difference in the average flow of each target region.
また、本発明は、請求項2記載の異常検出装置において、前記状態指標算出手段は、前記対象領域中の各画素フローの分散に基づいて、前記状態指標を算出することを特徴とする。
According to the present invention, in the abnormality detection device according to
また、本発明は、上記の発明において、前記状態指標算出手段は、前記対象領域中の各画素フローにおける空間的な変化に基づいて、前記状態指標を算出することを特徴とする。 Further, the present invention is characterized in that, in the above-mentioned invention, the state index calculating means calculates the state index based on a spatial change in each pixel flow in the target region.
また、本発明は、上記の発明において、前記画素フロー算出手段は、現フレーム画像から過去一定時間における各画素のオプティカルフローの平均を、各画素フローとして算出することを特徴とする。 Further, the present invention is characterized in that, in the above-mentioned invention, the pixel flow calculation means calculates an average of the optical flow of each pixel in a past fixed time from the current frame image as each pixel flow.
また、本発明は、上記の発明において、前記画素フロー算出手段は、各画素のオプティカルフローの絶対値に基づいて前記各画素フローを算出することを特徴とする。 Further, the present invention is characterized in that, in the above-mentioned invention, the pixel flow calculation means calculates each pixel flow based on an absolute value of an optical flow of each pixel.
また、本発明は、監視対象の動画像をフレーム画像毎に入力し、フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出し、算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出し、前記状態指標に基づいて、前記監視対象の異常を検知することを特徴とする異常検知方法である。 Further, the present invention inputs a moving image to be monitored for each frame image, obtains an optical flow in each image in a target region set in advance in the frame image, and indicates the movement of each pixel from the optical flow. Calculating a pixel flow, calculating a state index indicating a feature of a spatial distribution of the pixel flow in the frame image from the calculated pixel flow, and detecting an abnormality of the monitoring target based on the state index Is an abnormality detection method characterized by
また、本発明は、監視対象の動画像をフレーム画像毎に入力するステップと、フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出するステップと、算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出するステップと、前記状態指標に基づいて、前記監視対象の異常を検知するステップとをコンピュータに実行させることを特徴とする異常検知プログラムである。 The present invention also includes a step of inputting a moving image to be monitored for each frame image, an optical flow in each image in a target region preset in the frame image, and a motion of each pixel from the optical flow. A step of calculating a pixel flow indicating the state, a step of calculating a state index indicating a feature of a spatial distribution of the pixel flow in the frame image from the calculated pixel flow, and the monitoring target based on the state index An abnormality detection program for causing a computer to execute a step of detecting an abnormality in the computer.
以上説明したように、異常検知装置は、監視対象の動画像をフレーム画像毎に入力し、フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出し、算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出し、状態指標に基づいて、監視対象の異常を検知する。そのため、対象領域おけるオプティカルフローから算出された画素フローの空間的分布の特徴を示す状態指標から監視対象の異常を検知することが可能となる。それによって、駅のコンコースなどにおける人の流れのように、その方向や状態が複雑でかつ時間とともに多様に変化するような場合にも、人ごみの状態が局所的に変化したことを検知することができるという効果が得られる。 As described above, the anomaly detection apparatus inputs a moving image to be monitored for each frame image, obtains an optical flow in each image in a target region set in advance in the frame image, and from each optical flow, A pixel flow indicating the movement of the pixel is calculated, and from the calculated pixel flow, a state index indicating the characteristics of the spatial distribution of the pixel flow in the frame image is calculated, and an abnormality of the monitoring target is calculated based on the state index. Detect. Therefore, it is possible to detect an abnormality of the monitoring target from the state index indicating the feature of the spatial distribution of the pixel flow calculated from the optical flow in the target region. As a result, it is possible to detect that the state of the crowd has changed locally even when the direction and state of the station is complicated and changes with time, such as the flow of people in a concourse at a station. The effect of being able to be obtained.
また、本発明によれば、異常検知装置は、1フレーム画像内に少なくとも2以上の対象領域を設け、対象領域内の各画素フローに基づいて、各対象領域の平均フローを算出し、各対象領域の平均フローの差異に基づいて、状態指標を算出する。そのため、画素フローを時間方向と空間方向で平均化して求めた平均フローにより、安定した状態指標を比較することができ、監視対象の異常を検知することを容易にすることができる。 According to the present invention, the abnormality detection device provides at least two or more target areas in one frame image, calculates an average flow of each target area based on each pixel flow in the target area, A state index is calculated based on the difference in the average flow of the area. For this reason, it is possible to compare stable state indexes with the average flow obtained by averaging the pixel flow in the time direction and the spatial direction, and to easily detect an abnormality of the monitoring target.
また、本発明によれば、異常検知装置は、対象領域中の各画素フローの分散に基づいて、状態指標を算出する。そのため、対象領域中の画素フローのばらつきを統計的手段により評価し、監視対象の異常を検知することが可能となる。 Further, according to the present invention, the abnormality detection device calculates the state index based on the variance of each pixel flow in the target region. For this reason, it is possible to evaluate the variation in pixel flow in the target area by statistical means and detect an abnormality of the monitoring target.
また、本発明によれば、異常検知装置は、対象領域中の各画素フローにおける空間的な変化に基づいて、状態指標を算出する。そのため、対象領域中の画素フローの空間的な変化、即ち空間的な傾きをハイパスフィルタなどの手段を利用して状態指標を算出することができ、監視対象の異常を検知することが可能となる。 According to the present invention, the abnormality detection device calculates a state index based on a spatial change in each pixel flow in the target region. Therefore, it is possible to calculate a state index using a means such as a high-pass filter for a spatial change of the pixel flow in the target region, that is, a spatial inclination, and to detect an abnormality of the monitoring target. .
また、本発明によれば、異常検知装置は、現フレーム画像から過去一定時間における各画素のオプティカルフローの平均を、各画素フローとして算出する。そのため、平均化によって、状態指標を安定化させることができるという効果が得られる。 Further, according to the present invention, the abnormality detection device calculates the average of the optical flow of each pixel in the past fixed time from the current frame image as each pixel flow. Therefore, the effect that the state index can be stabilized by averaging is obtained.
また、本発明によれば、異常検知装置は、各画素のオプティカルフローの絶対値に基づいて各画素フローを算出する。そのため、様々な方向の流れが混在するような場所でも異常を検知しやすくなるという効果が得られる。 According to the invention, the abnormality detection device calculates each pixel flow based on the absolute value of the optical flow of each pixel. Therefore, it is possible to easily detect an abnormality even in a place where flows in various directions are mixed.
以下、本発明を実施するための最良の形態について説明する。なお、以下の説明において、オプティカルフローとは、対象領域内の画素毎に求められる、所謂動きベクトルであり、現フレーム画像とその直前の前フレーム画像とから求めることができる。また、画素フローとは、オプティカルフローから求められる各画素の動きを示す値であり、後述する第1実施形態では、各オプティカルフローの絶対値を過去一定時間平均することによって画素毎に求められる。また、平均フローとは、上述した対象領域に該当するブロック内の上記画像フローを平均化したものであり、各ブロック毎に求められる。また、状態指標とは、異常か否かを判断するための指標であり、後述する第1実施形態では、ブロック間の平均フローの差異によって求められ、後述する第2実施形態では、対象領域内の画素フローの分散、後述する第3実施形態では、対象領域内の画素フローの空間的な変化によって求められる。 Hereinafter, the best mode for carrying out the present invention will be described. In the following description, the optical flow is a so-called motion vector obtained for each pixel in the target region, and can be obtained from the current frame image and the previous frame image immediately before the current frame image. The pixel flow is a value indicating the movement of each pixel obtained from the optical flow. In the first embodiment described later, the pixel flow is obtained for each pixel by averaging the absolute value of each optical flow for a certain past time. The average flow is obtained by averaging the image flows in the blocks corresponding to the above-described target region, and is obtained for each block. The state index is an index for determining whether or not there is an abnormality. In the first embodiment, which will be described later, the state index is obtained from the difference in average flow between blocks. In the second embodiment, which will be described later, In the third embodiment, which will be described later, the pixel flow distribution is obtained by the spatial change of the pixel flow in the target region.
A.第1実施形態
A−1.第1実施形態の構成
図1は、本発明の第1実施形態の異常検知装置の略構成を示すブロック図である。図1において、画素フロー算出手段100aは、ブロック指定部1、オプティカルフロー算出部2、フロー記録部4およびフロー時間平均算出部5からなる。また、状態指標算出手段101aは、フローのブロック平均算出部6、閾値指定部9および平均フロー比較部10からなる。画素フロー算出手段100aにおいて、ブロック指定部1は、フレーム内の処理対象とする処理対象ブロックを複数指定する。オプティカルフロー算出部2は、複数のフレーム画像系列からなる映像データ3から、現フレームのオプティカルフロー(動きベクトル)を算出する。フロー記録部4は、上記オプティカルフロー算出部2で算出された所定時間分のオプティカルフローを記録する。フロー時間平均算出部5は、オプティカルフローの絶対値化を行うとともに、オプティカルフローの時間平均を算出する。
A. First embodiment A-1. Configuration of First Embodiment FIG. 1 is a block diagram showing a schematic configuration of an abnormality detection apparatus according to a first embodiment of the present invention. In FIG. 1, the pixel flow calculation unit 100 a includes a block designation unit 1, an optical
状態指標算出手段101aにおいて、フローのブロック平均算出部6は、画素毎の時間平均されたフロー、即ち画素フローを各指定ブロック内で平均化する。同図では、指定ブロックとしてブロックAとブロックBについて平均化を行い、ブロックAの平均フロー7とブロックBの平均フロー8を出力する。閾値指定部9は、後述する指定ブロックの平均フローを比較する際の閾値を指定する。平均フロー比較部10は、ブロック間で平均フロー7,8を比較し、閾値指定部9により指定された閾値に従って、平均フロー7,8の差異が大きいか否かを判断する。異常検知部11は、平均フローの差異が大きい場合に異常として検知する。
In the state index calculation unit 101a, the flow block average calculation unit 6 averages the time averaged flow for each pixel, that is, the pixel flow within each designated block. In the figure, averaging is performed for block A and block B as designated blocks, and an
A−2.第1実施形態の動作
次に、上述した第1実施形態による異常検知装置の動作について説明する。ここで、図2は、本第1実施形態による異常検知装置の動作を説明するためのフローチャートである。
まず、ブロック指定部1により処理対象領域となるブロックを複数指定する(Sa1)。次に、複数のフレーム画像系列からなる映像データのうち、対象となるフレームを1つ進める(Sa2)。次に、オプティカルフロー算出部2により、現フレームのオプティカルフローを算出する(Sa3)。算出されたオプティカルフローは、フロー記録部4に記録される。オプティカルフローは、画像上の座標を(x,y)とした場合、フレームnの座標(x,y)におけるオプティカルフロー=(u,v)n x,yとして算出される。なお、uは、速度ベクトルのx成分であり、vは、速度ベクトルのy成分である。
A-2. Operation of First Embodiment Next, the operation of the abnormality detection device according to the first embodiment described above will be described. Here, FIG. 2 is a flowchart for explaining the operation of the abnormality detection device according to the first embodiment.
First, a plurality of blocks to be processed are specified by the block specifying unit 1 (Sa1). Next, among the video data composed of a plurality of frame image series, the target frame is advanced by one (Sa2). Next, the optical
次に、フロー時間平均算出部5により、フロー記録部4からオプティカルフローを読み出し、x、y成分毎にオプティカルフローの絶対値を算出し(Sa4)、過去一定時間におけるオプティカルフローの時間平均を算出する(Sa5)。オプティカルフローの絶対値は、(|u|,|v|)n x,yとなる。また、オプティカルフローの時間平均(過去Nフレーム)は、(U,V)x,y=Σ(|u|,|v|)k x,y/Nとなる。なお、k=n−N〜nである。このようにして、オプティカルフローより画素毎の画素フローが算出される。
なお、一般にベクトル(a,b)の絶対値という場合には、ベクトルの長さである√(a2+b2)を示すことが多いが、本実施形態では、成分ごとの絶対値(|a|,|b|)およびベクトルの長さ√(a2+b2)の両方どちらを用いてもよい。以下の説明では、成分ごとの絶対値(|a|,|b|)の場合を例に取って説明する。
Next, the flow time
In general, the absolute value of the vector (a, b) often indicates √ (a 2 + b 2 ) which is the length of the vector, but in this embodiment, the absolute value (| a Either |, | b |) or the vector length √ (a 2 + b 2 ) may be used. In the following description, the case of absolute values for each component (| a |, | b |) will be described as an example.
次に、ブロック平均算出部6により、画素フローを各指定ブロック内で平均し、ブロックAの平均フロー7と、ブロックBの平均フロー8とを求める(Sa6)。画素フローのブロック内の平均(平均フロー)は、ブロックAに対しては、A ̄=(Ua,Va)=Σ(U,V)x,y/Naとなり(NaはブロックAの画素数、x,yはブロックA内の座標)、ブロックBに対しては、B ̄=(Ub,Vb)=Σ(U,V)x,y/Nbとなる(NbはブロックBの画素数、x,yがブロックB内の座標)。なお、時間平均とブロック内平均の順序は前後してもよい。なお、「 ̄」はベクトルであることを示す。
Next, the block average calculation unit 6 averages the pixel flows within each designated block to obtain an
ここでの平均フローは、算出されたオプティカルフローの絶対値を各ブロックにおいて時間方向と空間方向で平均をとった結果であり、1ブロックに1つの平均フロー(ベクトル)が算出される。図3(a)は原画像であり、図3(b)は、2つのブロックが指定され、各ブロックごとに平均フローが求められることを示す図である。 The average flow here is the result of averaging the absolute value of the calculated optical flow in the time direction and the spatial direction in each block, and one average flow (vector) is calculated for each block. FIG. 3A is an original image, and FIG. 3B is a diagram showing that two blocks are designated and an average flow is obtained for each block.
次に、平均フロー比較部10により、ブロックAの平均フロー7とブロックBの平均フロー8とを比較し(Sa7)、閾値指定部9により指定された閾値Otに従って、双方の平均フローの差異が大きいか否かを判断し(Sa8)、評価結果を異常検知部11に送信する。平均フローの差異の評価方法の一例としては、O=A ̄・B ̄/max[A ̄・A ̄,B ̄・B ̄](・は内積)を求め、比較結果Oが予め設定した閾値Otより小さいときに差異が大きいと判定する。なお、「 ̄」はベクトルであることを示す。
Next, the average
なお、比較するブロックは、必要に応じて、3つ以上に拡張可能であり、隣接する場所、空間の特性が同じ(同じ通路上など)など、人の状態の相関が高くなる場所同士を選ぶことが好ましい。 The number of blocks to be compared can be expanded to 3 or more as needed, and adjacent locations and locations where the correlation of the human state is high, such as the same space characteristics (such as on the same passage), are selected. It is preferable.
次に、異常検知部11により、上記評価結果に従って、差異が大きい場合には、異常と検知し(Sa9)、終了条件が満たされたか否かを判断し(Sa10)、終了でなければ、ステップSa2へ戻り、対象フレームを次のフレームへ進め、上述した処理を繰り返す。
Next, when the difference is large according to the evaluation result, the
一方、双方の差異が小さい場合には、異常検知することなく、終了条件が満たされたか否かを判断し(Sa10)、終了でなければ、ステップSa2へ戻り、対象フレームを次のフレームへ進め、上述した処理を繰り返す。また、終了条件が満たされた場合には、当該処理を終了する。 On the other hand, if the difference between the two is small, it is determined whether or not the end condition is satisfied without detecting an abnormality (Sa10). If not, the process returns to step Sa2 to advance the target frame to the next frame. The above process is repeated. Further, when the termination condition is satisfied, the process is terminated.
なお、正常時において平均フローが場所により異なる場合(例:ブロックAの人数密度はブロックBの人数密度の40%くらいになる、などの相関を持つ場合)にも本手法を適用することができる。このような場合には、予め正常時の平均フローを算出しておき、その平均フローの大きさがブロック間で等しくなるように規格化しておけばよい。また、画像内での見えの違い、例えば遠いほど小さく見え、遠いほど画像上の動きは遅く見えるという違いなどを、予め補正しておけば、遠近間での比較を安定させることが可能である。 In addition, this method can be applied even when the average flow varies depending on the location at normal times (eg, when the density of people in block A is about 40% of the density of people in block B). . In such a case, a normal average flow may be calculated in advance and normalized so that the size of the average flow is equal between blocks. In addition, it is possible to stabilize the comparison between perspectives by correcting in advance the difference in appearance in the image, for example, the smaller the distance, the smaller the movement on the image, the slower the movement on the image. .
B.第2実施形態
次に、本発明の第2実施形態について説明する。
B−1.第2実施形態の構成
図4は、本第2実施形態による異常検知装置の構成を示すブロック図である。図において、画素フロー算出手段100bは、処理対象領域指定部20、オプティカルフロー算出部21、フロー記録部23およびフロー時間平均算出部24からなる。また、状態指標算出手段101bは、フローのぼかし処理部25、フロー統計量算出部26、閾値指定部27および閾値比較部28からなる。画素フロー算出手段100bにおいて、処理対象領域指定部20は、上述した監視を行う対象領域、即ち処理対象領域を指定する。オプティカルフロー算出部21は、複数のフレーム画像系列からなる映像データ22から、現フレームのオプティカルフローを算出する。フロー記録部23は、上記オプティカルフロー算出部21で算出されたオプティカルフローを記録する。フロー時間平均算出部24は、オプティカルフローの絶対値化を行うとともに、オプティカルフローの時間平均を算出し、画素フローを得る。
B. Second Embodiment Next, a second embodiment of the present invention will be described.
B-1. Configuration of Second Embodiment FIG. 4 is a block diagram showing a configuration of an abnormality detection apparatus according to the second embodiment. In the figure, the pixel flow calculation unit 100 b includes a processing target
状態指標算出手段101bにおいて、フローのぼかし処理部25は、空間方向にぼかす処理を施す。ぼかし処理には、ガウシアンフィルタなどを用いる。フロー統計量算出部26は、ぼかし処理された処理対象領域内の画素フローのばらつき(分散)を算出する。このように、本第2実施形態では、対象領域内の画素フローのばらつきを評価する手法として、平均、分散或いは標準偏差などの基本的な統計量を用いる方法(統計処理による評価)を採用している。閾値指定部27は、後述する画素フローのばらつきと比較する閾値を指定する。閾値比較部28は、処理対象領域内で画素フローのばらつきを求め、閾値指定部27により指定された閾値に従って、画素フローのばらつきが大きいか否かを判断する。異常検知部29は、画素フローのばらつきが大きい場合に異常として検知する。
In the state index calculation unit 101b, the flow
B−2.第2実施形態の動作
次に、上述した第2実施形態による異常検知装置の動作について説明する。ここで、図5は、本第2実施形態による異常検知装置の動作を説明するためのフローチャートである。また、図6は、本第2実施形態による異常検知装置の動作を説明するための概念図である。
B-2. Operation of Second Embodiment Next, the operation of the abnormality detection device according to the second embodiment described above will be described. Here, FIG. 5 is a flowchart for explaining the operation of the abnormality detection device according to the second embodiment. FIG. 6 is a conceptual diagram for explaining the operation of the abnormality detection device according to the second embodiment.
まず、複数のフレーム画像系列からなる映像データのうち、対象となるフレームを1つ進める(Sb1)。次に、オプティカルフロー算出部21により、処理対象領域指定部20により指定された処理対象領域に従って、現フレームのオプティカルフローを算出する(Sb2)。算出されたオプティカルフローは、フロー記録部23に記録される。オプティカルフローは、画像上の座標を(x,y)とした場合、フレームnの座標(x,y)におけるオプティカルフロー=(u,v)n x,yとして算出される。なお、uは、速度ベクトルのx成分であり、vは、速度ベクトルのy成分である。
First, among the video data composed of a plurality of frame image series, the target frame is advanced by one (Sb1). Next, the optical
次に、フロー時間平均算出部24により、フロー記録部23からオプティカルフローを読み出し、x、y成分毎にオプティカルフローの絶対値を算出し(Sb3)、過去一定時間におけるオプティカルフローの時間平均を算出する(Sb4)。オプティカルフローの絶対値は、(|u|,|v|)n x,yとなる。また、オプティカルフローの時間平均(過去Nフレーム)は、(U,V)x,y=Σ(|u|,|v|)k x,yとなる。なお、k=n−N〜n)である。このようにして、オプティカルフローから画素毎の画素フローが得られる。
Next, the flow time
次に、ぼかし処理部25により、画素フローに対して空間方向にぼかし処理を施す(Sb5)。ここでの画素フローは、算出されたオプティカルフローの絶対値を、時間方向の平均とぼかし処理(近隣画素での重み付き平均に相当)とを行った結果であり、処理対象領域内の各画素において画素フロー(ベクトル)が算出される(図6(a)の矢印を参照)。
Next, the blurring
次に、フロー統計量算出部26により、ぼかし処理された処理対象領域内の画素フローのばらつき(分散)を算出する(Sb6)。ここで、図6(b)に、各画素での画素フローx成分の絶対値|u|に対する処理対象領域内での出現頻度を示す。なお、画素フローx成分の絶対値|u|は、各画素での画素フローy成分の絶対値|v|であっても、各画素での画素フローの絶対値√(u2+v2)であってもよい。但し、u,vは、空間方向、時間方向にぼかした(平滑化または平均化)後の画素フローの値である。
Next, the flow
次に、閾値比較部28により、処理対象領域間で画素フローのばらつきを求め、閾値指定部27により指定された閾値に従って、画素フローのばらつきが大きいか否かを判断し(Sb7)、評価結果を異常検知部29に送信する。次に、異常検知部29により、上記評価結果に従って、画素フローのばらつきが大きい場合には、異常と検知し(Sb8)、終了条件が満たされたか否かを判断し(Sb9)、終了でなければ、ステップSb1へ戻り、対象フレームを次のフレームへ進め、上述した処理を繰り返す。
Next, the threshold
一方、双方の差異が小さい場合には、異常検知することなく、終了条件が満たされたか否かを判断し(Sb9)、終了でなければ、ステップSb1へ戻り、対象フレームを次のフレームへ進め、上述した処理を繰り返す。また、終了条件が満たされた場合には、当該処理を終了する。 On the other hand, if the difference between the two is small, it is determined whether or not the end condition is satisfied without detecting an abnormality (Sb9). If not, the process returns to step Sb1 to advance the target frame to the next frame. The above process is repeated. Further, when the termination condition is satisfied, the process is terminated.
なお、画像内での見えの違い(遠いほど小さく見え、遠いほど画像上の動きは遅く見える)を、予め補正しておけば、遠近両方を含む範囲に対する処理結果を安定させることが可能である。また、正常時において処理対象領域内に発生する画素フローが場所により異なる場合(例:左上の人数密度は右下の人数密度の40%くらいになる、など相関を持つ場合)に本手法を拡張することができる。このような場合は、予め正常時の画素フローを算出しておき、その画素フローの大きさを処理対象領域内で規格化しておけばよい。 In addition, if the difference in appearance in the image (the farther it looks, the smaller the movement, and the farther the movement on the image looks slower) is corrected in advance, it is possible to stabilize the processing results for the range including both near and far. . In addition, this method is expanded when the pixel flow that occurs in the processing target area in normal conditions varies depending on the location (for example, the upper left person density is about 40% of the lower right person density). can do. In such a case, the normal pixel flow may be calculated in advance, and the size of the pixel flow may be normalized within the processing target area.
C.第3実施形態
次に、本発明の第3実施形態について説明する。なお、本第3実施形態による異常検知装置は、図4に示す構成において、フロー統計量算出部26で、空間的な傾きを検出することが異なるだけであるので説明を省略する。このように、本第3実施形態では、上述した監視を行う対象領域、即ち処理対象領域内の画素フローのばらつきを評価する手法として、Sobelフィルタなどの微分フィルタ(ハイパスフィルタ)処理を施し、処理対象領域内での画素フローの大きさの空間方向の急激な変化(変化量あるいは変化率)を検出する方法を採用している。
C. Third Embodiment Next, a third embodiment of the present invention will be described. The abnormality detection device according to the third embodiment is different from the configuration shown in FIG. 4 except that the flow
C−1.第3実施形態の動作
次に、上述した第3実施形態による異常検知装置の動作について説明する。ここで、図7は、本第3実施形態による異常検知装置の動作を説明するためのフローチャートである。また、図8は、本第3実施形態による異常検知装置の動作を説明するための概念図である。
C-1. Operation of Third Embodiment Next, the operation of the abnormality detection device according to the third embodiment described above will be described. Here, FIG. 7 is a flowchart for explaining the operation of the abnormality detection apparatus according to the third embodiment. FIG. 8 is a conceptual diagram for explaining the operation of the abnormality detection device according to the third embodiment.
まず、複数のフレーム画像系列からなる映像データのうち、対象となるフレームを1つ進める(Sc1)。次に、オプティカルフロー算出部21により、処理対象領域指定部20により指定された処理対象領域に従って、現フレームのオプティカルフローを算出する(Sc2)。
First, among the video data composed of a plurality of frame image series, the target frame is advanced by one (Sc1). Next, the optical
次に、フロー時間平均算出部24により、フロー記録部23からオプティカルフローを読み出し、x、y成分毎にオプティカルフローの絶対値を算出し(Sc3)、過去一定時間におけるオプティカルフローの時間平均を算出する(Sc4)。次に、ぼかし処理部25により、画素フローに対して空間方向にぼかし処理を施す(Sc5)。ここでの画素フローは、算出されたオプティカルフローの絶対値を、時間方向の平均とぼかし処理(近隣画素での重み付き平均に相当)とを行った結果であり、処理対象領域内の各画素において画素フロー(ベクトル)が算出される(図8(a)の矢印を参照)。この画素フローを画像として見ると、図8(b)に示すように、絶対値が大きいほど高い値(明るい)となる。
Next, the flow time
次に、フロー統計量算出部26により、ぼかし処理された処理対象領域内の画素フローの空間的な傾きを算出する(Sc6)。空間的な傾きは、Sobelフィルタなどの微分フィルタ(ハイパスフィルタ)処理を施すことで、処理対象領域内での画素フローの大きさの空間方向の急激な変化として検出される。なお、Sobelフィルタの出力値は、絶対値化する。ここで、図8(c)に、x方向の傾き:dx、y方向の傾き:dy、画素フローの絶対値√(dx2+dy2)を示す。なお、Sobelフィルタ以外にも、さまざまな傾き検出フィルタが存在するが、どのような検出フィルタを用いるかに限定されない。
Next, the flow
次に、閾値比較部28により、処理対象領域内で画素フローの傾きを求め、閾値指定部27により指定された閾値に従って、画素フローの傾きが大きいか否か、すなわち閾値を超える値があるか否かを判断し(Sc7)、評価結果を異常検知部29に送信する。次に、異常検知部29により、上記評価結果に従って、画素フローの傾きが大きい場合には、異常と検知し(Sc8)、終了条件が満たされたか否かを判断し(Sc9)、終了でなければ、ステップSc1へ戻り、対象フレームを次のフレームへ進め、上述した処理を繰り返す。
Next, the inclination of the pixel flow is obtained within the processing target area by the
一方、双方の差異が小さい場合には、異常検知することなく、終了条件が満たされたか否かを判断し(Sc9)、終了でなければ、ステップSc1へ戻り、対象フレームを次のフレームへ進め、上述した処理を繰り返す。また、終了条件が満たされた場合には、当該処理を終了する。 On the other hand, if the difference between the two is small, it is determined whether or not the end condition is satisfied without detecting an abnormality (Sc9). If not, the process returns to step Sc1 to advance the target frame to the next frame. The above process is repeated. Further, when the termination condition is satisfied, the process is terminated.
なお、上述した実施形態において、画素フローの空間的な傾きを算出するためのフィルタのサイズは、検出したい事象のサイズと合わせる必要がある。例えば、100画素程度の範囲で異常が起こるとすると、フィルタもそのサイズを検出できるようにする必要がある。最も簡単なのは画像サイズを縮小して、フィルタの感度(サイズ)と事象の空間サイズをおおよそあわせておくことである。 In the above-described embodiment, the size of the filter for calculating the spatial gradient of the pixel flow needs to be matched with the size of the event to be detected. For example, if an abnormality occurs in a range of about 100 pixels, the filter needs to be able to detect its size. The simplest is to reduce the image size so that the sensitivity (size) of the filter and the spatial size of the event are roughly matched.
なお、上述した実施形態においては、オプティカルフロー算出部2(21)、フロー時間平均算出部5(24)、ブロック平均算出部6、平均フロー比較部10、異常検知部11(29)、フロー統計量算出部26、閾値比較部28などは、コンピュータシステム内で実行される。そして、上述した制御部1、画像処理部5、演算部6による一連の処理の過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータが読み出して実行することによって、上記処理が行われる。すなわち、オプティカルフロー算出部2(21)、フロー時間平均算出部5(24)、ブロック平均算出部6、平均フロー比較部10、異常検知部11(29)、フロー統計量算出部26、閾値比較部28は、CPU等の中央演算処理装置がROMやRAM等の主記憶装置に上記プログラムを読み出して、情報の加工・演算処理を実行することにより、実現されるものである。
In the above-described embodiment, the optical flow calculation unit 2 (21), the flow time average calculation unit 5 (24), the block average calculation unit 6, the average
ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等をいう。また、このコンピュータプログラムを通信回線によってコンピュータに配信し、この配信を受けたコンピュータが当該プログラムを実行するようにしても良い。 Here, the computer-readable recording medium means a magnetic disk, a magneto-optical disk, a CD-ROM, a DVD-ROM, a semiconductor memory, or the like. Alternatively, the computer program may be distributed to the computer via a communication line, and the computer that has received the distribution may execute the program.
1…ブロック指定部
2,21…オプティカルフロー算出部
3,22…映像データ
4,23…フロー記録部
5,24…フロー時間平均算出部
6…ブロック平均算出部
7,8…平均フロー
9,27…閾値指定部
10…平均フロー比較部
11,29…異常検知部(異常検知手段)
20…処理対象領域指定部
25…ぼかし処理部
26…フロー統計量算出部
28…閾値比較部
100a…画素フロー算出手段
101a…状態指標算出手段
100b…画素フロー算出手段
101b…状態指標算出手段
DESCRIPTION OF SYMBOLS 1 ... Block designation | designated
20 ... Processing target
Claims (8)
フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出する画素フロー算出手段と、
算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出する状態指標算出手段と、
前記状態指標に基づいて、前記監視対象の異常を検知する異常検知手段と
を具備することを特徴とする異常検知装置。 An input means for inputting a moving image to be monitored for each frame image;
A pixel flow calculation means for obtaining an optical flow in each image in a target region set in advance in the frame image, and calculating a pixel flow indicating the movement of each pixel from the optical flow;
State index calculation means for calculating a state index indicating the characteristics of the spatial distribution of the pixel flow in the frame image from the calculated pixel flow;
An abnormality detection device comprising: an abnormality detection unit that detects an abnormality of the monitoring target based on the state index.
前記状態指標算出手段は、
前記対象領域内の各画素フローに基づいて、各対象領域の平均フローを算出し、
各対象領域の平均フローの差異に基づいて、前記状態指標を算出することを特徴とする請求項1記載の異常検出装置。 Provide at least two target areas in one frame image,
The state index calculating means includes
Based on each pixel flow in the target area, calculate the average flow of each target area,
The abnormality detection device according to claim 1, wherein the state index is calculated based on a difference in average flow of each target region.
前記対象領域中の各画素フローの分散に基づいて、前記状態指標を算出することを特徴とする請求項2記載の異常検出装置。 The state index calculating means includes
The abnormality detection device according to claim 2, wherein the state index is calculated based on a variance of each pixel flow in the target region.
前記対象領域中の各画素フローにおける空間的な変化に基づいて、前記状態指標を算出することを特徴とする請求項2記載の異常検出装置。 The state index calculating means includes
The abnormality detection device according to claim 2, wherein the state index is calculated based on a spatial change in each pixel flow in the target region.
現フレーム画像から過去一定時間における各画素のオプティカルフローの平均を、各画素フローとして算出することを特徴とする請求項1ないし4のいずれかに記載の異常検出装置。 The pixel flow calculation means includes
5. The abnormality detection device according to claim 1, wherein an average of the optical flow of each pixel in a past predetermined time from the current frame image is calculated as each pixel flow.
各画素のオプティカルフローの絶対値に基づいて前記各画素フローを算出することを特徴とする請求項1ないし5のいずれかに記載の異常検出装置。 The pixel flow calculation means includes
6. The abnormality detection device according to claim 1, wherein each pixel flow is calculated based on an absolute value of an optical flow of each pixel.
フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出し、
算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出し、
前記状態指標に基づいて、前記監視対象の異常を検知することを特徴とする異常検知方法。 Input a moving image to be monitored for each frame image,
In a target region set in advance in the frame image, an optical flow in each image is obtained, and a pixel flow indicating movement of each pixel is calculated from the optical flow,
From the calculated pixel flow, a state index indicating the characteristics of the spatial distribution of the pixel flow in the frame image is calculated,
An abnormality detection method, comprising: detecting an abnormality of the monitoring target based on the state index.
フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出するステップと、
算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出するステップと、
前記状態指標に基づいて、前記監視対象の異常を検知するステップと
をコンピュータに実行させることを特徴とする異常検知プログラム。 Inputting a moving image to be monitored for each frame image;
Obtaining an optical flow in each image in a target region set in advance in a frame image, and calculating a pixel flow indicating movement of each pixel from the optical flow;
Calculating a state index indicating the characteristics of the spatial distribution of the pixel flow in the frame image from the calculated pixel flow;
An abnormality detection program that causes a computer to execute the step of detecting an abnormality of the monitoring target based on the state index.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004282100A JP4387913B2 (en) | 2004-09-28 | 2004-09-28 | Abnormality detection device, abnormality detection method and abnormality detection program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004282100A JP4387913B2 (en) | 2004-09-28 | 2004-09-28 | Abnormality detection device, abnormality detection method and abnormality detection program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006099241A true JP2006099241A (en) | 2006-04-13 |
JP4387913B2 JP4387913B2 (en) | 2009-12-24 |
Family
ID=36239015
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004282100A Expired - Fee Related JP4387913B2 (en) | 2004-09-28 | 2004-09-28 | Abnormality detection device, abnormality detection method and abnormality detection program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4387913B2 (en) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2443739A (en) * | 2006-11-13 | 2008-05-14 | Bosch Gmbh Robert | Detecting image regions of salient motion |
JP2009110054A (en) * | 2007-10-26 | 2009-05-21 | Panasonic Corp | Situation judging device, situation judging method, situation judging program, abnormality judging device, abnormality judging method and abnormality judging program |
JP2011076316A (en) * | 2009-09-30 | 2011-04-14 | Fujifilm Corp | Device, method and program for crowd watching |
WO2012008176A1 (en) * | 2010-07-12 | 2012-01-19 | 株式会社日立国際電気 | Monitoring system and method of monitoring |
CN102708573A (en) * | 2012-02-28 | 2012-10-03 | 西安电子科技大学 | Group movement mode detection method under complex scenes |
JP2014225149A (en) * | 2013-05-16 | 2014-12-04 | 日本電信電話株式会社 | Image identification device, image identification method, and image identification program |
CN104574811A (en) * | 2015-01-26 | 2015-04-29 | 李文记 | Alarm for human stampede calamity and related facilities |
KR20200094430A (en) * | 2019-01-30 | 2020-08-07 | 건국대학교 산학협력단 | Video inpainting operating method and apparatus performing the same |
WO2023127239A1 (en) * | 2021-12-27 | 2023-07-06 | 株式会社Screenホールディングス | Operation monitoring method and manufacturing device |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103810195B (en) * | 2012-11-09 | 2017-12-12 | 中国电信股份有限公司 | index generation method and system |
-
2004
- 2004-09-28 JP JP2004282100A patent/JP4387913B2/en not_active Expired - Fee Related
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2443739B (en) * | 2006-11-13 | 2009-02-25 | Bosch Gmbh Robert | Method for detecting image regions of salient motion, apparatus and computer program for executing the method |
US8068640B2 (en) | 2006-11-13 | 2011-11-29 | Robert Bosch Gmbh | Method for detecting image regions that are conspicuous in terms of the movement in them; apparatus and computer program for performing the method |
GB2443739A (en) * | 2006-11-13 | 2008-05-14 | Bosch Gmbh Robert | Detecting image regions of salient motion |
JP2009110054A (en) * | 2007-10-26 | 2009-05-21 | Panasonic Corp | Situation judging device, situation judging method, situation judging program, abnormality judging device, abnormality judging method and abnormality judging program |
JP4624396B2 (en) * | 2007-10-26 | 2011-02-02 | パナソニック株式会社 | Situation judging device, situation judging method, situation judging program, abnormality judging device, abnormality judging method and abnormality judging program |
JP2011076316A (en) * | 2009-09-30 | 2011-04-14 | Fujifilm Corp | Device, method and program for crowd watching |
US9420236B2 (en) | 2010-07-12 | 2016-08-16 | Hitachi Kokusai Electric Inc. | Monitoring system and monitoring method |
WO2012008176A1 (en) * | 2010-07-12 | 2012-01-19 | 株式会社日立国際電気 | Monitoring system and method of monitoring |
JP2012022370A (en) * | 2010-07-12 | 2012-02-02 | Hitachi Kokusai Electric Inc | Monitoring system and monitoring method |
CN103003844A (en) * | 2010-07-12 | 2013-03-27 | 株式会社日立国际电气 | Monitoring system and method of monitoring |
CN102708573A (en) * | 2012-02-28 | 2012-10-03 | 西安电子科技大学 | Group movement mode detection method under complex scenes |
CN102708573B (en) * | 2012-02-28 | 2015-02-04 | 西安电子科技大学 | Group movement mode detection method under complex scenes |
JP2014225149A (en) * | 2013-05-16 | 2014-12-04 | 日本電信電話株式会社 | Image identification device, image identification method, and image identification program |
CN104574811A (en) * | 2015-01-26 | 2015-04-29 | 李文记 | Alarm for human stampede calamity and related facilities |
KR20200094430A (en) * | 2019-01-30 | 2020-08-07 | 건국대학교 산학협력단 | Video inpainting operating method and apparatus performing the same |
KR102215289B1 (en) * | 2019-01-30 | 2021-02-10 | 건국대학교 산학협력단 | Video inpainting operating method and apparatus performing the same |
WO2023127239A1 (en) * | 2021-12-27 | 2023-07-06 | 株式会社Screenホールディングス | Operation monitoring method and manufacturing device |
Also Published As
Publication number | Publication date |
---|---|
JP4387913B2 (en) | 2009-12-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10872262B2 (en) | Information processing apparatus and information processing method for detecting position of object | |
JP5777311B2 (en) | How to generate high-resolution video from low-resolution video | |
JP5644097B2 (en) | Image processing apparatus, image processing method, and program | |
JP4387913B2 (en) | Abnormality detection device, abnormality detection method and abnormality detection program | |
JP4903596B2 (en) | Signal classification method | |
US8736719B2 (en) | Image processing apparatus and control method for the same | |
CN101326810A (en) | Video image processing device, video image processing, and computer program | |
KR101750094B1 (en) | Method for classification of group behavior by real-time video monitoring | |
JP2012089929A (en) | Object detection apparatus, object detection method, monitoring camera system and program | |
Oh et al. | No-reference sharpness assessment of camera-shaken images by analysis of spectral structure | |
EP2851867A2 (en) | Method and apparatus for filtering an image | |
CN113301409B (en) | Video synthesis method and device, electronic equipment and readable storage medium | |
JP2004282535A (en) | Device for adjusting angle of field | |
JPH0837648A (en) | Motion vector processor | |
JP4578353B2 (en) | Object recognition device | |
US10825160B2 (en) | Spatially dynamic fusion of images of different qualities | |
CN101141655A (en) | Video signal picture element point chromatic value regulation means | |
WO2015168893A1 (en) | Video quality detection method and device | |
CN103096009B (en) | Image processing apparatus and method and image display device and method | |
Ting et al. | Edge preserving interpolation of digital images using fuzzy inference | |
JPWO2011067869A1 (en) | Image processing apparatus and image processing method | |
JP2021005206A (en) | Image processing device, image processing method, and program | |
JP2009116686A (en) | Imaging target detection apparatus and method | |
KR101124878B1 (en) | Method of de-blurring image based on estimated blur radius and apparatus for de-blurring image based on estimated blur radius | |
JP7148462B2 (en) | Image recognition evaluation program, image recognition evaluation method, evaluation device and evaluation system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070726 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090105 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090311 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090924 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091001 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4387913 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121009 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131009 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |