JP2006099241A - Abnormality detection apparatus, abnormality detection method and abnormality detection program - Google Patents

Abnormality detection apparatus, abnormality detection method and abnormality detection program Download PDF

Info

Publication number
JP2006099241A
JP2006099241A JP2004282100A JP2004282100A JP2006099241A JP 2006099241 A JP2006099241 A JP 2006099241A JP 2004282100 A JP2004282100 A JP 2004282100A JP 2004282100 A JP2004282100 A JP 2004282100A JP 2006099241 A JP2006099241 A JP 2006099241A
Authority
JP
Japan
Prior art keywords
flow
pixel
average
abnormality detection
state index
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004282100A
Other languages
Japanese (ja)
Other versions
JP4387913B2 (en
Inventor
Takahiko Niimura
貴彦 新村
Hiroyuki Arai
啓之 新井
Midori Mizukami
緑 水上
Tsuyoshi Nakagawa
剛志 中川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
East Japan Railway Co
NTT Data Group Corp
Original Assignee
NTT Data Corp
East Japan Railway Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Data Corp, East Japan Railway Co filed Critical NTT Data Corp
Priority to JP2004282100A priority Critical patent/JP4387913B2/en
Publication of JP2006099241A publication Critical patent/JP2006099241A/en
Application granted granted Critical
Publication of JP4387913B2 publication Critical patent/JP4387913B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Generation (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Emergency Alarm Devices (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To detect local changes in the state of crowds even in cases where the flow of people is complex in terms of its direction and state and varies greatly with time. <P>SOLUTION: An optical flow calculating part 2 calculates the optical flow (movement vector) of the current frame on the basis of image data 3. A flow time average calculating part 5 sets the optical flow at its absolute value and calculates the time average of the optical flow to obtain pixel flow for each pixel (average in time direction). A block average calculating part 6 averages the pixel flow within each designated block to obtain average flow (average in space direction). An average flow comparing part 10 compares the average flows between the blocks and determines whether or not a difference between the average flows is great according to a threshold designated by a threshold designating part 9. An abnormality detecting part 11 detects a great difference between the average flows as an abnormality. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

本発明は、人が集まる場所で何らかのトラブルが発生した場合に人ごみの状態に変化が起こることに注目し、これを画像処理により検知する異常検知装置、異常検知方法および異常検知プログラムに関する。   The present invention relates to an abnormality detection device, an abnormality detection method, and an abnormality detection program for detecting a change in the state of a crowd when some trouble occurs in a place where people gather, and detecting this by image processing.

人が多く集まる場所では、様々なトラブルが発生し、安全管理、防災の観点からこれらのトラブルを検知し、迅速な対応を行う必要がある。そこで、定点カメラの映像を利用し、トラブルを自動的に検知することにより監視員の負担を軽減する技術に期待が持たれている。   In a place where many people gather, various troubles occur, and it is necessary to detect these troubles from the viewpoints of safety management and disaster prevention, and take prompt measures. Therefore, there is an expectation for a technology that reduces the burden on the observer by automatically detecting troubles using the video of the fixed point camera.

従来技術としては、定点カメラの映像を元に、動きベクトル(オプティカルフロー)を用いるものがある(例えば特許文献1参照)。この従来技術では、正常時の動きベクトルの注目領域(ブロック)内の平均(平均ベクトル)と分散とを求めておき、観測時に算出された平均ベクトルとの差異が大きくなった場合に異常として検知するものである。
特開2001−357484号公報
As a conventional technique, there is a technique that uses a motion vector (optical flow) based on a fixed-point camera image (see, for example, Patent Document 1). In this conventional technique, the average (average vector) and variance of the motion vector in the normal area in the attention area (block) are obtained, and an abnormality is detected when the difference from the average vector calculated at the time of observation increases. To do.
JP 2001-357484 A

上述した従来技術では、道路での車のように流れが固定的な(流れの方向が固定されているような)場合には有効であるが、駅のコンコースにおける人ごみのように、その方向、人数、速度などの状態が時間とともに多様に変化するような場合には適用が困難であるという問題があった。   The above-mentioned conventional technique is effective when the flow is fixed (like the direction of the flow is fixed) like a car on a road, but it is the direction like a crowd at a station concourse. There is a problem that it is difficult to apply when the number of people, the speed, etc. change variously with time.

本発明は、このような事情を考慮してなされたものであり、その目的は、駅のコンコースなどにおける人の流れのように、その方向や状態が複雑でかつ時間とともに多様に変化するような場合にも、人ごみの状態が局所的に変化したことを検知することができる異常検知装置、異常検知方法および異常検知プログラムを提供することにある。   The present invention has been made in consideration of such circumstances, and the purpose of the present invention is to make the direction and state complex and change variously over time, such as the flow of people in a station concourse. Even in such a case, an object of the present invention is to provide an abnormality detection device, an abnormality detection method, and an abnormality detection program that can detect that the state of the crowd has changed locally.

この発明は上記の課題を解決すべくなされたもので、監視対象の動画像をフレーム画像毎に入力する入力手段と、フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出する画素フロー算出手段と、算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出する状態指標算出手段と、前記状態指標に基づいて、前記監視対象の異常を検知する異常検知手段とを具備することを特徴とする異常検知装置である。   The present invention has been made to solve the above-described problems. An input means for inputting a moving image to be monitored for each frame image and an optical flow in each image are obtained in a target area set in advance in the frame image. A pixel flow calculation unit that calculates a pixel flow indicating the movement of each pixel from the optical flow, and a state index that indicates a feature of the spatial distribution of the pixel flow in the frame image is calculated from the calculated pixel flow. An abnormality detection apparatus comprising: a state index calculation unit; and an abnormality detection unit that detects an abnormality of the monitoring target based on the state index.

また、本発明は、上記の発明において、1フレーム画像内に少なくとも2以上の対象領域を設け、前記状態指標算出手段は、前記対象領域内の各画素フローに基づいて、各対象領域の平均フローを算出し、各対象領域の平均フローの差異に基づいて、前記状態指標を算出することを特徴とする。   Further, in the present invention, the present invention provides at least two or more target areas in one frame image, and the state index calculation means calculates the average flow of each target area based on each pixel flow in the target area. And the state index is calculated based on the difference in the average flow of each target region.

また、本発明は、請求項2記載の異常検出装置において、前記状態指標算出手段は、前記対象領域中の各画素フローの分散に基づいて、前記状態指標を算出することを特徴とする。   According to the present invention, in the abnormality detection device according to claim 2, the state index calculation unit calculates the state index based on a variance of each pixel flow in the target region.

また、本発明は、上記の発明において、前記状態指標算出手段は、前記対象領域中の各画素フローにおける空間的な変化に基づいて、前記状態指標を算出することを特徴とする。   Further, the present invention is characterized in that, in the above-mentioned invention, the state index calculating means calculates the state index based on a spatial change in each pixel flow in the target region.

また、本発明は、上記の発明において、前記画素フロー算出手段は、現フレーム画像から過去一定時間における各画素のオプティカルフローの平均を、各画素フローとして算出することを特徴とする。   Further, the present invention is characterized in that, in the above-mentioned invention, the pixel flow calculation means calculates an average of the optical flow of each pixel in a past fixed time from the current frame image as each pixel flow.

また、本発明は、上記の発明において、前記画素フロー算出手段は、各画素のオプティカルフローの絶対値に基づいて前記各画素フローを算出することを特徴とする。   Further, the present invention is characterized in that, in the above-mentioned invention, the pixel flow calculation means calculates each pixel flow based on an absolute value of an optical flow of each pixel.

また、本発明は、監視対象の動画像をフレーム画像毎に入力し、フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出し、算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出し、前記状態指標に基づいて、前記監視対象の異常を検知することを特徴とする異常検知方法である。   Further, the present invention inputs a moving image to be monitored for each frame image, obtains an optical flow in each image in a target region set in advance in the frame image, and indicates the movement of each pixel from the optical flow. Calculating a pixel flow, calculating a state index indicating a feature of a spatial distribution of the pixel flow in the frame image from the calculated pixel flow, and detecting an abnormality of the monitoring target based on the state index Is an abnormality detection method characterized by

また、本発明は、監視対象の動画像をフレーム画像毎に入力するステップと、フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出するステップと、算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出するステップと、前記状態指標に基づいて、前記監視対象の異常を検知するステップとをコンピュータに実行させることを特徴とする異常検知プログラムである。   The present invention also includes a step of inputting a moving image to be monitored for each frame image, an optical flow in each image in a target region preset in the frame image, and a motion of each pixel from the optical flow. A step of calculating a pixel flow indicating the state, a step of calculating a state index indicating a feature of a spatial distribution of the pixel flow in the frame image from the calculated pixel flow, and the monitoring target based on the state index An abnormality detection program for causing a computer to execute a step of detecting an abnormality in the computer.

以上説明したように、異常検知装置は、監視対象の動画像をフレーム画像毎に入力し、フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出し、算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出し、状態指標に基づいて、監視対象の異常を検知する。そのため、対象領域おけるオプティカルフローから算出された画素フローの空間的分布の特徴を示す状態指標から監視対象の異常を検知することが可能となる。それによって、駅のコンコースなどにおける人の流れのように、その方向や状態が複雑でかつ時間とともに多様に変化するような場合にも、人ごみの状態が局所的に変化したことを検知することができるという効果が得られる。   As described above, the anomaly detection apparatus inputs a moving image to be monitored for each frame image, obtains an optical flow in each image in a target region set in advance in the frame image, and from each optical flow, A pixel flow indicating the movement of the pixel is calculated, and from the calculated pixel flow, a state index indicating the characteristics of the spatial distribution of the pixel flow in the frame image is calculated, and an abnormality of the monitoring target is calculated based on the state index. Detect. Therefore, it is possible to detect an abnormality of the monitoring target from the state index indicating the feature of the spatial distribution of the pixel flow calculated from the optical flow in the target region. As a result, it is possible to detect that the state of the crowd has changed locally even when the direction and state of the station is complicated and changes with time, such as the flow of people in a concourse at a station. The effect of being able to be obtained.

また、本発明によれば、異常検知装置は、1フレーム画像内に少なくとも2以上の対象領域を設け、対象領域内の各画素フローに基づいて、各対象領域の平均フローを算出し、各対象領域の平均フローの差異に基づいて、状態指標を算出する。そのため、画素フローを時間方向と空間方向で平均化して求めた平均フローにより、安定した状態指標を比較することができ、監視対象の異常を検知することを容易にすることができる。   According to the present invention, the abnormality detection device provides at least two or more target areas in one frame image, calculates an average flow of each target area based on each pixel flow in the target area, A state index is calculated based on the difference in the average flow of the area. For this reason, it is possible to compare stable state indexes with the average flow obtained by averaging the pixel flow in the time direction and the spatial direction, and to easily detect an abnormality of the monitoring target.

また、本発明によれば、異常検知装置は、対象領域中の各画素フローの分散に基づいて、状態指標を算出する。そのため、対象領域中の画素フローのばらつきを統計的手段により評価し、監視対象の異常を検知することが可能となる。   Further, according to the present invention, the abnormality detection device calculates the state index based on the variance of each pixel flow in the target region. For this reason, it is possible to evaluate the variation in pixel flow in the target area by statistical means and detect an abnormality of the monitoring target.

また、本発明によれば、異常検知装置は、対象領域中の各画素フローにおける空間的な変化に基づいて、状態指標を算出する。そのため、対象領域中の画素フローの空間的な変化、即ち空間的な傾きをハイパスフィルタなどの手段を利用して状態指標を算出することができ、監視対象の異常を検知することが可能となる。   According to the present invention, the abnormality detection device calculates a state index based on a spatial change in each pixel flow in the target region. Therefore, it is possible to calculate a state index using a means such as a high-pass filter for a spatial change of the pixel flow in the target region, that is, a spatial inclination, and to detect an abnormality of the monitoring target. .

また、本発明によれば、異常検知装置は、現フレーム画像から過去一定時間における各画素のオプティカルフローの平均を、各画素フローとして算出する。そのため、平均化によって、状態指標を安定化させることができるという効果が得られる。   Further, according to the present invention, the abnormality detection device calculates the average of the optical flow of each pixel in the past fixed time from the current frame image as each pixel flow. Therefore, the effect that the state index can be stabilized by averaging is obtained.

また、本発明によれば、異常検知装置は、各画素のオプティカルフローの絶対値に基づいて各画素フローを算出する。そのため、様々な方向の流れが混在するような場所でも異常を検知しやすくなるという効果が得られる。   According to the invention, the abnormality detection device calculates each pixel flow based on the absolute value of the optical flow of each pixel. Therefore, it is possible to easily detect an abnormality even in a place where flows in various directions are mixed.

以下、本発明を実施するための最良の形態について説明する。なお、以下の説明において、オプティカルフローとは、対象領域内の画素毎に求められる、所謂動きベクトルであり、現フレーム画像とその直前の前フレーム画像とから求めることができる。また、画素フローとは、オプティカルフローから求められる各画素の動きを示す値であり、後述する第1実施形態では、各オプティカルフローの絶対値を過去一定時間平均することによって画素毎に求められる。また、平均フローとは、上述した対象領域に該当するブロック内の上記画像フローを平均化したものであり、各ブロック毎に求められる。また、状態指標とは、異常か否かを判断するための指標であり、後述する第1実施形態では、ブロック間の平均フローの差異によって求められ、後述する第2実施形態では、対象領域内の画素フローの分散、後述する第3実施形態では、対象領域内の画素フローの空間的な変化によって求められる。   Hereinafter, the best mode for carrying out the present invention will be described. In the following description, the optical flow is a so-called motion vector obtained for each pixel in the target region, and can be obtained from the current frame image and the previous frame image immediately before the current frame image. The pixel flow is a value indicating the movement of each pixel obtained from the optical flow. In the first embodiment described later, the pixel flow is obtained for each pixel by averaging the absolute value of each optical flow for a certain past time. The average flow is obtained by averaging the image flows in the blocks corresponding to the above-described target region, and is obtained for each block. The state index is an index for determining whether or not there is an abnormality. In the first embodiment, which will be described later, the state index is obtained from the difference in average flow between blocks. In the second embodiment, which will be described later, In the third embodiment, which will be described later, the pixel flow distribution is obtained by the spatial change of the pixel flow in the target region.

A.第1実施形態
A−1.第1実施形態の構成
図1は、本発明の第1実施形態の異常検知装置の略構成を示すブロック図である。図1において、画素フロー算出手段100aは、ブロック指定部1、オプティカルフロー算出部2、フロー記録部4およびフロー時間平均算出部5からなる。また、状態指標算出手段101aは、フローのブロック平均算出部6、閾値指定部9および平均フロー比較部10からなる。画素フロー算出手段100aにおいて、ブロック指定部1は、フレーム内の処理対象とする処理対象ブロックを複数指定する。オプティカルフロー算出部2は、複数のフレーム画像系列からなる映像データ3から、現フレームのオプティカルフロー(動きベクトル)を算出する。フロー記録部4は、上記オプティカルフロー算出部2で算出された所定時間分のオプティカルフローを記録する。フロー時間平均算出部5は、オプティカルフローの絶対値化を行うとともに、オプティカルフローの時間平均を算出する。
A. First embodiment A-1. Configuration of First Embodiment FIG. 1 is a block diagram showing a schematic configuration of an abnormality detection apparatus according to a first embodiment of the present invention. In FIG. 1, the pixel flow calculation unit 100 a includes a block designation unit 1, an optical flow calculation unit 2, a flow recording unit 4, and a flow time average calculation unit 5. The state index calculation unit 101a includes a flow block average calculation unit 6, a threshold designation unit 9, and an average flow comparison unit 10. In the pixel flow calculation unit 100a, the block specifying unit 1 specifies a plurality of processing target blocks to be processed in the frame. The optical flow calculation unit 2 calculates an optical flow (motion vector) of the current frame from the video data 3 including a plurality of frame image sequences. The flow recording unit 4 records an optical flow for a predetermined time calculated by the optical flow calculation unit 2. The flow time average calculation unit 5 converts the optical flow into absolute values and calculates the time average of the optical flow.

状態指標算出手段101aにおいて、フローのブロック平均算出部6は、画素毎の時間平均されたフロー、即ち画素フローを各指定ブロック内で平均化する。同図では、指定ブロックとしてブロックAとブロックBについて平均化を行い、ブロックAの平均フロー7とブロックBの平均フロー8を出力する。閾値指定部9は、後述する指定ブロックの平均フローを比較する際の閾値を指定する。平均フロー比較部10は、ブロック間で平均フロー7,8を比較し、閾値指定部9により指定された閾値に従って、平均フロー7,8の差異が大きいか否かを判断する。異常検知部11は、平均フローの差異が大きい場合に異常として検知する。   In the state index calculation unit 101a, the flow block average calculation unit 6 averages the time averaged flow for each pixel, that is, the pixel flow within each designated block. In the figure, averaging is performed for block A and block B as designated blocks, and an average flow 7 of block A and an average flow 8 of block B are output. The threshold designation unit 9 designates a threshold when comparing the average flows of designated blocks described later. The average flow comparison unit 10 compares the average flows 7 and 8 between the blocks, and determines whether or not the difference between the average flows 7 and 8 is large according to the threshold specified by the threshold specification unit 9. The abnormality detection unit 11 detects an abnormality when the difference in the average flow is large.

A−2.第1実施形態の動作
次に、上述した第1実施形態による異常検知装置の動作について説明する。ここで、図2は、本第1実施形態による異常検知装置の動作を説明するためのフローチャートである。
まず、ブロック指定部1により処理対象領域となるブロックを複数指定する(Sa1)。次に、複数のフレーム画像系列からなる映像データのうち、対象となるフレームを1つ進める(Sa2)。次に、オプティカルフロー算出部2により、現フレームのオプティカルフローを算出する(Sa3)。算出されたオプティカルフローは、フロー記録部4に記録される。オプティカルフローは、画像上の座標を(x,y)とした場合、フレームnの座標(x,y)におけるオプティカルフロー=(u,v)n x,yとして算出される。なお、uは、速度ベクトルのx成分であり、vは、速度ベクトルのy成分である。
A-2. Operation of First Embodiment Next, the operation of the abnormality detection device according to the first embodiment described above will be described. Here, FIG. 2 is a flowchart for explaining the operation of the abnormality detection device according to the first embodiment.
First, a plurality of blocks to be processed are specified by the block specifying unit 1 (Sa1). Next, among the video data composed of a plurality of frame image series, the target frame is advanced by one (Sa2). Next, the optical flow calculation unit 2 calculates the optical flow of the current frame (Sa3). The calculated optical flow is recorded in the flow recording unit 4. The optical flow is calculated as optical flow = (u, v) n x, y at the coordinates (x, y) of the frame n, where the coordinates on the image are (x, y). Note that u is the x component of the velocity vector, and v is the y component of the velocity vector.

次に、フロー時間平均算出部5により、フロー記録部4からオプティカルフローを読み出し、x、y成分毎にオプティカルフローの絶対値を算出し(Sa4)、過去一定時間におけるオプティカルフローの時間平均を算出する(Sa5)。オプティカルフローの絶対値は、(|u|,|v|)x,yとなる。また、オプティカルフローの時間平均(過去Nフレーム)は、(U,V)x,y=Σ(|u|,|v|)x,y/Nとなる。なお、k=n−N〜nである。このようにして、オプティカルフローより画素毎の画素フローが算出される。
なお、一般にベクトル(a,b)の絶対値という場合には、ベクトルの長さである√(a+b)を示すことが多いが、本実施形態では、成分ごとの絶対値(|a|,|b|)およびベクトルの長さ√(a+b)の両方どちらを用いてもよい。以下の説明では、成分ごとの絶対値(|a|,|b|)の場合を例に取って説明する。
Next, the flow time average calculation unit 5 reads the optical flow from the flow recording unit 4, calculates the absolute value of the optical flow for each x and y component (Sa4), and calculates the time average of the optical flow in the past fixed time. (Sa5). The absolute value of the optical flow is (| u |, | v |) n x, y. Further, the time average (past N frames) of the optical flow is (U, V) x, y = Σ (| u |, | v |) kx , y / N. Note that k = n−N to n. In this way, the pixel flow for each pixel is calculated from the optical flow.
In general, the absolute value of the vector (a, b) often indicates √ (a 2 + b 2 ) which is the length of the vector, but in this embodiment, the absolute value (| a Either |, | b |) or the vector length √ (a 2 + b 2 ) may be used. In the following description, the case of absolute values for each component (| a |, | b |) will be described as an example.

次に、ブロック平均算出部6により、画素フローを各指定ブロック内で平均し、ブロックAの平均フロー7と、ブロックBの平均フロー8とを求める(Sa6)。画素フローのブロック内の平均(平均フロー)は、ブロックAに対しては、A ̄=(Ua,Va)=Σ(U,V)x,y/Naとなり(NaはブロックAの画素数、x,yはブロックA内の座標)、ブロックBに対しては、B ̄=(Ub,Vb)=Σ(U,V)x,y/Nbとなる(NbはブロックBの画素数、x,yがブロックB内の座標)。なお、時間平均とブロック内平均の順序は前後してもよい。なお、「 ̄」はベクトルであることを示す。   Next, the block average calculation unit 6 averages the pixel flows within each designated block to obtain an average flow 7 of block A and an average flow 8 of block B (Sa6). The average (average flow) within the block of pixel flow is A ̄ = (Ua, Va) = Σ (U, V) x, y / Na for block A (Na is the number of pixels in block A, x and y are coordinates in block A), and for block B, B ̄ = (Ub, Vb) = Σ (U, V) x, y / Nb (Nb is the number of pixels in block B, x , Y are coordinates in block B). The order of the time average and the block average may be reversed. “ ̄” indicates a vector.

ここでの平均フローは、算出されたオプティカルフローの絶対値を各ブロックにおいて時間方向と空間方向で平均をとった結果であり、1ブロックに1つの平均フロー(ベクトル)が算出される。図3(a)は原画像であり、図3(b)は、2つのブロックが指定され、各ブロックごとに平均フローが求められることを示す図である。   The average flow here is the result of averaging the absolute value of the calculated optical flow in the time direction and the spatial direction in each block, and one average flow (vector) is calculated for each block. FIG. 3A is an original image, and FIG. 3B is a diagram showing that two blocks are designated and an average flow is obtained for each block.

次に、平均フロー比較部10により、ブロックAの平均フロー7とブロックBの平均フロー8とを比較し(Sa7)、閾値指定部9により指定された閾値Otに従って、双方の平均フローの差異が大きいか否かを判断し(Sa8)、評価結果を異常検知部11に送信する。平均フローの差異の評価方法の一例としては、O=A ̄・B ̄/max[A ̄・A ̄,B ̄・B ̄](・は内積)を求め、比較結果Oが予め設定した閾値Otより小さいときに差異が大きいと判定する。なお、「 ̄」はベクトルであることを示す。   Next, the average flow comparison unit 10 compares the average flow 7 of the block A with the average flow 8 of the block B (Sa7), and according to the threshold value Ot specified by the threshold value specification unit 9, the difference between both average flows is determined. It is determined whether it is large (Sa8), and the evaluation result is transmitted to the abnormality detection unit 11. As an example of a method for evaluating the difference in average flow, O = A ̄ · B ̄ / max [A ̄ · A ̄, B ̄ · B ̄] (• is an inner product), and the comparison result O is a preset threshold value. When it is smaller than Ot, it is determined that the difference is large. “ ̄” indicates a vector.

なお、比較するブロックは、必要に応じて、3つ以上に拡張可能であり、隣接する場所、空間の特性が同じ(同じ通路上など)など、人の状態の相関が高くなる場所同士を選ぶことが好ましい。   The number of blocks to be compared can be expanded to 3 or more as needed, and adjacent locations and locations where the correlation of the human state is high, such as the same space characteristics (such as on the same passage), are selected. It is preferable.

次に、異常検知部11により、上記評価結果に従って、差異が大きい場合には、異常と検知し(Sa9)、終了条件が満たされたか否かを判断し(Sa10)、終了でなければ、ステップSa2へ戻り、対象フレームを次のフレームへ進め、上述した処理を繰り返す。   Next, when the difference is large according to the evaluation result, the abnormality detection unit 11 detects that the abnormality is detected (Sa9), determines whether the end condition is satisfied (Sa10), and if not, Returning to Sa2, the target frame is advanced to the next frame, and the above-described processing is repeated.

一方、双方の差異が小さい場合には、異常検知することなく、終了条件が満たされたか否かを判断し(Sa10)、終了でなければ、ステップSa2へ戻り、対象フレームを次のフレームへ進め、上述した処理を繰り返す。また、終了条件が満たされた場合には、当該処理を終了する。   On the other hand, if the difference between the two is small, it is determined whether or not the end condition is satisfied without detecting an abnormality (Sa10). If not, the process returns to step Sa2 to advance the target frame to the next frame. The above process is repeated. Further, when the termination condition is satisfied, the process is terminated.

なお、正常時において平均フローが場所により異なる場合(例:ブロックAの人数密度はブロックBの人数密度の40%くらいになる、などの相関を持つ場合)にも本手法を適用することができる。このような場合には、予め正常時の平均フローを算出しておき、その平均フローの大きさがブロック間で等しくなるように規格化しておけばよい。また、画像内での見えの違い、例えば遠いほど小さく見え、遠いほど画像上の動きは遅く見えるという違いなどを、予め補正しておけば、遠近間での比較を安定させることが可能である。   In addition, this method can be applied even when the average flow varies depending on the location at normal times (eg, when the density of people in block A is about 40% of the density of people in block B). . In such a case, a normal average flow may be calculated in advance and normalized so that the size of the average flow is equal between blocks. In addition, it is possible to stabilize the comparison between perspectives by correcting in advance the difference in appearance in the image, for example, the smaller the distance, the smaller the movement on the image, the slower the movement on the image. .

B.第2実施形態
次に、本発明の第2実施形態について説明する。
B−1.第2実施形態の構成
図4は、本第2実施形態による異常検知装置の構成を示すブロック図である。図において、画素フロー算出手段100bは、処理対象領域指定部20、オプティカルフロー算出部21、フロー記録部23およびフロー時間平均算出部24からなる。また、状態指標算出手段101bは、フローのぼかし処理部25、フロー統計量算出部26、閾値指定部27および閾値比較部28からなる。画素フロー算出手段100bにおいて、処理対象領域指定部20は、上述した監視を行う対象領域、即ち処理対象領域を指定する。オプティカルフロー算出部21は、複数のフレーム画像系列からなる映像データ22から、現フレームのオプティカルフローを算出する。フロー記録部23は、上記オプティカルフロー算出部21で算出されたオプティカルフローを記録する。フロー時間平均算出部24は、オプティカルフローの絶対値化を行うとともに、オプティカルフローの時間平均を算出し、画素フローを得る。
B. Second Embodiment Next, a second embodiment of the present invention will be described.
B-1. Configuration of Second Embodiment FIG. 4 is a block diagram showing a configuration of an abnormality detection apparatus according to the second embodiment. In the figure, the pixel flow calculation unit 100 b includes a processing target area designating unit 20, an optical flow calculation unit 21, a flow recording unit 23, and a flow time average calculation unit 24. The state index calculation unit 101 b includes a flow blur processing unit 25, a flow statistic calculation unit 26, a threshold specification unit 27, and a threshold comparison unit 28. In the pixel flow calculation unit 100b, the processing target area designating unit 20 designates the target area to be monitored, that is, the processing target area. The optical flow calculation unit 21 calculates the optical flow of the current frame from the video data 22 including a plurality of frame image series. The flow recording unit 23 records the optical flow calculated by the optical flow calculation unit 21. The flow time average calculation unit 24 converts the optical flow into absolute values and calculates the time average of the optical flow to obtain a pixel flow.

状態指標算出手段101bにおいて、フローのぼかし処理部25は、空間方向にぼかす処理を施す。ぼかし処理には、ガウシアンフィルタなどを用いる。フロー統計量算出部26は、ぼかし処理された処理対象領域内の画素フローのばらつき(分散)を算出する。このように、本第2実施形態では、対象領域内の画素フローのばらつきを評価する手法として、平均、分散或いは標準偏差などの基本的な統計量を用いる方法(統計処理による評価)を採用している。閾値指定部27は、後述する画素フローのばらつきと比較する閾値を指定する。閾値比較部28は、処理対象領域内で画素フローのばらつきを求め、閾値指定部27により指定された閾値に従って、画素フローのばらつきが大きいか否かを判断する。異常検知部29は、画素フローのばらつきが大きい場合に異常として検知する。   In the state index calculation unit 101b, the flow blur processing unit 25 performs a process of blurring in the spatial direction. A Gaussian filter or the like is used for the blurring process. The flow statistic calculation unit 26 calculates the variation (dispersion) of the pixel flow in the processing target area subjected to the blurring process. As described above, in the second embodiment, as a method for evaluating the variation in pixel flow in the target region, a method using basic statistics such as average, variance, or standard deviation (evaluation by statistical processing) is employed. ing. The threshold value designation unit 27 designates a threshold value to be compared with pixel flow variations described later. The threshold comparison unit 28 obtains the variation in pixel flow within the processing target region, and determines whether the variation in pixel flow is large according to the threshold specified by the threshold specification unit 27. The abnormality detection unit 29 detects an abnormality when the variation in pixel flow is large.

B−2.第2実施形態の動作
次に、上述した第2実施形態による異常検知装置の動作について説明する。ここで、図5は、本第2実施形態による異常検知装置の動作を説明するためのフローチャートである。また、図6は、本第2実施形態による異常検知装置の動作を説明するための概念図である。
B-2. Operation of Second Embodiment Next, the operation of the abnormality detection device according to the second embodiment described above will be described. Here, FIG. 5 is a flowchart for explaining the operation of the abnormality detection device according to the second embodiment. FIG. 6 is a conceptual diagram for explaining the operation of the abnormality detection device according to the second embodiment.

まず、複数のフレーム画像系列からなる映像データのうち、対象となるフレームを1つ進める(Sb1)。次に、オプティカルフロー算出部21により、処理対象領域指定部20により指定された処理対象領域に従って、現フレームのオプティカルフローを算出する(Sb2)。算出されたオプティカルフローは、フロー記録部23に記録される。オプティカルフローは、画像上の座標を(x,y)とした場合、フレームnの座標(x,y)におけるオプティカルフロー=(u,v)n x,yとして算出される。なお、uは、速度ベクトルのx成分であり、vは、速度ベクトルのy成分である。 First, among the video data composed of a plurality of frame image series, the target frame is advanced by one (Sb1). Next, the optical flow calculation unit 21 calculates the optical flow of the current frame according to the processing target area specified by the processing target area specifying unit 20 (Sb2). The calculated optical flow is recorded in the flow recording unit 23. The optical flow is calculated as optical flow = (u, v) n x, y at the coordinates (x, y) of the frame n, where the coordinates on the image are (x, y). Note that u is the x component of the velocity vector, and v is the y component of the velocity vector.

次に、フロー時間平均算出部24により、フロー記録部23からオプティカルフローを読み出し、x、y成分毎にオプティカルフローの絶対値を算出し(Sb3)、過去一定時間におけるオプティカルフローの時間平均を算出する(Sb4)。オプティカルフローの絶対値は、(|u|,|v|)x,yとなる。また、オプティカルフローの時間平均(過去Nフレーム)は、(U,V)x,y=Σ(|u|,|v|)x,yとなる。なお、k=n−N〜n)である。このようにして、オプティカルフローから画素毎の画素フローが得られる。 Next, the flow time average calculation unit 24 reads the optical flow from the flow recording unit 23, calculates the absolute value of the optical flow for each of the x and y components (Sb3), and calculates the time average of the optical flow in a past fixed time. (Sb4). The absolute value of the optical flow is (| u |, | v |) n x, y. Further, the time average (past N frames) of the optical flow is (U, V) x, y = Σ (| u |, | v |) k x, y. Note that k = n−N to n). In this way, a pixel flow for each pixel is obtained from the optical flow.

次に、ぼかし処理部25により、画素フローに対して空間方向にぼかし処理を施す(Sb5)。ここでの画素フローは、算出されたオプティカルフローの絶対値を、時間方向の平均とぼかし処理(近隣画素での重み付き平均に相当)とを行った結果であり、処理対象領域内の各画素において画素フロー(ベクトル)が算出される(図6(a)の矢印を参照)。   Next, the blurring processing unit 25 blurs the pixel flow in the spatial direction (Sb5). The pixel flow here is the result of performing the time direction average and blurring processing (equivalent to the weighted average of neighboring pixels) on the absolute value of the calculated optical flow, and each pixel in the processing target area The pixel flow (vector) is calculated at (see the arrow in FIG. 6A).

次に、フロー統計量算出部26により、ぼかし処理された処理対象領域内の画素フローのばらつき(分散)を算出する(Sb6)。ここで、図6(b)に、各画素での画素フローx成分の絶対値|u|に対する処理対象領域内での出現頻度を示す。なお、画素フローx成分の絶対値|u|は、各画素での画素フローy成分の絶対値|v|であっても、各画素での画素フローの絶対値√(u+v)であってもよい。但し、u,vは、空間方向、時間方向にぼかした(平滑化または平均化)後の画素フローの値である。 Next, the flow statistic calculation unit 26 calculates the variation (dispersion) of the pixel flow in the processing target area subjected to the blurring process (Sb6). Here, FIG. 6B shows the appearance frequency in the processing target region with respect to the absolute value | u | of the pixel flow x component in each pixel. Note that the absolute value | u | of the pixel flow x component is the absolute value √ (u 2 + v 2 ) of the pixel flow at each pixel even if it is the absolute value | v | of the pixel flow y component at each pixel. There may be. However, u and v are pixel flow values after being blurred (smoothed or averaged) in the spatial direction and the temporal direction.

次に、閾値比較部28により、処理対象領域間で画素フローのばらつきを求め、閾値指定部27により指定された閾値に従って、画素フローのばらつきが大きいか否かを判断し(Sb7)、評価結果を異常検知部29に送信する。次に、異常検知部29により、上記評価結果に従って、画素フローのばらつきが大きい場合には、異常と検知し(Sb8)、終了条件が満たされたか否かを判断し(Sb9)、終了でなければ、ステップSb1へ戻り、対象フレームを次のフレームへ進め、上述した処理を繰り返す。   Next, the threshold value comparison unit 28 obtains the variation in pixel flow between the processing target regions, determines whether the variation in pixel flow is large according to the threshold value designated by the threshold value designation unit 27 (Sb7), and the evaluation result Is transmitted to the abnormality detection unit 29. Next, when the variation in pixel flow is large according to the evaluation result, the abnormality detection unit 29 detects that the abnormality is present (Sb8), determines whether or not the termination condition is satisfied (Sb9), and ends the process. For example, the process returns to step Sb1, the target frame is advanced to the next frame, and the above-described processing is repeated.

一方、双方の差異が小さい場合には、異常検知することなく、終了条件が満たされたか否かを判断し(Sb9)、終了でなければ、ステップSb1へ戻り、対象フレームを次のフレームへ進め、上述した処理を繰り返す。また、終了条件が満たされた場合には、当該処理を終了する。   On the other hand, if the difference between the two is small, it is determined whether or not the end condition is satisfied without detecting an abnormality (Sb9). If not, the process returns to step Sb1 to advance the target frame to the next frame. The above process is repeated. Further, when the termination condition is satisfied, the process is terminated.

なお、画像内での見えの違い(遠いほど小さく見え、遠いほど画像上の動きは遅く見える)を、予め補正しておけば、遠近両方を含む範囲に対する処理結果を安定させることが可能である。また、正常時において処理対象領域内に発生する画素フローが場所により異なる場合(例:左上の人数密度は右下の人数密度の40%くらいになる、など相関を持つ場合)に本手法を拡張することができる。このような場合は、予め正常時の画素フローを算出しておき、その画素フローの大きさを処理対象領域内で規格化しておけばよい。   In addition, if the difference in appearance in the image (the farther it looks, the smaller the movement, and the farther the movement on the image looks slower) is corrected in advance, it is possible to stabilize the processing results for the range including both near and far. . In addition, this method is expanded when the pixel flow that occurs in the processing target area in normal conditions varies depending on the location (for example, the upper left person density is about 40% of the lower right person density). can do. In such a case, the normal pixel flow may be calculated in advance, and the size of the pixel flow may be normalized within the processing target area.

C.第3実施形態
次に、本発明の第3実施形態について説明する。なお、本第3実施形態による異常検知装置は、図4に示す構成において、フロー統計量算出部26で、空間的な傾きを検出することが異なるだけであるので説明を省略する。このように、本第3実施形態では、上述した監視を行う対象領域、即ち処理対象領域内の画素フローのばらつきを評価する手法として、Sobelフィルタなどの微分フィルタ(ハイパスフィルタ)処理を施し、処理対象領域内での画素フローの大きさの空間方向の急激な変化(変化量あるいは変化率)を検出する方法を採用している。
C. Third Embodiment Next, a third embodiment of the present invention will be described. The abnormality detection device according to the third embodiment is different from the configuration shown in FIG. 4 except that the flow statistic calculation unit 26 detects a spatial inclination. As described above, in the third embodiment, as a technique for evaluating the variation of the pixel flow in the target region to be monitored, that is, the processing target region, a differential filter (high-pass filter) process such as a Sobel filter is performed, A method of detecting a rapid change (amount of change or rate of change) in the spatial direction of the magnitude of the pixel flow within the target region is employed.

C−1.第3実施形態の動作
次に、上述した第3実施形態による異常検知装置の動作について説明する。ここで、図7は、本第3実施形態による異常検知装置の動作を説明するためのフローチャートである。また、図8は、本第3実施形態による異常検知装置の動作を説明するための概念図である。
C-1. Operation of Third Embodiment Next, the operation of the abnormality detection device according to the third embodiment described above will be described. Here, FIG. 7 is a flowchart for explaining the operation of the abnormality detection apparatus according to the third embodiment. FIG. 8 is a conceptual diagram for explaining the operation of the abnormality detection device according to the third embodiment.

まず、複数のフレーム画像系列からなる映像データのうち、対象となるフレームを1つ進める(Sc1)。次に、オプティカルフロー算出部21により、処理対象領域指定部20により指定された処理対象領域に従って、現フレームのオプティカルフローを算出する(Sc2)。   First, among the video data composed of a plurality of frame image series, the target frame is advanced by one (Sc1). Next, the optical flow calculation unit 21 calculates the optical flow of the current frame according to the processing target area specified by the processing target area specifying unit 20 (Sc2).

次に、フロー時間平均算出部24により、フロー記録部23からオプティカルフローを読み出し、x、y成分毎にオプティカルフローの絶対値を算出し(Sc3)、過去一定時間におけるオプティカルフローの時間平均を算出する(Sc4)。次に、ぼかし処理部25により、画素フローに対して空間方向にぼかし処理を施す(Sc5)。ここでの画素フローは、算出されたオプティカルフローの絶対値を、時間方向の平均とぼかし処理(近隣画素での重み付き平均に相当)とを行った結果であり、処理対象領域内の各画素において画素フロー(ベクトル)が算出される(図8(a)の矢印を参照)。この画素フローを画像として見ると、図8(b)に示すように、絶対値が大きいほど高い値(明るい)となる。   Next, the flow time average calculation unit 24 reads the optical flow from the flow recording unit 23, calculates the absolute value of the optical flow for each of the x and y components (Sc3), and calculates the time average of the optical flow for a certain past time. (Sc4). Next, the blurring processing unit 25 blurs the pixel flow in the spatial direction (Sc5). The pixel flow here is the result of performing the time direction average and blurring processing (equivalent to the weighted average of neighboring pixels) on the absolute value of the calculated optical flow, and each pixel in the processing target area The pixel flow (vector) is calculated at (see the arrow in FIG. 8A). When this pixel flow is viewed as an image, as shown in FIG. 8B, the larger the absolute value, the higher the value (brighter).

次に、フロー統計量算出部26により、ぼかし処理された処理対象領域内の画素フローの空間的な傾きを算出する(Sc6)。空間的な傾きは、Sobelフィルタなどの微分フィルタ(ハイパスフィルタ)処理を施すことで、処理対象領域内での画素フローの大きさの空間方向の急激な変化として検出される。なお、Sobelフィルタの出力値は、絶対値化する。ここで、図8(c)に、x方向の傾き:dx、y方向の傾き:dy、画素フローの絶対値√(dx+dy)を示す。なお、Sobelフィルタ以外にも、さまざまな傾き検出フィルタが存在するが、どのような検出フィルタを用いるかに限定されない。 Next, the flow statistic calculation unit 26 calculates the spatial inclination of the pixel flow in the processing target area subjected to the blurring process (Sc6). The spatial inclination is detected as a rapid change in the spatial direction of the size of the pixel flow in the processing target region by performing a differential filter (high-pass filter) process such as a Sobel filter. The output value of the Sobel filter is converted to an absolute value. Here, FIG. 8C shows the inclination in the x direction: dx, the inclination in the y direction: dy, and the absolute value √ (dx 2 + dy 2 ) of the pixel flow. In addition to the Sobel filter, there are various inclination detection filters, but the detection filter is not limited to what type.

次に、閾値比較部28により、処理対象領域内で画素フローの傾きを求め、閾値指定部27により指定された閾値に従って、画素フローの傾きが大きいか否か、すなわち閾値を超える値があるか否かを判断し(Sc7)、評価結果を異常検知部29に送信する。次に、異常検知部29により、上記評価結果に従って、画素フローの傾きが大きい場合には、異常と検知し(Sc8)、終了条件が満たされたか否かを判断し(Sc9)、終了でなければ、ステップSc1へ戻り、対象フレームを次のフレームへ進め、上述した処理を繰り返す。   Next, the inclination of the pixel flow is obtained within the processing target area by the threshold comparison unit 28, and whether the inclination of the pixel flow is large according to the threshold specified by the threshold specification unit 27, that is, whether there is a value exceeding the threshold It is determined whether or not (Sc7), and the evaluation result is transmitted to the abnormality detection unit 29. Next, when the inclination of the pixel flow is large according to the evaluation result, the abnormality detection unit 29 detects that the pixel flow is abnormal (Sc8), determines whether the end condition is satisfied (Sc9), and ends the process. For example, the process returns to step Sc1, the target frame is advanced to the next frame, and the above-described processing is repeated.

一方、双方の差異が小さい場合には、異常検知することなく、終了条件が満たされたか否かを判断し(Sc9)、終了でなければ、ステップSc1へ戻り、対象フレームを次のフレームへ進め、上述した処理を繰り返す。また、終了条件が満たされた場合には、当該処理を終了する。   On the other hand, if the difference between the two is small, it is determined whether or not the end condition is satisfied without detecting an abnormality (Sc9). If not, the process returns to step Sc1 to advance the target frame to the next frame. The above process is repeated. Further, when the termination condition is satisfied, the process is terminated.

なお、上述した実施形態において、画素フローの空間的な傾きを算出するためのフィルタのサイズは、検出したい事象のサイズと合わせる必要がある。例えば、100画素程度の範囲で異常が起こるとすると、フィルタもそのサイズを検出できるようにする必要がある。最も簡単なのは画像サイズを縮小して、フィルタの感度(サイズ)と事象の空間サイズをおおよそあわせておくことである。   In the above-described embodiment, the size of the filter for calculating the spatial gradient of the pixel flow needs to be matched with the size of the event to be detected. For example, if an abnormality occurs in a range of about 100 pixels, the filter needs to be able to detect its size. The simplest is to reduce the image size so that the sensitivity (size) of the filter and the spatial size of the event are roughly matched.

なお、上述した実施形態においては、オプティカルフロー算出部2(21)、フロー時間平均算出部5(24)、ブロック平均算出部6、平均フロー比較部10、異常検知部11(29)、フロー統計量算出部26、閾値比較部28などは、コンピュータシステム内で実行される。そして、上述した制御部1、画像処理部5、演算部6による一連の処理の過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータが読み出して実行することによって、上記処理が行われる。すなわち、オプティカルフロー算出部2(21)、フロー時間平均算出部5(24)、ブロック平均算出部6、平均フロー比較部10、異常検知部11(29)、フロー統計量算出部26、閾値比較部28は、CPU等の中央演算処理装置がROMやRAM等の主記憶装置に上記プログラムを読み出して、情報の加工・演算処理を実行することにより、実現されるものである。   In the above-described embodiment, the optical flow calculation unit 2 (21), the flow time average calculation unit 5 (24), the block average calculation unit 6, the average flow comparison unit 10, the abnormality detection unit 11 (29), the flow statistics The quantity calculation unit 26, the threshold comparison unit 28, and the like are executed in the computer system. The series of processes by the control unit 1, the image processing unit 5, and the calculation unit 6 are stored in a computer-readable recording medium in the form of a program, and the computer reads and executes the program. Thus, the above processing is performed. That is, optical flow calculation unit 2 (21), flow time average calculation unit 5 (24), block average calculation unit 6, average flow comparison unit 10, abnormality detection unit 11 (29), flow statistic calculation unit 26, threshold comparison The unit 28 is realized when a central processing unit such as a CPU reads the above program into a main storage device such as a ROM or RAM and executes information processing / arithmetic processing.

ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等をいう。また、このコンピュータプログラムを通信回線によってコンピュータに配信し、この配信を受けたコンピュータが当該プログラムを実行するようにしても良い。   Here, the computer-readable recording medium means a magnetic disk, a magneto-optical disk, a CD-ROM, a DVD-ROM, a semiconductor memory, or the like. Alternatively, the computer program may be distributed to the computer via a communication line, and the computer that has received the distribution may execute the program.

本発明の第1実施形態の異常検知装置の略構成を示すブロック図である。It is a block diagram which shows the schematic structure of the abnormality detection apparatus of 1st Embodiment of this invention. 本第1実施形態による異常検知装置の動作を説明するためのフローチャートである。It is a flowchart for demonstrating operation | movement of the abnormality detection apparatus by this 1st Embodiment. 本第1実施形態による異常検知装置の動作を説明するための概念図である。It is a conceptual diagram for demonstrating operation | movement of the abnormality detection apparatus by this 1st Embodiment. 本第2実施形態による異常検知装置の構成を示すブロック図である。It is a block diagram which shows the structure of the abnormality detection apparatus by this 2nd Embodiment. 本第2実施形態による異常検知装置の動作を説明するためのフローチャートである。It is a flowchart for demonstrating operation | movement of the abnormality detection apparatus by this 2nd Embodiment. 本第2実施形態による異常検知装置の動作を説明するための概念図である。It is a conceptual diagram for demonstrating operation | movement of the abnormality detection apparatus by this 2nd Embodiment. 本第3実施形態による異常検知装置の動作を説明するためのフローチャートである。It is a flowchart for demonstrating operation | movement of the abnormality detection apparatus by this 3rd Embodiment. 本第3実施形態による異常検知装置の動作を説明するための概念図である。It is a conceptual diagram for demonstrating operation | movement of the abnormality detection apparatus by this 3rd Embodiment.

符号の説明Explanation of symbols

1…ブロック指定部
2,21…オプティカルフロー算出部
3,22…映像データ
4,23…フロー記録部
5,24…フロー時間平均算出部
6…ブロック平均算出部
7,8…平均フロー
9,27…閾値指定部
10…平均フロー比較部
11,29…異常検知部(異常検知手段)
20…処理対象領域指定部
25…ぼかし処理部
26…フロー統計量算出部
28…閾値比較部
100a…画素フロー算出手段
101a…状態指標算出手段
100b…画素フロー算出手段
101b…状態指標算出手段

DESCRIPTION OF SYMBOLS 1 ... Block designation | designated part 2,21 ... Optical flow calculation part 3,22 ... Video data 4,23 ... Flow recording part 5,24 ... Flow time average calculation part 6 ... Block average calculation part 7,8 ... Average flow 9,27 ... threshold designation unit 10 ... average flow comparison unit 11, 29 ... abnormality detection unit (abnormality detection means)
20 ... Processing target area designating unit 25 ... Blur processing unit 26 ... Flow statistic calculation unit 28 ... Threshold comparison unit 100a ... Pixel flow calculation means 101a ... State index calculation means 100b ... Pixel flow calculation means 101b ... State index calculation means

Claims (8)

監視対象の動画像をフレーム画像毎に入力する入力手段と、
フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出する画素フロー算出手段と、
算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出する状態指標算出手段と、
前記状態指標に基づいて、前記監視対象の異常を検知する異常検知手段と
を具備することを特徴とする異常検知装置。
An input means for inputting a moving image to be monitored for each frame image;
A pixel flow calculation means for obtaining an optical flow in each image in a target region set in advance in the frame image, and calculating a pixel flow indicating the movement of each pixel from the optical flow;
State index calculation means for calculating a state index indicating the characteristics of the spatial distribution of the pixel flow in the frame image from the calculated pixel flow;
An abnormality detection device comprising: an abnormality detection unit that detects an abnormality of the monitoring target based on the state index.
1フレーム画像内に少なくとも2以上の対象領域を設け、
前記状態指標算出手段は、
前記対象領域内の各画素フローに基づいて、各対象領域の平均フローを算出し、
各対象領域の平均フローの差異に基づいて、前記状態指標を算出することを特徴とする請求項1記載の異常検出装置。
Provide at least two target areas in one frame image,
The state index calculating means includes
Based on each pixel flow in the target area, calculate the average flow of each target area,
The abnormality detection device according to claim 1, wherein the state index is calculated based on a difference in average flow of each target region.
前記状態指標算出手段は、
前記対象領域中の各画素フローの分散に基づいて、前記状態指標を算出することを特徴とする請求項2記載の異常検出装置。
The state index calculating means includes
The abnormality detection device according to claim 2, wherein the state index is calculated based on a variance of each pixel flow in the target region.
前記状態指標算出手段は、
前記対象領域中の各画素フローにおける空間的な変化に基づいて、前記状態指標を算出することを特徴とする請求項2記載の異常検出装置。
The state index calculating means includes
The abnormality detection device according to claim 2, wherein the state index is calculated based on a spatial change in each pixel flow in the target region.
前記画素フロー算出手段は、
現フレーム画像から過去一定時間における各画素のオプティカルフローの平均を、各画素フローとして算出することを特徴とする請求項1ないし4のいずれかに記載の異常検出装置。
The pixel flow calculation means includes
5. The abnormality detection device according to claim 1, wherein an average of the optical flow of each pixel in a past predetermined time from the current frame image is calculated as each pixel flow.
前記画素フロー算出手段は、
各画素のオプティカルフローの絶対値に基づいて前記各画素フローを算出することを特徴とする請求項1ないし5のいずれかに記載の異常検出装置。
The pixel flow calculation means includes
6. The abnormality detection device according to claim 1, wherein each pixel flow is calculated based on an absolute value of an optical flow of each pixel.
監視対象の動画像をフレーム画像毎に入力し、
フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出し、
算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出し、
前記状態指標に基づいて、前記監視対象の異常を検知することを特徴とする異常検知方法。
Input a moving image to be monitored for each frame image,
In a target region set in advance in the frame image, an optical flow in each image is obtained, and a pixel flow indicating movement of each pixel is calculated from the optical flow,
From the calculated pixel flow, a state index indicating the characteristics of the spatial distribution of the pixel flow in the frame image is calculated,
An abnormality detection method, comprising: detecting an abnormality of the monitoring target based on the state index.
監視対象の動画像をフレーム画像毎に入力するステップと、
フレーム画像内に予め設定された対象領域において、各画像におけるオプティカルフローを求め、当該オプティカルフローから、各画素の動きを示す画素フローを算出するステップと、
算出された画素フローから、フレーム画像中の画素フローの空間的な分布の特徴を示す状態指標を算出するステップと、
前記状態指標に基づいて、前記監視対象の異常を検知するステップと
をコンピュータに実行させることを特徴とする異常検知プログラム。
Inputting a moving image to be monitored for each frame image;
Obtaining an optical flow in each image in a target region set in advance in a frame image, and calculating a pixel flow indicating movement of each pixel from the optical flow;
Calculating a state index indicating the characteristics of the spatial distribution of the pixel flow in the frame image from the calculated pixel flow;
An abnormality detection program that causes a computer to execute the step of detecting an abnormality of the monitoring target based on the state index.
JP2004282100A 2004-09-28 2004-09-28 Abnormality detection device, abnormality detection method and abnormality detection program Expired - Fee Related JP4387913B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004282100A JP4387913B2 (en) 2004-09-28 2004-09-28 Abnormality detection device, abnormality detection method and abnormality detection program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004282100A JP4387913B2 (en) 2004-09-28 2004-09-28 Abnormality detection device, abnormality detection method and abnormality detection program

Publications (2)

Publication Number Publication Date
JP2006099241A true JP2006099241A (en) 2006-04-13
JP4387913B2 JP4387913B2 (en) 2009-12-24

Family

ID=36239015

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004282100A Expired - Fee Related JP4387913B2 (en) 2004-09-28 2004-09-28 Abnormality detection device, abnormality detection method and abnormality detection program

Country Status (1)

Country Link
JP (1) JP4387913B2 (en)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2443739A (en) * 2006-11-13 2008-05-14 Bosch Gmbh Robert Detecting image regions of salient motion
JP2009110054A (en) * 2007-10-26 2009-05-21 Panasonic Corp Situation judging device, situation judging method, situation judging program, abnormality judging device, abnormality judging method and abnormality judging program
JP2011076316A (en) * 2009-09-30 2011-04-14 Fujifilm Corp Device, method and program for crowd watching
WO2012008176A1 (en) * 2010-07-12 2012-01-19 株式会社日立国際電気 Monitoring system and method of monitoring
CN102708573A (en) * 2012-02-28 2012-10-03 西安电子科技大学 Group movement mode detection method under complex scenes
JP2014225149A (en) * 2013-05-16 2014-12-04 日本電信電話株式会社 Image identification device, image identification method, and image identification program
CN104574811A (en) * 2015-01-26 2015-04-29 李文记 Alarm for human stampede calamity and related facilities
KR20200094430A (en) * 2019-01-30 2020-08-07 건국대학교 산학협력단 Video inpainting operating method and apparatus performing the same
WO2023127239A1 (en) * 2021-12-27 2023-07-06 株式会社Screenホールディングス Operation monitoring method and manufacturing device

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103810195B (en) * 2012-11-09 2017-12-12 中国电信股份有限公司 index generation method and system

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2443739B (en) * 2006-11-13 2009-02-25 Bosch Gmbh Robert Method for detecting image regions of salient motion, apparatus and computer program for executing the method
US8068640B2 (en) 2006-11-13 2011-11-29 Robert Bosch Gmbh Method for detecting image regions that are conspicuous in terms of the movement in them; apparatus and computer program for performing the method
GB2443739A (en) * 2006-11-13 2008-05-14 Bosch Gmbh Robert Detecting image regions of salient motion
JP2009110054A (en) * 2007-10-26 2009-05-21 Panasonic Corp Situation judging device, situation judging method, situation judging program, abnormality judging device, abnormality judging method and abnormality judging program
JP4624396B2 (en) * 2007-10-26 2011-02-02 パナソニック株式会社 Situation judging device, situation judging method, situation judging program, abnormality judging device, abnormality judging method and abnormality judging program
JP2011076316A (en) * 2009-09-30 2011-04-14 Fujifilm Corp Device, method and program for crowd watching
US9420236B2 (en) 2010-07-12 2016-08-16 Hitachi Kokusai Electric Inc. Monitoring system and monitoring method
WO2012008176A1 (en) * 2010-07-12 2012-01-19 株式会社日立国際電気 Monitoring system and method of monitoring
JP2012022370A (en) * 2010-07-12 2012-02-02 Hitachi Kokusai Electric Inc Monitoring system and monitoring method
CN103003844A (en) * 2010-07-12 2013-03-27 株式会社日立国际电气 Monitoring system and method of monitoring
CN102708573A (en) * 2012-02-28 2012-10-03 西安电子科技大学 Group movement mode detection method under complex scenes
CN102708573B (en) * 2012-02-28 2015-02-04 西安电子科技大学 Group movement mode detection method under complex scenes
JP2014225149A (en) * 2013-05-16 2014-12-04 日本電信電話株式会社 Image identification device, image identification method, and image identification program
CN104574811A (en) * 2015-01-26 2015-04-29 李文记 Alarm for human stampede calamity and related facilities
KR20200094430A (en) * 2019-01-30 2020-08-07 건국대학교 산학협력단 Video inpainting operating method and apparatus performing the same
KR102215289B1 (en) * 2019-01-30 2021-02-10 건국대학교 산학협력단 Video inpainting operating method and apparatus performing the same
WO2023127239A1 (en) * 2021-12-27 2023-07-06 株式会社Screenホールディングス Operation monitoring method and manufacturing device

Also Published As

Publication number Publication date
JP4387913B2 (en) 2009-12-24

Similar Documents

Publication Publication Date Title
US10872262B2 (en) Information processing apparatus and information processing method for detecting position of object
JP5777311B2 (en) How to generate high-resolution video from low-resolution video
JP5644097B2 (en) Image processing apparatus, image processing method, and program
JP4387913B2 (en) Abnormality detection device, abnormality detection method and abnormality detection program
JP4903596B2 (en) Signal classification method
US8736719B2 (en) Image processing apparatus and control method for the same
CN101326810A (en) Video image processing device, video image processing, and computer program
KR101750094B1 (en) Method for classification of group behavior by real-time video monitoring
JP2012089929A (en) Object detection apparatus, object detection method, monitoring camera system and program
Oh et al. No-reference sharpness assessment of camera-shaken images by analysis of spectral structure
EP2851867A2 (en) Method and apparatus for filtering an image
CN113301409B (en) Video synthesis method and device, electronic equipment and readable storage medium
JP2004282535A (en) Device for adjusting angle of field
JPH0837648A (en) Motion vector processor
JP4578353B2 (en) Object recognition device
US10825160B2 (en) Spatially dynamic fusion of images of different qualities
CN101141655A (en) Video signal picture element point chromatic value regulation means
WO2015168893A1 (en) Video quality detection method and device
CN103096009B (en) Image processing apparatus and method and image display device and method
Ting et al. Edge preserving interpolation of digital images using fuzzy inference
JPWO2011067869A1 (en) Image processing apparatus and image processing method
JP2021005206A (en) Image processing device, image processing method, and program
JP2009116686A (en) Imaging target detection apparatus and method
KR101124878B1 (en) Method of de-blurring image based on estimated blur radius and apparatus for de-blurring image based on estimated blur radius
JP7148462B2 (en) Image recognition evaluation program, image recognition evaluation method, evaluation device and evaluation system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070726

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090311

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090924

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091001

R150 Certificate of patent or registration of utility model

Ref document number: 4387913

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121009

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131009

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees