JP4209826B2 - Traffic flow monitoring device - Google Patents

Traffic flow monitoring device Download PDF

Info

Publication number
JP4209826B2
JP4209826B2 JP2004284086A JP2004284086A JP4209826B2 JP 4209826 B2 JP4209826 B2 JP 4209826B2 JP 2004284086 A JP2004284086 A JP 2004284086A JP 2004284086 A JP2004284086 A JP 2004284086A JP 4209826 B2 JP4209826 B2 JP 4209826B2
Authority
JP
Japan
Prior art keywords
block
moving direction
traffic flow
moving
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004284086A
Other languages
Japanese (ja)
Other versions
JP2006099373A (en
Inventor
隆宏 三原
浩朗 富田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2004284086A priority Critical patent/JP4209826B2/en
Publication of JP2006099373A publication Critical patent/JP2006099373A/en
Application granted granted Critical
Publication of JP4209826B2 publication Critical patent/JP4209826B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

この発明は、自動車交通流における監視範囲内の避走停止車両・落下物の存在などを画像処理により検出する交通流監視装置に関するものである。   The present invention relates to a traffic flow monitoring device that detects by image processing the presence of a vehicle that has stopped running within a monitoring range in an automobile traffic flow, the presence of a fallen object, and the like.

交通流計測のうち避走車両検出手法の一つとして、個別車両を検出して、一定時間の移動量から避走を判定するという手法があった。
しかし、この手法では、個別車両を認識する必要があり、個別車両が認識できないと判定精度が低下するという問題があった。
また、落下物検出においては、画像内で落下物の大きさがある程度の画素を確保できない場合、映像ノイズ、もしくは、構造物による影と判定され、画面奥の微小な落下物を見つけられない場合があった。
特許文献1では、遠隔監視カメラで撮像された画像の動きベクトルと、動きベクトルの向きをブロック毎に計算し、この動きベクトルの向きと、予め検出されている平常時の動きベクトルの向きの平均とを比較して、所定量以上ずれているブロックがある場合に、越波などの道路異常と判断するものが、記載されている。
As one of the avoidance vehicle detection methods in the traffic flow measurement, there is a method of detecting an individual vehicle and determining avoidance from the amount of movement for a certain time.
However, in this method, it is necessary to recognize the individual vehicle, and there is a problem that the determination accuracy is lowered if the individual vehicle cannot be recognized.
In addition, in falling object detection, if the size of the falling object cannot be secured to some extent in the image, it is judged as image noise or a shadow due to the structure, and a minute falling object in the back of the screen cannot be found. was there.
In Patent Document 1, the motion vector of an image captured by a remote monitoring camera and the direction of the motion vector are calculated for each block, and the average of the direction of the motion vector and the direction of the normal motion vector detected in advance is calculated. If there is a block that is shifted by a predetermined amount or more, it is described that the road is abnormal such as overtopping.

特開2001−357484号公報(第3〜4頁、図1)JP 2001-357484 A (pages 3 to 4, FIG. 1)

従来の避走車両・落下物判定法では、避走車両を検出するには、個別認識した車両の移動軌跡を計測することが必要である。
また、落下物検出においては、画面奥の微小な画素の落下物をノイズとして見逃すという問題があった。
また、特許文献1のものでは、道路異常検出の基準を、予め検出されている平常時の動きベクトルの向きの平均としたため、平均値が一定しない場合や、動作開始時初期での動きベクトル蓄積量が少ないとき、動きベクトルの分散値が容易に変動しやすいため、検出精度の低下を招くという問題があった。
In the conventional avoidance vehicle / falling object determination method, in order to detect the avoidance vehicle, it is necessary to measure the movement trajectory of the individually recognized vehicle.
Moreover, in the fallen object detection, there is a problem that a fallen object with a minute pixel at the back of the screen is overlooked as noise.
Moreover, in the thing of patent document 1, since the reference | standard of road abnormality detection was made into the average of the direction of the normal motion vector detected in advance, when the average value is not constant, motion vector accumulation | storage at the beginning of operation start When the amount is small, the variance value of the motion vector is likely to fluctuate easily, resulting in a problem that the detection accuracy is lowered.

この発明は、上述のような課題を解決するためになされたものであり、個別車両を認識することなく、避走車両や停止車両などを効率よく検出できる交通流監視装置を得ることを目的にしている。   The present invention has been made to solve the above-described problems, and an object of the present invention is to provide a traffic flow monitoring device that can efficiently detect a avoiding vehicle or a stopped vehicle without recognizing an individual vehicle. ing.

この発明に係わる交通流監視装置においては、所定の周期で道路状態を撮像する画像撮像手段、この画像撮像手段により撮像された画像がブロック分割された各ブロック毎に物体の移動方向を追跡する物体追跡手段、画像の各ブロック毎に道路形状に応じた基本物体移動方向を予め設定する基本物体進行方向設定手段、この基本物体進行方向設定手段により設定されたブロック毎の基本物体移動方向と、物体追跡手段により追跡されたブロック毎の物体の移動方向とをブロック毎に比較し、移動方向差が第一の値以上のブロックを避走ブロックとして設定する物体移動方向比較手段、この物体移動方向比較手段により設定された避走ブロックに隣接するブロックが避走ブロックである場合に隣接する避走ブロック同士を連結する避走ブロック連結処理部、及びこの避走ブロック連結処理部により連結された避走連結ブロックのブロック数が所定期間、所定個以上のときに物体を避走物体として判定する避走物体判定を備えたものである。 In the traffic flow monitoring apparatus according to the present invention, an image capturing means for capturing a road state at a predetermined cycle, and an object for tracking the moving direction of the object for each block obtained by dividing the image captured by the image capturing means into blocks. Tracking means, basic object moving direction setting means for presetting a basic object moving direction corresponding to the road shape for each block of the image, basic object moving direction for each block set by the basic object moving direction setting means, and object Object movement direction comparison means that compares the movement direction of the object for each block tracked by the tracking means for each block, and sets a block whose movement direction difference is equal to or greater than the first value as an escape block , this object movement direction comparison When the block adjacent to the escape block set by the means is the escape block, the escape block connecting the adjacent escape blocks Binding processing unit, and that the number of blocks of避走connecting block connected by the避走block linking unit is provided with a避走object determination unit determines the object as避走object when a predetermined time period, more than the predetermined one It is.

この発明は、以上説明したように、所定の周期で道路状態を撮像する画像撮像手段、この画像撮像手段により撮像された画像がブロック分割された各ブロック毎に物体の移動方向を追跡する物体追跡手段、画像の各ブロック毎に道路形状に応じた基本物体移動方向を予め設定する基本物体進行方向設定手段、この基本物体進行方向設定手段により設定されたブロック毎の基本物体移動方向と、物体追跡手段により追跡されたブロック毎の物体の移動方向とをブロック毎に比較し、移動方向差が第一の値以上のブロックを避走ブロックとして設定する物体移動方向比較手段、この物体移動方向比較手段により設定された避走ブロックに隣接するブロックが避走ブロックである場合に隣接する避走ブロック同士を連結する避走ブロック連結処理部、及びこの避走ブロック連結処理部により連結された避走連結ブロックのブロック数が所定期間、所定個以上のときに物体を避走物体として判定する避走物体判定を備えたので、監視道路の道路形状に応じたブロック毎の基本物体移動方向を設定すれば、低コストで避走物体を検出することができる。 As described above, according to the present invention, the image capturing unit that captures the road state at a predetermined cycle, and the object tracking that tracks the moving direction of the object for each block obtained by dividing the image captured by the image capturing unit into blocks. Means, basic object moving direction setting means for presetting a basic object moving direction corresponding to the road shape for each block of the image, basic object moving direction for each block set by the basic object moving direction setting means, and object tracking The object movement direction comparison means for comparing the movement direction of the object for each block tracked by the means for each block, and setting a block having a movement direction difference equal to or greater than the first value as the escape block , and this object movement direction comparison means When the block adjacent to the escape block set by is a escape block, the escape block connection processing unit that connects adjacent escape blocks And the number of blocks is a predetermined period避走connecting block connected by the避走block linking unit, because with a避走object determination unit determines the object as避走object when less than a predetermined one, monitoring the road If the basic object moving direction for each block according to the road shape is set, the escape object can be detected at low cost.

実施の形態1.
この発明による実施の形態1を、図を用いて説明する。
図1は、この発明の実施の形態1による交通流監視装置の構成を示すブロック図である。
図1において、画像撮像部10(画像撮像手段)は、監視用ITVカメラなどの撮像素子により所定の周期で画像を撮像し、その画像をデジタルデータとして記憶する。基本物体進行方向設定部11(基本物体進行方向設定手段)は、撮像画像上の監視を必要とする道路車線を含むブロック領域で、移動物体が車線に沿って移動する場合、各ブロック毎の基本物体移動方向を設定するものであり、カメラの設置条件が決定すると不変の設定値となるため、事前に決定しておく情報である。第(i,j)ブロックB(i,j)の基本物体移動方向S(i,j)の決定方法は、以下の通りである。
基本情報として、ブロック情報と道路線形情報の既知情報に基づき、ブロックB(i,j)の中心座標を(x,y)、B(i,j)の縦幅をH(B(i,j))、B(i,j)の横幅をW(B(i,j))、座標(x,y)の存在する車線の左端x座標をLE(y)、同様に右端x座標をRE(y)、車線端座標LE(y1)とLE(y2)を結ぶ曲線の平均傾きをLS(y1,y2)、同様に車線端座標RE(y1)とRE(y2)を結ぶ曲線の平均傾きをRS(y1,y2)として得られている場合、
ブロック中心の車線内x座標分率BR(i,j) を
BR(i,j) = (x-LE(y))/(RE(y)-LE(y))
とすると、これにより、各ブロックB(i,j)の基本物体移動方向S(i,j)は
S(i,j) = BR(i,j)*LS(y-K1*H(B(i,j)), y+ K2*H(B(i,j)))
+(1-BR(i,j))*RS(y-K1*H(B(i,j)), y+ K2*H(B(i,j)))
(K1 K2は定数値)
となる。
なお、基本物体進行方向設定部11で用いる画像のブロックは、予め固定の大きさのブロックとして分割されている。
Embodiment 1 FIG.
Embodiment 1 of the present invention will be described with reference to the drawings.
1 is a block diagram showing a configuration of a traffic flow monitoring apparatus according to Embodiment 1 of the present invention.
In FIG. 1, an image capturing unit 10 (image capturing unit) captures an image with a predetermined cycle by an image sensor such as a monitoring ITV camera, and stores the image as digital data. The basic object traveling direction setting unit 11 (basic object traveling direction setting means) is a block region including a road lane that needs to be monitored on the captured image. When the moving object moves along the lane, the basic object traveling direction setting unit 11 The object moving direction is set, and since the setting value does not change when the installation condition of the camera is determined, the information is determined in advance. The method for determining the basic object moving direction S (i, j) of the (i, j) th block B (i, j) is as follows.
As basic information, based on the known information of block information and road alignment information, the center coordinates of block B (i, j) are set to (x, y), and the vertical width of B (i, j) is set to H (B (i, j). )), The horizontal width of B (i, j) is W (B (i, j)), the left end x coordinate of the lane where the coordinates (x, y) exist is LE (y), and similarly the right end x coordinate is RE (y y), the average slope of the curve connecting the lane edge coordinates LE (y1) and LE (y2) is LS (y1, y2), and similarly the average slope of the curve connecting the lane edge coordinates RE (y1) and RE (y2) If it is obtained as RS (y1, y2),
The x-coordinate fraction BR (i, j) in the lane at the block center
BR (i, j) = (x-LE (y)) / (RE (y) -LE (y))
Then, the basic object moving direction S (i, j) of each block B (i, j) is
S (i, j) = BR (i, j) * LS (y-K1 * H (B (i, j)), y + K2 * H (B (i, j)))
+ (1-BR (i, j)) * RS (y-K1 * H (B (i, j)), y + K2 * H (B (i, j)))
(K1 and K2 are constant values)
It becomes.
Note that the image blocks used in the basic object traveling direction setting unit 11 are divided in advance as blocks of a fixed size.

物体追跡部12(物体追跡手段)は、撮像画像上の監視を必要とする道路車線を含む全てのブロックの追跡処理を行なうものであり、ブロック追跡結果からブロック別の物体移動方向を算出し、またカメラ設置情報とを合わせることで、各ブロックの物体の移動速度も合わせて算出する。このときの物体追跡部12によるブロック毎の物体の追跡処理は、濃淡白黒2次元画像でのマッチング処理によるもので、各ブロックが次処理周期でどの方向にどれだけのピクセル量移動したかをマッチング処理で追跡し、その移動方向と移動量とカメラ設置情報から、道路に対する移動方向と移動速度を算出する。
物体移動方向比較部13(物体移動方向比較手段)は、基本物体進行方向設定部11で与えられる道路車線上の仮移動方向と、物体追跡部12で得られた物体移動方向から斜線に沿って移動を行なっていない、すなわち避走行動を行なっている物体の抽出を行なうものである。
The object tracking unit 12 (object tracking means) performs tracking processing for all blocks including road lanes that require monitoring on the captured image, calculates the object movement direction for each block from the block tracking result, In addition, by combining with the camera installation information, the moving speed of the object in each block is also calculated. Object tracking processing for each block by the object tracking unit 12 at this time is based on matching processing in a two-dimensional grayscale black and white image, and matches how much pixel amount each block has moved in which direction in the next processing cycle. Tracking is performed by the processing, and the moving direction and moving speed with respect to the road are calculated from the moving direction and moving amount, and camera installation information.
The object movement direction comparison unit 13 (object movement direction comparison unit) follows the temporary movement direction on the road lane given by the basic object traveling direction setting unit 11 and the oblique line from the object movement direction obtained by the object tracking unit 12. An object that is not moving, that is, an object that is performing an evasive travel is extracted.

避走ブロック連結処理部14と避走物体判定部15は、避走物体判定手段を構成する。避走ブロック連結処理部14は、隣接するブロック間の類似する避走進行方向と進行速度のブロック情報を連結するものである。避走物体判定部15は、避走ブロック連結処理部14で得られた連結避走ブロック情報から車線内の避走有無を判断し、避走という交通事象の判定を行なうものである。   The avoidance block connection processing unit 14 and the avoidance object determination unit 15 constitute an avoidance object determination unit. The escape block connection processing unit 14 connects similar block information of the avoidance traveling direction and the traveling speed between adjacent blocks. The avoidance object determination unit 15 determines whether or not an escape is in the lane from the connection avoidance block information obtained by the avoidance block connection processing unit 14, and determines a traffic event of avoidance.

図2は、この発明の実施の形態1による交通流監視装置の基本物体進行方向設定部により設定された各ブロックの仮進行方向を示す平面図である。
図2においては、基本物体進行方向設定部11により設定された道路形状に応じて一意に決定される物体の基本進行方向を示している。ブロックB毎に矢印が示されている。
図3は、この発明の実施の形態1による交通流監視装置の物体追跡部で追跡された移動物体の移動方向を示す平面図である。
図3において、ブロック毎に矢印で物体の移動方向が示されている。
図4は、この発明の実施の形態1による交通流監視装置の避走事象検出処理を示すフローチャートである。
図5は、この発明の実施の形態1による交通流監視装置の物体移動方向比較部で処理された移動物体の進行方向比較を示す平面図である。
図5において、左側の各ブロックの移動物体が、角度誤差範囲を越える移動方向を示している。
FIG. 2 is a plan view showing the provisional travel direction of each block set by the basic object travel direction setting unit of the traffic flow monitoring apparatus according to Embodiment 1 of the present invention.
FIG. 2 shows the basic traveling direction of an object that is uniquely determined according to the road shape set by the basic object traveling direction setting unit 11. An arrow is shown for each block B.
FIG. 3 is a plan view showing the moving direction of the moving object tracked by the object tracking unit of the traffic flow monitoring apparatus according to Embodiment 1 of the present invention.
In FIG. 3, the moving direction of the object is indicated by an arrow for each block.
FIG. 4 is a flowchart showing the escape event detection process of the traffic flow monitoring apparatus according to Embodiment 1 of the present invention.
FIG. 5 is a plan view showing the moving direction comparison of the moving object processed by the object moving direction comparing unit of the traffic flow monitoring apparatus according to Embodiment 1 of the present invention.
In FIG. 5, the moving object of each block on the left side shows the moving direction exceeding the angle error range.

次に、図4をもとに避走事象判定動作の説明をする。
図4は、物体追跡部12と物体移動方向比較部13と交通事象判定部14の処理フローである。まず、ステップS11では、物体追跡部12において、撮像画像をブロック分割した各ブロックで個別に物体の追跡処理を行なう。その追跡結果が図3に相当する。ステップS12では、ステップS11で得られた物体の追跡情報から各ブロックの物体の移動方向と移動速度の算出を行なう。ブロックの物体の移動速度は、カメラのレンズ焦点距離、俯角、仰角、設置高さから得られる情報と、単位当たりのブロック移動距離から算出可能な値である。
ステップS13では、物体移動比較部13において、ステップS12で得られたブロックの物体の移動方向と、基本物体進行方向設定部11において決定される、図2にような仮移動方向(基本物体移動方向)とを比較し、角度誤差±α1度(第一の値)以上の移動方向の差が発生しているブロックを避走ブロックに設定する。図5は、ブロック毎に設定された基本物体移動方向と移動追跡をして得られた物体移動方向と比較を行ない、避走ブロック設定が行なわれた状態を示している。左側に4つの避走ブロックがある。
Next, the avoidance event determination operation will be described with reference to FIG.
FIG. 4 is a processing flow of the object tracking unit 12, the object movement direction comparison unit 13, and the traffic event determination unit 14. First, in step S11, the object tracking unit 12 performs object tracking processing individually for each block obtained by dividing the captured image into blocks. The tracking result corresponds to FIG. In step S12, the moving direction and moving speed of the object of each block are calculated from the tracking information of the object obtained in step S11. The movement speed of the block object is a value that can be calculated from information obtained from the lens focal length, depression angle, elevation angle, and installation height of the camera, and the block movement distance per unit.
In step S13, the object movement comparison unit 13 determines the movement direction of the object in the block obtained in step S12 and the temporary movement direction (basic object movement direction) as shown in FIG. ) And a block in which the difference in the moving direction is more than the angle error ± α1 degree (first value) is set as the escape block. FIG. 5 shows a state in which the escape block setting is performed by comparing the basic object movement direction set for each block with the object movement direction obtained by movement tracking. There are four escape blocks on the left.

ステップS14では、避走ブロック連結処理部14において、ステップS13で得られた避走ブロックの領域連結を行なう。任意の避走ブロックに連結するブロックが、速度誤差V1km/h以内かつ移動角度差R1度以内の避走ブロックである場合、避走ブロック同士の連結処理を行なう。
ステップS15では、避走物体判定部15において、ステップS14で得られた避走連結ブロック情報から避走事象を検出する。T1サイクルの間、連結避走ブロック数が、B2個以上連続発生した場合、その車線上には避走移動物体が存在すると検出し、避走事象判定を行なう。このステップS15は、単純に車線内の任意の場所での避走ブロック連続発生回数から避走判定を行なっているが、判定基準をより詳細に、避走ブロック連結領域の発生場所に基づいて行なっても良い。
In step S14, the escape block connection processing unit 14 performs region connection of the escape block obtained in step S13. When a block connected to an arbitrary escape block is an escape block within a speed error V1 km / h and a movement angle difference R1 degree, a connection process between the escape blocks is performed.
In step S15, the avoidance object determination unit 15 detects the avoidance event from the avoidance connection block information obtained in step S14. During the T1 cycle, when the number of connected escape blocks is continuously generated by B2 or more, it is detected that there is an escape moving object on the lane, and the escape event determination is performed. In this step S15, the avoidance determination is performed simply based on the number of consecutive occurrences of the escape block at an arbitrary location in the lane, but the determination criterion is performed in more detail based on the occurrence location of the escape block connection region. May be.

以上のように、この実施の形態1では、監視車線の物体の移動する方向と車線の形状から得られる理想的な物体の移動方向とを比較することによって、個別車両を認識することなく車線内の避走物体を検出することが可能となる。   As described above, according to the first embodiment, by comparing the moving direction of the object in the monitoring lane with the ideal moving direction of the object obtained from the shape of the lane, it is possible to recognize the inside of the lane without recognizing the individual vehicle. It is possible to detect the escape object.

実施の形態1によれば、これまでは個別車両を認識しなければ検出することができなかった避走事象を車線内の物体の流れから検出することが可能となり、また、道路線形から物体の理想的な移動方向を既知情報として算出していることから、統計処理などの情報蓄積処理を用いた避走事象判定よりも低コストで避走事象を判定する交通流監視装置を提供することが可能となる。   According to the first embodiment, it is possible to detect a runaway event that could not be detected without recognizing an individual vehicle until now from the flow of the object in the lane. Since the ideal direction of travel is calculated as known information, it is possible to provide a traffic flow monitoring device that determines a avoidance event at a lower cost than the avoidance event determination using information accumulation processing such as statistical processing. It becomes possible.

実施の形態2.
この発明における実施の形態2を図6および図7を用いて説明する。
図6は、この発明の実施の形態2による交通流監視装置の構成を示すブロック図である。
図6において、11〜15は図1におけるものと同一のものである。図6では、移動ブロック連結処理部16と逆走避走物体判定部17が設けられ、移動ブロック連結処理部16と逆走避走物体判定部17は、逆走避走物体判定手段を構成する。
Embodiment 2. FIG.
A second embodiment of the present invention will be described with reference to FIGS.
FIG. 6 is a block diagram showing a configuration of a traffic flow monitoring apparatus according to Embodiment 2 of the present invention.
In FIG. 6, 11 to 15 are the same as those in FIG. In FIG. 6, a moving block connection processing unit 16 and a reverse running avoidance object determination unit 17 are provided, and the moving block connection processing unit 16 and the reverse running avoidance object determination unit 17 constitute a reverse running avoidance object determination unit.

図7は、この発明の実施の形態2による交通流監視装置の逆走避走事象検出処理を示すフローチャートである。
次に、図7をもとに、逆走避走事象検出処理について説明する。
ステップS21では、移動ブロック連結処理部16として、物体追跡部12で追跡を行なったブロック情報から類似方向と類似速度で移動するブロックの領域連結を行なう。隣り合うブロック間の移動方向角度誤差±α2度以内で、かつ、移動速度誤差V2km/hの場合、連結ブロックとして作成する。
ステップS22では、連結ブロック領域の存在する車線とその連結ブロック領域の移動方向を確認する。連結ブロック領域の存在する車線の順走行方向と連結ブロック領域の移動方向差が(180±α3)度(第二の値、但し、α3<90)以上の場合、その移動物体は、逆走物体として設定する。
ステップS23では、ステップS22で設定した連結ブロック領域情報から、T2サイクルの間、逆走連結ブロックが連続発生した場合、その車線上には逆走移動物体が存在すると検出し、その逆走物体を順方向車線の避走物体として事象判定を行なう。このステップS23は、単純に車線内の任意の場所での逆走ブロック連続発生回数から逆走判定を行なっているが、判定基準をより詳細に、避走ブロック連結領域の発生場所に基づいて行なっても良い。
FIG. 7 is a flowchart showing reverse runaway event detection processing of the traffic flow monitoring apparatus according to Embodiment 2 of the present invention.
Next, reverse run avoidance event detection processing will be described with reference to FIG.
In step S21, the moving block connection processing unit 16 performs region connection of blocks moving at a similar direction and similar speed from the block information tracked by the object tracking unit 12. When the moving direction angle error between adjacent blocks is within ± α2 degrees and the moving speed error is V2 km / h, it is created as a connected block.
In step S22, the lane in which the connection block area exists and the moving direction of the connection block area are confirmed. If the difference between the forward travel direction of the lane where the connected block area exists and the moving direction of the connected block area is (180 ± α3) degrees (second value, where α3 <90) or more, the moving object is a reverse running object Set as.
In step S23, from the connected block area information set in step S22, when reverse running connected blocks are continuously generated during the T2 cycle, it is detected that there is a backward running object on the lane, and the reverse running object is detected. The event is judged as a runaway object in the forward lane. In this step S23, the reverse running determination is simply performed based on the number of consecutive reverse running blocks occurring at an arbitrary location in the lane, but the determination criterion is performed in more detail based on the occurrence location of the escape block connecting region. May be.

以上のように、実施の形態2によれば、対面通行車線道路において、自車線上に走行を妨害する遮蔽物があった場合、対向車線を走行することで、その遮蔽物を回避することから、逆走物体を反対車線の避走物体として検出する。これにより、対面通行車線道路において、監視カメラ内で避走行動を取らない移動物体についても避走車両として検出することが可能となり、より幅広い交通流を計測することができる。   As described above, according to the second embodiment, in the face-to-face lane road, when there is an obstacle that obstructs traveling on the own lane, the obstacle is avoided by traveling on the opposite lane. The reverse running object is detected as the avoidance object in the opposite lane. As a result, it is possible to detect a moving object that does not take the avoidance movement in the surveillance camera on the two-way traffic lane road as an avoidance vehicle, and a wider traffic flow can be measured.

実施の形態3.
この発明による実施の形態3を図8および図9を用いて説明する。
図8は、この発明の実施の形態3による交通流監視装置の構成を示すブロック図である。
図8において、10〜17は図6におけるものと同一のものである。図8では、移動ブロック連結処理部16の出力を受けて、移動停止物体を判定する移動停止物体判定部18(移動停止物体判定手段)が設けられている。
Embodiment 3 FIG.
A third embodiment of the present invention will be described with reference to FIGS.
FIG. 8 is a block diagram showing a configuration of a traffic flow monitoring apparatus according to Embodiment 3 of the present invention.
In FIG. 8, 10 to 17 are the same as those in FIG. In FIG. 8, a movement stop object determination unit 18 (movement stop object determination unit) that receives the output of the movement block connection processing unit 16 and determines a movement stop object is provided.

図9は、この発明の実施の形態3による交通流監視装置の移動停止物体検出処理を示すフローチャートである。
次に、図9をもとに、移動停止物体判定部18の処理について説明する。
ステップS31では、移動ブロック連結処理部16で得られる連結ブロック情報の速度情報から低速移動連結ブロックを検出する。T31サイクル間、B3個以上の連結ブロックで、V31km/h以内の速度が連続することで、低速移動連結ブロックとして設定する。
ステップS32では、ステップS31で得られた低速連結ブロック情報を元に停止連結ブロックを検出する。低速移動連結ブロックとして設定されたブロック領域の移動物体が、T32サイクル間(所定期間)、V32km/h(所定速度)以内の速度が連続した場合、低速移動ブロックから移動停止ブロックとして状態を変更し、設定する。
これにより、車線内を移動して停止した物体を、効率よく検出することが可能となる。
FIG. 9 is a flowchart showing the moving stop object detection process of the traffic flow monitoring apparatus according to Embodiment 3 of the present invention.
Next, the process of the movement stop object determination unit 18 will be described with reference to FIG.
In step S31, a low-speed moving connection block is detected from the speed information of the connection block information obtained by the moving block connection processing unit 16. During the T31 cycle, B3 or more connected blocks are continuously connected at a speed within V31 km / h, and thus set as a low-speed moving connected block.
In step S32, a stop connected block is detected based on the low speed connected block information obtained in step S31. If a moving object in the block area set as a low-speed moving connection block continues for a period of T32 cycles (predetermined period) and within V32 km / h (predetermined speed), the state is changed from a low-speed moving block to a moving stop block. Set.
This makes it possible to efficiently detect an object that has moved in the lane and stopped.

以上の処理から、移動停止物体判定には、最低(T31+T32)サイクルを必要とする。例えば、T31=0.5秒、B3=2個、V31=10.0km/h、T32=2.0秒、V32=5.0km/hとした場合、10km/h以下で移動する物体が車線内で停止した場合、最低(T31+T32)=2.5秒後には移動停止物体として検出される。   From the above processing, a minimum (T31 + T32) cycle is required for moving stop object determination. For example, if T31 = 0.5 seconds, B3 = 2, V31 = 10.0 km / h, T32 = 2.0 seconds, V32 = 5.0 km / h, an object moving at 10 km / h or less is a lane. In the case of stopping within, at least (T31 + T32) = 2.5 seconds later, it is detected as a moving stop object.

以上のように、実施の形態3によれば、道路車線内を移動して停止する物体を検出することが可能となり、より幅広い交通流を計測することができる。   As described above, according to the third embodiment, it is possible to detect an object that moves and stops in a road lane, and a wider traffic flow can be measured.

実施の形態4.
この発明による実施の形態4を図10を用いて説明する。
図10は、この発明の実施の形態4による交通流監視装置の構成を示すブロック図である。
図10において、10〜18は図8におけるものと同一のものである。図10では、移動ブロック連結処理部16の出力を受けて渋滞を判定する渋滞判定部19(渋滞判定手段)が設けられている。
Embodiment 4 FIG.
Embodiment 4 of the present invention will be described with reference to FIG.
FIG. 10 is a block diagram showing the configuration of a traffic flow monitoring apparatus according to Embodiment 4 of the present invention.
10, 10 to 18 are the same as those in FIG. In FIG. 10, a traffic jam determination unit 19 (traffic jam determination unit) that receives traffic from the moving block connection processing unit 16 and determines traffic jam is provided.

次に、渋滞判定部19の処理について説明する。
まず、移動ブロック連結処理部16から得られた連結ブロック移動速度から車線平均速度算出を行なう。各走行車線の累積速度Vxは、移動停止ブロック以外の速度を有するブロック移動速度の累積により決定される。そのため、車線内の物体移動平均速度Vavは、Vav=Vx/(移動ブロック数+停止ブロック数)となる。
次いで、車線平均速度Vavが、T4サイクル間、V4km/h以下の場合、渋滞と判定する。
このように、この実施の形態4では、車線平均速度のみで渋滞判定を行なっているが、差分画像などを用いて車線占有率を求め、車線占有率と車線平均速度から、渋滞事象を判定すれば、より判定精度が向上する。
Next, the process of the traffic jam determination unit 19 will be described.
First, the lane average speed is calculated from the connecting block moving speed obtained from the moving block connecting processing unit 16. The accumulated speed Vx of each traveling lane is determined by the accumulation of block moving speeds having speeds other than the movement stop block. Therefore, the object moving average speed Vav in the lane is Vav = Vx / (number of moving blocks + number of stopped blocks).
Next, when the lane average speed Vav is V4 km / h or less during the T4 cycle, it is determined that there is a traffic jam.
As described above, in the fourth embodiment, the traffic jam is determined only by the lane average speed. However, the traffic lane occupation rate is obtained using the difference image or the like, and the traffic jam event is determined from the lane occupation rate and the lane average speed. In this case, the determination accuracy is further improved.

以上のように、実施の形態4によれば、個別車両を認識しない条件下でも効率よく渋滞事象を検出することが可能となり、より幅広い交通流を計測することができる。   As described above, according to the fourth embodiment, it is possible to efficiently detect a traffic jam event even under a condition where an individual vehicle is not recognized, and a wider traffic flow can be measured.

実施の形態5.
この発明による実施の形態5を図11および図12を用いて説明する。
図11は、この発明の実施の形態5による交通流監視装置の構成を示すブロック図である。
図11において、10〜19は図10におけるものと同一のものである。図11では、画像撮像部10の撮像画像を切替える映像多重化部20(映像多重化手段)を設けている。
Embodiment 5 FIG.
A fifth embodiment according to the present invention will be described with reference to FIGS.
FIG. 11 is a block diagram showing a configuration of a traffic flow monitoring apparatus according to Embodiment 5 of the present invention.
In FIG. 11, 10 to 19 are the same as those in FIG. In FIG. 11, a video multiplexing unit 20 (video multiplexing unit) that switches a captured image of the image capturing unit 10 is provided.

図12は、この発明の実施の形態5による交通流監視装置の映像多重化を示す概念図である
次に、図12をもとに、映像多重化部20について説明する。図12は4つのカメラからの映像を時間分割して多重化した映像の例である。
映像多重化部20は、一定周期TC秒間に1回の割合で映像を切り替え、(TC秒×多重化カメラ台数)秒後には、同じ場所の映像が入力されるような巡回型映像多重化を行うものである。これにより、1つの交通流監視装置で複数台のITVカメラの交通流計測を行うことができる。
FIG. 12 is a conceptual diagram showing video multiplexing of the traffic flow monitoring apparatus according to Embodiment 5 of the present invention. Next, the video multiplexing unit 20 will be described with reference to FIG. FIG. 12 is an example of a video obtained by time-division multiplexing video from four cameras.
The video multiplexing unit 20 switches video at a rate of once per fixed period TC seconds, and after (TC seconds × number of multiplexed cameras) seconds, cyclic video multiplexing is performed so that the video at the same location is input. Is what you do. Thereby, traffic flow measurement of a plurality of ITV cameras can be performed with one traffic flow monitoring device.

以上のように、この実施の形態5では、1つの入力映像により同時に複数のITVカメラ映像の交通流計測を行うことができ、コスト等を抑えた交通流計測が可能となる。   As described above, in the fifth embodiment, it is possible to measure traffic flow of a plurality of ITV camera images at the same time with one input image, and it is possible to measure traffic flow with reduced costs.

実施の形態5では、任意の1台のカメラ映像は、TC×(多重化カメラ台数−1)秒間、映像がない状態、すなわち不監視状態になる。避走や渋滞などの事象については、不監視中や監視中を問わず継続して発生するため、特に問題がないが、停止車両については、不監視中に発生した停止車両を検出することができない。そのため、カメラが切替ったときにすでに存在する停止車両を、落下物等の障害物の一部として考えることで、停止車両の検出を、間接的に行なう。
落下物の検出方法は、次のように避走車両の有無から判断を行う。
TC×(多重化カメラ台数−1)後に、自カメラ映像に処理が戻ることを1監視期間と定義すると、P5監視期間中にH5回以上の監視期間で避走事象が検出された場合、移動物体の避走を発生させる要因の落下物が存在するとして、落下物の判定を行なう。これは不監視期間中に発生した停止車両も含まれるので、間接的に停止車両の判定も可能となる。これにより、避走事象の発生頻度から間接的に落下物や停止事象の検出も行なうことで、より正確な交通流監視装置を提供することができる。
In the fifth embodiment, any one camera video is in a state where there is no video for TC × (number of multiplexed cameras−1) seconds, that is, a non-monitoring state. Events such as avoidance and traffic jams occur continuously regardless of whether they are unmonitored or monitored, so there is no particular problem, but for stopped vehicles, it is possible to detect stopped vehicles that occurred during unmonitored operations. Can not. Therefore, the stopped vehicle is detected indirectly by considering a stopped vehicle that already exists when the camera is switched as a part of an obstacle such as a falling object.
The fallen object detection method is determined based on the presence or absence of the escape vehicle as follows.
If TC x (number of multiplexed cameras-1) and the process returns to its own camera image is defined as one monitoring period, it will move if a runaway event is detected in the monitoring period of H5 times or more during the P5 monitoring period. The fallen object is determined on the assumption that there is a fallen object that causes the object to escape. Since this includes a stopped vehicle that has occurred during the non-monitoring period, it is possible to indirectly determine the stopped vehicle. Thereby, a more accurate traffic flow monitoring apparatus can be provided by also detecting a fallen object and a stop event indirectly from the frequency of occurrence of a runaway event.

以上のように、実施の形態5によれば、映像多重化装置を用いることで、より多くの道路映像を監視することが可能となり、また不監視時間帯に発生する交通事象についても、他の継続発生する交通事象の情報から間接的に検出することで、検出事象を制限することなく交通流監視装置を提供することができる。   As described above, according to the fifth embodiment, it is possible to monitor more road images by using the video multiplexing device, and other traffic events that occur in the non-monitoring time zone can be monitored. By indirectly detecting from information on continuously occurring traffic events, the traffic flow monitoring device can be provided without limiting the detected events.

この発明の実施の形態1による交通流監視装置の構成を示すブロック図である。It is a block diagram which shows the structure of the traffic flow monitoring apparatus by Embodiment 1 of this invention. この発明の実施の形態1による交通流監視装置の基本物体進行方向設定部により設定された各ブロックの仮進行方向を示す平面図である。It is a top view which shows the temporary advancing direction of each block set by the basic object advancing direction setting part of the traffic flow monitoring apparatus by Embodiment 1 of this invention. この発明の実施の形態1による交通流監視装置の物体追跡部で追跡された移動物体の移動方向を示す平面図である。It is a top view which shows the moving direction of the moving object tracked by the object tracking part of the traffic flow monitoring apparatus by Embodiment 1 of this invention. この発明の実施の形態1による交通流監視装置の避走事象検出処理を示すフローチャートである。It is a flowchart which shows the avoidance event detection process of the traffic flow monitoring apparatus by Embodiment 1 of this invention. この発明の実施の形態1による交通流監視装置の物体移動方向比較部で処理された移動物体の進行方向比較を示す平面図である。It is a top view which shows the advancing direction comparison of the moving object processed in the object moving direction comparison part of the traffic flow monitoring apparatus by Embodiment 1 of this invention. この発明の実施の形態2による交通流監視装置の構成を示すブロック図である。It is a block diagram which shows the structure of the traffic flow monitoring apparatus by Embodiment 2 of this invention. この発明の実施の形態2による交通流監視装置の逆走避走事象検出処理を示すフローチャートである。It is a flowchart which shows the reverse run avoidance event detection process of the traffic flow monitoring apparatus by Embodiment 2 of this invention. この発明の実施の形態3による交通流監視装置の構成を示すブロック図である。It is a block diagram which shows the structure of the traffic flow monitoring apparatus by Embodiment 3 of this invention. この発明の実施の形態3による交通流監視装置の移動停止物体検出処理を示すフローチャートである。It is a flowchart which shows the movement stop object detection process of the traffic flow monitoring apparatus by Embodiment 3 of this invention. この発明の実施の形態4による交通流監視装置の構成を示すブロック図である。It is a block diagram which shows the structure of the traffic flow monitoring apparatus by Embodiment 4 of this invention. この発明の実施の形態5による交通流監視装置の構成を示すブロック図である。It is a block diagram which shows the structure of the traffic flow monitoring apparatus by Embodiment 5 of this invention. この発明の実施の形態5による交通流監視装置の映像多重化を示す概念図であるIt is a conceptual diagram which shows the video multiplexing of the traffic flow monitoring apparatus by Embodiment 5 of this invention.

符号の説明Explanation of symbols

10 画像撮像部、11 基本物体進行方向設定部、12 物体追跡部、
13 物体移動方向比較部、14 避走ブロック連結処理部、
15 避走物体判定部、16 移動ブロック連結処理部、
17 逆走避走物体判定部、18 移動停止物体判定部、19 渋滞判定部、
20 映像多重化部。
10 image capturing unit, 11 basic object traveling direction setting unit, 12 object tracking unit,
13 object movement direction comparison unit, 14 escape block connection processing unit,
15 avoidance object determination unit, 16 moving block connection processing unit,
17 reverse runaway object determination unit, 18 movement stop object determination unit, 19 traffic jam determination unit,
20 Video multiplexing unit.

Claims (6)

所定の周期で道路状態を撮像する画像撮像手段、この画像撮像手段により撮像された画像がブロック分割された各ブロック毎に物体の移動方向を追跡する物体追跡手段、上記画像の各ブロック毎に道路形状に応じた基本物体移動方向を予め設定する基本物体進行方向設定手段、この基本物体進行方向設定手段により設定されたブロック毎の基本物体移動方向と、上記物体追跡手段により追跡されたブロック毎の物体の移動方向とをブロック毎に比較し、移動方向差が第一の値以上のブロックを避走ブロックとして設定する物体移動方向比較手段、この物体移動方向比較手段により設定された避走ブロックに隣接するブロックが避走ブロックである場合に上記隣接する避走ブロック同士を連結する避走ブロック連結処理部、及びこの避走ブロック連結処理部により連結された避走連結ブロックのブロック数が所定期間、所定個以上のときに上記物体を避走物体として判定する避走物体判定を備えたことを特徴とする交通流監視装置。 Image capturing means for capturing a road state at a predetermined cycle, object tracking means for tracking the moving direction of an object for each block obtained by dividing the image captured by the image capturing means, and a road for each block of the image Basic object moving direction setting means for presetting the basic object moving direction according to the shape, basic object moving direction for each block set by the basic object moving direction setting means, and for each block tracked by the object tracking means comparing the moving direction of the object for each block, the object moving direction comparing means for moving the direction difference is set a first value or more blocks as避走block, the避走block set by the object moving direction comparing means When adjacent blocks are escape blocks, the escape block connection processing unit that connects the adjacent escape blocks, and the escape block The number of blocks is a predetermined period避走connecting block connected by link unit, traffic flow monitor apparatus characterized by comprising a避走object determination unit determines as避走object to the object when the above predetermined pieces . 所定の周期で道路状態を撮像する画像撮像手段、この画像撮像手段により撮像された画像がブロック分割された各ブロック毎に物体の移動方向を追跡する物体追跡手段、上記画像の各ブロック毎に道路形状に応じた基本物体移動方向を予め設定する基本物体進行方向設定手段、この基本物体進行方向設定手段により設定されたブロック毎の基本物体移動方向と、上記物体追跡手段により追跡されたブロック毎の物体の移動方向とをブロック毎に比較する物体移動方向比較手段、この物体移動方向比較手段による比較結果、移動方向差が第一の値以上のときに上記物体を避走物体として判定する避走物体判定手段、及び上記物体移動方向比較手段による比較結果、移動方向差が第二の値(但し、第二の値>90度)以上のときに、上記物体を逆走避走物体として判定する逆走避走物体判定手段を備えたことを特徴とする交通流監視装置。 Image capturing means for capturing a road state at a predetermined cycle, object tracking means for tracking the moving direction of an object for each block obtained by dividing the image captured by the image capturing means, and a road for each block of the image Basic object moving direction setting means for presetting the basic object moving direction according to the shape, basic object moving direction for each block set by the basic object moving direction setting means, and for each block tracked by the object tracking means Object movement direction comparison means for comparing the movement direction of the object for each block, and the result of comparison by the object movement direction comparison means is that the object is determined to be the avoidance object when the movement direction difference is equal to or greater than a first value. object determining means, and comparison result obtained by the object movement direction comparing means, the moving direction difference second value (however, the second value> 90 °) when the above reverse the object Traffic flow monitoring device you comprising the reverse-way traveling避走object determining means for determining as避走object. 上記物体追跡手段は、上記画像のブロック毎の物体の移動速度を算出し、この算出されたブロック毎の物体の移動速度を元にして、車線平均速度を算出することにより渋滞を判定する渋滞判定手段を備えたことを特徴とする請求項1または請求項2記載の交通流監視装置。   The object tracking means calculates a moving speed of the object for each block of the image, and determines a traffic jam by calculating a lane average speed based on the calculated moving speed of the object for each block. 3. The traffic flow monitoring apparatus according to claim 1, further comprising means. 上記物体追跡手段は、上記画像のブロック毎の物体の移動速度を算出し、この算出された移動速度が所定期間、所定速度以下の場合に上記物体を移動停止物体として検出する移動停止物体判定手段を備えたことを特徴とする請求項1〜請求項3のいずれかに記載の交通流監視装置。   The object tracking unit calculates a moving speed of the object for each block of the image, and detects the moving stop object when the calculated moving speed is equal to or lower than a predetermined speed for a predetermined period. The traffic flow monitoring device according to any one of claims 1 to 3, further comprising: 上記画像撮像手段は、複数設けられ、この複数の画像撮像手段の出力を切替える映像多重化手段を備え、上記映像多重化手段により切替えられる複数の画像撮像手段からの映像が多重化されて上記物体追跡手段に入力されることを特徴とする請求項1〜請求項3のいずれかに記載の交通流監視装置。   The image pickup means includes a plurality of image pickup means provided and a video multiplexing means for switching the outputs of the plurality of image pickup means, and the objects from the plurality of image pickup means switched by the video multiplexing means are multiplexed. The traffic flow monitoring apparatus according to claim 1, wherein the traffic flow monitoring apparatus is input to a tracking unit. 上記避走物体判定手段により判定される避走物体の発生頻度に基づき、移動停止物体が判定されることを特徴とする請求項5記載の交通流監視装置。   6. The traffic flow monitoring apparatus according to claim 5, wherein the movement stop object is determined based on the occurrence frequency of the avoidance object determined by the avoidance object determination means.
JP2004284086A 2004-09-29 2004-09-29 Traffic flow monitoring device Expired - Fee Related JP4209826B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004284086A JP4209826B2 (en) 2004-09-29 2004-09-29 Traffic flow monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004284086A JP4209826B2 (en) 2004-09-29 2004-09-29 Traffic flow monitoring device

Publications (2)

Publication Number Publication Date
JP2006099373A JP2006099373A (en) 2006-04-13
JP4209826B2 true JP4209826B2 (en) 2009-01-14

Family

ID=36239131

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004284086A Expired - Fee Related JP4209826B2 (en) 2004-09-29 2004-09-29 Traffic flow monitoring device

Country Status (1)

Country Link
JP (1) JP4209826B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5315104B2 (en) * 2009-03-23 2013-10-16 三菱電機株式会社 Traffic flow measuring device
JP5988716B2 (en) * 2012-06-11 2016-09-07 三菱電機株式会社 Image processing device
CN103730015B (en) * 2013-12-27 2016-01-20 株洲南车时代电气股份有限公司 Intersection traffic flow detecting method and device
JP6935690B2 (en) * 2017-07-03 2021-09-15 富士通株式会社 Detection programs, methods, and equipment
CN111047908B (en) * 2018-10-12 2021-11-02 富士通株式会社 Detection device and method for cross-line vehicle and video monitoring equipment

Also Published As

Publication number Publication date
JP2006099373A (en) 2006-04-13

Similar Documents

Publication Publication Date Title
JP6584024B2 (en) Monitoring system
CN109887281B (en) Method and system for monitoring traffic incident
KR102132248B1 (en) Control apparatus, method of controlling image sensing device, and computer-readable storage medium
US9965690B2 (en) On-vehicle control device
TWI421796B (en) Image processing device, image processing method and program
EP2709066A1 (en) Concept for detecting a motion of a moving object
US10055656B2 (en) Traffic signal detection device and traffic signal detection method
CN103226891A (en) Video-based vehicle collision accident detection method and system
JP5297407B2 (en) Traffic flow measuring device
KR20160038944A (en) traffic monitoring system
JP2007026301A (en) Stopping/low-speed vehicle detector and stopping/low-speed vehicle detection method
JP4209826B2 (en) Traffic flow monitoring device
KR20150130901A (en) Camera apparatus and method of object tracking using the same
KR100990404B1 (en) Method for detecting vehicle of lanes
CN101877132B (en) Interactive event processing method and device used for motion tracking
JP2007265016A (en) Vehicle detection device and vehicle detection method
JP5950193B2 (en) Disparity value calculation device, disparity value calculation system including the same, moving surface area recognition system, disparity value calculation method, and disparity value calculation program
EP2709065A1 (en) Concept for counting moving objects passing a plurality of different areas within a region of interest
JPH0676195A (en) Abnormal event detector
JP3985436B2 (en) Vehicle recognition device and vehicle recognition method
JP4074571B2 (en) Traffic flow measuring device
JPH1040490A (en) Road monitoring device
JPH0721488A (en) Traffic flow abnormality monitoring and supporting device
JP5315104B2 (en) Traffic flow measuring device
JP2012013567A (en) Wave overtopping detection system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060529

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080408

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081007

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081023

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121031

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131031

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees