JP4621171B2 - Feature point movement detection apparatus and feature point movement detection method - Google Patents
Feature point movement detection apparatus and feature point movement detection method Download PDFInfo
- Publication number
- JP4621171B2 JP4621171B2 JP2006156433A JP2006156433A JP4621171B2 JP 4621171 B2 JP4621171 B2 JP 4621171B2 JP 2006156433 A JP2006156433 A JP 2006156433A JP 2006156433 A JP2006156433 A JP 2006156433A JP 4621171 B2 JP4621171 B2 JP 4621171B2
- Authority
- JP
- Japan
- Prior art keywords
- straight line
- feature point
- movement
- feature
- detected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
Description
本発明は、例えば、連続して撮影された複数枚の画像等のデータから、そのデータ内に存在する特徴点の移動量を検出する装置および方法に関する。 The present invention relates to an apparatus and a method for detecting a movement amount of a feature point existing in data, for example, from data such as a plurality of images taken continuously.
時間的にずれがある2枚の画像から、画面内の物体の動きを検出する手法として、複数の画像における対応点を求めてその動きを検出する手法や、「オプティカルフロー」と呼ばれる手法が用いられている。対応点から特徴点の動きを検出する手法は、対応点を求めるための計算処理が複雑である。オプティカルフローは、対応点を求める手法に比べて計算処理が容易であるとともに、物体の速度の情報を得られるという利点がある。 As a method for detecting the motion of an object in the screen from two images that are shifted in time, a method for obtaining corresponding points in a plurality of images and detecting the motion, or a method called “optical flow” is used. It has been. In the method of detecting the movement of the feature point from the corresponding point, the calculation process for obtaining the corresponding point is complicated. The optical flow has advantages in that the calculation process is easier than the method for obtaining the corresponding points, and information on the velocity of the object can be obtained.
しかし、オプティカルフローは、点と点の対応を求めることができないために、領域と領域の一致性を見ることで、点と点の対応とみなさなくてはならないという本質的な問題を有する。 However, since the optical flow cannot determine the correspondence between points, it has an essential problem that it must be regarded as a point-to-point correspondence by looking at the coincidence between the regions.
また、上記以外に、時系列の画像から画面内の物体の動きを検出する手法として、特許文献1に記載された動き検出装置が知られている。特許文献1の動き検出装置は、画像からエッジを検出し、エッジが存在する画素についてカウント値をカウントアップする。これにより、カウント値がエッジの移動状態を示すことになるため、各画素のカウント値に基づいて、エッジの移動方向および移動速度を求めることができる。この方法は、時間的にずれのある画像で検出されたエッジ間に、複数の点を挿入することによって連続性を持たせ、点と点の対応関係を追跡することができる。
しかし、上記した特許文献1の動き検出装置では、エッジが検出される限りカウント値をカウントアップするため、物体の移動速度が遅い場合には、同じ画素が繰り返しカウントアップされ、メモリがオーバーフローしてしまう。特許文献1では、この問題を解決するために、「消失点」という概念を導入し、消失点を基準に画像内を複数の領域に分割し、領域に応じてサンプリングレートを変えている。
However, in the above-described motion detection device of
画像を複数の領域に分割する上記の方法は、領域に応じて異なるサンプリングレートで処理を行う必要があるので、計算処理が複雑となる。また、この方法は、物体の動きが遅い領域では、サンプリングレートを減らしてメモリのオーバーフローを起こりにくくするものであるが、画像中のすべての物体の動きが消失点に向かって段階的に遅くなるわけではないので、根本的な解決にはなっていない。 The above-described method for dividing an image into a plurality of regions requires processing at different sampling rates depending on the region, and thus the calculation processing becomes complicated. In this method, in a region where the movement of the object is slow, the sampling rate is reduced to make it difficult for the memory to overflow. However, the movement of all the objects in the image is gradually reduced toward the vanishing point. It is not a complete solution.
そこで、本発明は、上記背景に鑑み、簡単な処理で入力されたデータに含まれる特徴点の移動を検出することができる特徴点移動検出装置を提供することを目的とする。 In view of the above background, an object of the present invention is to provide a feature point movement detection device that can detect the movement of feature points included in data input by simple processing.
本発明の特徴点移動検出装置は、特徴点の移動を検出する装置であって、入力されたデータから特徴点を検出する特徴点検出部と、前記特徴点検出部にて検出された特徴点を通り、かつ、その特徴点を検出したタイミングに基づいて決定される傾きを有する直線を求める直線算出部と、異なるタイミングに検出された特徴点について、前記直線算出部にて算出した直線を記憶しておくメモリと、前記直線算出部にて算出した直線を前記メモリに書き込む書込制御部と、前記メモリに記憶された複数の直線の交差状態に基づいて、異なるタイミングに検出された複数の前記特徴点の対応を求め、前記特徴点の移動を検出する移動検出部とを備える。 The feature point movement detection device of the present invention is a device for detecting feature point movement, a feature point detection unit for detecting feature points from input data, and a feature point detected by the feature point detection unit. A straight line calculation unit for obtaining a straight line having an inclination determined based on the timing at which the feature point is detected, and a straight line calculated by the straight line calculation unit for the feature point detected at a different timing are stored. A plurality of lines detected at different timings based on a crossing state of a plurality of straight lines stored in the memory, a write control unit that writes the straight lines calculated by the straight line calculation unit to the memory, A movement detection unit that obtains correspondence between the feature points and detects movement of the feature points.
このように時間の経過に伴って移動する特徴点を所定のタイミングで検出し、異なるタイミングで検出された複数の特徴点に対して、その検出タイミングに基づいて決定される傾きを持つ直線を引くと、特徴点の移動速度が一定であると仮定した場合、その直線群はある点で交差する。本発明では、特徴点を通る直線の交差状態に基づいて、異なる検出タイミングで得られた特徴点の対応を求めるという簡単な処理により、特徴点の移動を検出することができる。また、特徴点の移動速度が大きくなるに従って、特徴点から直線の交点までの距離が大きくなるので、特徴点から交点までの距離によって特徴点の移動速度を表すことができる。 In this way, feature points that move with the passage of time are detected at a predetermined timing, and a straight line having an inclination determined based on the detection timing is drawn for a plurality of feature points detected at different timings. Assuming that the moving speed of the feature points is constant, the straight line group intersects at a certain point. In the present invention, the movement of the feature point can be detected by a simple process of obtaining the correspondence of the feature point obtained at different detection timings based on the intersection state of the straight lines passing through the feature point. In addition, as the moving speed of the feature point increases, the distance from the feature point to the intersection of the straight lines increases. Therefore, the moving speed of the feature point can be expressed by the distance from the feature point to the intersection.
上記特徴点移動検出装置において、前記メモリは、前記直線を規定する所定の座標系の各座標に対応するカウンタを準備しておき、前記書込制御部は、前記直線算出部にて算出された直線を構成する各点の座標に対応するカウンタをカウントアップし、前記移動検出部は、前記メモリの各座標に対応するカウンタの値に基づいて直線の交差状態を求めてもよい。 In the feature point movement detection device, the memory prepares a counter corresponding to each coordinate of a predetermined coordinate system that defines the straight line, and the writing control unit is calculated by the straight line calculation unit. The counter corresponding to the coordinates of each point constituting the straight line may be counted up, and the movement detection unit may obtain the intersection state of the straight lines based on the value of the counter corresponding to each coordinate of the memory.
このように、各直線を構成する点に対応するカウンタをカウントアップすることにより、直線の交差する場所では、カウンタの値が大きくなり、かつ交差する場所の周囲では1以上の値を持つカウンタの密度が高くなる。従って、カウンタの値に基づいて直線の交差状態を容易に把握することができる。また、カウンタの値のピークの座標がそのまま特徴点の移動に関する情報となるので、複雑な計算を要せずに、特徴点の移動を検出できる。 In this way, by counting up the counters corresponding to the points constituting each straight line, the value of the counter becomes large at the place where the straight lines intersect, and the counter having a value of 1 or more around the place where the straight lines intersect. Density increases. Therefore, it is possible to easily grasp the intersection state of the straight lines based on the counter value. Moreover, since the coordinates of the peak of the counter value are directly used as information regarding the movement of the feature point, the movement of the feature point can be detected without requiring complicated calculation.
上記特徴点移動検出装置において、前記メモリは、複数の領域を有し、前記書込制御部は、複数の領域のそれぞれに対して、異なるタイミングからデータの書込みを開始し、前記移動検出部は、複数の領域のうち、データの書込み回数が所定数に達した領域を参照して、前記特徴点の移動を検出してもよい。 In the feature point movement detection device, the memory has a plurality of areas, and the write control unit starts writing data to each of the plurality of areas from different timings. The movement of the feature points may be detected with reference to an area in which the number of data writing reaches a predetermined number among the plurality of areas.
このようにメモリが有する複数の領域のそれぞれに、異なるタイミングからデータを書き込むことにより、いずれかの領域のデータに基づいて特徴点の移動を検出できる。 Thus, by writing data to each of the plurality of regions of the memory from different timings, it is possible to detect the movement of the feature points based on the data of any region.
上記特徴点移動検出装置において、前記書込制御部は、前記移動検出部が前記特徴点の移動の検出に用いた領域のデータを消去してもよい。 In the feature point movement detection device, the writing control unit may erase data in a region used by the movement detection unit to detect movement of the feature point.
このように特徴点の移動の検出に用いた領域のデータを消去することにより、その領域を利用して新たに検出を開始した特徴点を書き込むことができる。 As described above, by deleting the data of the region used for detecting the movement of the feature point, it is possible to write the feature point newly detected using the region.
上記特徴点移動検出装置において、前記直線算出部は、直線の傾きθを、tanθの変化が特徴点の検出タイミングの間隔に比例するように設定してもよい。 In the feature point movement detection device, the straight line calculation unit may set the slope θ of the straight line so that the change in tan θ is proportional to the interval of the detection timing of the feature points.
このように、tanθの変化が特徴点の検出時刻の間隔に比例するようにすることで、一定の移動速度で移動する特徴点を通る各直線が所定の点で交差する。 Thus, by making the change in tan θ proportional to the feature point detection time interval, each straight line passing through the feature point moving at a constant movement speed intersects at a predetermined point.
本発明の特徴点移動検出方法は、特徴点の移動を検出する方法であって、入力されたデータから特徴点を検出する特徴点検出ステップと、前記特徴点検出ステップにて検出された特徴点を通り、かつ、その特徴点を検出したタイミングに基づいて決定される傾きを有する直線を求める直線算出ステップと、異なるタイミングに検出された特徴点について、前記直線算出ステップにて算出した直線を記憶しておくメモリを準備するステップと、前記直線算出ステップにて算出した直線を前記メモリに書き込む書込制御ステップと、前記メモリに記憶された複数の直線の交差状態に基づいて、異なるタイミングに検出された複数の前記特徴点の対応を求め、前記特徴点の移動を検出する移動検出ステップとを備える。 The feature point movement detection method of the present invention is a method for detecting feature point movement, a feature point detection step for detecting a feature point from input data, and a feature point detected by the feature point detection step. And a straight line calculation step for obtaining a straight line having an inclination determined based on the timing at which the feature point is detected, and a straight line calculated in the straight line calculation step for feature points detected at different timings are stored. Detecting at different timings based on a step of preparing a memory to be stored, a writing control step of writing the straight line calculated in the straight line calculating step into the memory, and an intersection state of a plurality of straight lines stored in the memory A movement detection step of obtaining correspondence between the plurality of feature points and detecting movement of the feature points.
この構成により、本発明の特徴点移動検出装置と同様に、データから検出された特徴点に対して、その検出タイミングに基づいて決定される傾きの直線を求めるという簡単な処理により、複雑な計算処理をせずに特徴点の移動を検出することができる。また、本発明の特徴点移動検出装置の各種の構成を、本発明の特徴点移動検出方法に適用することも可能である。 With this configuration, as with the feature point movement detection device of the present invention, a complicated calculation is performed by a simple process of obtaining a straight line of an inclination determined based on the detection timing for a feature point detected from data. It is possible to detect the movement of feature points without processing. In addition, various configurations of the feature point movement detection apparatus of the present invention can be applied to the feature point movement detection method of the present invention.
本発明のプログラムは、特徴点の移動を検出するためのプログラムであって、コンピュータに、入力されたデータから特徴点を検出する特徴点検出ステップと、前記特徴点検出ステップにて検出された特徴点を通り、かつ、その特徴点を検出したタイミングに基づいて決定される傾きを有する直線を求める直線算出ステップと、異なるタイミングに検出された特徴点について、前記直線算出ステップにて算出した直線を記憶しておくメモリ領域を生成するステップと、前記直線算出ステップにて算出した直線を前記メモリ領域に書き込む書込制御ステップと、前記メモリ領域に記憶された複数の直線の交差状態に基づいて、異なるタイミングに検出された複数の前記特徴点の対応を求め、前記特徴点の移動を検出する移動検出ステップとを実行させる。 The program of the present invention is a program for detecting movement of a feature point, and a feature point detection step for detecting a feature point from data input to a computer, and a feature detected in the feature point detection step. A straight line calculation step for obtaining a straight line that passes through a point and has an inclination determined based on the timing at which the feature point is detected, and a straight line calculated in the straight line calculation step for the characteristic point detected at a different timing. Based on a step of generating a memory area to be stored, a writing control step of writing the straight line calculated in the straight line calculating step into the memory area, and an intersection state of a plurality of straight lines stored in the memory area, A movement detecting step for obtaining correspondence between the plurality of feature points detected at different timings and detecting movement of the feature points; Make.
この構成により、本発明の特徴点移動検出装置と同様に、データから検出された特徴点に対して、その検出タイミングに基づいて決定される傾きの直線を求めるという簡単な処理により、複雑な計算処理をせずに特徴点の移動を検出することができる。また、本発明の特徴点移動検出装置の各種の構成を、本発明のプログラムに適用することも可能である。 With this configuration, as with the feature point movement detection device of the present invention, a complicated calculation is performed by a simple process of obtaining a straight line of an inclination determined based on the detection timing for a feature point detected from data. It is possible to detect the movement of feature points without processing. In addition, various configurations of the feature point movement detection device of the present invention can be applied to the program of the present invention.
本発明によれば、データから検出された特徴点に対して、その検出タイミングに基づいて決定される傾きの直線を求めるという簡単な処理により、特徴点の移動を検出することができる効果を有する。 According to the present invention, it is possible to detect the movement of a feature point by a simple process of obtaining a straight line of an inclination determined based on the detection timing for a feature point detected from data. .
以下、本発明の実施の形態の特徴点移動検出装置について説明する。以下では、画像に映った自動車の移動を検出する装置を例として説明する。しかし、本発明の特徴点移動検出装置は、画像に含まれる特徴点の移動を検出する装置に限定されない。例えば、特徴点移動検出装置は、赤外線センサ等によって得られたデータから、検出された特徴点の移動を検出することも可能である。 Hereinafter, a feature point movement detection apparatus according to an embodiment of the present invention will be described. In the following, an apparatus for detecting movement of a car shown in an image will be described as an example. However, the feature point movement detection device of the present invention is not limited to a device that detects the movement of feature points included in an image. For example, the feature point movement detection device can also detect the movement of the detected feature point from data obtained by an infrared sensor or the like.
図1は、本実施の形態の特徴点移動検出装置1の構成を示す図である。特徴点移動検出装置1は、画像を入力する画像入力部10と、入力された画像から縦エッジを抽出し、縦エッジ画像を生成するエッジ画像生成部12と、生成された縦エッジ画像から特徴点を検出する特徴点検出部14とを備えている。
FIG. 1 is a diagram illustrating a configuration of a feature point
図2は、エッジ画像生成部12にて生成された縦エッジ画像の例を示す図である。本実施の形態では、自動車の水平方向の移動を検出する。特徴点検出部14は、エッジ画像生成部12にて生成された縦エッジ画像から、水平方向に1ラインの画素データを読み出して、読み出した画素データから特徴点を検出する。本実施の形態では、縦エッジ画像を用いているので、特徴点が水平方向に移動した場合に、特徴点の移動を精度良く検出することができる。なお、特徴点の縦方向への移動を検出する場合には、横エッジ画像を生成し、垂直方向に画素データを読み出す構成とする。
FIG. 2 is a diagram illustrating an example of a vertical edge image generated by the edge
特徴点移動検出装置1は、検出された複数の特徴点を対応付けるための構成として、特徴点検出部14にて検出された特徴点の座標を算出する特徴点座標算出部16と、特徴点座標算出部16にて算出された位置座標を用いて、その点を通る直線を求める直線算出部18と、求めた直線を記憶するメモリ24とを備えている。直線算出部18は、傾きテーブル20から、直線の傾きに対応するオフセット値を読み出して直線のデータを生成する。
The feature point
特徴点座標算出部16は、特徴点検出部14にて検出された特徴点の所定の座標系における座標を算出する。ここでは、特徴点の水平方向の動きを検出しているので、特徴点の座標は、(x、0)の形式で求められる。
The feature point coordinate
ここで、図2に示す例を用いて、本実施の形態の特徴点移動検出の原理について説明する。図2に示す例では、特徴点検出部14によって特徴点a、特徴点bが検出される。
Here, the principle of feature point movement detection of the present embodiment will be described using the example shown in FIG. In the example illustrated in FIG. 2, the feature point a and the feature point b are detected by the feature
図3は、特徴点の移動を示す図である。図2に示すように自動車は右方向に進行しているので、特徴点a、特徴点bは、時間の経過と共に右方向へ移動していく。図3では、時刻t1で検出された特徴点を点c1、c2、時刻t2で検出された特徴点を点c3、c4、以下同様に時刻t3〜t5で検出された特徴点を点c5〜c10と記載している。 FIG. 3 is a diagram illustrating movement of feature points. As shown in FIG. 2, since the automobile is traveling in the right direction, the feature point a and the feature point b move to the right as time passes. In FIG. 3, the feature points detected at time t1 are points c1 and c2, the feature points detected at time t2 are points c3 and c4, and the feature points detected at times t3 to t5 are points c5 to c10. It is described.
特徴点検出部14にて特徴点を画像から検出した段階では、それぞれの検出時刻において検出された点c1〜c10の対応関係は分かっていない。例えば、時刻t1の特徴点c1が時刻t2に特徴点c4の位置に移動し、時刻t2の特徴点c2が新たに現れた特徴点であることもあり得るし、時刻t1の点c1が左方向へ移動し、所定の座標系から消え、時刻t1の点c2が時刻t2の点c3に対応していることもあり得る。本実施の形態の特徴点移動検出装置1は、各時刻において検出された点c1〜c10を簡単な処理によって対応付ける。
At the stage where the feature points are detected from the image by the
図4は、特徴点移動検出装置1が行う処理を説明するための図である。本実施の形態においては、特徴点の移動速度は一定であり、特徴点移動検出装置1は一定の時間間隔で特徴点を検出する。従って、特徴点移動検出装置1にて検出される特徴点は、等間隔となる。なお、十分微小な時間間隔で特徴点の検出を行うと、特徴点の移動速度をほぼ一定とみなすことができるので、上記のように特徴点の移動速度が一定という前提をおくことができる。
FIG. 4 is a diagram for explaining processing performed by the feature point
特徴点移動検出装置1は、検出された点c1〜c10を通る直線を引く。このとき、直線の傾きは、各点c1〜c10を検出したタイミングに応じて決定する。時刻t1に検出された点c1、c2には、傾きθ1の直線l1、l2を引く。時刻t2に検出された点c3、c4には、傾きθ2の直線l3、l4を引く。以下同様に、点c5、c6に直線l5、l6、点c7、c8に直線l7、l8、点c9、c10に直線l9、l10を引く。
The feature point
ここで、直線の傾きθは、tanθの変化が一定となるように決定する。図4に示す例では、tan(θ1)−tan(θ2)=tan(θ2)−tan(0)=tan(0)−tan(−θ2)=tan(−θ2)−tan(−θ1)という関係が成立する。上記のような直線を引くと、同じ時間間隔で複数の時刻に取得した特徴点を通る直線は、所定の点で交差することになる。本実施の形態は、所定の点で交差した直線群のそれぞれに含まれる特徴点は、異なる時刻に検出された同じ特徴点であると判定し、特徴点の移動を検出する。 Here, the inclination θ of the straight line is determined so that the change in tan θ is constant. In the example shown in FIG. 4, tan (θ1) −tan (θ2) = tan (θ2) −tan (0) = tan (0) −tan (−θ2) = tan (−θ2) −tan (−θ1) A relationship is established. When a straight line as described above is drawn, straight lines passing through feature points acquired at a plurality of times at the same time interval intersect at predetermined points. In the present embodiment, it is determined that the feature points included in each of the straight line groups intersecting at a predetermined point are the same feature points detected at different times, and the movement of the feature points is detected.
図1を再び参照して、本実施の形態の特徴点移動検出装置1の構成について説明する。直線算出部18は、特徴点を検出した時刻に対応するオフセット値を傾きテーブル20から読み出し、読み出したオフセット値を用いて、検出された特徴点を通る直線を求める。
With reference to FIG. 1 again, the configuration of the feature point
図5は、傾きテーブル20に記憶されたデータの例を示す図である。図6は、傾きテーブル20に記憶されたデータについて説明するための図である。図6に示すように、傾きテーブル20には、y値に対するオフセット値が記憶されている。 FIG. 5 is a diagram illustrating an example of data stored in the tilt table 20. FIG. 6 is a diagram for explaining data stored in the tilt table 20. As shown in FIG. 6, the tilt table 20 stores an offset value for the y value.
図5に示すように、傾きテーブル20には、傾きの異なる5つの直線を構成するためのy値に対するオフセット値が記憶されている。例えば、P=1の列のオフセット値により、傾きθ1の直線が構成され、P=2の列のオフセット値により傾きθ2の直線が構成される。この傾きテーブル20に記憶されたオフセット値を読み出して、特徴点の座標(x、0)に加算することにより、直線を構成する各点の座標を求めることができる。 As shown in FIG. 5, the inclination table 20 stores offset values for y values for forming five straight lines having different inclinations. For example, a straight line having an inclination θ1 is formed by the offset value of the column with P = 1, and a straight line having the inclination θ2 is formed by the offset value of the column having P = 2. By reading the offset value stored in the inclination table 20 and adding it to the coordinate (x, 0) of the feature point, the coordinate of each point constituting the straight line can be obtained.
図7は、メモリ24の構成を示す図である。メモリ24は、座標系の各点に対応するカウンタを有している。書込制御部22は、傾きテーブル20から読み出されたオフセット値を加えた位置にある座標のカウンタをカウントアップする。図7では、点c1、c3、c5、c7、c9に対応する座標に斜線を付して示している。なお、図7に示す各座標に対応するカウンタに一つの物理アドレスを割り当てる構成を採用してもよい。
FIG. 7 is a diagram showing the configuration of the
例えば、点c1を通る直線の場合には、図5に示す傾きテーブル20の「P=1」の列からオフセット値を読み出す。具体的には、y=1のときにオフセット値は「0」なので、点c1の真上にある座標のカウンタがカウントアップされ、「1」となる。なお、図7では、1以上の値を有するカウンタを太枠で囲んで示している。y=2のときにはオフセット値は「1」なので点c1から右に一つずれた座標のカウンタをカウントアップする。同様に、オフセット値を加えて求められた座標に対応するカウンタをカウントアップする。また、点c3を通る直線の場合には、図5に示す傾きテーブル20の「P=2」の列からオフセット値を読み出して、座標に対応するカウンタをカウントアップしていく。以下同様に、検出された各点c1、c3、c5、c7、c9について、検出タイミングに応じて決まるオフセット値を加えてカウントアップする。以上により、図7に示すように、各座標に対応するカウンタに値が入力される。このように、傾きテーブル20から読み出したオフセット値に応じてカウンタの値をカウントアップすることにより、メモリ24に直線のデータが記憶される。
For example, in the case of a straight line passing through the point c1, the offset value is read from the column “P = 1” of the inclination table 20 shown in FIG. Specifically, since the offset value is “0” when y = 1, the counter of the coordinate immediately above the point c1 is counted up to “1”. In FIG. 7, a counter having a value of 1 or more is shown surrounded by a thick frame. Since the offset value is “1” when y = 2, the counter of the coordinate shifted by one to the right from the point c1 is counted up. Similarly, the counter corresponding to the obtained coordinates is counted up by adding the offset value. In the case of a straight line passing through the point c3, the offset value is read from the column “P = 2” of the inclination table 20 shown in FIG. 5, and the counter corresponding to the coordinate is counted up. Similarly, the detected points c1, c3, c5, c7, and c9 are counted up by adding an offset value determined according to the detection timing. As a result, as shown in FIG. 7, values are input to the counters corresponding to the respective coordinates. As described above, the
また、メモリ24は、第1領域241、第2領域242、・・・第5領域245(以下、これらの領域を総称して「領域」という)を有する。領域241〜245のそれぞれは、図7に示すような、座標に対応するカウンタを有する。各領域には、異なる時刻に検出を開始した直線のデータが書き込まれる。
The
図8は、各領域への直線の書き込みタイミングの例を示す図である。図8に示すように、第1領域241には、時刻t1に検出された点c1、c2を通る直線が書き込まれる。第1領域241への書込みは、時刻t1に開始される。このとき、第2領域242、第3領域243には書き込まれない。
FIG. 8 is a diagram showing an example of the timing of writing a straight line to each region. As shown in FIG. 8, a straight line passing through the points c1 and c2 detected at time t1 is written in the
次に、時刻t2に検出された点c3、c4は、第1領域241、第2領域242に書き込まれ、第3領域243には書き込まれない。第2領域242への書込みは、時刻t2に開始される。このとき、第1領域241において、点c3、c4を通る直線は、すでに書き込まれている点c1、c2を通る直線とは傾きの異なる直線である。具体的には、点c1、c2に対しては、傾きテーブル20のP=1の列から読み出したオフセット値を用い、点c3、c4に対しては、傾きテーブル20のP=2の列から読み出したオフセット値を用いて第1領域241のカウンタをカウントアップする。第2領域242において点c3、c4を通る直線は、第1領域241における点c1、c2を通る直線と同じ傾きの直線が書き込まれる。すなわち、傾きテーブル20のP=1の列から読み出したオフセット値を用いて第2領域242のカウンタをカウントアップする。
Next, the points c3 and c4 detected at time t2 are written in the
時刻t3は、図示していないが、第3領域243に、点c5、c6が書き込まれる。第3領域243への書込みは、時刻t3に開始される。 Although not shown, the points c5 and c6 are written in the third region 243 at time t3. Writing to the third area 243 is started at time t3.
時刻t5には、第1領域241、第2領域242、第3領域243のそれぞれに、点c9、c10が書き込まれる。なお、図8には示していないが、第4領域244、第5領域245にも点c9、c10が書き込まれる。この時点で、第1領域241には、時刻t1〜t5の5回の検出タイミングにおいて検出された点に対する直線が書き込まれたので、この直線群の交差状態から点c1〜c10の対応を求める。この例では、点c1、c3、c5、c7、c9が同じ特徴点、点c2、c4、c6、c8、c10が同じ特徴点であることが分かる。
At time t5, points c9 and c10 are written in the
時刻t6には、第1領域241では、時刻t5までのデータを消去して、新たに点c11、c12を書き込む。また、第2領域242では、点c11、c12のデータを書き込む。この時点で、第2領域242には、時刻t2〜t6の5回の検出タイミングにおいて検出された点に対する直線が書き込まれたので、この直線群の交差状態から点c3〜c12の対応を求める。
At time t6, in the
時刻t7には、第2領域242では、時刻t6までのデータを消去して、新たに点c13、c14を書き込む。また、第3領域243では、点c13、c14のデータを書き込む。この時点で、第3領域243には、時刻t3〜t7の5回の検出タイミングにおいて検出された点に対する直線が書き込まれたので、この直線群の交差状態から点c5〜c14の対応を求める。
At time t7, in the
このようにメモリ24が有する複数の領域に、異なるタイミングから検出を開始した特徴点を書き込んでいくことにより、それぞれの領域において、別々のタイミングで特徴点の移動を検出できる。一つの領域しか使用しない場合には、時刻t1〜t5までに検出したデータから特徴点の移動を検出した後は、時刻t1〜t5と同じ時間だけ待たなければ次の結果が得られない。本実施の形態のようにメモリ24に複数の領域241〜245を準備し、複数の領域を利用することにより、時刻t5に続いて、時刻t6、t7等にも特徴点の移動を検出できる。本実施の形態では、5つの検出タイミングにて検出された特徴点からその対応を求めるが、特徴点の移動検出に必要な検出回数と同数の5つの領域を利用しているので、第1領域241〜第5領域245のいずれかの領域において、特徴点の移動を検出できる。
Thus, by writing the feature points that have been detected from different timings into the plurality of areas of the
また、特徴点の移動を検出した後は、その領域のデータをクリアするので、各座標に対応するカウンタの値がオーバーフローすることもない。 Further, after detecting the movement of the feature point, the data in the area is cleared, so that the counter value corresponding to each coordinate does not overflow.
移動検出部26は、各メモリ24に書き込まれたデータから直線群の交差状態に基づいて、特徴点の移動を検出する。移動検出部26は、交差する点が集中する箇所を求めることによって、直線が交差しているか否かを判断する。
The
図9(a)および図9(b)は、移動検出部26による集中点の検出について説明するための図である。図9(a)は、書込制御部22によってメモリ24に書き込まれたデータの例を示す図である。移動検出部26は、カウンタ値の度数分布をヒストグラムによって求め、直線の交差状態を判断する。ここで、図9(a)に示す枠で囲まれた部分のヒストグラムを求める例について説明する。
FIG. 9A and FIG. 9B are diagrams for explaining the detection of a concentrated point by the
図9(b)は、図9(a)の枠fで囲んだ部分を90°回転して、ヒストグラムhを求めた例を示す図である。図9(b)に示す各直線を構成する各点に対応する座標は、カウンタの値を有している(図7参照)。このカウンタの値を合計することにより、ヒストグラムhを求める。このヒストグラムhの値が最大となる部分が直線群の交差点の集中する点と判断する。 FIG. 9B is a diagram illustrating an example in which the histogram h is obtained by rotating the portion surrounded by the frame f in FIG. 9A by 90 °. The coordinates corresponding to the points constituting each straight line shown in FIG. 9B have counter values (see FIG. 7). A histogram h is obtained by summing up the values of the counters. The portion where the value of the histogram h is maximum is determined as the point where the intersections of the straight line group are concentrated.
結果表示部28は、移動検出部26にて求めた特徴点の移動の検出結果を表示する。このとき、特徴点と交差点との距離は、特徴点の移動速度を表すので、結果表示部28は、特徴点と交点との距離を特徴点の移動速度として表示してもよい。これにより、交差点を検出した結果をそのまま特徴点の速度とすることができるので、特徴点の移動速度を容易に求めることができる。
The
次に、本実施の形態の特徴点移動検出装置1の動作について説明する。図10は本実施の形態の特徴点移動検出装置1の動作を示す図である。特徴点移動検出装置1は、画像入力部10にて画像の入力を受け付ける(S10)。画像入力部10は、入力された画像をエッジ画像生成部12に入力する。エッジ画像生成部12は、入力された画像から縦エッジ画像を生成し(S12)、生成した縦エッジ画像を特徴点検出部14に入力する。特徴点検出部14は、入力された縦エッジ画像から、水平方向に画素データを読み出し、読み出した画素データから特徴点を抽出する(S14)。特徴点検出部14は、特徴点が検出された縦エッジ画像を特徴点座標算出部16に入力する。特徴点座標算出部16は、縦エッジ画像に所定の座標系を設定し、その所定の座標系における特徴点の座標を算出する(S16)。特徴点座標算出部16は、算出した特徴点の座標を直線算出部18に入力する。
Next, the operation of the feature point
直線算出部18は、直線の傾きを決定する(S18)。直線の傾きは、特徴点を検出したタイミングに基づいて、データを書き込むメモリ24の領域ごとに決定する。図8において、時刻t5におけるデータを例として説明する。領域241には、時刻t1に検出された点c1、c2、時刻t2に検出された点c3、c4、時刻t3に検出された点c5、c6、時刻t4に検出された点c7、c8、時刻t5に検出された点c9、c10が記載されている。それぞれの点c1〜c10を通る直線は、検出したタイミングに応じて決定される傾きを有していることが分かる。また、第2領域242を参照しても、点c3〜c10を通る直線は、検出したタイミングに応じて決定される傾きを有していることが分かる。
The straight
直線算出部18は、決定された傾きに従って、傾きテーブル20からオフセット値を読み出し、直線を構成する各点の座標を求める(S20)。直線算出部18は、直線を構成する各点の座標値を書込制御部22に入力する。その後、書込制御部22は、直線算出部18より入力された各座標に対応するカウンタの値をカウントアップし、各領域241〜245に直線を書き込む(S22)。
The straight
移動検出部26は、メモリ24の各領域241〜245のうち、検出回数5回分の特徴点が書き込まれた領域を選択する。移動検出部26は、選択した領域に書き込まれた直線の交差状態に基づいて複数の特徴点の対応を求め、特徴点の移動を検出する(S24)。書込制御部22は、移動検出部26にて特徴点の移動検出に用いられた領域のデータを消去する(S26)。結果表示部28は、移動検出部26にて検出された特徴点の移動を表示する(S28)。
以上、本実施の形態の特徴点移動検出装置1および特徴点移動検出方法について説明した。
The
The feature point
本実施の形態の特徴点移動検出装置1は、異なる時刻に検出された複数の特徴点に対して、検出したタイミングに基づいて決定される傾きを持つ直線を引き、この直線の交差状態に基づいて特徴点の対応を求める。これにより、同じタイミングに複数の異なる特徴点が含まれている場合であっても、複雑な計算処理を行わずに特徴点の移動を検出することができる。
The feature point
また、本実施の形態の特徴点移動検出装置1は、メモリ24が第1領域241〜第5領域245を含み、それぞれの領域で異なる時刻から検出を開始した特徴点のデータを記憶する。これにより、第1領域241〜第5領域245では、順次、特徴点を求めるために必要な5回分の特徴点の検出結果が蓄積されるので、いずれかの領域で特徴点の移動を検出することができる。
In addition, in the feature point
また、本実施の形態の特徴点移動検出装置1は、直線のデータを座標に対応するカウンタをカウントアップする形式で記憶し、カウンタ値の度数分布を求めることによって、直線の交差点が集中する箇所を求めるので、直線の式から交差する点を計算によって求める必要がなく、容易に直線の交差状態を求めることができる。
In addition, the feature point
また、本実施の形態の特徴点移動検出装置1は、特徴点の移動を検出した後は、特徴点の移動を検出するために用いたデータを記憶した領域のデータを消去するので、カウンタ値のオーバーフローを防止できる。
Further, after detecting the movement of the feature point, the feature point
以上、本発明の特徴点移動検出装置1について、実施の形態を挙げて詳細に説明したが、本発明の特徴点移動検出装置1は上記した実施の形態に限定されるものではない。
The feature point
上記した実施の形態では、直線のデータを記憶するメモリ24には、座標に対応するカウンタを準備し、カウンタ値を記憶することによって直線のデータを記憶したが、直線の式を記憶することとしてもよい。この場合、直線のデータを記憶するためのメモリ24の容量を低減することができる。
In the above-described embodiment, the straight line data is stored in the
上記した実施の形態では、特徴点を5回の検出タイミングで検出し、検出された特徴点に5種類の直線を引くことによって、異なる検出タイミングで得られた特徴点の対応を求めたが、特徴点の対応を求めるために必要な検出回数は5回に限られない。例えば、7回の検出タイミングで検出した特徴点に7種類の直線を引くことによって、特徴点の移動を検出してもよい。検出回数が多くなれば、特徴点の移動を検出できる精度が高くなる。少ない検出回数で特徴点の移動を検出すれば、少ないデータで迅速に特徴点の移動を検出できる。なお、特徴点の移動検出に用いる検出回数と同数の領域をメモリに準備しておくことが好ましい。これにより、各領域に異なるタイミングで書き込みを開始した場合に、各領域で順次特徴点の移動を検出することが可能となる。 In the above-described embodiment, the feature points are detected at five detection timings, and the correspondence of the feature points obtained at different detection timings is obtained by drawing five types of straight lines on the detected feature points. The number of detections necessary for obtaining the correspondence between feature points is not limited to five. For example, the movement of the feature point may be detected by drawing seven types of straight lines on the feature point detected at seven detection timings. As the number of detections increases, the accuracy with which the movement of feature points can be detected increases. If the movement of the feature point is detected with a small number of detections, the movement of the feature point can be detected quickly with a small amount of data. It should be noted that it is preferable to prepare the same number of areas in the memory as the number of detection times used for feature point movement detection. Thereby, when writing is started in each area at different timings, it is possible to detect the movement of the feature point in each area sequentially.
上記した実施の形態では、特徴点の検出タイミングの間隔を一定とし、傾きテーブル20から読み出したオフセット値によって直線を算出したが、特徴点の検出タイミングの間隔が一定でない場合にも、本発明を適用することができる。この場合には、検出タイミングの間隔に基づいて傾きを決定する構成とする。例えば、検出タイミングの間隔が途中から2倍に変わったときには、直線の傾きθを、tanθの変化がそれまでの2倍になるように設定する。 In the above-described embodiment, the feature point detection timing interval is constant, and the straight line is calculated based on the offset value read from the inclination table 20, but the present invention is also applied to the case where the feature point detection timing interval is not constant. Can be applied. In this case, the inclination is determined based on the detection timing interval. For example, when the detection timing interval changes from halfway to the middle, the slope θ of the straight line is set so that the change in tanθ is doubled.
上記した実施の形態では、水平方向に移動する特徴点の移動を検出する例について説明したが、検出可能な特徴点の移動方向は水平方向に限られず、垂直方向の移動も検出可能である。また、水平方向および垂直方向の特徴点の移動に基づいて、任意の方向への特徴点の移動を求めることも可能である。 In the above-described embodiment, the example of detecting the movement of the feature point moving in the horizontal direction has been described, but the movement direction of the feature point that can be detected is not limited to the horizontal direction, and the movement in the vertical direction can also be detected. It is also possible to determine the movement of the feature point in an arbitrary direction based on the movement of the feature point in the horizontal direction and the vertical direction.
上記した実施の形態では、特徴点移動検出装置1およびその動作について説明したが、本発明は、上記した特徴点移動検出装置1の機能を実現するプログラムも含まれる。
In the above-described embodiment, the feature point
本発明によれば、データから検出された特徴点に対して、その検出タイミングに基づいて決定される傾きの直線を求めるという簡単な処理により、特徴点の移動を検出することができる効果を有し、例えば、高速カメラ等で撮影された映像中の動き情報をリアルタイムに獲得する移動物体の検出装置等として有用である。また、例えば、自動車等において、他の車や子供等の飛び出しの検出等にも有用である。 According to the present invention, it is possible to detect the movement of a feature point by a simple process of obtaining a straight line of an inclination determined based on the detection timing for a feature point detected from data. For example, the present invention is useful as a moving object detection device or the like that acquires in real time motion information in video captured by a high-speed camera or the like. Also, for example, in a car or the like, it is also useful for detecting the jumping out of other cars or children.
1 特徴点検出装置
10 画像入力部
12 エッジ画像生成部
14 特徴点検出部
16 特徴点座標算出部
18 直線算出部
20 傾きテーブル
22 書込制御部
24 メモリ
26 移動検出部
28 結果表示部
DESCRIPTION OF
Claims (7)
入力されたデータから特徴点を検出する特徴点検出部と、
前記特徴点検出部にて検出された特徴点を通り、かつ、その特徴点を検出したタイミングに基づいて決定される傾きを有する直線を求める直線算出部と、
異なるタイミングに検出された特徴点について、前記直線算出部にて算出した直線を記憶しておくメモリと、
前記直線算出部にて算出した直線を前記メモリに書き込む書込制御部と、
前記メモリに記憶された複数の直線の交差状態に基づいて、異なるタイミングに検出された複数の前記特徴点の対応を求め、前記特徴点の移動を検出する移動検出部と、
を備える特徴点移動検出装置。 An apparatus for detecting movement of a feature point,
A feature point detector that detects feature points from the input data;
A straight line calculation unit that obtains a straight line that passes through the feature point detected by the feature point detection unit and has an inclination determined based on the timing at which the feature point is detected;
For feature points detected at different timings, a memory for storing a straight line calculated by the straight line calculation unit;
A writing control unit for writing the straight line calculated by the straight line calculating unit into the memory;
Based on the intersection state of the plurality of straight lines stored in the memory, a movement detection unit that obtains correspondence between the plurality of feature points detected at different timings and detects movement of the feature points;
A feature point movement detection device comprising:
前記書込制御部は、前記直線算出部にて算出された直線を構成する各点の座標に対応するカウンタをカウントアップし、
前記移動検出部は、前記メモリの各座標に対応するカウンタの値に基づいて直線の交差状態を求める、
請求項1に記載の特徴点移動検出装置。 The memory prepares a counter corresponding to each coordinate of a predetermined coordinate system that defines the straight line,
The writing control unit counts up a counter corresponding to the coordinates of each point constituting the straight line calculated by the straight line calculating unit,
The movement detection unit obtains a crossing state of straight lines based on a counter value corresponding to each coordinate of the memory;
The feature point movement detection apparatus according to claim 1.
前記書込制御部は、複数の領域のそれぞれに対して、異なるタイミングからデータの書込みを開始し、
前記移動検出部は、複数の領域のうち、データの書込み回数が所定数に達した領域を参照して、前記特徴点の移動を検出する請求項1または2に記載の特徴点移動検出装置。 The memory has a plurality of areas,
The write control unit starts writing data from each of a plurality of areas at different timings,
3. The feature point movement detection device according to claim 1, wherein the movement detection unit detects movement of the feature point with reference to an area in which the number of data writing reaches a predetermined number among a plurality of areas.
入力されたデータから特徴点を検出する特徴点検出ステップと、
前記特徴点検出ステップにて検出された特徴点を通り、かつ、その特徴点を検出したタイミングに基づいて決定される傾きを有する直線を求める直線算出ステップと、
異なるタイミングに検出された特徴点について、前記直線算出ステップにて算出した直線を記憶しておくメモリを準備するステップと、
前記直線算出ステップにて算出した直線を前記メモリに書き込む書込制御ステップと、
前記メモリに記憶された複数の直線の交差状態に基づいて、異なるタイミングに検出された複数の前記特徴点の対応を求め、前記特徴点の移動を検出する移動検出ステップと、
を備える特徴点移動検出方法。 A method for detecting movement of a feature point,
A feature point detection step of detecting feature points from the input data;
A straight line calculating step for obtaining a straight line that passes through the characteristic point detected in the characteristic point detecting step and has an inclination determined based on the timing of detecting the characteristic point;
For the feature points detected at different timings, preparing a memory for storing the straight line calculated in the straight line calculating step;
A writing control step of writing the straight line calculated in the straight line calculating step into the memory;
A movement detection step for obtaining correspondences of the plurality of feature points detected at different timings based on the intersection states of the plurality of straight lines stored in the memory, and detecting movement of the feature points;
A feature point movement detection method comprising:
入力されたデータから特徴点を検出する特徴点検出ステップと、
前記特徴点検出ステップにて検出された特徴点を通り、かつ、その特徴点を検出したタイミングに基づいて決定される傾きを有する直線を求める直線算出ステップと、
異なるタイミングに検出された特徴点について、前記直線算出ステップにて算出した直線を記憶しておくメモリ領域を生成するステップと、
前記直線算出ステップにて算出した直線を前記メモリ領域に書き込む書込制御ステップと、
前記メモリ領域に記憶された複数の直線の交差状態に基づいて、異なるタイミングに検出された複数の前記特徴点の対応を求め、前記特徴点の移動を検出する移動検出ステップと、
を実行させるプログラム。
A program for detecting the movement of a feature point,
A feature point detection step of detecting feature points from the input data;
A straight line calculating step for obtaining a straight line that passes through the characteristic point detected in the characteristic point detecting step and has an inclination determined based on the timing of detecting the characteristic point;
Generating a memory area for storing a straight line calculated in the straight line calculating step for feature points detected at different timings;
A writing control step of writing the straight line calculated in the straight line calculating step into the memory area;
A movement detection step for obtaining correspondence between the plurality of feature points detected at different timings based on the intersection state of the plurality of straight lines stored in the memory area, and detecting movement of the feature points;
A program that executes
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006156433A JP4621171B2 (en) | 2006-06-05 | 2006-06-05 | Feature point movement detection apparatus and feature point movement detection method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006156433A JP4621171B2 (en) | 2006-06-05 | 2006-06-05 | Feature point movement detection apparatus and feature point movement detection method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007323600A JP2007323600A (en) | 2007-12-13 |
JP4621171B2 true JP4621171B2 (en) | 2011-01-26 |
Family
ID=38856329
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006156433A Expired - Fee Related JP4621171B2 (en) | 2006-06-05 | 2006-06-05 | Feature point movement detection apparatus and feature point movement detection method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4621171B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7287290B2 (en) * | 2020-01-15 | 2023-06-06 | 株式会社明電舎 | Semiconductor device diagnostic device and semiconductor device diagnostic method |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005250910A (en) * | 2004-03-04 | 2005-09-15 | Keio Gijuku | Mobile object detection method and mobile object detection system |
JP2005322002A (en) * | 2004-05-07 | 2005-11-17 | Kazuo Iwane | Compound artificial intelligence device |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1049671A (en) * | 1996-07-30 | 1998-02-20 | Nippon Telegr & Teleph Corp <Ntt> | Three-dimensional information extracting device |
-
2006
- 2006-06-05 JP JP2006156433A patent/JP4621171B2/en not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005250910A (en) * | 2004-03-04 | 2005-09-15 | Keio Gijuku | Mobile object detection method and mobile object detection system |
JP2005322002A (en) * | 2004-05-07 | 2005-11-17 | Kazuo Iwane | Compound artificial intelligence device |
Also Published As
Publication number | Publication date |
---|---|
JP2007323600A (en) | 2007-12-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101247991B1 (en) | Camera gestures for user interface control | |
US10970915B2 (en) | Virtual viewpoint setting apparatus that sets a virtual viewpoint according to a determined common image capturing area of a plurality of image capturing apparatuses, and related setting method and storage medium | |
US9274619B2 (en) | Input apparatus, input method, and input program | |
US8866768B2 (en) | Touch tracking device and method for a touch screen | |
JP7179695B2 (en) | Lane tracking method and device | |
JP2022526548A (en) | Target detection methods, devices, electronic devices and computer readable storage media | |
US10877659B2 (en) | Method for controlling the magnification level on a display | |
CN109656457B (en) | Multi-finger touch method, device, equipment and computer readable storage medium | |
CN109542276B (en) | Touch point identification method and device and display equipment | |
JP5339065B2 (en) | Object tracking device | |
CN112907678B (en) | Vehicle-mounted camera external parameter attitude dynamic estimation method and device and computer equipment | |
CN107848415A (en) | Display control unit, display device and display control method | |
WO2021036373A1 (en) | Target tracking method and device, and computer readable storage medium | |
US20150154460A1 (en) | Image processing apparatus and image processing method | |
US9779292B2 (en) | System and method for interactive sketch recognition based on geometric contraints | |
CN103608761A (en) | Input device, input method and recording medium | |
CN111524211A (en) | Handwriting erasing method, device and equipment | |
WO2016208317A1 (en) | Fluid leakage spot detection device and method | |
JP4621171B2 (en) | Feature point movement detection apparatus and feature point movement detection method | |
JP2012063938A (en) | Hand-drawn graphic recognition system, hand-drawn graphic recognition method, and program | |
US9411796B2 (en) | Smoothing paths in a graphical interface generated by drawing inputs | |
CN103853388A (en) | Method for improving touch precision of infrared touch screen | |
CN108489506B (en) | Method, device, terminal and medium for displaying enlarged intersection image | |
CN105339862A (en) | Method and device for character input | |
JP4714872B2 (en) | Method and apparatus for dividing moving object superimposed on image |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080303 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20101018 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20101026 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101029 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131105 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4621171 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131105 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |