JP6863027B2 - Three-dimensional object detection processing device - Google Patents
Three-dimensional object detection processing device Download PDFInfo
- Publication number
- JP6863027B2 JP6863027B2 JP2017080540A JP2017080540A JP6863027B2 JP 6863027 B2 JP6863027 B2 JP 6863027B2 JP 2017080540 A JP2017080540 A JP 2017080540A JP 2017080540 A JP2017080540 A JP 2017080540A JP 6863027 B2 JP6863027 B2 JP 6863027B2
- Authority
- JP
- Japan
- Prior art keywords
- cell
- dimensional object
- road surface
- cells
- coordinate grid
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims description 85
- 238000000034 method Methods 0.000 claims description 64
- 230000008569 process Effects 0.000 claims description 49
- 238000006243 chemical reaction Methods 0.000 claims description 31
- 238000003860 storage Methods 0.000 claims description 17
- 230000033001 locomotion Effects 0.000 claims description 6
- 239000007787 solid Substances 0.000 claims description 2
- CIWBSHSKHKDKBQ-JLAZNSOCSA-N Ascorbic acid Chemical compound OC[C@H](O)[C@H]1OC(=O)C(O)=C1O CIWBSHSKHKDKBQ-JLAZNSOCSA-N 0.000 description 30
- 238000010586 diagram Methods 0.000 description 15
- 230000000694 effects Effects 0.000 description 6
- 238000005259 measurement Methods 0.000 description 5
- 230000001603 reducing effect Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000001678 irradiating effect Effects 0.000 description 2
- 230000014759 maintenance of location Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000009087 cell motility Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Description
本発明は、立体物検出処理装置に関する。 The present invention relates to a three-dimensional object detection processing device.
車両が道路を走行する際に前方に存在する立体物をLIDAR(light detection and ranging ,laser imaging detection and ranging ;レーザレーダ)を用いて検出する物体検出装置がある。例えば自動車の車室前面部にレーザレーダを設けて、前方の路面に向けて照射してその反射光により距離を測定している。 There is an object detection device that uses LIDAR (light detection and ranging, laser imaging detection and ranging) to detect a three-dimensional object existing in front of a vehicle when traveling on a road. For example, a laser radar is provided on the front surface of the passenger compartment of an automobile to irradiate the road surface in front of the vehicle and measure the distance by the reflected light.
自車から前方の様々な方向に向けて測定点までの距離を検出し、距離が等しい測定点が複数存在する場合に、その高さ寸法を算出することで前方の立体物の存在を検出することができる。これにより、レーザレーダの位置を原点とした極座標グリッドで示すセルにおいて、原点側から動径方向に順に探索したときに初めて立体物が存在するセルが検出された場合に、立体物より原点側のセルは路面であることも判定することができる。 Detects the distance from the vehicle to the measurement points in various directions ahead, and if there are multiple measurement points with the same distance, the presence of a three-dimensional object in front is detected by calculating the height dimension. be able to. As a result, in the cell indicated by the polar coordinate grid with the position of the laser radar as the origin, when the cell in which the three-dimensional object exists is detected for the first time when the cells are searched in order from the origin side in the radial direction, the cell on the origin side of the three-dimensional object is detected. It can also be determined that the cell is a road surface.
そして、この後、極座標グリッドに対応して検出した立体物のセル、路面のセルについて、データを路面に対応する直交座標グリッドのセルに変換することで過去に得られたデータに加算し確率的に道路上の立体物の存在を判定する。 Then, after that, the cells of the three-dimensional object and the cells of the road surface detected corresponding to the polar coordinate grid are added to the data obtained in the past by converting the data into the cells of the Cartesian coordinate grid corresponding to the road surface, and are probabilistic. Judge the existence of three-dimensional objects on the road.
しかしながら、極座標グリッドのセルを直交座標のセルに変換する処理は、座標変換を伴う処理となるので一般的に計算コストが高くなる。このため、制御装置のCPUの処理能力と装置のリアルタイム性の要求を考慮すると、粗い間隔のグリッドにせざるを得ないため、解像度が低下するという課題がある。 However, the process of converting a cell in a polar coordinate grid to a cell in Cartesian coordinates is a process that involves coordinate conversion, so that the calculation cost is generally high. Therefore, considering the processing power of the CPU of the control device and the demand for real-time performance of the device, there is no choice but to use a grid with coarse intervals, which causes a problem that the resolution is lowered.
本発明は、上記事情を考慮してなされたもので、その目的は、極座標グリッドで検出されたセルの情報を直交座標グリッドに変換する際の処理負荷を軽減させることができ、これによって、同等の処理能力で検出の分解能の向上を図ることができるようにした立体物検出処理装置を提供することにある。 The present invention has been made in consideration of the above circumstances, and an object of the present invention is to reduce the processing load when converting the cell information detected in the polar coordinate grid into the Cartesian coordinate grid, whereby the equivalent is achieved. It is an object of the present invention to provide a three-dimensional object detection processing apparatus capable of improving the detection resolution with the processing capacity of the above.
請求項1に記載の立体物検出処理装置は、所定角度と距離範囲で複数のセルに区切る極座標グリッドを設定し、車両の周囲の検出範囲について3次元距離検出部により取得した極座標による3次元距離情報から、立体物が存在する立体物セルを検出する立体物検出部と、前記極座標グリッドのセルの情報を2次元で所定距離毎に複数のセルに区切る直交座標グリッドを設定し、前記極座標グリッドに含まれる前記立体物セルを直交座標グリッドのセルに対応付けて立体物セルを設定する座標変換部と、前記直交座標グリッドの各セルについて立体物セルに該当するときに路面に該当する路面セルを指定する路面セル設定テーブルを記憶する記憶部と、前記座標変換部により直交座標に変換された前記立体物セルの位置に対応して前記記憶部から前記路面セル設定テーブルを読み出して路面セルを設定する路面セル設定部とを備えている。 The three-dimensional object detection processing device according to claim 1 sets a polar coordinate grid that divides into a plurality of cells at a predetermined angle and a distance range, and a three-dimensional distance based on polar coordinates acquired by a three-dimensional distance detection unit for a detection range around the vehicle. From the information, a three-dimensional object detection unit that detects a three-dimensional object cell in which a three-dimensional object exists, and a Cartesian coordinate grid that divides the cell information of the polar coordinate grid into a plurality of cells at predetermined distances in two dimensions are set, and the polar coordinate grid is set. A coordinate conversion unit that sets a three-dimensional object cell by associating the three-dimensional object cell included in the cell with a cell of a Cartesian coordinate grid, and a road surface cell corresponding to a road surface when each cell of the orthogonal coordinate grid corresponds to a three-dimensional object cell. The road surface cell setting table is read out from the storage unit corresponding to the position of the storage unit that stores the road surface cell setting table for specifying the above and the position of the three-dimensional object cell converted into orthogonal coordinates by the coordinate conversion unit, and the road surface cell is stored. It is equipped with a road surface cell setting unit for setting.
上記構成を採用することにより、3次元距離検出部は、車両の周囲の検出範囲で極座標による3次元距離情報を取得し、立体物検出部は、立体物が存在する立体物セルを極座標グリッド上で検出する。座標変換部は、極座標グリッドに含まれる立体物セルを直交座標グリッドのセルに対応付けて立体物セルを設定する。路面セル設定部は、座標変換部により直交座標に変換された立体物セルの位置に対応して記憶部から路面セル設定テーブルを読み出して路面セルを設定する。 By adopting the above configuration, the three-dimensional distance detection unit acquires the three-dimensional distance information in polar coordinates in the detection range around the vehicle, and the three-dimensional object detection unit displays the three-dimensional object cell in which the three-dimensional object exists on the polar coordinate grid. Detect with. The coordinate conversion unit sets the three-dimensional object cell by associating the three-dimensional object cell included in the polar coordinate grid with the cell of the orthogonal coordinate grid. The road surface cell setting unit reads the road surface cell setting table from the storage unit and sets the road surface cell corresponding to the position of the three-dimensional object cell converted into orthogonal coordinates by the coordinate conversion unit.
これにより、座標変換処理を行う極座標グリッドの対象セルが立体物セルだけとなるので処理負荷を軽減することができる。また、直交座標グリッド上の立体物セルに対して、記憶部に記憶された路面セル設定テーブルを読み出して路面セルを設定するので、読み出しおよび設定処理だけで路面セルを対応付けて設定することができ、処理負担を軽減することができる。換言すれば、同じ処理負荷であれば、グリッドの区切りを多くして分解能の向上を図ることができる。 As a result, the processing load can be reduced because the target cells of the polar coordinate grid on which the coordinate transformation processing is performed are only the three-dimensional object cells. Further, since the road surface cell setting table stored in the storage unit is read out and the road surface cell is set for the three-dimensional object cell on the Cartesian coordinate grid, the road surface cell can be associated and set only by the reading and setting process. It can reduce the processing load. In other words, if the processing load is the same, the grid can be divided more and the resolution can be improved.
(第1実施形態)
以下、第1実施形態について、図1〜図14を参照して説明する。
図2および図3に示している物体検出装置1は、例えば車両Aの前面部上部に搭載されるもので、車室内のフロントガラスの内側上部などに設けられる。物体検出装置1は、図1に示すように、制御装置2を主体として3次元距離検出部3、データ処理部4および出力部5を備えている。
(First Embodiment)
Hereinafter, the first embodiment will be described with reference to FIGS. 1 to 14.
The
制御装置2は、CPU、ROM、RAMおよびインタフェースなどを備えたもので、車載ECUに組み込まれたものでも良いし、別途設ける構成のもでも良い。制御装置2は、物体検出プログラムに基づいて3次元距離検出部3により検出された距離情報から車両Aの前方に存在する立体物を検出する。図1には、制御装置2の機能による構成を示している。機能的な構成要素としては、データ処理部4のほかに立体物判定部2aを有する。データ処理部4は、立体物検出処理装置に相当するもので、立体検出部4a、座標変換部4b、路面セル設定部4c、記憶部4dを備えている。
The
3次元距離検出部3は、いわゆるレーザレーダ(LIDAR)と言われるもので、例えば車両Aの前方の様々な方向に向けて測距用のレーザ光を照射して前方の走行範囲の距離を3次元的に検出するものである。記憶部4dは、制御装置2内に設けることもできるし、外部に別途設ける構成とすることもできる。記憶部4dは、制御装置2により実行される物体検出プログラムが記憶されると共に、後述する路面セル設定テーブルが記憶されている。出力部5は、立体物の検出結果を表示するもので、車室内に設けられたディスプレイなどを利用して表示させることができる。
The three-dimensional
3次元距離検出部3は、図2に示すように、車両Aの前方路面RS上にレーザ光を照射する。車両Aの前面直下の位置を原点(O)として近点側から路面RS上の距離r1、r2、…、rnのように、照射点Pをほぼ等間隔で遠点側に移動させながら反射光の到達時間を検出して距離を算出している。また、3次元距離検出部3は、図3に示すように、前方r方向を中心として左右に方向を変化させてレーザ光を振って扇型の検出エリアで距離を測定している。
As shown in FIG. 2, the three-dimensional
この場合、レーザ光が路面RSに照射される場合には、その路面RSの照射点Pに対応する距離の情報が得られる。一方、路面RS上に立体物などの物体が存在する場合には、レーザ光が路面RSに到達する前に立体物に照射され、その反射光を受光して距離を算出するので、路面RSの照射点Pよりも近い位置の距離情報が得られる。 In this case, when the laser beam is applied to the road surface RS, information on the distance corresponding to the irradiation point P of the road surface RS can be obtained. On the other hand, when an object such as a three-dimensional object exists on the road surface RS, the laser beam is irradiated to the three-dimensional object before reaching the road surface RS, and the reflected light is received to calculate the distance. Distance information at a position closer than the irradiation point P can be obtained.
3次元距離検出部3により得られる距離情報は、図3に示しているように、レーザ光の照射範囲に応じて車両Aに対応して極座標グリッドGで分割した複数のセルGθn(例えば、方向θ:a〜e、距離n:0〜4)に分けて立体物の判定を行う。極座標グリッドGは、車両Aの進行方向を示すr軸に対して、このr軸を含んだ所定角度の範囲を車両Aに近い側から所定距離毎にセルGa0〜Ga4のように区切っている。同様にして、車両Aの進行方向に対してセルGa0〜Ga4の左側の所定角度範囲にセルGb0〜Gb4、さらにその左側にセルGc0〜Gc4を設定するように区切っている。また、車両Aの進行方向に対してセルGa0〜Ga4の右側の所定角度範囲にセルGd0〜Gd4、さらにその右側にセルGe0〜Ge4を設定するように区切っている。
As shown in FIG. 3, the distance information obtained by the three-dimensional
レーザ光の反射により得られる距離情報は、図4に示すように、距離に応じて極座標グリッドGのセルGθnに対応付けられる。図中には対応するセルに距離情報を示す位置を黒丸(ドット)で示している。 As shown in FIG. 4, the distance information obtained by the reflection of the laser beam is associated with the cell Gθn of the polar coordinate grid G according to the distance. In the figure, the positions indicating the distance information in the corresponding cells are indicated by black circles (dots).
一方、立体物の判定には、図5に示すように、路面RSに対応して変換する直交座標グリッドSが用いられる。直交座標グリッドSは、自車の立体物検出装置1の位置を原点Oとし、車両の進行方向と直交する方向をx、進行方向をyとするとき、x方向およびy方向の位置に対応して矩形マトリクス状に配置されるセルC(x,y)などが設定されている。図5では車両Aの物体検出装置1の位置が直交座標グリッドS上に示され、第1象限および第2象限の一部が示されている。
On the other hand, as shown in FIG. 5, a Cartesian coordinate grid S that is converted corresponding to the road surface RS is used for determining a three-dimensional object. The orthogonal coordinate grid S corresponds to the positions in the x direction and the y direction when the position of the three-dimensional
次に、物体検出装置1による物体検出処理について、図6を参照して説明する。この物体検出処理のフローチャートは、物体検出プログラムとして記憶部4dに記憶されているものである。制御装置2は、物体検出処理を開始するにあたり、記憶部4dから物体検出プログラムを読み出す。
Next, the object detection process by the
制御装置2は、プログラムを開始すると、まずステップS1で極座標グリッドGおよび直交座標グリッドS上のデータを初期化し、車両Aの位置に対応して前方の路面RSを含む領域に路面側の直交座標グリッドを設定する。次に、制御装置2は、ステップS2に進むと、3次元距離検出部3のレーザレーダにより車両Aの前方(極座標グリッドGではr方向;直交座標グリッドSではy方向)を中心として所定角度範囲に向けてレーザ光を照射して距離情報を極座標グリッドGの位置に対応して取得する。この場合、制御装置2は、3次元距離検出部3により得られる距離情報の点群情報を取得する。点群情報はレーザ光の照射角度と距離との情報であり、3次元距離検出部3の位置を中心とした極座標の情報である。
When the
制御装置2は、ステップS3で、取得した点群情報を極座標グリッドGにマッピングする。このとき、距離の情報が路面RS上での距離よりも短いときには、距離に応じたセルGθnにマッピングする。例えば、図8に示すように、路面RS近くの点Paに対して、これよりも遠い位置に対応する点Pbの距離がほぼ同じであるとすると、ここにレーザ光を遮って反射させる立体物が存在することが推定できる。
The
このときの高さT1が、しきい値として設定される所定以上、例えば5〜10センチ以上あるときには、車両Aが進行すると乗り上げる障害物となる可能性がある。このような場合には、立体物があることが検出できる。このように同じセルGθnに属する距離情報の点Pを図4に示すように、極座標グリッドGの各セルGθnに対応付ける。 When the height T1 at this time is equal to or higher than a predetermined value set as a threshold value, for example, 5 to 10 cm or more, it may become an obstacle to ride on when the vehicle A advances. In such a case, it can be detected that there is a three-dimensional object. In this way, the points P of the distance information belonging to the same cell Gθn are associated with each cell Gθn of the polar coordinate grid G as shown in FIG.
次に、制御装置2は、ステップS4で、立体物検出部4aにより立体物検出処理を行う。ここでは、図7で説明したように、一つのセルGθn内に入る距離情報について、複数の距離情報が存在していてその高さHを算出し、しきい値以上の高さがある場合に立体物の存在を検出する。具体的には、制御装置2は、セルGθn内に複数の距離情報が存在するものについて、そのセルGθn内の距離情報に基づいて測定点の高さを求める。
Next, in step S4, the
ここでは、制御装置2は、複数の測定点の高さ情報から、最低の高さHPaの点Paと最高の高さHPbのPbとの間の差を演算して高さT1(=HPb−HPa)を求める。制御装置2は、得られた高さT1の値が立体物を判定するしきい値Tth以上である場合に、セルGθn内に立体物が存在することを判定する。
Here, the
具体的には、図9に示すように、最低の高さHPaの点Paが例えば路面RS上にある場合には、3次元距離検出部3による検出距離は路面RSの検出距離raとなる。また、最高の高さHPbの点Pbが点Paの上方にある場合には、立体物が存在することで3次元距離検出部3による検出距離は検出距離raに近い値となっているが、立体物が存在しない場合には路面RSの検出距離rbの位置が検出される。
Specifically, as shown in FIG. 9, when the point Pa having the lowest height HPa is on the road surface RS, for example, the detection distance by the three-dimensional
この結果、3次元距離検出部3により路面RSの点が検出される場合の距離情報ra、rbに基いて、立体物の高さT1を次式(1)のように算出することができる。
T1=T0×(rb−ra)/rb …(1)
ただし、T0:3次元距離検出部3の高さ、ra、rbは、立体物が存在しないときの点Paの路面RSでの検出距離、同じく点Pbの路面Rsでの検出距離である。
As a result, the height T1 of the three-dimensional object can be calculated by the following equation (1) based on the distance information ra and rb when the point of the road surface RS is detected by the three-dimensional
T1 = T0 × (rb-ra) / rb… (1)
However, T0: the height, ra, and rb of the three-dimensional
このようにして、制御装置2は、極座標グリッドGの全てのセルについて立体物の存在の有無を算出し、立体物が検出されたセルについて立体物セル(○印)としてマッピングする。ここでは、例えば図10上段に示すように、極座標グリッドGの各セルのうち、セルGa3、Gb3、Gc3、Gd3、Gd4、Ge4が立体物セルとして検出されている。
In this way, the
次に、制御装置2は、ステップS5で、座標変換部4bにより、極座標グリッドGで立体物セルと判定したセルについて、直交座標グリッドSに変換する処理を行う。ここでは、上記のように立体物セルと判定したセルGa3、Gb3、Gc3、Gd3、Gd4、Ge4のそれぞれについて、座標変換処理を行って、各セルが直交座標グリッドS上で重畳するセルについて立体物セルとして判定する。これにより、例えば、図10中段に示すように、次の各セルが立体物セル(○印)としてマッピングされる。
Next, in step S5, the
図10中段に示す直交座標グリッドSにおいて、第1象限では、セルC(1,4)、セルC(2,4)、セルC(2,5)、セルC(3,3)、セルC(3,4)、セルC(4,3)が立体物セルである。第2象限では、セルC(−1,4)、セルC(−2,4)、セルC(−3,2)、セルC(−4,2)、セルC(−4,3)が立体物セルである。 In the Cartesian coordinate grid S shown in the middle of FIG. 10, in the first quadrant, cell C (1,4), cell C (2,4), cell C (2,5), cell C (3,3), cell C (3,4) and cell C (4,3) are three-dimensional object cells. In the second quadrant, cell C (-1,4), cell C (-2,4), cell C (-3,2), cell C (-4,2), cell C (-4,3) It is a three-dimensional object cell.
この場合、この座標変換処理では、通常の処理に比べると制御装置2の処理負荷が大きいが、変換対象となるセル数は、直交座標グリッドSの全体のセル数に比べると少ないので、全体としては処理負担が軽減されている。
In this case, in this coordinate conversion process, the processing load of the
次に、制御装置2は、ステップS6に進んで、路面セル設定部4cにより、直交座標グリッドS内の立体物セルに基いて路面セルを設定する処理を行う。図10下段は路面セルおよび不明セルを直交座標グリッドS上にマッピングした状態を示している。図示の状態では、直交座標グリッドSを、物体検出装置1の位置Oに対して、第1象限および第2象限の一部を示しているが、車両Aの後方についても立体物セルを検出する場合には、第3象限、第4象限についても同様の処理を行う。
Next, the
制御装置2は、路面セル設定処理については、図7に示すフローチャートに従って路面セルの設定を行う。また、この処理では、制御装置2は、記憶部4dに記憶されている路面セル設定テーブルを参照する。路面セル設定テーブルは、後述するようにして予め記憶部4dに記憶されており、このデータを参照することで直交座標グリッドS上の路面セルおよび不明セルを設定することができる。
The
制御装置2は、まず、直交座標グリッドSの立体物セルを探索する処理を行う。この場合、制御装置2は、ステップS61で、複数の象限のうちの第1象限を探索領域として指定する。次に、制御装置2は、ステップS62で、探索経路として図11に示すように、例えば第1象限であれば、まず探索経路A1に沿って探索する。探索経路A1は、原点セルC(1,1)を開始セルとして、x方向に1セルずつ移動して右端のセルC(8,1)まで探索する。続いて、制御装置2は、探索経路A2では、y方向に1段上がって、セルC(1,2)からx方向に1セルずつ移動して探索する。このようにして制御装置2は、最上段のセルC(1,8)からx方向に探索経路A8に沿って探索すると、第1象限の探索を終了する。
The
以下、同様に第2象限では、探索経路B1は、第2象限の原点セルC(−1,1)を開始セルとして、xの負方向に1セルずつ移動して左端のセルC(−8,1)まで探索する。続いて、制御装置2は、探索経路B2では、y方向に1段上がって、セルC(−1,2)からxの負方向に1セルずつ移動して探索する。第3象限および第4象限についても探索経路C1〜C8、D1〜D8が設定されている。
Similarly, in the second quadrant, the search path B1 moves one cell at a time in the negative direction of x, starting from the origin cell C (-1,1) in the second quadrant, and moves to the leftmost cell C (-8). , 1). Subsequently, in the search path B2, the
制御装置2は、各探索経路中の各セルについて、次のステップS63で立体物セルであるか否かを判断している。制御装置2は、ステップS63で、対象のセルが立体物セルである場合には、YESと判断してその立体物セルについて、路面セル設定テーブルを読み出して参照し、路面セルおよび不明セルを直交座標グリッドSに設定する。
The
ここで、記憶部4dから読み出す路面セル設定テーブルは、該当セルが立体物セルであった場合に、これに対応して路面セルあるいは不明セルに該当するセルのデータが予め記憶されている。従って、制御装置2は、読み出した路面セルおよび不明セルのデータを直交座標グリッドにあてはめることで設定できる。これにより、制御装置2は、個々のセルについて演算処理を行うことで路面セルや不明セルを判定して設定するという処理が不要となり、簡単かつ迅速に該当するセルの設定をすることができる。
Here, in the road surface cell setting table read from the
制御装置2は、ステップS64を実行した後、あるいは対象のセルが立体物セルではなかった場合で、ステップS63でNOの場合には、ステップSS65に進み、全てのセルについて探索が終了しているか否かを判断する。制御装置2は、ステップS65でNOの場合にはステップS62に戻って上記の処理を繰り返して実行する。
After executing step S64, or when the target cell is not a three-dimensional object cell and NO in step S63, the
なお、上記のステップS64の路面セルあるいは不明セルの設定処理では、繰り返し立体物セルについて設定を行う際に、既に設定済みのセルについても設定すべきデータが存在する場合がある。この場合に、データが、そのセルの設定済みの状態と異なる設定をするものである場合がある。このような場合には、書き換えルールとして優先順位が設定されている。ここでは、優先順位が高い順に、立体物セル、路面セル、不明セルが指定されている。従って、既に設定されたセルの優先順位が新に設定しようとするデータの優先順位よりも高い場合だけ書き換えるように判断することとしている。 In the setting process of the road surface cell or the unknown cell in step S64, when setting the repeating three-dimensional object cell, there may be data to be set for the cell that has already been set. In this case, the data may have settings different from the set state of the cell. In such a case, the priority is set as a rewriting rule. Here, the three-dimensional object cell, the road surface cell, and the unknown cell are designated in descending order of priority. Therefore, it is decided to rewrite only when the priority of the already set cell is higher than the priority of the data to be newly set.
このようにして、直交座標グリッドS内の全ての立体物セルについて上記した図7のプログラムに従って路面セル設定処理を行うことで、全てのセルが立体物セル、路面セル、不明セルの何れかに設定することができる。全てのセルについて探索が終了すると、制御装置2は、ステップS65でYESと判断して図6のプログラムのステップS7に進む。
In this way, by performing the road surface cell setting process for all the three-dimensional object cells in the orthogonal coordinate grid S according to the program of FIG. 7, all the cells become any of the three-dimensional object cell, the road surface cell, and the unknown cell. Can be set. When the search for all the cells is completed, the
制御装置2は、ステップS7では、直交座標グリッドSの各セルについて立体物確率を設定する。ここでは、立体物確率の値として、例えば立体物セルは「+1」、路面セルは「−1」、不明セルは「0」に設定する。これにより、立体物確率を設定した直交座標グリッドSを得ることができる。
In step S7, the
制御装置2は、続くステップS8で、このようにして得られた直交座標グリッドSでの立体物確率のマップ情報を、路面RSに対応した静止直交座標グリッドに対して車両Aの位置に合わせて重ねて加算する処理を行う。次に、制御装置2は、車両Aが移動しているので、ステップS9で、自車位置のシフト処理を行い、再びステップS2に戻り、上記の処理を繰り返し実行する。
In the subsequent step S8, the
制御装置2は、上記の処理とは別に、立体物の判定処理を行っている。上記の処理を繰り返した結果、路面RSに対応した静止直交座標グリッドのセルには、立体物確率が加算されていくことで、路面RS上に静止している立体物が存在する場合には、そのセルの立体物確率の値が増加していく。これにより、制御装置2は、路面RSに存在する静止した立体物を正確に推定することができる。
The
また、他の車両などの移動する立体物が存在する場合には、他の車両の移動とともに立体物が移動するため、立体物確率の値は増加するのではなく、セル間を移動するようになる。さらに、無点領域に立体物が存在していなかった場合には、複数回の加算処理で立体物確率の値が増加することがないため、立体物の存在は判定されない。 Also, when there is a moving three-dimensional object such as another vehicle, the three-dimensional object moves with the movement of the other vehicle, so the value of the three-dimensional object probability does not increase, but moves between cells. Become. Further, when the three-dimensional object does not exist in the pointless region, the existence of the three-dimensional object is not determined because the value of the three-dimensional object probability does not increase in the multiple addition processes.
次に、上記した路面セル設定テーブルの作り方と、探索処理による路面セルの設定について図12〜図14を参照して詳述する。図12は、直交座標グリッドSの第1象限について、一つのセルが立体物セルであった場合に、これに対応する路面セル、不明セルの設定手順を示している。図12(a)では、例えばセルC(3,4)が立体物セルであった場合のテーブルC(3,4)で示すセルのデータをグリッド上にマッピングしたものを示している。なお、図示では、立体物セルを「○」印で示し、路面セルを「△」印で示し、不明セルを「×」印で示している。 Next, the method of creating the road surface cell setting table described above and the setting of the road surface cell by the search process will be described in detail with reference to FIGS. 12 to 14. FIG. 12 shows a procedure for setting a road surface cell and an unknown cell corresponding to one cell when one cell is a three-dimensional object cell in the first quadrant of the Cartesian coordinate grid S. In FIG. 12A, for example, when the cell C (3, 4) is a three-dimensional object cell, the cell data shown in the table C (3, 4) is mapped on the grid. In the figure, the three-dimensional object cell is indicated by a “◯” mark, the road surface cell is indicated by a “Δ” mark, and the unknown cell is indicated by an “x” mark.
この分布の作り方としては、図12(b)に示すように、原点Oから立体物セルC(3,4)を見たときに、セルの範囲となる両端部に端点X1、X2をつける。次に、図12(c)に示すように、原点Oと端点X1、原点Oと端点X2を結ぶ領域線L1、L2を引く。続いて、図12(d)に示すように、領域線L1、L2で囲まれる領域を基準として対象セルを設定している。 As a method of making this distribution, as shown in FIG. 12B, when the three-dimensional object cell C (3, 4) is viewed from the origin O, the end points X1 and X2 are attached to both ends, which are the range of the cell. Next, as shown in FIG. 12 (c), region lines L1 and L2 connecting the origin O and the end point X1 and the origin O and the end point X2 are drawn. Subsequently, as shown in FIG. 12 (d), the target cell is set with reference to the area surrounded by the area lines L1 and L2.
得られた対象セルのうち、立体物セルC(3,4)よりも原点Oに近い側に位置するセルを路面セルとする。立体物セルの位置まで立体物が検出されていないことから、路面セルであると判定できるからである。ここでは、セルC(1,1)、C(1,2)、C(2,2)、C(2,3)が路面セルとなる。 Among the obtained target cells, a cell located closer to the origin O than the three-dimensional object cell C (3, 4) is designated as a road surface cell. This is because it can be determined that the cell is a road surface cell because the three-dimensional object is not detected up to the position of the three-dimensional object cell. Here, cells C (1,1), C (1,2), C (2,2), and C (2,3) are road surface cells.
また、得られた対象セルのうち、立体物セルC(3,4)よりも原点Oから遠い側に位置するセルを不明セルとする。車両Aに最も近い位置の立体物セルが特定されることで、それよりも遠い位置のセルについて情報を得る必要がないため、原点Oから立体物セルより遠い位置のセルは立体物で隠れている場合や、その位置に立体物が存在することでその立体物セルの後ろ側のセルについては不明セルとするのである。 Further, among the obtained target cells, a cell located on the side farther from the origin O than the three-dimensional object cell C (3, 4) is defined as an unknown cell. By identifying the three-dimensional object cell at the position closest to the vehicle A, it is not necessary to obtain information about the cell at a position farther than that, so the cell at a position farther than the three-dimensional object cell from the origin O is hidden by the three-dimensional object. If there is, or if there is a three-dimensional object at that position, the cell behind the three-dimensional object cell is regarded as an unknown cell.
ここでは、セルC(3,5)、C(3,6)、C(4,4)、C(4,5)、C(4,6)、C(4,7)、C(4,8)、C(5,5)、C(5,6)、C(5,7)、C(5,8)、C(6,6)、C(6,7)、C(6,8)、C(7,7)、C(7,8)、C(8,8)が不明セルとなる。 Here, cells C (3,5), C (3,6), C (4,4), C (4,5), C (4,6), C (4,7), C (4, 8), C (5,5), C (5,6), C (5,7), C (5,8), C (6,6), C (6,7), C (6,8) ), C (7,7), C (7,8), C (8,8) are unknown cells.
図13は、上述のようにして、直交座標グリッドSの第1象限の各セルC(x,y)について路面セル、不明セルを設定したテーブルC(x,y)についてマップで示したものである。なお、ここでは第1象限についてテーブルC(x,y)のマップを示しているが、同様にして第2象限以降についても設定しておくことで、対応することができる。 FIG. 13 is a map showing a road surface cell and a table C (x, y) in which unknown cells are set for each cell C (x, y) in the first quadrant of the Cartesian coordinate grid S as described above. is there. Although the map of the table C (x, y) is shown here for the first quadrant, it can be dealt with by setting the second and subsequent quadrants in the same manner.
図14は、直交座標グリッドS上の立体物セルの探索により、路面セルおよび不明セルをマッピングした場合の具体例を示している。直交座標グリッドSの第1象限において、図14(a)には、極座標グリッドGで検出された立体物セルがセルC(4,3)、C(4,4)、C(5,1)、C(5,2)、C(5,3)であった場合を示している。 FIG. 14 shows a specific example in which a road surface cell and an unknown cell are mapped by searching for a three-dimensional object cell on the Cartesian coordinate grid S. In the first quadrant of the Cartesian coordinate grid S, in FIG. 14A, the three-dimensional object cells detected by the polar coordinate grid G are cells C (4,3), C (4,4), C (5,1). , C (5,2), C (5,3).
前述のように、探索経路A1で原点セルC(1,1)からx軸方向に移動していくと、制御装置2は、セルC(5,1)を立体物セルとして検出する。この立体物セルC(5,1)に対応して、制御装置2は、図13に示した路面セル設定テーブルからテーブルC(5,1)のデータを読み出し、路面セルおよび不明セルを設定する。図14(b)では路面セルおよび不明セルを記号でマッピングした状態を示している。
As described above, when the search path A1 moves from the origin cell C (1,1) in the x-axis direction, the
次に、探索経路A2でセルC(1,2)からx軸方向に移動していくと、制御装置2は、セルC(5,2)を立体物セルとして検出する。この立体物セルC(5,2)に対応して、制御装置2は、路面セル設定テーブルからテーブルC(5,2)のデータを読み出し、路面セルおよび不明セルを図14(c)のように設定する。このとき、セルの設定で重複する場合には、前述の優先順位で書き換える。
Next, as the search path A2 moves from the cells C (1, 2) in the x-axis direction, the
すなわち、既に立体物セルであるか、あるいは路面セルあるいは不明セルとして設定したセルであった場合については、立体物セルあるいは路面セルの場合はそのまま書き換えることなく設定を生かす。また、不明セル出会った場合には、設定するセルが路面セルの場合は書き換える。 That is, when the cell is already a three-dimensional object cell, or the cell is set as a road surface cell or an unknown cell, in the case of a three-dimensional object cell or a road surface cell, the setting is utilized without being rewritten as it is. If an unknown cell is encountered, the cell to be set is rewritten if it is a road surface cell.
同様にして探索経路A3、A4と処理を繰り返すことで図14(d)に示すように設定を行い、最終的に図14(e)に示すように第1象限の全てのセルについて設定が完了する。また、他の象限についても同様の探索処理をすることで全てのセルについて設定が完了する。 By repeating the process with the search paths A3 and A4 in the same manner, the settings are made as shown in FIG. 14 (d), and finally the settings are completed for all the cells in the first quadrant as shown in FIG. 14 (e). To do. In addition, the same search process is performed for other quadrants to complete the setting for all cells.
このような第1実施形態によれば、制御装置2により、極座標グリッドG上で立体物セルだけを検出し、これを直交座標グリッドSに座標変換するようにした。この後、直交座標グリッドS上の立体物セルについて、路面セル設定テーブルに指定された路面セルおよび不明セルを設定することで、迅速に全てのセルについて立体物セル、路面セル、不明セルを特定することができる。
According to the first embodiment as described above, the
制御装置2による座標変換処理の対象となるセル数を立体物セルだけとしたので、処理負担を大幅に低減することができ、これによって、リアルタイム処理を迅速に行うことができ、さらには、セル数を増やして検出精度を向上させても処理負担を増大させることがなくなる。
Since the number of cells to be subjected to the coordinate conversion processing by the
また、立体物セルによる路面セルおよび不明セルの設定で、書き換えが発生した場合には、優先順位を高い順から立体物セル、路面セル、不明セルとしているので、競合を無くして確実に路面セルの設定処理を行うことができるようになる。 In addition, when rewriting occurs in the setting of the road surface cell and the unknown cell by the three-dimensional object cell, the three-dimensional object cell, the road surface cell, and the unknown cell are set in descending order of priority. You will be able to perform the setting process of.
なお、本実施形態を適用した場合の効果についてシミュレーションを行ったところ、次のような具体的な効果を確認することができた。例えば、レーザレーダの解像度を1万(立体物50%、路面25%、不明点25%)とし、極座標グリッドGの解像度を5万、直交座標グリッドSの解像度を4万とした場合である。レーザレーダによる観測点1万点に対して、極座標グリッドの全てのセルについて座標変換処理を行うと5万点が対象となるのに対して、本実施形態では直交座標に変換する極座標グリッドの立体物セルは、立体物が検出されたセルに限定されるので、例えば5千点程度であった。従って、座標変換処理については、約10分の1に処理負荷を低減することができた。このため、他の処理を含めても大幅な処理負荷の低減を図ることができる。 When a simulation was performed on the effect when this embodiment was applied, the following specific effects could be confirmed. For example, the resolution of the laser radar is 10,000 (three-dimensional object 50%, road surface 25%, unknown point 25%), the resolution of the polar coordinate grid G is 50,000, and the resolution of the orthogonal coordinate grid S is 40,000. When coordinate conversion processing is performed on all cells of the polar coordinate grid for 10,000 observation points by the laser radar, 50,000 points are targeted, whereas in this embodiment, the solid of the polar coordinate grid is converted to Cartesian coordinates. Since the object cells are limited to the cells in which the three-dimensional object is detected, the number of object cells is, for example, about 5,000. Therefore, regarding the coordinate conversion process, the processing load could be reduced to about 1/10. Therefore, the processing load can be significantly reduced even if other processing is included.
(第2実施形態)
図15〜図18は第2実施形態を示すもので、以下、第1実施形態と異なる部分について説明する。この実施形態では、探索経路を原点Oを中心として放射状に移動する経路として設定している。
(Second Embodiment)
15 to 18 show the second embodiment, and the parts different from the first embodiment will be described below. In this embodiment, the search path is set as a path that moves radially around the origin O.
前述のように、路面セル設定テーブルでは、立体物セルの位置に応じて、前述の図13に示したように、原点Oの位置に対して近い側に路面セル、遠い側に不明セルを設定するようにしているので、この設定原理に近い探索経路を第1象限については探索経路R1〜R15として設定している。つまり、レーザレーダによる投光方向に沿う探索経路を設定している。 As described above, in the road surface cell setting table, as shown in FIG. 13 above, the road surface cell is set on the side closer to the position of the origin O and the unknown cell is set on the far side according to the position of the three-dimensional object cell. Therefore, a search path close to this setting principle is set as search paths R1 to R15 for the first quadrant. That is, the search path along the light projection direction by the laser radar is set.
図15は、直交座標グリッドSでの基本的な探索経路R1〜R15を破線矢印で示している。具体的には、この探索経路を示す破線矢印が通過するセルを探索経路のセルとして設定するものである。また、この探索経路R1〜R15は、それぞれ、直交座標グリッドSにおいて、第1象限では、原点Oから周辺に位置するセルC(8,1)、C(8,2)、C(8,3)、C(8,4)、C(8,5)、C(8,6)、C(8,7)、C(8,8)、C(7,8)、C(6,8)、C(5,8)、C(4,8)、C(3,8)、C(2,8)、C(1,8)に向けてセルを移動するように設定している。 In FIG. 15, the basic search paths R1 to R15 in the Cartesian coordinate grid S are indicated by dashed arrows. Specifically, the cell through which the broken line arrow indicating the search route passes is set as the cell of the search route. Further, the search paths R1 to R15 are cells C (8,1), C (8,2), and C (8,3) located in the periphery from the origin O in the first quadrant in the Cartesian coordinate grid S, respectively. ), C (8,4), C (8,5), C (8,6), C (8,7), C (8,8), C (7,8), C (6,8) , C (5,8), C (4,8), C (3,8), C (2,8), C (1,8) are set to move the cell.
図16および図17はその具体例を示している。例えば原点OからセルC(8,3)に向かう探索経路R3では、図16に示すように、原点セルC(1,1)から探索経路R3の矢印が通過するセルは、C(2,1)、C(3,1)、C(3,2)、C(4,2)、C(5,2)、C(6,2)、C(6,3)、C(7,3)、C(8,3)である。図17は、これらの通過セルを探索経路R3として探索経路テーブルに記載した例を示している。 16 and 17 show specific examples thereof. For example, in the search path R3 from the origin O to the cell C (8,3), as shown in FIG. 16, the cell through which the arrow of the search path R3 passes from the origin cell C (1,1) is C (2,1). ), C (3,1), C (3,2), C (4,2), C (5,2), C (6,2), C (6,3), C (7,3) , C (8,3). FIG. 17 shows an example in which these passing cells are described in the search route table as the search route R3.
以下、同様にして他の周辺のセルについても探索経路R1〜R15として設定したものが、図18に示す探索経路テーブルである。これらの探索経路テーブルのうち、探索経路R1〜R7は、セルの移動がx方向あるいはy方向に隣接するセルとなるが、探索経路R8は、例外的に斜めに隣接するセルに移動するので、例外処理として個別に探索経路を示している。また、探索経路R9〜R15は、探索経路R8を対称軸として折り返したものであるから、それぞれ対称位置の探索経路R7〜R1で設定したセルのxとyの値を入れ替えたものとなる。 Hereinafter, the search route table shown in FIG. 18 is set as search routes R1 to R15 for other peripheral cells in the same manner. Among these search route tables, the search routes R1 to R7 are cells whose cell movements are adjacent in the x-direction or y-direction, but the search route R8 is exceptionally moved to the diagonally adjacent cells. The search route is shown individually as exception handling. Further, since the search paths R9 to R15 are folded back with the search path R8 as the axis of symmetry, the x and y values of the cells set in the search paths R7 to R1 at the symmetrical positions are exchanged.
このようにして設定した探索経路R1〜R15に沿って立体物セルを探索することで、探索処理では次のような利点がある。すなわち、路面セル設定テーブルでは、前述のように原点Oから立体物セルまでを結んだ方向を基準として路面セルおよび不明セルを設定するルールで規定している。従って、探索経路R1〜R15で順次探索処理を進める場合に、立体物セルが検出された時点で、それ以前のセルが路面セル、それ以降のセルは不明セルとすることができるので、現在の探索経路での探索処理を終了することができる。つまり、全てのセルを探索する必要がなくなり、時間を短縮し、かつ処理負荷も低減することができるのである。 By searching for a three-dimensional object cell along the search paths R1 to R15 set in this way, the search process has the following advantages. That is, in the road surface cell setting table, as described above, the road surface cell and the unknown cell are defined by the rule for setting the road surface cell and the unknown cell based on the direction connecting the origin O to the three-dimensional object cell. Therefore, when the search process is sequentially advanced in the search paths R1 to R15, when the three-dimensional object cell is detected, the cell before that can be regarded as the road surface cell, and the cells after that can be regarded as the unknown cell. The search process on the search route can be terminated. That is, it is not necessary to search all cells, the time can be shortened, and the processing load can be reduced.
このような第2実施形態によっても、第1実施形態と同様の効果が得られるとともに、探索経路R1〜R15を原点Oから外周部のセルに向かう方向に沿って設定するので、立体物セルが検出されるとそれ以降のセルについて探索をする必要がなくなり、探索処理の処理時間を短縮して処理負担を軽減することができる。 The same effect as that of the first embodiment can be obtained by such a second embodiment, and since the search paths R1 to R15 are set along the direction from the origin O toward the outer peripheral cell, the three-dimensional object cell can be formed. When it is detected, it is not necessary to search for the cells after that, and the processing time of the search process can be shortened to reduce the processing load.
(第3実施形態)
図19〜図23は第3実施形態を示すもので、以下、第2実施形態と異なる部分について説明する。この実施形態では、探索経路R1〜R15の設定をした探索経路テーブルのデータ量を低減させるものである。
(Third Embodiment)
19 to 23 show the third embodiment, and the parts different from the second embodiment will be described below. In this embodiment, the amount of data in the search route table in which the search routes R1 to R15 are set is reduced.
図19〜図21は探索経路R3、R13についてその記述方法を示している。例えば第2実施形態では、図16および図17に示したように、探索経路R3は、図16で示した矢印R3が通過するセルを図17に示すように順次記載するようにしていた。これに対して、第3実施形態では、図19で示される探索経路R3の矢印R3が通過するセルに対して、図20に示すようにセル間を移動する方向が変化するセルを記述するようにしている。 19 to 21 show a description method for the search paths R3 and R13. For example, in the second embodiment, as shown in FIGS. 16 and 17, the search path R3 sequentially describes the cells through which the arrow R3 shown in FIG. 16 passes as shown in FIG. On the other hand, in the third embodiment, for the cell through which the arrow R3 of the search path R3 shown in FIG. 19 passes, a cell in which the direction of movement between the cells changes as shown in FIG. 20 is described. I have to.
探索経路R3では、第1象限の原点セルC(1,1)からx方向に移動した場合を「→」で示し、y方向に移動する場合を「↑」で示すと、x方向のセル番号で「3」、「6」が移動方向が変化しているセルである。図21は、このようにy方向への移動するセルの番号を記述することで探索経路R3を記述するようにしている。 In the search path R3, the case of moving in the x direction from the origin cell C (1,1) in the first quadrant is indicated by "→", and the case of moving in the y direction is indicated by "↑", and the cell number in the x direction is indicated. In, "3" and "6" are cells whose moving direction is changing. In FIG. 21, the search path R3 is described by describing the number of the cell moving in the y direction in this way.
この記述原理を利用すると、前述した図18に示した探索経路テーブルについて、各探索経路R1〜R7では、図23に示すように、第1象限の原点セルC(1,1)からx方向に移動する状態からy方向に移動する状態に変化したセルを網掛けで示している。そして、このy方向へ移動するセルのx値を変化セルとして取り出すと、図22に示すような探索経路テーブルを得ることができる。なお、前述と同様に、探索経路R8は、例外処理としてそのまま探索すべきセルを記述している。 Using this description principle, with respect to the search route table shown in FIG. 18 described above, in each search route R1 to R7, as shown in FIG. 23, in the x direction from the origin cell C (1,1) in the first quadrant. The cells that have changed from the moving state to the moving state in the y direction are shaded. Then, when the x value of the cell moving in the y direction is taken out as a changing cell, a search route table as shown in FIG. 22 can be obtained. As described above, the search path R8 describes a cell to be searched as it is as exception handling.
また、探索経路R9〜R15については、探索経路R8を対称軸として折り返したものであるから、ここでは、y方向への移動を基本方向とし、x方向へ移動するときのセルのy値を記述する。例えば、探索経路13では、第1象限の原点セルC(1,1)からy方向に移動した場合を「↑」で示し、x方向に移動する場合を「→」で示すと、y方向のセル番号で「3」、「6」が移動方向が変化しているセルである。
Further, since the search paths R9 to R15 are folded back with the search path R8 as the axis of symmetry, here, the movement in the y direction is set as the basic direction, and the y value of the cell when moving in the x direction is described. To do. For example, in the
図21では、このようにx方向へ移動するセルの番号を記述することで探索経路R13を記述しているが、データとしては探索経路R3と全く同じとなっている。以下、同様にして残りの探索経路R9〜R15についてもx方向へ移動するセルの番号を記述することで探索経路を簡略して記述することができる。この結果、探索経路R9〜R15は、R1〜R7で設定したセルのxとyの値を入れ替えたものとなって、探索経路テーブルとして示すと、それぞれR7〜R1と同じデータが設定されることとなる。したがって、探索経路の対応と探索方向の情報だけを記述しておくことで、探索経路R9〜R15の具体的な記述は不要となる。 In FIG. 21, the search path R13 is described by describing the number of the cell moving in the x direction in this way, but the data is exactly the same as the search path R3. Hereinafter, in the same manner, the search routes can be simply described for the remaining search routes R9 to R15 by describing the numbers of the cells moving in the x direction. As a result, the search routes R9 to R15 have the x and y values of the cells set in R1 to R7 exchanged, and when shown as a search route table, the same data as R7 to R1 are set respectively. It becomes. Therefore, by describing only the correspondence of the search route and the information of the search direction, it is not necessary to specifically describe the search routes R9 to R15.
このような第3実施形態によれば、探索経路テーブルを移動方向が変化するセルのx値あるいはy値を用いて記述する方式とすることで、データ量をさらに低減することができる。 According to such a third embodiment, the amount of data can be further reduced by using the method of describing the search route table using the x value or the y value of the cell whose movement direction changes.
(第4実施形態)
図24から図27は第4実施形態を示すもので、以下、第1実施形態と異なる部分について説明する。この実施形態では、図24に示すように、物体検出装置10は、制御装置11を主体として3次元距離検出部3、データ処理部12および出力部5を備えている。制御装置11の機能構成として、データ処理部12は、立体物検出部4a、座標変換部4b、路面セル設定部4c、記憶部4dに加えて、立体物検出部4aと座標変換部4bとの間に、ノイズ立体物除去部4eを備えている。ノイズ立体物除去部4eは、立体物検出部4aで検出された立体物のセルに対して、車両が必要とする立体物セル以外をノイズとして除去する機能を有する。
(Fourth Embodiment)
24 to 27 show the fourth embodiment, and the parts different from the first embodiment will be described below. In this embodiment, as shown in FIG. 24, the
図25は、この実施形態における立体物検出処理の流れを示すもので、ステップS4とS5との間に新たにステップS4aを設けている。ステップS4aは、制御装置11により、ノイズ立体物除去部4eによる処理内容を実行するステップである。
FIG. 25 shows the flow of the three-dimensional object detection process in this embodiment, and step S4a is newly provided between steps S4 and S5. Step S4a is a step in which the
すなわち、制御装置11は、ステップS4で立体物検出部4aにより立体物検出処理を実施した後、ステップS4aに進んでノイズ立体物除去処理を実施する。このとき、ステップS4では、図26の上段に示しているように、極座標グリッドGの各セルのうち、セルGa3、Gb3、Gc3、Gd3、Gd4、Ge4が立体物セルとして検出されている。ここで、極座標の各径方向Rnについて立体物セルを見ると、2個のセルGd3およびセルGd4が同じ径方向で検出されている。
That is, the
制御装置11は、ステップS4aで、上記した同じ径方向で検出された複数の立体物のセルGd3およびセルGd4について、近い位置のセルGd3を有効とし、遠い位置のセルGd4をノイズ立体物として除去することを判定し、立体物が存在しないセルとして設定する。これにより、各径方向に対して立体物セルは最大1個となる。
In step S4a, the
制御装置11は、この後、ステップS5に進んで、座標変換部4bにより、極座標グリッドGで立体物セルと判定したセルについて直交座標グリッドSに変換する処理を行う。ここでは、座標変換の対象となるセルが、第1実施形態で示した場合よりも少ないので、制御装置11の処理負荷がさらに軽減されている。
After that, the
すなわち、図26の下段に示しているように、極座標グリッドGのセルGd4が除去されたので、ここでは、制御装置11による直交座標グリッドSのセルC(2,5)への変換処理が不要となっている。このように、極座標グリッドGでの立体物セルの数が少なくなると、制御装置11の座標変換処理が軽減されるので、有効なセルについての変換処理時間を全体として短縮することができるようになる。
That is, as shown in the lower part of FIG. 26, since the cell Gd4 of the polar coordinate grid G has been removed, the conversion process of the orthogonal coordinate grid S into the cells C (2, 5) by the
次に、図27を参照して、上記の処理負担軽減効果について、具体的に説明する。
図27では、市街地の道路を自車両XがP方向(図中上方向)に向けて走行中の状況を上方から見た状態で示している。道路には中央分離帯S、ガードレールG1、G2が配置され、建物B1、B2などが存在する状態である。また、中央分離帯Sを隔てた反対方向の車線には他の車両YがQ方向(図中下方向)に走行している。
Next, with reference to FIG. 27, the above-mentioned processing load reducing effect will be specifically described.
FIG. 27 shows a state in which the own vehicle X is traveling in the P direction (upward direction in the figure) on a road in an urban area as viewed from above. A median strip S, guardrails G1 and G2 are arranged on the road, and buildings B1 and B2 are present. Further, another vehicle Y is traveling in the Q direction (lower direction in the figure) in the lane in the opposite direction across the median strip S.
検出エリアZの中で、領域Za〜Zdの範囲のうち、領域Za、Zcにおいては、立体物が2個以上検出されている。領域Zb、Zdでは「なし」あるいは1個の立体物が検出されている。 In the detection area Z, two or more three-dimensional objects are detected in the areas Za and Zc in the range of areas Za to Zd. In the regions Zb and Zd, "none" or one three-dimensional object is detected.
例えば、2個以上の立体物が検出された領域Zaでは、R1方向においてr1a、r1b、r1cの3個の立体物が検出されている。r1aは中央分離帯S、r1bは他の車両Y、r1cはガードレールG1である。また、R2方向において、r2a、r2b、r2cの3個の立体物が検出されている。r2aは中央分離帯S、r2bはガードレールG2、r2cは建造物B1ガードレールG1である。 For example, in the region Za where two or more three-dimensional objects are detected, three three-dimensional objects r1a, r1b, and r1c are detected in the R1 direction. r1a is a median strip S, r1b is another vehicle Y, and r1c is a guardrail G1. Further, three three-dimensional objects, r2a, r2b, and r2c, are detected in the R2 direction. r2a is a median strip S, r2b is a guardrail G2, and r2c is a building B1 guardrail G1.
また、1個以下の立体物が検出された領域Zbでは、R3方向において、中央分離帯Sがr3aとして検出されている。そして、2個以上の立体物が検出された領域Zcでは、R4方向において、r4a、r4bの2個の立体物が検出されている。r4aはガードレールG2、r4bは建造物B2である。 Further, in the region Zb where one or less three-dimensional objects are detected, the median strip S is detected as r3a in the R3 direction. Then, in the region Zc where two or more three-dimensional objects are detected, two three-dimensional objects r4a and r4b are detected in the R4 direction. r4a is a guardrail G2, and r4b is a building B2.
この実施形態の方式で処理を実施する場合には、各方向について複数の立体物が検出されている場合いは、最も近い位置のセルを残し、それよりも遠い位置のセルはノイズとして除去している。これによって、座標変換処理では、除去された分だけ変換処理が軽減される。 When processing is carried out by the method of this embodiment, when a plurality of three-dimensional objects are detected in each direction, the cell at the closest position is left, and the cell at a position farther than that is removed as noise. ing. As a result, in the coordinate conversion process, the conversion process is reduced by the amount removed.
この場合の効果について、概略的に求めると次のようになる。いま、上記のような検出状態において、制御装置11により第1実施形態の方式で処理をした場合に、100%と処理負荷であるとする。これに対して、図27に示しているように、市街地を走行している状態で、検出エリアの50%以上の画角(角度範囲)で一方向に2個以上の立体物が検出されている場合を想定する。
The effect in this case can be roughly calculated as follows. Now, in the above-mentioned detection state, when the
この場合には、図27に示しているように、領域Za、Zcが一方向に2個以上の立体物が検出された領域であるから、50%以上の画角となる。この範囲では最低2個の立体物が検出されているので、本実施形態を適用した場合には座標変換をする対象は1個にすることができるので、制御装置11の計算処理負担は50%以下にすることができる。
In this case, as shown in FIG. 27, since the regions Za and Zc are regions in which two or more three-dimensional objects are detected in one direction, the angle of view is 50% or more. Since at least two three-dimensional objects are detected in this range, when this embodiment is applied, the number of objects to be coordinate-converted can be one, so that the calculation processing load of the
これを踏まえて概算すると、次式(1)のように、座標変換に要する処理負担を求めることができる。すなわち、全体の50%は立体物が1個の領域であるから、処理負担はそのまま100%(1)であり、残りの50%が一方向に2個以上立体物が検出される領域となり、処理負担は最低でも50%(0.5)が軽減される。 Approximately based on this, the processing load required for coordinate transformation can be obtained as shown in the following equation (1). That is, since 50% of the whole is an area where one three-dimensional object is present, the processing load is 100% (1) as it is, and the remaining 50% is an area where two or more three-dimensional objects are detected in one direction. The processing load is reduced by at least 50% (0.5).
50%×1+50%×0.5=75% …(1)
この結果、市街地などの立体物が多く存在する領域においては、座標変換処理の処理負担を最低でも25%軽減することができることがわかる。さらに、この処理負担の軽減効果は、同一方向での立体物の検出個数が多いほど高くすることができ、また、2個以上の立体物が検出される領域が広いほど高くすることができる。
50% x 1 + 50% x 0.5 = 75% ... (1)
As a result, it can be seen that the processing load of the coordinate conversion process can be reduced by at least 25% in an area where many three-dimensional objects exist, such as an urban area. Further, the effect of reducing the processing load can be increased as the number of three-dimensional objects detected in the same direction is larger, and can be increased as the area where two or more three-dimensional objects are detected is wider.
このような本実施形態によれば、制御装置11にノイズ立体物除去部4eを設け、極座標グリッドGにおいて立体物検出部4aにより検出された立体物セルのうち、径方向に複数の立体物セルが存在する場合には、径方向の距離が最も短い立体物セルを除いた残りの立体物セルをノイズセルとして除去するようにした。
According to this embodiment, the
これにより、座標変換部4bにより極座標グリッドGの立体物セルを直交座標グリッドSに変換する処理負担を軽減することができるようになる。この結果、市街地などの建造物や立体物が多く存在する場所では複数の立体物が検出される率が高くなるので、処理負担の軽減効果をより高めることができる。
As a result, the processing load of converting the three-dimensional object cell of the polar coordinate grid G into the orthogonal coordinate grid S by the coordinate
(第5実施形態)
図28から図31は第5実施形態を示すもので、以下、第1実施形態あるいは第4実施形態と異なる部分について説明する。この実施形態では、極座標グリッドGにおけるデータの保持形式について示している。上記した第1実施形態あるいは第4実施形態においては、極座標グリッドGにおける立体物セルのデータの保持形式について特に示していないが、データ保持の形式によってはメモリアクセスの回数を増やすことになり、処理負荷が増大することになる。
(Fifth Embodiment)
28 to 31 show the fifth embodiment, and the parts different from the first embodiment or the fourth embodiment will be described below. In this embodiment, a data holding format in the polar coordinate grid G is shown. In the first embodiment or the fourth embodiment described above, the data retention format of the three-dimensional object cell in the polar coordinate grid G is not particularly shown, but the number of memory accesses may be increased depending on the data retention format, and the processing The load will increase.
そこで、この実施形態では、例えば第1実施形態においてステップS4で実施した立体物セル検出処理で図28に示すように立体物セル(○印)が検出された場合について説明する。ここでは、極座標グリッドGの各セルのうち、角度方向としてθ1方向にセルGc3、θ2方向にセルGb3、Gb4、θ3方向にセルGa3、Ga4、θ4方向にセルGd3、Gd4、θ5方向にセルGe4が立体物セルとして検出されている。 Therefore, in this embodiment, for example, a case where a three-dimensional object cell (marked with a circle) is detected as shown in FIG. 28 in the three-dimensional object cell detection process performed in step S4 in the first embodiment will be described. Here, among the cells of the polar coordinate grid G, the cells Gc3 in the θ1 direction as the angular direction, the cells Gb3, Gb4 in the θ2 direction, the cells Ga3, Ga4 in the θ3 direction, and the cells Gd3, Gd4 in the θ4 direction, and the cell Ge4 in the θ5 direction. Is detected as a three-dimensional object cell.
例えば、立体物セルGc3は、θ1方向で径方向の長さr1が「4」であるから、図29に示すように、角度方向セルインデックスθ1のr方向セルインデックス値r_idxを「4」とすることができる。同様にしてすべての角度方向セルインデックスについて立体物セルの径方向の長さをr方向セルインデックス値としてテーブルに記録することができる。 For example, since the three-dimensional object cell Gc3 has a radial length r1 of "4" in the θ1 direction, the r-direction cell index value r_idx of the angular cell index θ1 is set to “4” as shown in FIG. be able to. Similarly, for all angular cell indexes, the radial length of the three-dimensional cell can be recorded in the table as the r-direction cell index value.
これによって、ステップS5での座標変換処理においては、角度方向セルインデックスに対するr方向セルのインデックス値を読み出すことで極座標グリッドGでの立体物セルを認識することができる。 As a result, in the coordinate conversion process in step S5, the three-dimensional object cell on the polar coordinate grid G can be recognized by reading the index value of the r-direction cell with respect to the angular direction cell index.
また、上記したような方式で極座標グリッドGの立体物セルを記録することで、第4実施形態で示した場合においては、径方向において最も近い位置にある立体物セルだけを残すので、各角度方向セルインデックスについてr方向セルのインデックス値はそれぞれ1個ずつとなる。 Further, by recording the three-dimensional object cell of the polar coordinate grid G by the method as described above, in the case shown in the fourth embodiment, only the three-dimensional object cell at the closest position in the radial direction is left, so that each angle. Direction cell index There is one index value for each r-direction cell.
図30は、図28のように検出された立体物セルについて、第4実施形態のステップS4aで実施した処理を行うことで得られる最も近い位置の立体物セルを残した状態である。従って、この場合においては、全ての角度方向セルインデックスについて立体物セルの径方向の最も短い長さr_minをr方向セルインデックス値r_min_idxとして図31に示すようにテーブルに記録することができる。 FIG. 30 shows a state in which the three-dimensional object cell detected as shown in FIG. 28 is left at the closest position obtained by performing the process performed in step S4a of the fourth embodiment. Therefore, in this case, for all the angular cell indexes, the shortest length r_min in the radial direction of the three-dimensional object cell can be recorded in the table as the r-direction cell index value r_min_idx as shown in FIG.
これによって、ステップS5での座標変換処理においては、角度方向セルインデックスに対するr方向の最も短い距離のセルのインデックス値r_minを読み出すことで極座標グリッドGでの立体物セルを認識することができる。 As a result, in the coordinate conversion process in step S5, the three-dimensional object cell on the polar coordinate grid G can be recognized by reading the index value r_min of the cell having the shortest distance in the r direction with respect to the angular cell index.
この結果、制御装置11は、ステップS5の座標変換処理において、座標変換部4bで立体物情報をグリッドから参照し探し出してくる操作に要するメモリアクセス回数を減らすことができる。また、これによって、制御装置11の全体としての処理コストを低減することができるようになる。
As a result, in the coordinate conversion process of step S5, the
従って、本実施形態によれば、制御装置11により、極座標グリッドGにおける立体物セルの記録方式を角度方向インデックスに対するr方向のインデックス値として記憶部4dにテーブルとして記憶することで、メモリアクセス回数の低減や処理負担の軽減を図ることができるようになる。
Therefore, according to the present embodiment, the
(他の実施形態)
なお、本発明は、上述した実施形態のみに限定されるものではなく、その要旨を逸脱しない範囲で種々の実施形態に適用可能であり、例えば、以下のように変形または拡張することができる。
(Other embodiments)
The present invention is not limited to the above-described embodiment, and can be applied to various embodiments without departing from the gist thereof. For example, the present invention can be modified or extended as follows.
上記各実施形態では、極座標グリッドGとして、車両Aの前方に向けた範囲を設定した場合を示したが、車両Aの側方や後方などにも向けた範囲を設定することもできる。この場合には、検出方向に対応して複数の3次元距離検出部を設けることができる。 In each of the above embodiments, the polar coordinate grid G is set to a range directed to the front of the vehicle A, but a range directed to the side or the rear of the vehicle A can also be set. In this case, a plurality of three-dimensional distance detection units can be provided corresponding to the detection direction.
極座標グリッドGの立体物セルを直交座標グリッドSに変換してから路面RSに対応する静止直交座標グリッドに変換する例を示したが、極座標グリッドGの立体物セルを直接路面RSに対応した静止直交座標グリッドに変換する処理を実施しても良い。 An example of converting a three-dimensional object cell of the polar coordinate grid G to a Cartesian coordinate grid S and then converting it to a static orthogonal coordinate grid corresponding to the road surface RS has been shown. A process of converting to a Cartesian coordinate grid may be performed.
図面中、1、10は物体検出装置、2、11は制御装置、2aは立体物判定部、3は3次元距離検出部、4、12はデータ処理部、4aは立体物検出部、4bは座標変換部、4cは路面セル設定部、4dは記憶部、4eはノイズ立体物除去部、5は出力部である。 In the drawings, 1, 10 are object detection devices, 2 and 11 are control devices, 2a is a three-dimensional object determination unit, 3 is a three-dimensional distance detection unit, 4 and 12 are data processing units, 4a is a three-dimensional object detection unit, and 4b is. The coordinate conversion unit, 4c is a road surface cell setting unit, 4d is a storage unit, 4e is a noise three-dimensional object removal unit, and 5 is an output unit.
Claims (8)
前記極座標グリッドのセルの情報を2次元で所定距離毎に複数のセルに区切る直交座標グリッドを設定し、前記極座標グリッドに含まれる前記立体物セルを直交座標グリッドのセルに対応付けて立体物セルを設定する座標変換部(4b)と、
前記直交座標グリッドの各セルについて立体物セルに該当するときに路面に該当する路面セルを指定する路面セル設定テーブルを記憶する記憶部(4d)と、
前記座標変換部により直交座標に変換された前記立体物セルの位置に対応して前記記憶部から前記路面セル設定テーブルを読み出して路面セルを設定する路面セル設定部(4c)と
を備えた立体物検出処理装置。 A three-dimensional object exists based on the three-dimensional distance information based on the polar coordinates acquired by the three-dimensional distance detection unit (3) for the detection range around the own vehicle by setting a polar coordinate grid that divides the cells into multiple cells at a predetermined angle and distance range. A three-dimensional object detection unit (4a) that detects an object cell,
A Cartesian coordinate grid that divides the cell information of the polar coordinate grid into a plurality of cells at predetermined distances in two dimensions is set, and the three-dimensional object cell included in the polar coordinate grid is associated with the cells of the orthogonal coordinate grid to form a three-dimensional object cell. Coordinate conversion unit (4b) to set
A storage unit (4d) for storing a road surface cell setting table for designating a road surface cell corresponding to the road surface when the cell corresponds to a three-dimensional object cell for each cell of the Cartesian coordinate grid.
A solid provided with a road surface cell setting unit (4c) for reading the road surface cell setting table from the storage unit and setting the road surface cell corresponding to the position of the three-dimensional object cell converted into orthogonal coordinates by the coordinate conversion unit. Object detection processing device.
前記路面セル設定部は、3次元距離検出部の位置を原点として、原点位置に対応するセルから順に立体物セルを探索し、立体物セルを検出すると前記路面セル設定テーブルから路面セルのデータを読み出して直交座標グリッドに路面セルおよび不明セルを設定する請求項1に記載の立体物検出処理装置。 The road surface cell setting table is provided as data for designating a road surface cell and an unknown cell when the cell is a three-dimensional object cell corresponding to each cell of the orthogonal coordinate grid.
The road surface cell setting unit searches for a three-dimensional object cell in order from the cell corresponding to the origin position with the position of the three-dimensional distance detection unit as the origin, and when the three-dimensional object cell is detected, the road surface cell data is obtained from the road surface cell setting table. The three-dimensional object detection processing device according to claim 1, wherein the road surface cell and the unknown cell are read out and set in the Cartesian coordinate grid.
前記路面セル設定部は、前記探索直線の傾きを前記探索範囲で変化させ、前記路面セル設定テーブルの対応する前記探索セル群を読み出して前記原点側から探索し、前記立体物セルに到達すると、その立体物セルよりも原点側に位置するセルを路面セルとして設定すると共に、その立体物セルよりも原点から遠い側に位置するセルを不明セルとして設定する請求項1に記載の立体物検出処理装置。 In the road surface cell setting table, when a group of cells in which search lines having a certain inclination passing through the origin, which is the position of the three-dimensional distance detection unit, overlap on a Cartesian coordinate grid is set as a search cell group, the inclination of the search line is defined as It is stored as the search cell group obtained for each slope when changed in the search range of the Cartesian coordinate grid.
When the road surface cell setting unit changes the inclination of the search straight line in the search range, reads out the corresponding search cell group in the road surface cell setting table, searches from the origin side, and reaches the three-dimensional object cell. The three-dimensional object detection process according to claim 1, wherein a cell located on the origin side of the three-dimensional object cell is set as a road surface cell, and a cell located on a side farther from the origin than the three-dimensional object cell is set as an unknown cell. apparatus.
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016094534 | 2016-05-10 | ||
JP2016094534 | 2016-05-10 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017203766A JP2017203766A (en) | 2017-11-16 |
JP6863027B2 true JP6863027B2 (en) | 2021-04-21 |
Family
ID=60322737
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017080540A Active JP6863027B2 (en) | 2016-05-10 | 2017-04-14 | Three-dimensional object detection processing device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6863027B2 (en) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11585933B2 (en) * | 2018-10-29 | 2023-02-21 | Lawrence Livermore National Security, Llc | System and method for adaptive object-oriented sensor fusion for environmental mapping |
US11762061B2 (en) * | 2019-07-26 | 2023-09-19 | Deka Products Limited Partnership | System and method for free space estimation |
JP7406350B2 (en) * | 2019-11-15 | 2023-12-27 | 日本信号株式会社 | Object detection device and object detection program |
KR102382448B1 (en) | 2021-09-06 | 2022-04-04 | 주식회사 라이드플럭스 | Method, apparatus and computer program for generating input feature map of artificial intelligence model to detect object based on lidar |
JP7332731B1 (en) | 2022-02-17 | 2023-08-23 | 本田技研工業株式会社 | External recognition device |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3147541B2 (en) * | 1992-11-06 | 2001-03-19 | 株式会社豊田中央研究所 | Obstacle recognition device for vehicles |
JP3564897B2 (en) * | 1996-10-03 | 2004-09-15 | スズキ株式会社 | Obstacle recognition device |
JP2007333486A (en) * | 2006-06-13 | 2007-12-27 | Denso Corp | Obstacle detector for vehicle |
JP2011123551A (en) * | 2009-12-08 | 2011-06-23 | Toyota Central R&D Labs Inc | Dead corner area estimating device and program |
JP5407898B2 (en) * | 2010-01-25 | 2014-02-05 | 株式会社豊田中央研究所 | Object detection apparatus and program |
JP2013140515A (en) * | 2012-01-05 | 2013-07-18 | Toyota Central R&D Labs Inc | Solid object detection device and program |
JP5820774B2 (en) * | 2012-06-21 | 2015-11-24 | 株式会社豊田中央研究所 | Road boundary estimation apparatus and program |
JP2015041366A (en) * | 2013-08-23 | 2015-03-02 | 株式会社東芝 | Axle detector |
-
2017
- 2017-04-14 JP JP2017080540A patent/JP6863027B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017203766A (en) | 2017-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6863027B2 (en) | Three-dimensional object detection processing device | |
US11320836B2 (en) | Algorithm and infrastructure for robust and efficient vehicle localization | |
JP6906011B2 (en) | Method for converting the 2D boundary frame of an object to the 3D position of an autonomous vehicle [METHOD FOR TRANSFORMING 2D BOUNDING BOXES OF OBJECTS INTO 3D POSITIONS FOR AUTONOMOUS DRIVING VEHICLES | |
EP3361278A1 (en) | Autonomous vehicle localization based on walsh kernel projection technique | |
CN109470254B (en) | Map lane line generation method, device, system and storage medium | |
CN111290385B (en) | Robot path planning method, robot, electronic equipment and storage medium | |
US9823661B2 (en) | Occupancy grid map for a vehicle | |
JP6975775B2 (en) | How to drive along the lane without maps and positioning for autonomous driving on the highway of self-driving vehicles | |
CN110345957A (en) | Vehicle route identification | |
EP3748300A1 (en) | Lane-level map matching | |
JP6654923B2 (en) | Map information output device | |
CN107300914A (en) | For the apparatus and method for the driving path for producing autonomous land vehicle | |
JP2015148601A (en) | System and method for mapping, localization and pose correction | |
US11328516B2 (en) | Apparatus and method for associating sensor data in vehicle | |
US20180144199A1 (en) | Vehicle vision | |
US20210188307A1 (en) | Spiral curve based vertical parking planner system for autonomous driving vehicles | |
US20190325234A1 (en) | Lane post-processing in an autonomous driving vehicle | |
CN108628298A (en) | Control type planning for automatic driving vehicle and control system | |
JP7299976B2 (en) | Environmental target feature point extraction method and apparatus | |
CN111487960A (en) | Mobile robot path planning method based on positioning capability estimation | |
CN107415952A (en) | The vehicle operating of enhancing | |
JP5852645B2 (en) | Trajectory correction method, trajectory correction device, and moving body device | |
US10473772B2 (en) | Vehicle sensor operation | |
JP2014203168A (en) | Risk determination device and risk determination method | |
JP2019100924A (en) | Vehicle trajectory correction device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200323 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210129 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210302 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210315 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6863027 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |