JP2008298532A - Obstruction measurement method, device, and system - Google Patents

Obstruction measurement method, device, and system Download PDF

Info

Publication number
JP2008298532A
JP2008298532A JP2007143734A JP2007143734A JP2008298532A JP 2008298532 A JP2008298532 A JP 2008298532A JP 2007143734 A JP2007143734 A JP 2007143734A JP 2007143734 A JP2007143734 A JP 2007143734A JP 2008298532 A JP2008298532 A JP 2008298532A
Authority
JP
Japan
Prior art keywords
obstacle
speed
distance
measurement
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007143734A
Other languages
Japanese (ja)
Other versions
JP5163936B2 (en
Inventor
Naoto Toba
直人 鳥羽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2007143734A priority Critical patent/JP5163936B2/en
Publication of JP2008298532A publication Critical patent/JP2008298532A/en
Application granted granted Critical
Publication of JP5163936B2 publication Critical patent/JP5163936B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an obstruction measurement method, an obstruction measurement device, and an obstruction measurement system by which a calculation amount per unit time becomes constant no matter whether speed is high or low, the upper limit of the calculation amount per unit time is prescribed, and cost reduction is achieved in either of hard processing and soft processing. <P>SOLUTION: In this obstruction measurement method, an object area of obstruction measurement and the resolution or the frame rate of an image by a stereo camera are changed according to the speed of a traveling object, when the distance from the traveling object up to an obstruction is measured with the stereo camera. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、障害物までの距離を計測する障害物計測方法、障害物計測装置及び障害物計測システムに関する。   The present invention relates to an obstacle measurement method, an obstacle measurement device, and an obstacle measurement system for measuring a distance to an obstacle.

特許文献1は、複数の出力モードを有するステレオカメラを用いたステレオ式監視装置・方法を開示し、2つの出力モード(インターレース、ノンインターレース)を有するステレオカメラからの画像から距離データを算出し、対象物の距離または自車両の速度に応じて出力モードを切り替えることで、画像処理の負荷を抑えるようにしている。高速走行時は「ノンインターレース+画面上部」、低速走行時は「インターレース+全画面」で処理するので、あくまでも1フレーム中の情報量は同じである。また、2つの出力モードとしては、垂直画角を変えて、任意のラインを選択する方法もある。   Patent Document 1 discloses a stereo monitoring apparatus and method using a stereo camera having a plurality of output modes, calculates distance data from an image from a stereo camera having two output modes (interlaced, non-interlaced), and The load of image processing is suppressed by switching the output mode according to the distance of the object or the speed of the host vehicle. Since processing is performed with “non-interlace + upper screen” during high-speed traveling and “interlace + full screen” during low-speed traveling, the amount of information in one frame is the same. As two output modes, there is a method of selecting an arbitrary line by changing the vertical angle of view.

特許文献2は、車両の周囲の障害物や走路形状を画像情報により検出する車両用画像処理装置を開示し、ひとつの高速度カメラからの画像を、車両の走行状態(車速など)から高フレームレートで抽出する領域と低フレームレートで抽出する領域とに分割することで、画質を低下させず高フレームレートの画像を扱うことができるようにしている。または、高速カメラと低速カメラの2つの画像から領域を選択する。
特開2003−304528号公報 特開2003−259361号公報
Patent document 2 discloses an image processing apparatus for a vehicle that detects obstacles around the vehicle and a shape of a running path based on image information, and an image from one high-speed camera is displayed as a high frame from a running state of the vehicle (vehicle speed or the like). By dividing into an area to be extracted at a rate and an area to be extracted at a low frame rate, an image with a high frame rate can be handled without degrading the image quality. Alternatively, a region is selected from two images of a high speed camera and a low speed camera.
JP 2003-304528 A JP 2003-259361 A

特許文献1の装置・方法は、画面内で複数の解像度を有せず、また、水平画角を変えず、フレームレートが一定であるので、距離算出の演算量が変わってしまう。特許文献2の装置は、同一画面内でフレームレートの異なる画像が存在し、また、ステレオカメラ構成ではなく、対象物の距離情報を得るものではない。   The apparatus / method of Patent Document 1 does not have a plurality of resolutions in the screen, and does not change the horizontal angle of view, and the frame rate is constant, so the amount of calculation for distance calculation changes. The device of Patent Document 2 has images with different frame rates in the same screen, and is not a stereo camera configuration, and does not obtain distance information of an object.

一般に車両が高速走行するときは、高速道路など曲率半径の大きい道路を走行するため、画角端に注意すべき障害物が入ることは少ないが、低速走行するときは、主に一般道を走行することが多く交差点での車の飛び出しや歩行者の飛び出しが予想されるため、画角端に注意する必要がある。   Generally, when a vehicle travels at a high speed, it travels on a road with a large radius of curvature, such as an expressway, so there are few obstacles to watch out at the edge of the angle of view, but when traveling at a low speed, it travels mainly on a general road. It is necessary to pay attention to the edge of the angle of view because cars are expected to jump out at intersections and pedestrians jump out.

本発明は、上述のような従来技術の問題に鑑み、高速・低速に関わらず、単位時間あたりの演算量が一定になり、単位時間あたりの演算量の上限が規定され、ハード処理・ソフト処理のいずれにおいてもコストダウンを達成可能な障害物計測方法、障害物計測装置及び障害物計測システムを提供することを目的とする。   In view of the above-mentioned problems of the prior art, the present invention has a constant amount of calculation per unit time regardless of whether the speed is high or low, defines an upper limit of the amount of calculation per unit time, and performs hardware processing / software processing. It is an object of the present invention to provide an obstacle measurement method, an obstacle measurement device, and an obstacle measurement system that can achieve cost reduction.

上記目的を達成するために、本発明による第1の障害物計測方法は、走行物体から障害物までの距離をステレオカメラにより計測する障害物計測方法であって、前記障害物計測の対象領域及び前記ステレオカメラによる画像のフレームレートを前記走行物体の速度に応じて変化させることを特徴とする。   In order to achieve the above object, a first obstacle measurement method according to the present invention is an obstacle measurement method for measuring a distance from a running object to an obstacle with a stereo camera, the obstacle measurement target region and The frame rate of the image by the stereo camera is changed according to the speed of the traveling object.

この障害物計測方法によれば、走行物体の速度に応じて障害物計測を行う対象領域及びステレオカメラによる画像のフレームレートを変えることで、高速・低速に関わらず、単位時間あたりの演算量が一定になり、単位時間あたりの演算量の上限が規定され、距離計測(視差算出)の演算処理がハード処理・ソフト処理のいずれであってもコストダウンを達成できる。   According to this obstacle measurement method, the amount of calculation per unit time can be reduced regardless of whether the speed is low or high, by changing the target area for obstacle measurement according to the speed of the traveling object and the frame rate of the image by the stereo camera. The upper limit of the calculation amount per unit time is specified, and cost reduction can be achieved regardless of whether the distance measurement (parallax calculation) calculation process is a hardware process or a software process.

上記障害物計測方法において前記走行物体が比較的高速のとき前記対象領域を画面の一部に限定することで、前記フレームレートを大きくしても、単位時間あたりの演算量を、比較的低速のときに前記対象領域を画面のほぼ全域としてフレームレートを小さくした場合と同等にして一定にできるとともに、単位時間あたりの演算量の上限を規定することができる。   In the above obstacle measurement method, when the traveling object is relatively fast, by limiting the target area to a part of the screen, even if the frame rate is increased, the amount of calculation per unit time is relatively slow. In some cases, the target area can be made substantially the same as the entire area of the screen, and can be made constant in the same manner as when the frame rate is reduced, and the upper limit of the calculation amount per unit time can be defined.

また、前記走行物体が比較的低速のとき前記対象領域を画面のほぼ全体としても、前記フレームレートを小さくすることで、単位時間あたりの演算量を、上述の比較的高速の場合と同等にして一定にできるとともに、単位時間あたりの演算量の上限を規定することができる。   Further, even when the traveling object is relatively slow, even if the target area is almost the entire screen, the amount of calculation per unit time is made equal to that of the relatively high speed described above by reducing the frame rate. In addition to being constant, it is possible to define the upper limit of the calculation amount per unit time.

高速走行時は、高速道路などの曲率半径の大きい道路を通行する場合が多く、計測対象エリアを画角端に設定するよりは、上述のように、前方車両との追突を回避するために画面中心部にまたは上部に計測対象エリアを設定することが重要であるとともに、検知してから回避行動に移るまでの時間が短いため高フレームレートで障害物を計測する必要がある。一方、低速走行時は主に一般道のように曲率半径の小さい道路や交差点などを走行する場合が多く、前方車両との追突を回避するとともに他の車両や歩行者などの飛び出しにも注意を払う必要があるため、上述のように計測対象領域を全域に設定することが重要となる。低速走行時は高速走行時と比較して、検知してから回避行動に移るまでに時間的に余裕があるため、低フレームレートで障害物を計測しても問題がない。   When traveling at high speeds, the road is often passed along a road with a large radius of curvature, such as an expressway, and the screen is used to avoid a rear-end collision with the preceding vehicle, as described above, rather than setting the measurement target area at the angle of view. It is important to set a measurement target area at the center or at the top, and it is necessary to measure an obstacle at a high frame rate because it takes a short time from the detection to the avoidance action. On the other hand, when driving at low speeds, it often runs on roads and intersections with a small radius of curvature, such as general roads. Since it is necessary to pay, it is important to set the measurement target region over the entire area as described above. Compared to high-speed driving during low-speed driving, there is no problem even if obstacles are measured at a low frame rate because there is a time lapse between detection and transition to avoidance behavior.

本発明による第2の障害物計測方法は、走行物体から障害物までの距離をステレオカメラにより計測する障害物計測方法であって、前記障害物計測の対象領域及び前記ステレオカメラによる画像の解像度を前記走行物体の速度に応じて変化させることを特徴とする。   A second obstacle measuring method according to the present invention is an obstacle measuring method for measuring a distance from a traveling object to an obstacle with a stereo camera, wherein the obstacle measurement target region and the resolution of the image by the stereo camera are determined. The speed is varied according to the speed of the traveling object.

この障害物計測方法によれば、走行物体の速度に応じて障害物計測を行う対象領域及びステレオカメラによる画像の解像度を変えることで、高速・低速に関わらず、単位時間あたりの演算量が一定になり、単位時間あたりの演算量の上限が規定され、距離計測(視差算出)の演算処理がハード処理・ソフト処理のいずれであってもコストダウンを達成できる。   According to this obstacle measurement method, the amount of calculation per unit time is constant regardless of whether it is high speed or low speed by changing the resolution of the target area where the obstacle is measured and the stereo camera image according to the speed of the traveling object. Thus, the upper limit of the amount of calculation per unit time is defined, and cost reduction can be achieved regardless of whether the distance measurement (parallax calculation) calculation process is a hardware process or a software process.

上記障害物計測方法において前記走行物体が比較的高速のとき前記対象領域を画面の一部に限定することで、前記解像度を大きくしても、単位時間あたりの演算量を、比較的低速のときに前記対象領域を画面のほぼ全域として解像度を小さくした場合と同等にして一定にできるとともに、単位時間あたりの演算量の上限を規定することができる。   In the above obstacle measurement method, when the traveling object is relatively high speed, by limiting the target area to a part of the screen, even when the resolution is increased, the calculation amount per unit time is relatively low In addition, it is possible to make the target area almost the whole area of the screen and to make it constant, which is the same as when the resolution is reduced, and to define the upper limit of the calculation amount per unit time.

また、前記走行物体が比較的低速のとき前記対象領域を画面のほぼ全体としても、前記解像度を小さくすることで、単位時間あたりの演算量を、上述の比較的高速の場合と同等にして一定にできるとともに、単位時間あたりの演算量の上限を規定することができる。   Further, even when the traveling object is relatively slow, even if the target area is almost the entire screen, the amount of calculation per unit time is kept constant by making the resolution small, equivalent to the case of the relatively high speed described above. And the upper limit of the calculation amount per unit time can be defined.

上述のように、高速走行時には3次元計測の対象領域を中心部に限定して高解像度で実行する。低速走行時には3次元計測の対象領域を画面全体に設定して低解像度で実行する。なお、低速走行時の回避行動に移ることのできる限界距離は、高速走行時より近距離であるため障害物の画面に占める面積が大きく、低解像度でも検知可能である。一方、高速走行時は、回避行動に移ることのできる限界距離が比較的遠距離にあるため、障害物の画面に占める面積が小さくなる。このため、確実に検知するためには高解像度にする必要がある。   As described above, when the vehicle is traveling at a high speed, the target region of the three-dimensional measurement is limited to the central portion and executed with high resolution. When traveling at low speed, the target area of the three-dimensional measurement is set to the entire screen and executed at a low resolution. The limit distance that can be shifted to the avoidance action at the time of low-speed driving is closer than that at the time of high-speed driving, and thus the area occupied by the obstacle on the screen is large, and can be detected even at a low resolution. On the other hand, when driving at high speed, the limit distance that can be shifted to the avoidance action is relatively long, so the area occupied by the obstacle on the screen is reduced. For this reason, in order to detect reliably, it is necessary to make it high resolution.

上記各障害物計測方法において前記距離計測における距離の算出をPOC法(位相限定相関法)を用いて行うことで、精度の高い計測が可能となる。   In each of the above obstacle measurement methods, the calculation of the distance in the distance measurement is performed by using the POC method (phase-only correlation method), thereby enabling highly accurate measurement.

なお、上記各障害物計測方法において、対象領域を速度に基づいて変更する場合、例えば、低速走行のとき、左右端の領域を対象領域に変更することで、画角端で飛び出しによる車や歩行者を重点的に計測し監視でき、また、高速走行のとき、上部領域を対象領域に変更することで、画角上部に限定して障害物の距離計測をすることができる。   In each of the above obstacle measurement methods, when the target area is changed based on the speed, for example, when driving at a low speed, the left and right end areas are changed to the target area, so that the vehicle or the walk by jumping out at the angle of view end. The person can be measured and monitored with priority, and the distance of the obstacle can be measured only at the upper part of the angle of view by changing the upper area to the target area when traveling at high speed.

また、前記対象領域を前記速度及び前記障害物までの距離に基づいて変更することにより、対象領域を距離情報と速度から動的に設定することで道路状況や車の流れ等の変化に適切に対応できる。この場合、高速走行時には対象領域を遠距離に設定し、低速走行時には近距離に設定することが好ましい。   In addition, by changing the target area based on the speed and the distance to the obstacle, the target area is dynamically set based on distance information and speed, so that it can be appropriately adapted to changes in road conditions, vehicle flow, etc. Yes. In this case, it is preferable that the target area is set to a long distance when traveling at a high speed and is set to a short distance when traveling at a low speed.

この場合、前記対象領域を変更する際の前記障害物までの距離をSAD(差分絶対値和)法を用いて行うことが好ましい。   In this case, it is preferable that the distance to the obstacle when the target area is changed is performed using a SAD (sum of absolute differences) method.

本発明による第1の障害物計測装置は、走行物体から障害物までの距離をステレオカメラにより計測する障害物計測装置であって、前記障害物計測の対象領域を前記走行物体の速度に基づいて変更する手段と、前記ステレオカメラによる画像のフレームレートを前記速度に基づいて変化させる手段と、を備えることを特徴とする。   A first obstacle measuring device according to the present invention is an obstacle measuring device that measures a distance from a running object to an obstacle with a stereo camera, and the obstacle measurement target region is based on the speed of the running object. Means for changing, and means for changing a frame rate of an image by the stereo camera based on the speed.

この障害物計測装置によれば、走行物体の速度に応じて障害物計測を行う対象領域及びステレオカメラによる画像のフレームレートを変えることで、高速・低速に関わらず、単位時間あたりの演算量が一定になり、単位時間あたりの演算量の上限が規定され、距離計測(視差算出)の演算処理がハード処理・ソフト処理のいずれであってもコストダウンを達成できる。   According to this obstacle measuring device, the amount of calculation per unit time can be reduced regardless of whether the speed is low or high, by changing the target area for obstacle measurement according to the speed of the traveling object and the frame rate of the image by the stereo camera. The upper limit of the calculation amount per unit time is specified, and cost reduction can be achieved regardless of whether the distance measurement (parallax calculation) calculation process is a hardware process or a software process.

本発明による第2の障害物計測装置は、走行物体から障害物までの距離をステレオカメラにより計測する障害物計測装置であって、前記障害物計測の対象領域を前記走行物体の速度に基づいて変更する手段と、前記ステレオカメラによる画像の解像度を前記速度に基づいて変化させる手段と、を備えることを特徴とする。   A second obstacle measuring device according to the present invention is an obstacle measuring device that measures a distance from a running object to an obstacle using a stereo camera, and the obstacle measurement target region is based on the speed of the running object. Means for changing, and means for changing the resolution of an image obtained by the stereo camera based on the speed.

この障害物計測装置によれば、走行物体の速度に応じて障害物計測を行う対象領域及びステレオカメラによる画像の解像度を変えることで、高速・低速に関わらず、単位時間あたりの演算量が一定になり、単位時間あたりの演算量の上限が規定され、距離計測(視差算出)の演算処理がハード処理・ソフト処理のいずれであってもコストダウンを達成できる。   According to this obstacle measurement device, the amount of calculation per unit time is constant regardless of whether it is high speed or low speed by changing the resolution of the image by the target area and the stereo camera that performs obstacle measurement according to the speed of the traveling object. Thus, the upper limit of the amount of calculation per unit time is defined, and cost reduction can be achieved regardless of whether the distance measurement (parallax calculation) calculation process is a hardware process or a software process.

上記各障害物計測装置は、上述の障害物計測方法を実行するように構成することができる。なお、上記各障害物計測装置は走行物体に搭載されることで距離計測を行うようにできる。   Each of the obstacle measurement devices can be configured to execute the obstacle measurement method described above. In addition, each said obstacle measuring device can be made to measure distance by being mounted in a traveling object.

本発明による障害物計測システムは、上述の障害物計測装置と、前記計測された距離情報に基づいて前記障害物に関する危険を判定する判定部と、前記危険と判定されたときに警告を発する警告部と、を備えることを特徴とする。   An obstacle measurement system according to the present invention includes the above-described obstacle measurement device, a determination unit that determines a risk related to the obstacle based on the measured distance information, and a warning that issues a warning when the risk is determined. And a section.

この障害物計測システムによれば、警告部からの警告により危険に注意が向き、危険回避の操作を行うことができるとともに、障害物計測システムのコストダウンを実現できる。   According to this obstacle measurement system, attention can be paid to the danger by the warning from the warning section, the danger avoidance operation can be performed, and the cost of the obstacle measurement system can be reduced.

本発明の障害物計測方法、障害物計測装置及び障害物計測システムによれば、高速・低速に関わらず、単位時間あたりの演算量が一定になり、単位時間あたりの演算量の上限が規定され、距離計測(視差算出)の演算処理がハード処理・ソフト処理のいずれであってもコストダウンを達成できる。   According to the obstacle measurement method, obstacle measurement device, and obstacle measurement system of the present invention, the amount of calculation per unit time is constant regardless of whether the speed is high or low, and the upper limit of the amount of calculation per unit time is specified. The cost can be reduced regardless of whether the distance measurement (parallax calculation) calculation process is a hardware process or a software process.

以下、本発明を実施するための最良の形態について図面を用いて説明する。   The best mode for carrying out the present invention will be described below with reference to the drawings.

〈第1の実施の形態〉   <First Embodiment>

図1は第1の実施の形態の車両用の障害物計測装置を概略的に示すブロック図である。図1に示すように、車両用の障害物計測装置10は、右カメラ11と、左カメラ12と、カメラ11,12からの画像情報を補正する画像補正部13と、カメラ11,12による画像情報からのカメラ画像について画像処理を行う画像処理部14と、3次元計測領域内の画像情報から障害物との間の距離データを算出する距離データ算出部15と、車両の速度を検出する車速センサ16と、を備え、車両に搭載される。   FIG. 1 is a block diagram schematically showing an obstacle measuring apparatus for a vehicle according to a first embodiment. As shown in FIG. 1, the obstacle measurement device 10 for a vehicle includes a right camera 11, a left camera 12, an image correction unit 13 that corrects image information from the cameras 11 and 12, and images by the cameras 11 and 12. An image processing unit 14 that performs image processing on a camera image from the information, a distance data calculation unit 15 that calculates distance data between the obstacles from the image information in the three-dimensional measurement region, and a vehicle speed that detects the speed of the vehicle Sensor 16 and is mounted on a vehicle.

右カメラ11及び左カメラ12は、それぞれレンズ等の光学系とCCDやCMOSイメージセンサ等からなる撮像素子とを備え、車両の前部に所定間隔に配置されてステレオカメラを構成し、車両前方に存在する歩行者や先行車両等の障害物の画像情報を電気信号として得る。   Each of the right camera 11 and the left camera 12 includes an optical system such as a lens and an image pickup device including a CCD, a CMOS image sensor, and the like. The right camera 11 and the left camera 12 are arranged at a predetermined interval in the front of the vehicle to form a stereo camera. Image information of obstacles such as existing pedestrians and preceding vehicles is obtained as an electrical signal.

画像補正部13は、カメラ11,12からの画像情報についてカメラ11,12のレンズの周辺部に生じるひずみ等を補正する。   The image correction unit 13 corrects distortion or the like generated in the periphery of the lenses of the cameras 11 and 12 with respect to the image information from the cameras 11 and 12.

画像処理部14は補正された画像情報を画像処理し、画像処理部14の領域選択部14aは、画像内の障害物までの距離計測を行う3次元計測領域を車速センサ16で検出した車速に基づいて選択する。   The image processing unit 14 performs image processing on the corrected image information, and the region selection unit 14a of the image processing unit 14 sets the three-dimensional measurement region for measuring the distance to the obstacle in the image to the vehicle speed detected by the vehicle speed sensor 16. Select based on.

また、画像処理部14は、車速センサ16で検出した車速に基づいて画像のフレームレート(単位時間あたりに画像処理して画面を書き換える回数)を変更する。なお、車速センサ16は車両に搭載されているものを用いることができる。   Further, the image processing unit 14 changes the frame rate of the image (the number of times the image is processed and rewritten per unit time) based on the vehicle speed detected by the vehicle speed sensor 16. In addition, what is mounted in the vehicle can be used for the vehicle speed sensor 16.

距離データ算出部15は、同一の障害物について右カメラ11から得られる右画像と左カメラ12から得られる左画像とが水平方向にずれて画面上に表示されるので、かかる右画像と左画像との水平位置のずれ(視差)に基づいて障害物までの距離を3次元的に算出できる。すなわち、視差と距離とは反比例の関係にあるので、視差を計測することで距離の計測が可能である。このような距離データの算出を距離データ算出部15は車速に基づいて選択された3次元計測領域内で実行するようになっている。   The distance data calculation unit 15 displays the right image obtained from the right camera 11 and the left image obtained from the left camera 12 on the same obstacle on the screen in the horizontal direction. The distance to the obstacle can be calculated three-dimensionally based on the horizontal position deviation (parallax). That is, since the parallax and the distance are in an inversely proportional relationship, the distance can be measured by measuring the parallax. The distance data calculation unit 15 performs such calculation of distance data within a three-dimensional measurement region selected based on the vehicle speed.

距離データ算出部15は、上述の視差演算の方法として、具体的には、差分絶対値和(Sum of Absolute Difference:SAD)による相関法や位相限定相関法(Phase-Only Correlation:POC)を用いることができる。   Specifically, the distance data calculation unit 15 uses a correlation method based on a sum of absolute differences (SAD) or a phase-only correlation (POC) as a method of the above-described parallax calculation. be able to.

SAD法は、一般的によく用いられている視差計測法であり、例えば、新井元基、鷲見和彦、松山隆司による論文「画像のブロックマッチングにおける相関関数とサブピクセルの推定方式の最適化」(情報処理学会 研究報告 CVIM-144-5, pp.33-40, May 2004)や特開2000−283753号公報等を参照できる。   The SAD method is a commonly used parallax measurement method. For example, a paper by Motoki Arai, Kazuhiko Sumi, and Takashi Matsuyama “Optimization of correlation function and sub-pixel estimation method in image block matching” ( Information Processing Society of Japan Research Report CVIM-144-5, pp.33-40, May 2004) and Japanese Patent Application Laid-Open No. 2000-283753 can be referred to.

POC法(位相限定相関法)は、デジタル信号に変換された画像信号をフーリエ変換し、位相信号と振幅信号を得て、位相信号だけを逆フーリエ変換することで得られた位相情報を用いる3次元計測法であり、位相成分のみを使用するため、精度の高いマッチングが可能であり、SAD法よりも距離計測の精度が高い。POC法は、例えば、福田康宏、安部正英、川又政征による論文「位相限定相関を用いた映像の位置ずれ補正のDSPによる実現」(計測自動制御学会東北支部 第215回研究集会(2004.5.27)資料番号215-3)等を参照できる。   The POC method (phase-only correlation method) uses phase information obtained by performing Fourier transform on an image signal converted into a digital signal to obtain a phase signal and an amplitude signal, and performing inverse Fourier transform on only the phase signal. Since this is a dimension measurement method and uses only phase components, highly accurate matching is possible, and the accuracy of distance measurement is higher than that of the SAD method. The POC method is, for example, a paper by Yasuhiro Fukuda, Masahide Abe, and Masayuki Kawamata "Realization of video image misregistration using phase-only correlation by DSP" ) You can refer to document number 215-3).

距離データ算出部15は、上述のSAD法、POC法による距離算出のための演算を集積素子等によりハード的に処理できるが、CPU(中央演算処理装置)によりソフト的に処理するようにしてもよい。この場合、CPUは所定のプログラムに従って所定の演算を実行する。   The distance data calculation unit 15 can process the calculation for the distance calculation by the SAD method and the POC method by hardware using an integrated element or the like, but it may be processed by a CPU (Central Processing Unit) as software. Good. In this case, the CPU executes a predetermined calculation according to a predetermined program.

図2は、図1の領域選択部14aで選択可能な3次元計測の領域A,B,Cを示す模式図である。   FIG. 2 is a schematic diagram showing three-dimensional measurement areas A, B, and C that can be selected by the area selection unit 14a of FIG.

図1の領域選択部14aは、図2に示す複数の領域A,B,Cから3次元計測を行う3次元計測領域を選択可能であり、例えば、車速s2>車速s1(図3(b)参照)とすると、車速センサ16で検出した車速がs2以上の高速であると最も狭い領域Aを選択し、s2以下でs1以上の中速であると中間の領域Bを選択し、s1以下の低速であると最も広い領域Cを選択する。   The region selection unit 14a in FIG. 1 can select a three-dimensional measurement region for performing three-dimensional measurement from the plurality of regions A, B, and C shown in FIG. 2, for example, vehicle speed s2> vehicle speed s1 (FIG. 3B). If the vehicle speed detected by the vehicle speed sensor 16 is a high speed equal to or higher than s2, the narrowest area A is selected. If the vehicle speed is equal to or lower than s2 and the medium speed is equal to or higher than s1, an intermediate area B is selected. When the speed is low, the widest area C is selected.

次に、図1の画像処理部14及び領域選択部14aにおける車速に基づく3次元計測領域の選択及びフレームレートの変更の制御について図2,図3,図4を参照して説明する。   Next, control of the selection of the three-dimensional measurement region and the change of the frame rate based on the vehicle speed in the image processing unit 14 and the region selection unit 14a of FIG. 1 will be described with reference to FIGS.

図3は、図1の障害物計測装置10による制御における、フレーム(a)、車速(b)、実フレームレート(≒画像処理時間)(c)、及び3次元計測領域(d)の時間Tとの関係を模式的に示す図である。図4は、図1の障害物計測装置によるカメラ画像と3次元計測領域とを示す模式図であって、低速走行の場合(a)及び高速走行の場合(b)を示す。   FIG. 3 shows the time T of the frame (a), the vehicle speed (b), the actual frame rate (≈image processing time) (c), and the three-dimensional measurement region (d) in the control by the obstacle measuring device 10 of FIG. It is a figure which shows typically the relationship. FIG. 4 is a schematic diagram showing a camera image and a three-dimensional measurement region by the obstacle measuring device of FIG. 1, and shows a case of low speed running (a) and a case of high speed running (b).

図1の障害物計測装置10を搭載した車両が図3の時間T0でスタートすると、図3(b)のように低速(s1以下)で時間T0〜T1まで走行し、この低速期間に図3(d)のように、図2の最も大きい領域Cを3次元計測領域として選択するとともに、図3(a)のフレームを図3(c)のように実フレームレートを小さく(画像処理時間を長く)変更して画像処理する。   When the vehicle equipped with the obstacle measuring device 10 in FIG. 1 starts at time T0 in FIG. 3, the vehicle travels at time T0 to T1 at low speed (s1 or less) as shown in FIG. As shown in (d), the largest area C in FIG. 2 is selected as the three-dimensional measurement area, and the frame in FIG. 3 (a) is reduced in the actual frame rate (image processing time is reduced as shown in FIG. 3 (c)). (Long) change and image processing.

例えば、図4(a)のように、図1の障害物計測装置10を搭載した車両が道路1上を低速走行(車速<s1)すると、選択された最大の3次元計測領域Cが画面9のほぼ全体に設定され、領域C内において小さな実フレームレート(比較的長い画像処理時間)で車両の前方の先行車両2の画像が処理される。このように、低速走行時は、3次元計測領域を画面9のほぼ全体に設定して、比較的小さいフレームレートで実行する。   For example, as shown in FIG. 4A, when a vehicle equipped with the obstacle measuring apparatus 10 of FIG. 1 travels on the road 1 at a low speed (vehicle speed <s1), the selected maximum three-dimensional measurement region C is displayed on the screen 9. In the region C, the image of the preceding vehicle 2 ahead of the vehicle is processed at a small actual frame rate (relatively long image processing time). In this way, during low-speed running, the three-dimensional measurement area is set to almost the entire screen 9 and is executed at a relatively small frame rate.

次に、車速が増して中速(s2以下、s1以上)となると、図3の時間T2〜T3の中速期間に、図3(d)のように、図2の中間の領域Bを3次元計測領域として選択するとともに、図3(a)のフレームを図3(c)のように実フレームレートを中程度(画像処理時間を中程度)に変更して画像処理する。   Next, when the vehicle speed increases to a medium speed (s2 or less, s1 or more), the intermediate region B in FIG. 2 is set to 3 in the middle speed period of time T2 to T3 in FIG. 3 as shown in FIG. While selecting as a dimension measurement region, the frame of FIG. 3A is subjected to image processing by changing the actual frame rate to medium (image processing time is medium) as shown in FIG. 3C.

次に、車速が更に増して高速(s2以上)となると、図3の時間T4〜T5の高速期間に、図3(d)のように、図2の最も小さい領域Aを3次元計測領域として選択するとともに、図3(a)のフレームを図3(c)のように実フレームレートを大きく(画像処理時間を短く)変更して画像処理する。   Next, when the vehicle speed further increases to a high speed (s2 or more), the smallest area A in FIG. 2 is used as a three-dimensional measurement area in the high speed period from time T4 to T5 in FIG. 3 as shown in FIG. At the same time, the frame shown in FIG. 3A is subjected to image processing by changing the actual frame rate to a larger value (shortening the image processing time) as shown in FIG. 3C.

例えば、図1の障害物計測装置10を搭載した車両が道路1上を高速走行(車速>s2)すると、選択された最小の3次元計測領域Aが画面9のほぼ中心部(または上部)に設定され、領域A内において大きな実フレームレート(比較的短い処理時間)で車両の前方の先行車両2の画像が処理される。   For example, when a vehicle equipped with the obstacle measuring device 10 of FIG. 1 travels on the road 1 at high speed (vehicle speed> s2), the selected minimum three-dimensional measurement region A is almost at the center (or upper part) of the screen 9. In the region A, the image of the preceding vehicle 2 ahead of the vehicle is processed at a large actual frame rate (relatively short processing time).

このように、車両の高速走行時には、3次元計測領域を画面9の中心部(または上部)に限定して比較的大きいフレームレートで実行する。このように小さな領域Aに限定しても、高速走行時は道路の直線性、平行性が保たれているため、問題ない。むしろ、道路形状が極端に上下、左右に蛇行している場合は、極端な高速走行は行わないから問題がないのである。   As described above, when the vehicle is traveling at a high speed, the three-dimensional measurement region is limited to the central portion (or upper portion) of the screen 9 and executed at a relatively large frame rate. Even if it is limited to such a small area A, there is no problem because the road linearity and parallelism are maintained during high speed traveling. On the contrary, when the road shape is extremely meandering up and down and left and right, there is no problem because extreme high-speed traveling is not performed.

上述の障害物計測装置10により車両と障害物との間の距離を計測するステップ(S01〜S08)について図5のフローチャートを参照して説明する。   The steps (S01 to S08) of measuring the distance between the vehicle and the obstacle by the above-described obstacle measuring device 10 will be described with reference to the flowchart of FIG.

図1の障害物計測装置10を搭載した車両において障害物計測を開始すると、まず、右カメラ11及び左カメラ12から左右の画像が画像補正部13に入力し(S01)、画像を画像補正部13で補正する(S02)。   When obstacle measurement is started in a vehicle equipped with the obstacle measurement apparatus 10 of FIG. 1, first, left and right images are input to the image correction unit 13 from the right camera 11 and the left camera 12 (S01), and the image is converted into an image correction unit. 13 is corrected (S02).

そして、領域選択部14aは、車速センサ16で検出した車速がs2以上の高速であると(S03)、図2の最小の領域Aを3次元計測領域として選択する(S05)。また、車速がs2以下、s1以上の中速であると(S04)、図2の中間の領域Bを3次元計測領域として選択し(S06)、s1以下の低速であると(S04)、図2の最大の領域Cを3次元計測領域として選択する(S07)。また、領域Aが選択されるとフレームレートは大きく、領域Cが選択されるとフレームレートは小さく、領域Bが選択されるとフレームレートはその中間に設定される。   Then, when the vehicle speed detected by the vehicle speed sensor 16 is a high speed equal to or higher than s2 (S03), the area selection unit 14a selects the minimum area A in FIG. 2 as a three-dimensional measurement area (S05). If the vehicle speed is s2 or less and a medium speed of s1 or more (S04), the intermediate area B in FIG. 2 is selected as the three-dimensional measurement area (S06), and if the vehicle speed is s1 or less (S04), The two largest areas C are selected as the three-dimensional measurement area (S07). When region A is selected, the frame rate is high, when region C is selected, the frame rate is low, and when region B is selected, the frame rate is set to the middle.

次に、上述のようにして選択された領域A,BまたはCにおいて各フレームレートで画像を処理し、右カメラ11の右画像及び左カメラ12の左画像による水平位置の視差計測により障害物である先行車両までの距離を距離データ算出部15で算出する(S08)。   Next, an image is processed at each frame rate in the region A, B, or C selected as described above, and an obstacle is obtained by measuring the horizontal position using the right image of the right camera 11 and the left image of the left camera 12. The distance to a certain preceding vehicle is calculated by the distance data calculation unit 15 (S08).

なお、上述の障害物計測においてはPOC法を用い、また、同一の解像度で実行する。   In the above-described obstacle measurement, the POC method is used and executed with the same resolution.

以上のように、図1の障害物計測装置10による障害物計測によれば、車両が低速のときは低フレームレートでかつ最大の領域Cで3次元距離計測を行うとともに、高速のときは高フレームレートでかつ最小の領域Aで3次元距離計測を行うので、車速が高速・低速に関わらず、単位時間あたりの視差算出の演算量が一定になり、単位時間あたりの演算量の上限が規定される。このため、視差算出がハード処理またはソフト処理のいずれであっても、その処理量がほぼ一定で大きくならないので、ハード処理もソフト処理もその規模が大きくならず、装置のコストダウンを実現できる。   As described above, according to the obstacle measurement by the obstacle measurement device 10 of FIG. 1, when the vehicle is low speed, the three-dimensional distance measurement is performed at the maximum region C at the low frame rate and at the high speed. Since 3D distance measurement is performed at the frame rate and the minimum area A, the amount of calculation for parallax calculation per unit time is constant regardless of whether the vehicle speed is high or low, and the upper limit of the amount of calculation per unit time is specified Is done. For this reason, regardless of whether the parallax calculation is hardware processing or software processing, the processing amount is almost constant and does not increase. Therefore, the scale of both hardware processing and software processing does not increase, and the cost of the apparatus can be reduced.

また、一般に高速走行時は、高速道路など曲率半径の大きい道路を走行するため、画角端に注意すべき障害物が入ることは少ないから、図2の最小の領域Aで障害物の3次元距離計測を行っても問題が生じ難い。一方、低速走行時は、主に一般道を走行することが多く交差点での車の飛び出しや歩行者の飛び出しが予想されるため、画角端に注意する必要があるが、図2の最大の領域Cで障害物の3次元距離計測を行うことで画角端における障害物を計測できる。   In general, when driving at a high speed, since the vehicle travels on a road with a large radius of curvature, such as an expressway, there are few obstacles to watch out for at the edge of the angle of view. Problems are unlikely to occur even when distance measurement is performed. On the other hand, when driving at low speeds, it is often the case that the car is mainly driven on ordinary roads, and it is expected that cars will jump out at intersections and pedestrians will jump out. By measuring the three-dimensional distance of the obstacle in the area C, the obstacle at the angle of view can be measured.

〈第2の実施の形態〉   <Second Embodiment>

図6は第2の実施の形態の車両用の障害物計測装置を概略的に示すブロック図である。図7は図6の解像度変換部14bにより第1解像度変換Qで処理される領域(a)及び第2解像度変換Rで処理される領域(b)を示す模式図である。図8は、図6の障害物計測装置によるカメラ画像と3次元計測領域とを示す模式図であって、低速走行の場合(a)及び高速走行の場合(b)、(c)を示す。   FIG. 6 is a block diagram schematically showing an obstacle measuring apparatus for a vehicle according to the second embodiment. FIG. 7 is a schematic diagram showing a region (a) processed by the first resolution conversion Q and a region (b) processed by the second resolution conversion R by the resolution conversion unit 14b of FIG. FIG. 8 is a schematic diagram showing a camera image and a three-dimensional measurement region by the obstacle measuring device of FIG. 6, and shows a case of low speed running (a) and a case of high speed running (b), (c).

図6の障害物計測装置20は、図1と比べて、画像処理部14が解像度変換部14bを備える点で相違する以外は、図1と基本的に同様の構成であるので、相違点について主に説明する。   The obstacle measurement apparatus 20 of FIG. 6 is basically the same as FIG. 1 except that the image processing unit 14 includes a resolution conversion unit 14b as compared with FIG. Mainly explained.

解像度変換部14bは車速センサ16で検出した車速に基づいて画像の解像度を変換する。すなわち、車両が高速走行のとき(例えば、s1以上)、解像度変換部14bが図7(a)のように、第1解像度変換Qを行い、3次元計測を行う領域を図2の領域Aのように画面の中心部に限定して高解像度で画像処理を実行する。   The resolution conversion unit 14 b converts the resolution of the image based on the vehicle speed detected by the vehicle speed sensor 16. That is, when the vehicle is traveling at a high speed (for example, s1 or more), the resolution conversion unit 14b performs the first resolution conversion Q as shown in FIG. As described above, image processing is executed at a high resolution limited to the center of the screen.

また、車両が低速走行のとき(例えば、s1以下)、解像度変換部14bが図7(b)のように、第2解像度変換Rを行い、3次元計測を行う領域を図2の領域Cのように画面全体で低解像度で画像処理を実行する。例えば、第2解像度変換Rでは画素を間引いて第1解像度変換Qの解像度よりも低い解像度にすることができる。   Further, when the vehicle is traveling at a low speed (for example, s1 or less), the resolution conversion unit 14b performs the second resolution conversion R as shown in FIG. In this way, image processing is executed at a low resolution on the entire screen. For example, in the second resolution conversion R, pixels can be thinned to a resolution lower than that of the first resolution conversion Q.

図8(a)のように、車両が低速走行のときは、3次元計測を行う領域を図2の領域Cのように画面全体に設定し、画面全体において低解像度で一定のフレームレートに保持した状態で画像処理を行う。また、図8(b)のように、高速走行のときは、3次元計測を行う領域を図2の領域Aのように画面の中心部に限定して領域A内において高解像度で一定のフレームレートに保持した状態で画像処理を行う。この場合、図8(c)のように、高解像度で実行する中心部の領域A以外では低解像度で画像処理を行うことが好ましい。   As shown in FIG. 8A, when the vehicle is traveling at a low speed, an area for performing the three-dimensional measurement is set on the entire screen as shown in area C in FIG. 2, and the entire screen is held at a low resolution and a constant frame rate. In this state, image processing is performed. Further, as shown in FIG. 8B, when traveling at high speed, a region where three-dimensional measurement is performed is limited to the center of the screen as in region A of FIG. Image processing is performed while maintaining the rate. In this case, as shown in FIG. 8C, it is preferable to perform image processing at a low resolution except for the central area A which is executed at a high resolution.

上述の障害物計測装置20により車両と障害物との間の距離を計測するステップ(S11〜S16)について図9のフローチャートを参照して説明する。   The steps (S11 to S16) of measuring the distance between the vehicle and the obstacle by the above-described obstacle measuring device 20 will be described with reference to the flowchart of FIG.

図6の障害物計測装置20を搭載した車両において障害物計測を開始すると、まず、右カメラ11及び左カメラ12から左右の画像が画像補正部13に入力し(S11)、画像を画像補正部13で補正する(S12)。   When the obstacle measurement is started in the vehicle equipped with the obstacle measuring device 20 of FIG. 6, first, the left and right images are input from the right camera 11 and the left camera 12 to the image correction unit 13 (S11), and the image is converted into the image correction unit. 13 is corrected (S12).

そして、解像度変換部14bは、車速センサ16で検出した車速がs1以上の高速であると(S13)、第1の解像度変換Qを行い、図8(b)、(c)のように、画面中心部の領域Aを3次元計測領域として高解像度で画像処理を行う(S14)。また、車速がs1以下の低速であると(S13)、第2の解像度変換Rを行い、図8(a)のように、画面全体の領域Cを3次元計測領域として低解像度で画像処理を行う(S15)。   Then, if the vehicle speed detected by the vehicle speed sensor 16 is a high speed equal to or higher than s1 (S13), the resolution conversion unit 14b performs the first resolution conversion Q, as shown in FIGS. 8B and 8C. Image processing is performed with high resolution using the central area A as a three-dimensional measurement area (S14). If the vehicle speed is a low speed of s1 or less (S13), the second resolution conversion R is performed, and image processing is performed at a low resolution with the area C of the entire screen as a three-dimensional measurement area as shown in FIG. Perform (S15).

次に、上述の領域AまたはCにおいて右カメラ11の右画像及び左カメラ12の左画像による水平位置の視差計測により障害物である先行車両までの距離を距離データ算出部15で算出する(S16)。   Next, in the region A or C described above, the distance data calculation unit 15 calculates the distance to the preceding vehicle that is an obstacle by measuring the horizontal position using the right image of the right camera 11 and the left image of the left camera 12 (S16). ).

なお、上述の障害物計測においてはPOC法を用い、また、同一のフレームレートで実行する。   In the above obstacle measurement, the POC method is used and executed at the same frame rate.

以上のように、図6の障害物計測装置20による障害物計測によれば、車両が低速のときは低解像度でかつ画面全体の領域で3次元距離計測を行うとともに、高速のときは高解像度でかつ限定された領域で3次元距離計測を行うので、車速が高速・低速に関わらず、単位時間あたりの視差算出の演算量が一定になり、単位時間あたりの演算量の上限が規定される。このため、視差算出がハード処理またはソフト処理のいずれであっても、その処理量がほぼ一定で大きくならないので、ハード処理もソフト処理もその規模が大きくならず、装置のコストダウンを実現できる。   As described above, according to the obstacle measurement by the obstacle measuring device 20 in FIG. 6, the three-dimensional distance measurement is performed in the area of the entire screen with low resolution when the vehicle is low speed, and high resolution when the vehicle is high speed. In addition, 3D distance measurement is performed in a limited area, so the amount of parallax calculation per unit time is constant regardless of whether the vehicle speed is high or low, and the upper limit of the amount of calculation per unit time is specified . For this reason, regardless of whether the parallax calculation is hardware processing or software processing, the processing amount is almost constant and does not increase. Therefore, the scale of both hardware processing and software processing does not increase, and the cost of the apparatus can be reduced.

また、車両が低速走行時に障害物に対する回避行動に移ることのできる限界距離は高速走行時よりも近距離であるため、対象物(先行車両2)の画面に占める面積が大きく、低解像度でも対象物を検知可能である。   In addition, since the limit distance that the vehicle can move to avoiding obstacles when traveling at low speed is closer than when traveling at high speed, the area of the object (preceding vehicle 2) occupies a large area and is subject to low resolution. An object can be detected.

次に、図1,図6において、3次元計測領域を設定するときの別の例について図10(a)〜(c)を参照して説明する。   Next, another example when setting a three-dimensional measurement region in FIGS. 1 and 6 will be described with reference to FIGS.

図10は、図1,図6の障害物計測装置によるカメラ画像と3次元計測領域とを示す模式図であって、低速走行の場合(a)及び高速走行の場合(b)、(c)を示す。   FIG. 10 is a schematic diagram showing a camera image and a three-dimensional measurement region by the obstacle measuring device of FIGS. 1 and 6, in the case of low speed running (a) and the case of high speed running (b), (c). Indicates.

図10(a)の例は、車両が道路1上を低速で走行しているとき、3次元計測領域として画面9の左端領域Dと右端領域Eとを選択するようにしたものである。これにより、例えば一般道路での低速走行のとき、左端領域D及び右端領域Eの画角端において障害物の距離計測を行うことで、飛び出しによる車や歩行者を重点的に計測し監視できる。   In the example of FIG. 10A, when the vehicle is traveling on the road 1 at a low speed, the left end region D and the right end region E of the screen 9 are selected as the three-dimensional measurement region. Thus, for example, when driving at a low speed on a general road, by measuring the distance of the obstacle at the angle of view end of the left end region D and the right end region E, it is possible to focus on measuring and monitoring cars and pedestrians due to jumping out.

図10(b)の例は、車両が道路1上を高速で走行しているとき、3次元計測領域として画面9の上部領域Fを選択するようにしたものである。これにより、例えば高速道路での高速走行のとき、障害物の距離計測を画角上部に限定する。   In the example of FIG. 10B, when the vehicle is traveling on the road 1 at a high speed, the upper region F of the screen 9 is selected as the three-dimensional measurement region. Thereby, for example, when traveling at high speed on an expressway, the distance measurement of the obstacle is limited to the upper part of the angle of view.

図10(c)の例は、車両が道路1上を走行しているとき、先行車両2までの距離データを得て、この距離データ及び車速から3次元計測領域を動的に設定するようにしたものである。この場合、3次元計測領域を高速走行時には遠距離範囲に、また、低速走行時には近距離範囲に設定することが好ましい。例えば、高速走行のとき、3次元計測領域として画面9の領域Gを設定した距離範囲(例えば、80〜100m)に限定する。   In the example of FIG. 10C, when the vehicle is traveling on the road 1, the distance data to the preceding vehicle 2 is obtained, and the three-dimensional measurement region is dynamically set from the distance data and the vehicle speed. It is a thing. In this case, it is preferable to set the three-dimensional measurement region to a long distance range when traveling at high speed and to a short distance range when traveling at low speed. For example, when traveling at high speed, the distance G is limited to a distance range (for example, 80 to 100 m) in which the area G of the screen 9 is set as the three-dimensional measurement area.

上述のように、道路上の距離情報から判別して車速に応じて3次元計測領域を動的に変えることで、道路状況や車の流れ等の変化に応じて適切に3次元計測を行うことができる。なお、この場合の距離データの算出は、SAD法により行うことが好ましい。   As described above, three-dimensional measurement can be performed appropriately according to changes in road conditions, vehicle flow, etc., by distinguishing from distance information on the road and dynamically changing the three-dimensional measurement area according to the vehicle speed. Can do. In this case, the distance data is preferably calculated by the SAD method.

〈第3の実施の形態〉   <Third Embodiment>

図11は第3の実施の形態の車両用の障害物計測システムを概略的に示すブロック図である。   FIG. 11 is a block diagram schematically showing an obstacle measurement system for a vehicle according to a third embodiment.

図11の障害物計測システム30は、図1または図6の障害物計測装置10または20と、障害物計測装置10,20の距離データ算出部15からの距離情報に基づいて例えば先行車両2との間の距離が設定距離以上か否かを判定する判定部31と、先行車両2との間の距離が設定距離以下のときに車両の操縦者に警告音や警告音声や警告ランプ等で危険を知らせる警告部32と、を備える。   The obstacle measurement system 30 in FIG. 11 includes, for example, the preceding vehicle 2 based on the distance information from the obstacle measurement device 10 or 20 in FIG. 1 or 6 and the distance data calculation unit 15 of the obstacle measurement devices 10 and 20. When the distance between the determination unit 31 for determining whether the distance between the vehicle and the preceding vehicle 2 is equal to or less than the set distance, a warning sound, a warning sound, a warning lamp, etc. And a warning unit 32 for informing the user.

図11の障害物計測システム30によれば、先行車両2との間の距離が設定距離以下となり接近した場合、障害物計測装置10,20からの距離情報に基づく警告部32からの警告により操縦者は危険に注意が向き、危険回避の操作を行うことができるとともに、障害物計測装置10,20のコストダウンにより障害物計測システム30のコストダウンを実現できる。   According to the obstacle measurement system 30 of FIG. 11, when the distance to the preceding vehicle 2 is less than the set distance and the vehicle approaches, the vehicle is operated by a warning from the warning unit 32 based on the distance information from the obstacle measurement devices 10 and 20. The person can pay attention to the danger and can perform the danger avoidance operation, and can reduce the cost of the obstacle measuring system 30 by reducing the cost of the obstacle measuring devices 10 and 20.

以上のように本発明を実施するための最良の形態について説明したが、本発明はこれらに限定されるものではなく、本発明の技術的思想の範囲内で各種の変形が可能である。例えば、図1,図6の障害物計測装置10,20または図11の障害物計測システム30は、自動車や電車等の自走車両に搭載して使用可能であるが、これらに限定されず、例えば、ロボット等に搭載してもよいことはもちろんである。   As described above, the best mode for carrying out the present invention has been described. However, the present invention is not limited to these, and various modifications are possible within the scope of the technical idea of the present invention. For example, the obstacle measuring devices 10 and 20 in FIGS. 1 and 6 or the obstacle measuring system 30 in FIG. 11 can be used by being mounted on a self-propelled vehicle such as an automobile or a train, but is not limited thereto. For example, it may of course be mounted on a robot or the like.

また、図7〜図9では、画像処理の解像度を2段階に変更するようにしたが、3段階に変更するようにしてもよく、この場合、s1>s2とした場合、車速s1以上で高解像度、車速s2以下で低解像度、車速s1以下s2以上で中間の解像度とするようにできる。   7 to 9, the resolution of the image processing is changed to two levels. However, the resolution may be changed to three levels. In this case, when s1> s2, the vehicle speed is higher than s1. The resolution can be set to a low resolution at a vehicle speed s2 or less and an intermediate resolution at a vehicle speed s1 or less s2.

また、図11の障害物計測システム30では、先行車両2との間の距離が設定距離以下のとき、警告を発するようにしたが、例えば、自動的に減速するように車両を制御するようにしてもよい。   In the obstacle measurement system 30 of FIG. 11, a warning is issued when the distance to the preceding vehicle 2 is equal to or less than the set distance. For example, the vehicle is controlled so as to automatically decelerate. May be.

第1の実施の形態の車両用の障害物計測装置を概略的に示すブロック図である。It is a block diagram showing roughly the obstacle measuring device for vehicles of a 1st embodiment. 図1の領域選択部14aで選択可能な3次元計測の領域A,B,Cを示す模式図である。It is a schematic diagram which shows the area | regions A, B, and C of the three-dimensional measurement which can be selected by the area | region selection part 14a of FIG. 図1の障害物計測装置10による制御における、フレーム(a)、車速(b)、実フレームレート(≒画像処理時間)(c)、及び3次元計測領域(d)の時間Tとの関係を模式的に示す図である。The relationship between the frame (a), the vehicle speed (b), the actual frame rate (≈image processing time) (c), and the time T of the three-dimensional measurement region (d) in the control by the obstacle measuring device 10 of FIG. It is a figure shown typically. 図1の障害物計測装置によるカメラ画像と3次元計測領域とを示す模式図であって、低速走行の場合(a)及び高速走行の場合(b)を示す。It is a schematic diagram which shows the camera image and three-dimensional measurement area | region by the obstruction measuring device of FIG. 1, Comprising: The case (a) of low speed driving | running | working and the case (b) of high speed driving | running | working are shown. 図1の障害物計測装置10により車両と障害物との間の距離を計測するステップを説明するためのフローチャートである。It is a flowchart for demonstrating the step which measures the distance between a vehicle and an obstruction by the obstruction measurement apparatus 10 of FIG. 第2の実施の形態の車両用の障害物計測装置を概略的に示すブロック図である。It is a block diagram showing roughly an obstacle measuring device for vehicles of a 2nd embodiment. 図6の解像度変換部14bにより第1解像度変換Qで処理される領域(a)及び第2解像度変換Rで処理される領域(b)を示す模式図である。It is a schematic diagram which shows the area | region (a) processed by the 1st resolution conversion Q and the area | region (b) processed by the 2nd resolution conversion R by the resolution conversion part 14b of FIG. 図6の障害物計測装置によるカメラ画像と3次元計測領域とを示す模式図であって、低速走行の場合(a)及び高速走行の場合(b)、(c)を示す。It is a schematic diagram which shows the camera image and three-dimensional measurement area | region by the obstruction measuring device of FIG. 6, Comprising: The case (a) of low speed driving | running | working and the case (b), (c) of high speed driving | running | working are shown. 図6の障害物計測装置20により車両と障害物との間の距離を計測するステップを説明するためのフローチャートである。It is a flowchart for demonstrating the step which measures the distance between a vehicle and an obstruction by the obstruction measurement apparatus 20 of FIG. 第1,第2の実施の形態において3次元計測領域を設定する別の例を説明するための図であり、図1,図6の障害物計測装置によるカメラ画像と3次元計測領域とを示す模式図であって、低速走行の場合(a)及び高速走行の場合(b)、(c)を示す。It is a figure for demonstrating another example which sets a three-dimensional measurement area | region in 1st, 2nd embodiment, and shows the camera image and 3D measurement area | region by the obstruction measuring device of FIG. 1, FIG. It is a schematic diagram, and shows a case of low-speed running (a) and a case of high-speed running (b), (c). 第3の実施の形態の車両用の障害物計測システムを概略的に示すブロック図である。It is a block diagram which shows roughly the obstacle measuring system for vehicles of 3rd Embodiment.

符号の説明Explanation of symbols

10,20 障害物計測装置
11 右カメラ
12 左カメラ
14 画像処理部
14a 領域選択部
14b 解像度変換部
15 距離データ算出部
16 車速センサ
30 障害物計測システム
31 判定部
32 警告部
A,B,C 3次元計測領域
D 左端領域
E 右端領域
F 上部領域
DESCRIPTION OF SYMBOLS 10,20 Obstacle measurement apparatus 11 Right camera 12 Left camera 14 Image processing part 14a Area selection part 14b Resolution conversion part 15 Distance data calculation part 16 Vehicle speed sensor 30 Obstacle measurement system 31 Determination part 32 Warning part A, B, C 3 Dimensional measurement area D Left end area E Right end area F Upper area

Claims (13)

走行物体から障害物までの距離をステレオカメラにより計測する障害物計測方法であって、
前記障害物計測の対象領域及び前記ステレオカメラによる画像のフレームレートを前記走行物体の速度に応じて変化させることを特徴とする障害物計測方法。
An obstacle measurement method for measuring the distance from a running object to an obstacle with a stereo camera,
The obstacle measurement method, wherein the obstacle measurement target area and the frame rate of the image by the stereo camera are changed according to the speed of the traveling object.
前記走行物体が比較的高速のとき前記対象領域を画面の一部に限定し前記フレームレートを大きくする請求項1に記載の障害物計測方法。   The obstacle measurement method according to claim 1, wherein the target area is limited to a part of a screen and the frame rate is increased when the traveling object is relatively fast. 前記走行物体が比較的低速のとき前記対象領域を画面のほぼ全体とし前記フレームレートを小さくする請求項1に記載の障害物計測方法。   The obstacle measuring method according to claim 1, wherein when the traveling object is relatively slow, the target area is set to substantially the entire screen to reduce the frame rate. 走行物体から障害物までの距離をステレオカメラにより計測する障害物計測方法であって、
前記障害物計測の対象領域及び前記ステレオカメラによる画像の解像度を前記走行物体の速度に応じて変化させることを特徴とする障害物計測方法。
An obstacle measurement method for measuring the distance from a running object to an obstacle with a stereo camera,
An obstacle measurement method, wherein the obstacle measurement target region and the resolution of an image obtained by the stereo camera are changed according to the speed of the traveling object.
前記走行物体が比較的高速のとき前記対象領域を画面の一部に限定し前記解像度を大きくする請求項4に記載の障害物計測方法。   The obstacle measurement method according to claim 4, wherein when the traveling object is relatively high speed, the target area is limited to a part of a screen and the resolution is increased. 前記走行物体が比較的低速のとき前記対象領域を画面のほぼ全体とし前記解像度を小さくする請求項4に記載の障害物計測方法。   The obstacle measurement method according to claim 4, wherein when the traveling object is relatively low speed, the target area is substantially the entire screen and the resolution is reduced. 前記距離計測における距離の算出をPOC法(位相限定相関法)を用いて行う請求項1乃至6のいずれか1項に記載の障害物計測方法。   The obstacle measurement method according to any one of claims 1 to 6, wherein the distance in the distance measurement is calculated using a POC method (phase-only correlation method). 前記対象領域を前記速度及び前記障害物までの距離に基づいて変更する請求項1乃至7のいずれか1項に記載の障害物計測方法。   The obstacle measurement method according to any one of claims 1 to 7, wherein the target area is changed based on the speed and a distance to the obstacle. 前記対象領域を変更する際の前記障害物までの距離をSAD(差分絶対値和)法を用いて行う請求項8に記載の障害物計測方法。   The obstacle measuring method according to claim 8, wherein a distance to the obstacle when changing the target area is performed using a SAD (sum of absolute differences) method. 走行物体から障害物までの距離をステレオカメラにより計測する障害物計測装置であって、
前記障害物計測の対象領域を前記走行物体の速度に基づいて変更する手段と、
前記ステレオカメラによる画像のフレームレートを前記速度に基づいて変化させる手段と、を備えることを特徴とする障害物計測装置。
An obstacle measuring device that measures the distance from a running object to an obstacle with a stereo camera,
Means for changing the obstacle measurement target area based on the speed of the traveling object;
Means for changing a frame rate of an image obtained by the stereo camera based on the speed.
走行物体から障害物までの距離をステレオカメラにより計測する障害物計測装置であって、
前記障害物計測の対象領域を前記走行物体の速度に基づいて変更する手段と、
前記ステレオカメラによる画像の解像度を前記速度に基づいて変化させる手段と、を備えることを特徴とする障害物計測装置。
An obstacle measuring device that measures the distance from a running object to an obstacle with a stereo camera,
Means for changing the obstacle measurement target area based on the speed of the traveling object;
Means for changing the resolution of an image obtained by the stereo camera based on the speed, and an obstacle measuring device.
請求項1乃至9のいずれか1項に記載の障害物計測方法を実行するように構成された請求項10または11に記載の障害物計測装置。   The obstacle measuring device according to claim 10 or 11 configured to execute the obstacle measuring method according to any one of claims 1 to 9. 請求項10乃至12のいずれか1項に記載の障害物計測装置と、前記計測された距離情報に基づいて前記障害物に関する危険を判定する判定部と、前記危険と判定されたときに警告を発する警告部と、を備えることを特徴とする障害物計測システム。   An obstacle measurement device according to any one of claims 10 to 12, a determination unit that determines a risk related to the obstacle based on the measured distance information, and a warning when the risk is determined. An obstacle measuring system comprising: a warning unit that emits.
JP2007143734A 2007-05-30 2007-05-30 Obstacle measurement method, obstacle measurement device, and obstacle measurement system Active JP5163936B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007143734A JP5163936B2 (en) 2007-05-30 2007-05-30 Obstacle measurement method, obstacle measurement device, and obstacle measurement system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007143734A JP5163936B2 (en) 2007-05-30 2007-05-30 Obstacle measurement method, obstacle measurement device, and obstacle measurement system

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2012271930A Division JP5454983B2 (en) 2012-12-13 2012-12-13 Obstacle measurement method, obstacle measurement device, and obstacle measurement system

Publications (2)

Publication Number Publication Date
JP2008298532A true JP2008298532A (en) 2008-12-11
JP5163936B2 JP5163936B2 (en) 2013-03-13

Family

ID=40172192

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007143734A Active JP5163936B2 (en) 2007-05-30 2007-05-30 Obstacle measurement method, obstacle measurement device, and obstacle measurement system

Country Status (1)

Country Link
JP (1) JP5163936B2 (en)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009146217A (en) * 2007-12-14 2009-07-02 Hitachi Ltd Stereo camera device
JP2010146494A (en) * 2008-12-22 2010-07-01 Honda Motor Co Ltd Vehicle surroundings monitoring device
WO2010084919A1 (en) * 2009-01-22 2010-07-29 株式会社 明電舎 Contact force measuring device and contact force measuring method
JP2010191637A (en) * 2009-02-17 2010-09-02 Mazda Motor Corp Driving support device for vehicle
WO2010128640A1 (en) * 2009-05-07 2010-11-11 コニカミノルタホールディングス株式会社 Device for acquiring stereo image
WO2011111247A1 (en) * 2010-03-12 2011-09-15 日立オートモティブシステムズ株式会社 Stereo camera device
JP2012065257A (en) * 2010-09-17 2012-03-29 Olympus Corp Imaging device for microscope
JP2012138671A (en) * 2010-12-24 2012-07-19 Kyocera Corp Stereo camera device
JP5056861B2 (en) * 2008-02-14 2012-10-24 コニカミノルタホールディングス株式会社 Ranging device
JP2013156794A (en) * 2012-01-30 2013-08-15 Hitachi Consumer Electronics Co Ltd Collision risk prediction device for vehicle
JP2014150358A (en) * 2013-01-31 2014-08-21 Saxa Inc Imaging apparatus
JP2017524178A (en) * 2014-08-05 2017-08-24 コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツングConti Temic microelectronic GmbH Driver assistant system
WO2018061740A1 (en) * 2016-09-29 2018-04-05 パナソニックIpマネジメント株式会社 Image generation device, image generation method, program, recording medium, and image processing system
WO2019065218A1 (en) * 2017-09-28 2019-04-04 株式会社小糸製作所 Sensor system
JP2019525540A (en) * 2016-07-22 2019-09-05 コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツングConti Temic microelectronic GmbH Camera device for photographing surrounding area of own vehicle and method for providing driver support function
WO2020075476A1 (en) * 2018-10-11 2020-04-16 日立オートモティブシステムズ株式会社 Vehicle-mounted system
JP2020074816A (en) * 2018-11-05 2020-05-21 スズキ株式会社 Electric vehicle
WO2020262095A1 (en) * 2019-06-26 2020-12-30 日立オートモティブシステムズ株式会社 Stereo image processing device and stereo image processing method
CN114745999A (en) * 2019-12-16 2022-07-12 日立环球生活方案株式会社 Autonomous walking type dust collector

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5266539B2 (en) * 2012-07-25 2013-08-21 コニカミノルタ株式会社 Ranging device

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003294457A (en) * 2002-04-04 2003-10-15 Matsushita Electric Ind Co Ltd Navigation system
JP2004146904A (en) * 2002-10-22 2004-05-20 Omron Corp On-vehicle imaging apparatus, and vehicle driving support apparatus using the same
JP2004245701A (en) * 2003-02-14 2004-09-02 Toyota Central Res & Dev Lab Inc Distance distribution detecting apparatus
JP2006010392A (en) * 2004-06-23 2006-01-12 Suzuki Motor Corp Through hole measuring system, method, and through hole measuring program
JP2006038578A (en) * 2004-07-26 2006-02-09 Toyota Motor Corp Object detection device
WO2006121087A1 (en) * 2005-05-10 2006-11-16 Olympus Corporation Image processing device, image processing method, and image processing program
JP2006318272A (en) * 2005-05-13 2006-11-24 Nissan Motor Co Ltd Vehicular object detection device and method
JP2007064804A (en) * 2005-08-31 2007-03-15 Clarion Co Ltd Obstacle detecting device for vehicle

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003294457A (en) * 2002-04-04 2003-10-15 Matsushita Electric Ind Co Ltd Navigation system
JP2004146904A (en) * 2002-10-22 2004-05-20 Omron Corp On-vehicle imaging apparatus, and vehicle driving support apparatus using the same
JP2004245701A (en) * 2003-02-14 2004-09-02 Toyota Central Res & Dev Lab Inc Distance distribution detecting apparatus
JP2006010392A (en) * 2004-06-23 2006-01-12 Suzuki Motor Corp Through hole measuring system, method, and through hole measuring program
JP2006038578A (en) * 2004-07-26 2006-02-09 Toyota Motor Corp Object detection device
WO2006121087A1 (en) * 2005-05-10 2006-11-16 Olympus Corporation Image processing device, image processing method, and image processing program
JP2006318272A (en) * 2005-05-13 2006-11-24 Nissan Motor Co Ltd Vehicular object detection device and method
JP2007064804A (en) * 2005-08-31 2007-03-15 Clarion Co Ltd Obstacle detecting device for vehicle

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSNG200601002021; 瀧田 健児: '位相限定相関法を用いた高精度画像照合とその評価' 第15回 回路とシステム(軽井沢)ワークショップ 論文集 , 20020423, 電子情報通信学会 システムと信号処理サブソサイエテ *
JPN6011051100; 瀧田 健児: '位相限定相関法を用いた高精度画像照合とその評価' 第15回 回路とシステム(軽井沢)ワークショップ 論文集 , 20020423, 電子情報通信学会 システムと信号処理サブソサイエテ *

Cited By (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009146217A (en) * 2007-12-14 2009-07-02 Hitachi Ltd Stereo camera device
JP5056861B2 (en) * 2008-02-14 2012-10-24 コニカミノルタホールディングス株式会社 Ranging device
JP2010146494A (en) * 2008-12-22 2010-07-01 Honda Motor Co Ltd Vehicle surroundings monitoring device
CN102292235A (en) * 2009-01-22 2011-12-21 株式会社明电舍 Contact force measuring device and contact force measuring method
WO2010084919A1 (en) * 2009-01-22 2010-07-29 株式会社 明電舎 Contact force measuring device and contact force measuring method
JP2010169506A (en) * 2009-01-22 2010-08-05 Meidensha Corp Device and method for measuring contact force
JP2010191637A (en) * 2009-02-17 2010-09-02 Mazda Motor Corp Driving support device for vehicle
WO2010128640A1 (en) * 2009-05-07 2010-11-11 コニカミノルタホールディングス株式会社 Device for acquiring stereo image
JPWO2010128640A1 (en) * 2009-05-07 2012-11-01 コニカミノルタホールディングス株式会社 Stereo image acquisition device
JP5652391B2 (en) * 2009-05-07 2015-01-14 コニカミノルタ株式会社 Stereo image acquisition device
JP2011191905A (en) * 2010-03-12 2011-09-29 Hitachi Automotive Systems Ltd Stereo camera device
WO2011111247A1 (en) * 2010-03-12 2011-09-15 日立オートモティブシステムズ株式会社 Stereo camera device
US9443313B2 (en) 2010-03-12 2016-09-13 Hitachi Automotive Systems, Ltd. Stereo camera apparatus
JP2012065257A (en) * 2010-09-17 2012-03-29 Olympus Corp Imaging device for microscope
JP2012138671A (en) * 2010-12-24 2012-07-19 Kyocera Corp Stereo camera device
JP2013156794A (en) * 2012-01-30 2013-08-15 Hitachi Consumer Electronics Co Ltd Collision risk prediction device for vehicle
JP2014150358A (en) * 2013-01-31 2014-08-21 Saxa Inc Imaging apparatus
JP2017524178A (en) * 2014-08-05 2017-08-24 コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツングConti Temic microelectronic GmbH Driver assistant system
JP2019525540A (en) * 2016-07-22 2019-09-05 コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツングConti Temic microelectronic GmbH Camera device for photographing surrounding area of own vehicle and method for providing driver support function
JP7064451B2 (en) 2016-07-22 2022-05-10 コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツング A method of providing a camera device for photographing the peripheral area of the own vehicle and a driver support function
WO2018061740A1 (en) * 2016-09-29 2018-04-05 パナソニックIpマネジメント株式会社 Image generation device, image generation method, program, recording medium, and image processing system
JP2018056838A (en) * 2016-09-29 2018-04-05 パナソニックIpマネジメント株式会社 Image generator, image generating method, program, recording medium, and image processing system
JPWO2019065218A1 (en) * 2017-09-28 2020-10-22 株式会社小糸製作所 Sensor system
WO2019065218A1 (en) * 2017-09-28 2019-04-04 株式会社小糸製作所 Sensor system
CN109572554A (en) * 2017-09-28 2019-04-05 株式会社小糸制作所 Sensing system
WO2020075476A1 (en) * 2018-10-11 2020-04-16 日立オートモティブシステムズ株式会社 Vehicle-mounted system
JPWO2020075476A1 (en) * 2018-10-11 2021-10-07 日立Astemo株式会社 In-vehicle system
JP2020074816A (en) * 2018-11-05 2020-05-21 スズキ株式会社 Electric vehicle
JP7320184B2 (en) 2018-11-05 2023-08-03 スズキ株式会社 electric vehicle
WO2020262095A1 (en) * 2019-06-26 2020-12-30 日立オートモティブシステムズ株式会社 Stereo image processing device and stereo image processing method
CN114745999A (en) * 2019-12-16 2022-07-12 日立环球生活方案株式会社 Autonomous walking type dust collector

Also Published As

Publication number Publication date
JP5163936B2 (en) 2013-03-13

Similar Documents

Publication Publication Date Title
JP5163936B2 (en) Obstacle measurement method, obstacle measurement device, and obstacle measurement system
JP5615441B2 (en) Image processing apparatus and image processing method
EP2546602B1 (en) Stereo camera apparatus
JP4287532B2 (en) Vehicle rear side monitoring device
JP5421072B2 (en) Approaching object detection system
JP5454983B2 (en) Obstacle measurement method, obstacle measurement device, and obstacle measurement system
JP2008298533A (en) Obstruction measurement method, device, and system
JP4872769B2 (en) Road surface discrimination device and road surface discrimination method
KR20170039649A (en) Driver assistance system
JP7098790B2 (en) Imaging control device and moving object
JP2014078056A (en) Area identification device for vehicle, program thereof and method thereof
US9813694B2 (en) Disparity value deriving device, equipment control system, movable apparatus, robot, and disparity value deriving method
JP2008309637A (en) Obstruction measuring method, obstruction measuring apparatus, and obstruction measuring system
JPWO2011013813A1 (en) In-vehicle device and image processing program
JP5477394B2 (en) Vehicle periphery monitoring device
JP3729005B2 (en) Vehicle rear monitoring device
JP2005170290A (en) Obstacle detecting device
JP6584862B2 (en) Object detection apparatus, object detection system, object detection method, and program
JPH1153551A (en) Line detector
JP2009181310A (en) Road parameter estimation device
JP6152646B2 (en) Compound eye camera device and vehicle equipped with the same
JP2010018223A (en) Device for detecting vehicle traveling road surface
JP5580062B2 (en) Obstacle detection alarm device
JP2635232B2 (en) Inter-vehicle distance detection device
JP4598011B2 (en) Vehicle display device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100508

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120827

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120831

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121205

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151228

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

S801 Written request for registration of abandonment of right

Free format text: JAPANESE INTERMEDIATE CODE: R311801

ABAN Cancellation due to abandonment
R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350