JP4736677B2 - Obstacle detection device - Google Patents

Obstacle detection device Download PDF

Info

Publication number
JP4736677B2
JP4736677B2 JP2005284575A JP2005284575A JP4736677B2 JP 4736677 B2 JP4736677 B2 JP 4736677B2 JP 2005284575 A JP2005284575 A JP 2005284575A JP 2005284575 A JP2005284575 A JP 2005284575A JP 4736677 B2 JP4736677 B2 JP 4736677B2
Authority
JP
Japan
Prior art keywords
obstacle
vehicle
radar
threshold value
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005284575A
Other languages
Japanese (ja)
Other versions
JP2007091102A (en
Inventor
節夫 所
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2005284575A priority Critical patent/JP4736677B2/en
Publication of JP2007091102A publication Critical patent/JP2007091102A/en
Application granted granted Critical
Publication of JP4736677B2 publication Critical patent/JP4736677B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Radar Systems Or Details Thereof (AREA)

Description

本発明は、少なくとも電波レーダを用いて車両後方・後側方の障害物を検出する障害物検出装置に関する。   The present invention relates to an obstacle detection apparatus that detects an obstacle behind and behind a vehicle using at least a radio wave radar.

電波レーダや画像センサを用いて車両周辺の障害物を検出するシステムが知られている(例えば、特許文献1参照)。検出結果を基にして、運転者への報知や車両挙動制御を行うことで、自動走行を行ったり、障害物への衝突回避を促し、安全を確保する。   A system that detects an obstacle around a vehicle using a radio wave radar or an image sensor is known (for example, see Patent Document 1). Based on the detection result, by performing notification to the driver and vehicle behavior control, automatic driving is performed, collision avoidance to an obstacle is promoted, and safety is ensured.

特許文献1に記載されている技術は、ミリ波レーダと画像センサとを備える周辺監視装置に関するものであり、両者の検知範囲とその特性に応じて得意となるデータを組み合わせて周辺の物体検知を行うものである。この技術は、例えば、先行車両に追従して自動走行を行う際に先行車両を検知するものであり、ミリ波レーダは比較的遠距離にある先行車両の測定を担っている。
特開2001−99930号公報
The technology described in Patent Document 1 relates to a peripheral monitoring device including a millimeter wave radar and an image sensor, and detects peripheral objects by combining data that is good according to both detection ranges and characteristics thereof. Is what you do. This technique detects, for example, a preceding vehicle when performing automatic traveling following the preceding vehicle, and the millimeter wave radar is responsible for measuring the preceding vehicle at a relatively long distance.
JP 2001-99930 A

ところで、このような車両周辺の物体検出装置としては、前方だけでなく、側方や後方を検出エリアとするシステムもある。車両前方を検出エリアとするシステムでは、追従走行やレーン逸脱監視等の制御に用いられ、前進時、特に高速走行時を制御対象としていることが多い。また、対象物体も通常、運転者の視認エリア内の視認すべき対象物(先行車両、対向車両)であり、運転者の視認を補佐・補強するものである。   By the way, as such an object detection device around the vehicle, there is a system in which not only the front but also the side and the rear are used as detection areas. In a system in which a vehicle front is used as a detection area, it is used for control such as follow-up running and lane departure monitoring, and is often controlled when moving forward, particularly during high-speed running. In addition, the target object is usually a target object (preceding vehicle, oncoming vehicle) to be visually recognized within the driver's visual recognition area, and assists / reinforces the driver's visual recognition.

これに対して、特に、後方や後側方を対象エリアとする検出装置においては、前進時だけでなく、後退時、停止時等においても制御を行う必要がある。また、対象物体も運転者が視認できないエリアや、視認が困難なエリアをカバーするものである。したがって、前方エリアを対象とする監視装置とは異なる構成、制御を行う必要がある。   On the other hand, in particular, in a detection device that uses the rear and rear sides as the target area, it is necessary to perform control not only when moving forward, but also when moving backward and when stopping. The target object also covers an area where the driver cannot visually recognize or an area where visual recognition is difficult. Therefore, it is necessary to perform a configuration and control different from the monitoring device for the front area.

そこで本発明は、車両の後方、後側方の障害物検出に適した構成を有する障害物検出装置を提供することを課題とする。   Then, this invention makes it a subject to provide the obstruction detection apparatus which has a structure suitable for the obstruction detection of the back and rear side of a vehicle.

車両後方・後側方を検出エリアとする電波レーダと、この電波レーダの検出結果に基づいて障害物の存否判定を行う判定手段を備える障害物検出装置において、車両の前後方向における進行方向を検出する進行方向検出手段をさらに備え、判定手段は、電波レーダの受信強度が所定のしきい値より大きく、かつ、所定のトラッキング時間以上連続して検出されている場合に検出物を障害物と判定するものであって、進行方向検出手段により車両が後退中でないと検出した場合には、該しきい値として第1しきい値を用い、後退中と検出した場合にはこの第1しきい値より小さい第2しきい値を該しきい値として用いるとともに、該しきい値に第2しきい値を用いる場合は、第1しきい値を用いる場合に比較してトラッキング時間を長く設定することを特徴とする。 An obstacle detection apparatus comprising a radio radar having detection areas in the rear and rear sides of a vehicle and a determination means for determining the presence / absence of an obstacle based on the detection result of the radio radar, and detecting a traveling direction in the longitudinal direction of the vehicle And a traveling direction detecting means for determining that the detected object is an obstacle when the reception intensity of the radio wave radar is greater than a predetermined threshold and is continuously detected for a predetermined tracking time or longer. When the traveling direction detecting means detects that the vehicle is not moving backward, the first threshold is used as the threshold, and when it is detected that the vehicle is moving backward, the first threshold is used. When a smaller second threshold is used as the threshold and the second threshold is used as the threshold, the tracking time is set longer than when the first threshold is used. It is characterized in.

車両が後退していない(前進中に限らず停止中を含む)場合には、後方、後側方から車両に接触・衝突する可能性があるのは、車両に向かって移動している物体のみであり、通常は、後続車両に限られる。これに対して、後退中においては、進路上の停止物や進路を横切って移動している物体(他車両や歩行者を含む。)や進路方向に移動していても自車両より低速の物体等が接触・衝突する可能性のある障害物となりうる。電波レーダは、車両のような金属物体の検出は得意だが、こうした停止物や低速の物体等で非金属の物体の検出は比較的苦手である。そこで、本発明においては後退時には障害物の判定条件を緩くすることでこの種の物体を検出しやすくする。   When the vehicle is not moving backward (including not only moving forward but also stopping), only objects moving toward the vehicle may contact or collide with the vehicle from the rear or rear side. Usually, it is limited to the following vehicle. On the other hand, during reverse, a stationary object on the track, an object moving across the track (including other vehicles and pedestrians), or an object that is slower than the host vehicle even if moving in the track direction It can become an obstacle that may contact and collide. Radio radars are good at detecting metallic objects such as vehicles, but are relatively weak at detecting non-metallic objects such as stationary objects and low-speed objects. Therefore, in the present invention, this kind of object can be easily detected by loosening the obstacle determination condition when retreating.

障害物と判定する際のしきい値を後退中の場合には低く設定することで、後退中の場合には障害物と判定しやすくなる。 By setting the threshold value for determining an obstacle as low when the vehicle is moving backward, it is easy to determine the obstacle when moving backward.

トラッキング時間を長くすると、障害物と判定するのに時間を要することになる。しかしながら、前進時に比べて後退時の検出対象は検出エリア内に長時間とどまっている可能性が高く、トラッキング時間を長くすることで、確実な検出を図る。 If the tracking time is lengthened, it takes time to determine the obstacle. However, there is a high possibility that the detection target at the time of backward movement stays in the detection area for a long time as compared with the time of forward movement, and the detection is ensured by extending the tracking time.

前進中、停止中においては相対接近速度が正、つまり、自車両に対して接近してくる物体以外は接近・衝突の可能性に乏しく障害物と判定する必要がないから、判定手段は、少なくとも車両が後退中でない場合には、相対接近速度が正となる検出物のみを障害物と判定するとよい。接近物か否かは反射波のドップラー成分を利用して容易に分離が可能である。   While the vehicle is moving forward and stopped, the relative approach speed is positive.In other words, there is little possibility of approach / collision except for an object approaching the host vehicle, so there is no need to determine that it is an obstacle. When the vehicle is not moving backward, only the detected object having a positive relative approach speed may be determined as an obstacle. Whether it is an approaching object or not can be easily separated using the Doppler component of the reflected wave.

電波レーダと検出エリアの少なくとも一部が重複する画像センサをさらに備えており、判定手段は、重複する検出エリア内の対象物については、車両が後退中である場合には、電波レーダで検出した対象物が画像センサでも検出された場合に対象物を障害物と判定し、車両が後退中でない場合には、電波レーダで検出した対象物を障害物と判定してもよい。   An image sensor that overlaps at least a part of the detection area with the radio radar is further provided, and the determination means detects an object in the overlapped detection area with the radio radar when the vehicle is moving backward. The object may be determined as an obstacle when the object is also detected by the image sensor, and the object detected by the radio wave radar may be determined as an obstacle when the vehicle is not moving backward.

前述したように、電波レーダは、車両のような金属物体の検出は得意だが、非金属の物体の検出は比較的苦手である。そこで、後退時には、電波レーダにおける障害物の判定条件を緩くすることで非金属の物体の検出を可能としつつ、画像センサの検出結果を組み合わせることで誤検出を抑制する。一方、前進時・停止時においては、金属物体の検出を優先するため、緩和していない判定条件を利用して電波レーダによる検出を行う。   As described above, radio wave radar is good at detecting metal objects such as vehicles, but is relatively weak at detecting non-metal objects. Therefore, at the time of retreat, the detection condition of the obstacle in the radio wave radar is relaxed, so that detection of a non-metallic object is possible, and erroneous detection is suppressed by combining the detection results of the image sensor. On the other hand, at the time of advancement and stop, in order to give priority to the detection of the metal object, detection by the radio wave radar is performed using a judgment condition that is not relaxed.

本発明によれば、後退中は停止中・前進中に比較して緩やかな判定条件で障害物の検出を行うため、電波レーダが検出を苦手とする対象、例えば、歩行者や非金属の停止物等の存否を判定することが可能となる。これには、例えば、判定しきい値を変えることで対応すれば判定ロジックを大きく変更する必要がなく、実現が容易である。   According to the present invention, because the obstacle is detected under a gentler judgment condition than when the vehicle is moving backward while stopping or moving forward, an object that the radio wave radar is not good at detecting, for example, a pedestrian or a non-metallic stop It becomes possible to determine the presence or absence of an object or the like. For example, if this is dealt with by changing the determination threshold value, it is not necessary to greatly change the determination logic, and it is easy to realize.

後退時に判定しきい値を緩くする一方、トラッキング時間を長くすれば、路面凹凸による反射など一時的な影響を除外することができ、判定精度を向上させることができるので、望ましい。この場合でも、後退時の移動速度は比較的低速であるため、接触・衝突までの時間的余裕を確保することができる。   It is desirable to loosen the determination threshold value when retreating, and to lengthen the tracking time, since it is possible to eliminate a temporary influence such as reflection due to road surface unevenness and improve the determination accuracy. Even in this case, since the moving speed at the time of backward movement is relatively low, it is possible to secure a time margin until contact / collision.

車両が後退中でない前進中・停止時には、車両に接近してくる障害物のみを判定すればよい。障害物に応じて車両挙動制御等の処理を行う場合に、接触可能性の低い対象物をこうした制御処理に情報として伝達する必要がないので、処理に要するメモリや計算量を低減することができる。   When the vehicle is not moving backward and is moving forward or stopped, only obstacles approaching the vehicle need be determined. When processing such as vehicle behavior control is performed according to an obstacle, it is not necessary to transmit an object with low possibility of contact as information to such control processing, so that the memory and calculation amount required for the processing can be reduced. .

検出エリアの一部が重複する画像センサを備えている場合には、重複エリアについては、後退時についてのみ電波レーダと画像センサとの両方で重複して検出できた対象物のみを障害物とすることにより、特に電波レーダでの検出が困難な物体の検出を精度よく行うことが可能となっている。   When image sensors that partially overlap the detection area are provided, only the object that can be detected by both the radio radar and the image sensor is used as an obstacle for the overlap area only when the vehicle is moving backward. This makes it possible to accurately detect an object that is particularly difficult to detect with a radio wave radar.

以下、添付図面を参照して本発明の好適な実施の形態について詳細に説明する。説明の理解を容易にするため、各図面において同一の構成要素に対しては可能な限り同一の参照番号を附し、重複する説明は省略する。   DESCRIPTION OF EXEMPLARY EMBODIMENTS Hereinafter, preferred embodiments of the invention will be described in detail with reference to the accompanying drawings. In order to facilitate the understanding of the description, the same reference numerals are given to the same components in the drawings as much as possible, and duplicate descriptions are omitted.

図1は、本発明に係る障害物検出装置の実施形態の構成を示すブロック図である。この障害物検出装置100は、障害物認識ECU1と、車両後方の画像を取得する後方カメラ2と、車両の右後方から後方を探索するレーダ30および左後方から後方を探索するレーダ31とを有する。レーダ31としては、ミリ波レーダ、マイクロ波レーダ等の電波レーダが好ましい。電波レーダは、雨、霧、雪などの気象条件や、周囲の明るさ、埃、騒音の影響を受けにくく良好な性能を発揮できるため後方カメラ2で検出が困難な環境下でも対象物を認識することができる。   FIG. 1 is a block diagram showing a configuration of an embodiment of an obstacle detection apparatus according to the present invention. The obstacle detection apparatus 100 includes an obstacle recognition ECU 1, a rear camera 2 that acquires an image behind the vehicle, a radar 30 that searches backward from the right rear of the vehicle, and a radar 31 that searches backward from the left rear. . The radar 31 is preferably a radio wave radar such as a millimeter wave radar or a microwave radar. Radio radar recognizes objects even in environments where it is difficult to detect with the rear camera 2 because it can perform well without being affected by weather conditions such as rain, fog, snow, ambient brightness, dust, and noise. can do.

障害物認識ECU1は、CPU、ROM、RAM等によって構成されており、後方カメラ2で取得した画像の画像処理を行う画像処理部11と、レーダ30、31の探索結果を処理するレーダ処理部12と、処理結果を基にして障害物の有無を判定する判定部14と、判定に際して必要な情報を蓄積しておく記憶手段13とを備えている。障害物認識ECU1内の画像処理部11、レーダ処理部12、記憶手段13、判定部14は、完全に独立したハードウェアに限られるものではなく、その一部または全部が他の処理部、手段とハードウェアの一部または全部を共用していてもよい。つまり、同一のハードウェアを複数または一つのソフトウェアにより実現することが可能である。   The obstacle recognition ECU 1 includes a CPU, a ROM, a RAM, and the like, and includes an image processing unit 11 that performs image processing of an image acquired by the rear camera 2 and a radar processing unit 12 that processes search results of the radars 30 and 31. And a determination unit 14 that determines the presence or absence of an obstacle based on the processing result, and a storage unit 13 that accumulates information necessary for the determination. The image processing unit 11, the radar processing unit 12, the storage unit 13, and the determination unit 14 in the obstacle recognition ECU 1 are not limited to completely independent hardware, and part or all of them are other processing units and units. And some or all of the hardware may be shared. That is, the same hardware can be realized by a plurality or one software.

画像処理部11には、レーダ処理部12の処理結果が入力されるほか、判定部14は、画像処理部11、レーダ処理部12の判定結果が入力されるとともに、記憶手段13から格納されている情報を読み込む機能を有しており、さらに、駆動系のシフト状態を検出するシフトセンサ70と車速を検出する車速センサ71の出力が入力されている。   In addition to the processing result of the radar processing unit 12 being input to the image processing unit 11, the determination unit 14 is input with the determination result of the image processing unit 11 and the radar processing unit 12 and is stored from the storage unit 13. The output of the shift sensor 70 for detecting the shift state of the drive system and the output of the vehicle speed sensor 71 for detecting the vehicle speed are input.

障害物認識ECU1は、車内LAN4を介してモニター51、スピーカー52、車両挙動制御ECU53、エンジンECU54、プリクラッシュシステムECU55等に接続されている。各ECU53〜55は、障害物認識ECU1と、同様にCPU、ROM、RAM等によって構成されており、それぞれ、車両の挙動、エンジンの駆動、プリクラッシュシステムの作動を制御するものである。   The obstacle recognition ECU 1 is connected to the monitor 51, the speaker 52, the vehicle behavior control ECU 53, the engine ECU 54, the pre-crash system ECU 55, and the like via the in-vehicle LAN 4. Each of the ECUs 53 to 55 is constituted by a CPU, a ROM, a RAM and the like in the same manner as the obstacle recognition ECU 1, and controls the behavior of the vehicle, the driving of the engine, and the operation of the pre-crash system, respectively.

図2は、後方カメラ2とレーダ30、31それぞれの検出エリアを示す図である。レーダ30、31はそれぞれ車両6後方の左右の角端に配置されており、所定角度の扇形の領域を検出エリアとしている。一方、後方カメラ2は、車両6の後端の略中央部に設置されており、所定の画角内の画像を撮像するものであり、その撮像範囲が検出エリアとなっている。   FIG. 2 is a diagram illustrating detection areas of the rear camera 2 and the radars 30 and 31. Each of the radars 30 and 31 is disposed at the left and right corners behind the vehicle 6, and uses a fan-shaped area having a predetermined angle as a detection area. On the other hand, the rear camera 2 is installed at a substantially central portion at the rear end of the vehicle 6 and captures an image within a predetermined angle of view, and the imaging range is a detection area.

ここで、後方カメラ2とレーダ30、31全てで重複している検出エリアをエリアaとし、後方カメラ2のみが検出可能なエリアをエリアb、後方カメラ2とレーダ30とで重複して検出可能でレーダ31の検出エリアから外れているエリアをエリアc、後方カメラ2とレーダ31とで重複して検出可能でレーダ30の検出エリアから外れているエリアをエリアd、レーダ30とレーダ31とで重複して検出可能で後方カメラの検出エリアから外れているエリアをエリアe、レーダ30のみで検出可能なエリアをエリアf、レーダ31のみで検出可能なエリアをエリアg、後方カメラ2とレーダ30、31の全ての検出エリアより外側で、エリアfの右前方に位置するエリアをエリアh、エリアgの左前方に位置するエリアをエリアiと称する。   Here, a detection area that overlaps all of the rear camera 2 and the radars 30 and 31 is defined as an area a, and an area that can be detected only by the rear camera 2 can be detected by overlapping the area b and the rear camera 2 and the radar 30. The area outside the detection area of the radar 31 is area c, and the rear camera 2 and the radar 31 can be detected redundantly and the area outside the detection area of the radar 30 is the area d, and the radar 30 and the radar 31 are The area that can be detected redundantly and is out of the detection area of the rear camera is area e, the area that can be detected only by the radar 30 is area f, the area that can be detected only by the radar 31 is area g, and the rear camera 2 and the radar 30 , 31, an area located on the right front side of the area f and outside the detection area 31 is called an area h, and an area located on the left front side of the area g is called an area i. .

ここで、本実施形態の動作のいくつかの形態を具体的に説明する。図3は、第1の制御処理を示すフローチャートである。この第1の制御処理においては、レーダ30、31の検出結果に基づいて車両後方の障害物を判定する。この処理は、障害物認識ECU1中の判定部14により、車両の電源がオンになっている間、所定のタイミングで繰り返し実行される。   Here, some forms of the operation of the present embodiment will be specifically described. FIG. 3 is a flowchart showing the first control process. In the first control process, an obstacle behind the vehicle is determined based on the detection results of the radars 30 and 31. This processing is repeatedly executed at a predetermined timing by the determination unit 14 in the obstacle recognition ECU 1 while the vehicle is powered on.

ステップS1では、レーダ処理部12の検出結果を読み込む。続いて、車速センサ71、シフトセンサ70の出力信号から車両の進行方向検出結果を判定する(ステップS3)。続く、ステップS5では、後退中か否かを判定する。後退中の場合(実際に所定の速度以上で後退していると判定した場合)にはステップS7へと移行し、レーダで検出された反射波の強度MPが所定のしきい値MPth1を超えているか否かを判定する。このMPth1としては、車両等の金属物体からの反射波を他の反射波、ノイズから識別可能なしきい値が設定される。   In step S1, the detection result of the radar processing unit 12 is read. Subsequently, the vehicle traveling direction detection result is determined from the output signals of the vehicle speed sensor 71 and the shift sensor 70 (step S3). In step S5, it is determined whether the vehicle is moving backward. When the vehicle is moving backward (when it is determined that the vehicle is actually moving backward at a predetermined speed or more), the process proceeds to step S7, where the intensity MP of the reflected wave detected by the radar exceeds a predetermined threshold value MPth1. It is determined whether or not. As this MPth1, a threshold value is set which can distinguish a reflected wave from a metal object such as a vehicle from other reflected waves and noise.

MPがMPth1より大きい場合には、ステップS9へと移行してカウンタ値tcを1加算する。このtcは初期値が0に設定されるものであり、障害物が複数存在するため、多数の反射波が存在する場合には、対応する反射波ごとに個別にカウントされるものであり、同一の障害物を継続して検知している場合の継続時間(トラッキング時間)をカウントするものであり、実際のトラッキング時間はタイムステップ間の時刻×tcで表せる。   When MP is larger than MPth1, the process proceeds to step S9 and 1 is added to the counter value tc. The initial value of tc is set to 0, and since there are a plurality of obstacles, when there are a large number of reflected waves, they are counted individually for each corresponding reflected wave. When the obstacle is continuously detected, the continuous time (tracking time) is counted, and the actual tracking time can be expressed by time between time steps × tc.

続く、ステップS11では、tcをしきい値tc_th1と比較する。tcがtc_th1を超えている場合には対象物を障害物と判定し(ステップS13)、処理を終了する。tcがtc_th1以下の場合は、そのまま処理を終了する。この場合は、対象物が障害物であるか否かの判定は保留されていることになる。   In step S11, tc is compared with a threshold value tc_th1. If tc exceeds tc_th1, the object is determined to be an obstacle (step S13), and the process ends. If tc is equal to or less than tc_th1, the processing is terminated as it is. In this case, the determination as to whether or not the object is an obstacle is suspended.

一方、ステップS7でMPがMPth1以下と判定した場合には、ステップS15へと移行し、MPを別のしきい値MPth2と比較する。ここで、MPth2はMPth1より小さな値に設定されており、例えば、歩行者や非金属の障害物、コンクリートや木材等からの反射波に対応する反射波をノイズ等から識別可能な値に設定されている。MPがMPth2より大きい場合には、ステップS17へと移行してカウンタ値tcを1加算する。そして、このtcをしきい値tc_th2と比較する。このtc_th2は、上述したtc_th1より十分に長く設定されている。tcがtc_th2を超えている場合には対象物を障害物と判定し(ステップS13)、処理を終了する。反射波強度のしきい値を低下させたことで、反射波強度の弱い非金属物体等も検出可能となる反面、障害物がないにもかかわらず、障害物と判定する誤認識の可能性も増大する。この制御処理では、反射波強度のしきい値を低下させる反面、トラッキング時間のしきい値を長く設定することで、この誤認識の発生を抑制している。tcがtc_th1以下の場合は、そのまま処理を終了する。この場合は、対象物が障害物であるか否かの判定は保留されていることになる。   On the other hand, if it is determined in step S7 that MP is equal to or less than MPth1, the process proceeds to step S15, and MP is compared with another threshold value MPth2. Here, MPth2 is set to a value smaller than MPth1, and for example, a reflected wave corresponding to a reflected wave from a pedestrian, a non-metallic obstacle, concrete, wood, or the like is set to a value that can be identified from noise or the like. ing. When MP is larger than MPth2, the process proceeds to step S17 and 1 is added to the counter value tc. Then, this tc is compared with a threshold value tc_th2. This tc_th2 is set sufficiently longer than the above-described tc_th1. If tc exceeds tc_th2, the object is determined to be an obstacle (step S13), and the process ends. By reducing the threshold value of reflected wave intensity, it is possible to detect non-metallic objects with weak reflected wave intensity, but there is also the possibility of misrecognition that the obstacle is judged even though there is no obstacle. Increase. In this control process, while the threshold value of the reflected wave intensity is lowered, the occurrence of this erroneous recognition is suppressed by setting the tracking time threshold value long. If tc is equal to or less than tc_th1, the processing is terminated as it is. In this case, the determination as to whether or not the object is an obstacle is suspended.

また、ステップS15でMPがMPth2以下と判定した場合には、ステップS23へと移行し、カウンタ値tcを0にリセットし、障害物なしと判定して(ステップS25)処理を終了する。   If it is determined in step S15 that MP is equal to or less than MPth2, the process proceeds to step S23, the counter value tc is reset to 0, it is determined that there is no obstacle (step S25), and the process ends.

ます、ステップS5で後退中でない(つまり、前進中あるいは停止中)と判定した場合には、ステップS27へと移行し、自車両に接近している物体の検出結果のみを抽出する(具体的な処理の一例については後述する)。これは、後退中でない場合には、障害物判定条件に、自車両に接近していることを加えることを意味し、後退中に比べて障害物と判定する条件が厳しくなること、言い換えると、後退中の場合にはそれ以外の場合に比べて障害物と判定しやすくなることを意味する。そして、ステップS29へと移行し、抽出した反射波強度MPが所定のしきい値MPth1を超えているか否かを判定する。   If it is determined in step S5 that the vehicle is not moving backward (that is, moving forward or stopped), the process proceeds to step S27, and only the detection result of the object approaching the host vehicle is extracted (specifically An example of the process will be described later). This means adding to the obstacle determination condition that the vehicle is approaching when not moving backward, and the condition for determining an obstacle is stricter than when moving backward, in other words, This means that it is easier to determine an obstacle when the vehicle is moving backward than in other cases. Then, the process proceeds to step S29, where it is determined whether or not the extracted reflected wave intensity MP exceeds a predetermined threshold value MPth1.

MPがMPth1より大きい場合には、カウンタ値tcを1加算する(ステップS31)。そして、tcをしきい値tc_th1と比較する(ステップS33)。tcがtc_th1を超えている場合には対象物を障害物と判定し(ステップS35)、処理を終了する。tcがtc_th1以下の場合は、そのまま処理を終了する。この場合は、対象物が障害物であるか否かの判定は保留されていることになる。   If MP is greater than MPth1, the counter value tc is incremented by 1 (step S31). Then, tc is compared with a threshold value tc_th1 (step S33). If tc exceeds tc_th1, the object is determined to be an obstacle (step S35), and the process ends. If tc is equal to or less than tc_th1, the processing is terminated as it is. In this case, the determination as to whether or not the object is an obstacle is suspended.

また、ステップS29でMPがMPth1以下と判定した場合には、ステップS37へと移行し、カウンタ値tcを0にリセットし、障害物なしと判定して(ステップS39)処理を終了する。   If it is determined in step S29 that MP is equal to or less than MPth1, the process proceeds to step S37, the counter value tc is reset to 0, it is determined that there is no obstacle (step S39), and the process ends.

このように前進中や停止中には接近する物体のみを抽出して、障害物判定を行うことで、自車両の走行に障害となることのない停止物体や自車両から遠ざかる物体に対する判別処理を省略することができ、処理量を減らすことができる。これにより、さらに障害物に応じた処理、例えば並走車両や後続車両等の状況に応じて車両挙動を制御したり、プリクラッシュシステムを作動させる際の処理を速やかに行うことができる。   In this way, by extracting only the approaching object while moving forward or stopping and performing obstacle determination, discrimination processing for a stopped object that does not hinder the traveling of the host vehicle or an object that moves away from the host vehicle is performed. This can be omitted and the amount of processing can be reduced. Thereby, the process according to an obstacle, for example, a vehicle behavior can be controlled according to the situation of a parallel running vehicle, a following vehicle, etc., or the process at the time of operating a pre-crash system can be performed rapidly.

次に、第2の制御処理について図4に示されるフローチャートを参照して説明する。この第2の制御処理においては、レーダ30、31の検出結果と後方カメラ2で取得した画像を画像処理した処理結果の両方を利用して処理を行う点が第1の処理形態と相違する。   Next, the second control process will be described with reference to the flowchart shown in FIG. The second control processing is different from the first processing mode in that the processing is performed using both the detection results of the radars 30 and 31 and the processing result obtained by performing image processing on the image acquired by the rear camera 2.

ここでは、レーダ検出結果の読み込み(ステップS1)と進行方向検出結果の読み込み(ステップS3)とあわせて画像処理部11による画像処理結果の読み込み(ステップS2)を行う。これらの処理結果の読み込みは、並列して行ってもよいし、順番を異ならせてもよい。   Here, together with the reading of the radar detection result (step S1) and the reading of the traveling direction detection result (step S3), the image processing unit 11 reads the image processing result (step S2). These processing results may be read in parallel or in a different order.

ステップS5における後退判定処理と、後退中でないと判定した場合の処理(ステップS29〜S39)は、第1の処理形態と同一である。ステップS5で後退中と判定した場合には、第1の処理形態と同様にレーダで検出された反射波の強度MPとしきい値MPth1との比較処理を行う(ステップS7)。ここで、MPがMPth1を超えていた場合の処理(ステップS9〜S13)は、第1の処理形態と同一である。一方、MPがMPth1以下であった場合、第1の処理形態と同様に、MPを別のしきい値MPth2と比較する(ステップS15)。   The reverse determination processing in step S5 and the processing when it is determined that the vehicle is not in reverse (steps S29 to S39) are the same as those in the first processing mode. If it is determined in step S5 that the vehicle is moving backward, a comparison process between the intensity MP of the reflected wave detected by the radar and the threshold value MPth1 is performed as in the first processing mode (step S7). Here, the process when MP exceeds MPth1 (steps S9 to S13) is the same as the first process form. On the other hand, if MP is equal to or less than MPth1, MP is compared with another threshold value MPth2 as in the first processing mode (step S15).

ステップS15でMPがMPth2以下であると判定した場合の処理(ステップS23、S25)は第1の処理形態と同一である。一方、ステップS15でMPがMPth2を超えていると判定した場合には、ステップS16へと移行し、画像検出結果とレーダ検出結果が一致しているか否かを判定する。具体的には、反射波に対応する位置に画像処理により検出した障害物候補が存在するか否かを判定すればよい。一致していると判定した場合には、ステップS21へと移行して障害物と判定して処理を終了する。一致していない場合には、そのまま処理を終了する。この場合には、障害物であるか否かの判定は保留される。   The processing (steps S23 and S25) performed when it is determined in step S15 that MP is equal to or less than MPth2 is the same as the first processing mode. On the other hand, if it is determined in step S15 that MP exceeds MPth2, the process proceeds to step S16 to determine whether the image detection result and the radar detection result match. Specifically, it may be determined whether there is an obstacle candidate detected by image processing at a position corresponding to the reflected wave. If it is determined that they match, the process proceeds to step S21, where it is determined as an obstacle, and the process ends. If they do not match, the process ends. In this case, the determination as to whether the object is an obstacle is suspended.

この処理形態では、後退時には、レーダの反射波強度のしきい値をそれ以外の場合より低くすることで、非金属物体等も検出可能としている。しきい値を下げたことで誤認識の可能性も増大することから、この誤認識の抑制のため、反射強度の低い対象物については画像認識の処理結果を併用している。後退時の車速は、比較的低速であり、また、反射強度の低い物体としては、歩行者や非金属性の壁、樹木等があるが、これらは、比較的サイズが大きく、停止しているか速度が遅いため、後方カメラ2で継続的にその画像を継続的にとらえることができ、また、車両の進行に影響を与える障害物となりうる場合には、その画面上のサイズも比較的大きくなるから、画像認識により把握することが比較的容易である。   In this processing mode, when the vehicle moves backward, the threshold value of the reflected wave intensity of the radar is made lower than in other cases so that a non-metallic object or the like can be detected. Since the possibility of misrecognition increases by lowering the threshold value, in order to suppress this misrecognition, the processing result of image recognition is used together for an object with low reflection intensity. The vehicle speed when reversing is relatively low, and objects with low reflection intensity include pedestrians, non-metallic walls, trees, etc., but these are relatively large in size and are they stopped? Since the speed is slow, the rear camera 2 can continuously capture the image, and if it can be an obstacle that affects the progress of the vehicle, the size on the screen is relatively large. Therefore, it is relatively easy to grasp by image recognition.

ここで、ステップS27における接近物体の抽出処理について述べる。接近物体の抽出手法としては、例えば、レーダ30、31のドップラーシフト成分を検出することで、対象物と自車両の相対速度を知ることができる。これを第1の処理形態に適用すると、レーダ30、31の処理結果のみに基づいて障害物を検出することができる。   Here, the approaching object extraction process in step S27 will be described. As an approaching object extraction method, for example, by detecting the Doppler shift component of the radars 30 and 31, the relative speed between the object and the host vehicle can be known. When this is applied to the first processing mode, an obstacle can be detected based only on the processing results of the radars 30 and 31.

また、レーダ30、31の処理結果と画像処理結果とを組み合わせて接近物体を検出することもできる。図5は、その場合の抽出処理を示すフローチャートである。ステップS51では、レーダ検出物体が画像検出エリア内か否かを判定する。検出物体が画像検出エリア外の場合には、そのまま処理を終了する。この場合には、抽出は行われない。レーダ検出物体が画像検出エリア内に存在する場合には、ステップS53へと移行して画像処理部11がレーダ検出物体の周辺を画像処理することで物体の大きさ、形状を判定する。続く、ステップS55では、画像処理結果とレーダ検出結果とを融合し、その位置変化、大きさ、形状の変化等から自車両に接近している物体か否かを判定する。   Further, the approaching object can be detected by combining the processing results of the radars 30 and 31 and the image processing result. FIG. 5 is a flowchart showing the extraction process in that case. In step S51, it is determined whether the radar detection object is within the image detection area. If the detected object is outside the image detection area, the process ends. In this case, no extraction is performed. When the radar detection object exists in the image detection area, the process proceeds to step S53, and the image processing unit 11 performs image processing on the periphery of the radar detection object to determine the size and shape of the object. In step S55, the image processing result and the radar detection result are merged, and it is determined whether or not the object is approaching the host vehicle from the change in position, size, shape, and the like.

次に、第3の制御処理について図6に示されるフローチャートを参照して説明する。この第2の制御処理においては、レーダ30、31の検出結果と後方カメラ2で取得した画像を画像処理した処理結果の両方を利用して処理を行う点が第1の処理形態と相違する。   Next, the third control process will be described with reference to the flowchart shown in FIG. The second control processing is different from the first processing mode in that the processing is performed using both the detection results of the radars 30 and 31 and the processing result obtained by performing image processing on the image acquired by the rear camera 2.

最初にレーダ検知物体の存否を判定する(ステップS61)。レーダ検知物体の存否検出の際には、第1、第2の制御処理で説明したように、後退時とそれ以外の場合とで判定しきい値を変更し、後退時のほうが物体を検知しやすく設定するとよい。   First, the presence / absence of a radar detected object is determined (step S61). When detecting the presence / absence of a radar detection object, as described in the first and second control processes, the judgment threshold value is changed between backward and other cases, and the object is detected during backward movement. It is good to set it easily.

検知物体がある場合には、ステップS63へと移行し、検出位置が画像検知領域内であるか否かを判定する。画像検知領域内である場合(図2におけるエリアa、エリアc、エリアd内にある場合)にはステップS65に移行してレーダ検出物体の周辺を画像処理することで障害物か否かを判定する。画像検知領域内でない場合(図2におけるエリアe、エリアf、エリアg内にある場合)には、レーダで検出した物体を障害物に設定する(ステップS67)。このとき、上述した第1の制御処理において行ったように反射波の強度に応じてトラッキング時間のしきい値を変更するとよい。   If there is a detected object, the process proceeds to step S63, and it is determined whether or not the detection position is within the image detection area. If it is in the image detection area (in the case of areas a, c, and d in FIG. 2), the process proceeds to step S65 to determine whether or not the object is an obstacle by performing image processing around the radar detection object. To do. If it is not within the image detection area (if it is within the area e, area f, or area g in FIG. 2), the object detected by the radar is set as an obstacle (step S67). At this time, the tracking time threshold value may be changed according to the intensity of the reflected wave as in the first control process described above.

ステップS61で、レーダで検知した物体がないと判定した場合にはステップS69に移行して前回検出した障害物があるか否かを判定する。前回も障害物を検出していない場合には、周辺に障害物なしと判定して処理を終了する。   If it is determined in step S61 that there is no object detected by the radar, the process proceeds to step S69 to determine whether there is an obstacle detected last time. If no obstacle has been detected in the previous time, it is determined that there is no obstacle in the vicinity, and the process is terminated.

一方、前回障害物を検出している場合には、ステップS71へと移行してその予測位置が画像検知領域内にあるか否かを判定する。ここで、位置予測は、障害物の位置をトラッキングしておき、前回の障害物の相対位置と相対速度、相対加速度情報を基にして今回の相対位置を予測することで行えばよい。予測位置が画像検知領域内に位置している場合とは、予測位置が図2におけるエリアbに位置していると考えられる場合である。なぜなら、当該障害物はレーダで検出されていないことから、レーダでも検出可能なエリアa、c、dには位置していないと考えられるからである。画像検知領域内に位置していると判定した場合には、予測位置周辺を画像処理することで障害物を判定する(ステップS73)。予測位置が画像検知領域内でない場合とは、レーダでも画像でも検知できない領域、つまり、エリアhまたはエリアiに位置すると考えられる場合である。この場合には、予測位置に障害物があるものと推定し、推定結果を障害物情報として出力する(ステップS75)。   On the other hand, if an obstacle has been detected last time, the process proceeds to step S71 to determine whether or not the predicted position is within the image detection area. Here, the position prediction may be performed by tracking the position of the obstacle and predicting the current relative position based on the previous relative position, relative speed, and relative acceleration information of the obstacle. The case where the predicted position is located in the image detection region is a case where the predicted position is considered to be located in the area b in FIG. This is because the obstacle is not detected by the radar, and is not considered to be located in the areas a, c, and d that can be detected by the radar. When it is determined that the object is located within the image detection area, an obstacle is determined by performing image processing around the predicted position (step S73). The case where the predicted position is not within the image detection area is a case where the predicted position is considered to be located in an area where neither the radar nor the image can be detected, that is, the area h or the area i. In this case, it is estimated that there is an obstacle at the predicted position, and the estimation result is output as obstacle information (step S75).

また、特に、前進中の場合には、走行レーンの認識処理を行い、走行レーン内の接近障害物(走行レーン上を走行している後続車両のほか、別レーンから進入してくる車両を含む)のみを障害物として認識するようにしてもよい。   In particular, when the vehicle is moving forward, it recognizes the traveling lane and includes an approaching obstacle in the traveling lane (including a vehicle entering from another lane in addition to the following vehicle traveling on the traveling lane). ) May be recognized as an obstacle.

本発明に係る障害物検出装置の実施形態の構成を示すブロック図である。It is a block diagram which shows the structure of embodiment of the obstruction detection apparatus which concerns on this invention. 後方カメラ2とレーダ30、31それぞれの検出エリアを示す図である。It is a figure which shows the detection area of each of the rear camera 2 and radar 30,31. 図1の装置の第1の制御処理を示すフローチャートである。It is a flowchart which shows the 1st control processing of the apparatus of FIG. 図1の装置の第2の制御処理を示すフローチャートである。It is a flowchart which shows the 2nd control processing of the apparatus of FIG. 接近物体の判定処理の一例を示すフローチャートである。It is a flowchart which shows an example of the determination process of an approaching object. 図1の装置の第3の制御処理を示すフローチャートである。It is a flowchart which shows the 3rd control processing of the apparatus of FIG.

符号の説明Explanation of symbols

1…障害物認識ECU、2…後方カメラ、4…車内LAN、6…車両、11…画像処理部、12…レーダ処理部、13…記憶手段、14…判定部、30、31…レーダ、51…モニター、52…スピーカー、53…車両挙動制御ECU、54…エンジンECU、55…プリクラッシュシステムECU、70…シフトセンサ、71…車速センサ、100…障害物検出装置。
DESCRIPTION OF SYMBOLS 1 ... Obstacle recognition ECU, 2 ... Back camera, 4 ... In-vehicle LAN, 6 ... Vehicle, 11 ... Image processing part, 12 ... Radar processing part, 13 ... Memory | storage means, 14 ... Determination part, 30, 31 ... Radar, 51 DESCRIPTION OF SYMBOLS ... Monitor, 52 ... Speaker, 53 ... Vehicle behavior control ECU, 54 ... Engine ECU, 55 ... Pre-crash system ECU, 70 ... Shift sensor, 71 ... Vehicle speed sensor, 100 ... Obstacle detection apparatus.

Claims (3)

車両後方・後側方を検出エリアとする電波レーダと、該電波レーダの検出結果に基づいて障害物の存否判定を行う判定手段を備える障害物検出装置において、
車両の前後方向における進行方向を検出する進行方向検出手段をさらに備え、
前記判定手段は、電波レーダの受信強度が所定のしきい値より大きく、かつ、所定のトラッキング時間以上連続して検出されている場合に検出物を障害物と判定するものであって、前記進行方向検出手段により車両が後退中でないと検出した場合には、該しきい値として第1しきい値を用い、後退中と検出した場合には前記第1しきい値より小さい第2しきい値を該しきい値として用いるとともに、該しきい値に第2しきい値を用いる場合は、第1しきい値を用いる場合に比較してトラッキング時間を長く設定することを特徴とする障害物検出装置。
In the obstacle detection device comprising a radio radar having a detection area in the rear and rear sides of the vehicle, and a determination means for determining the presence or absence of an obstacle based on the detection result of the radio radar,
A traveling direction detecting means for detecting a traveling direction in the longitudinal direction of the vehicle;
The determination means determines that the detected object is an obstacle when the reception intensity of the radio wave radar is larger than a predetermined threshold and is continuously detected for a predetermined tracking time or longer, When the direction detecting means detects that the vehicle is not moving backward, the first threshold value is used as the threshold value, and when it is detected that the vehicle is moving backward, the second threshold value is smaller than the first threshold value. Is used as the threshold value, and when the second threshold value is used as the threshold value, the obstacle detection is characterized in that the tracking time is set longer than when the first threshold value is used. apparatus.
前記判定手段は、少なくとも車両が後退中でない場合には、相対接近速度が正となる検出物を障害物と判定することを特徴とする請求項1記載の障害物検出装置。   2. The obstacle detection apparatus according to claim 1, wherein the determination means determines that an object having a positive relative approach speed is an obstacle at least when the vehicle is not moving backward. 前記電波レーダと検出エリアの少なくとも一部が重複する画像センサをさらに備えており、
前記判定手段は、重複する検出エリア内の対象物については、車両が後退中である場合には、前記電波レーダで検出した対象物が前記画像センサでも検出された場合に対象物を障害物と判定し、車両が後退中でない場合には、前記電波レーダで検出した対象物を障害物と判定することを特徴とする請求項1または2のいずれかに記載の障害物検出装置。
It further comprises an image sensor that overlaps at least a part of the detection area with the radio wave radar,
In the case where the object in the overlapping detection area is moving backward, the determination means determines that the object is an obstacle when the object detected by the radio wave radar is also detected by the image sensor. judgment, when the vehicle is not in retreat, the obstacle detection apparatus according to claim 1 or 2, characterized in that to determine the target object detected by the radio wave radar and an obstacle.
JP2005284575A 2005-09-29 2005-09-29 Obstacle detection device Expired - Fee Related JP4736677B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005284575A JP4736677B2 (en) 2005-09-29 2005-09-29 Obstacle detection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005284575A JP4736677B2 (en) 2005-09-29 2005-09-29 Obstacle detection device

Publications (2)

Publication Number Publication Date
JP2007091102A JP2007091102A (en) 2007-04-12
JP4736677B2 true JP4736677B2 (en) 2011-07-27

Family

ID=37977309

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005284575A Expired - Fee Related JP4736677B2 (en) 2005-09-29 2005-09-29 Obstacle detection device

Country Status (1)

Country Link
JP (1) JP4736677B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105103208A (en) * 2013-04-03 2015-11-25 丰田自动车株式会社 Detection device, detection method, driving assistance device, and driving assistance method
CN107111952A (en) * 2014-11-18 2017-08-29 罗伯特·博世有限公司 The track accessory system of close vehicle in response to being exceedingly fast

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010073297A1 (en) * 2008-12-24 2010-07-01 トヨタ自動車株式会社 Collision determination device
JP2010204033A (en) * 2009-03-05 2010-09-16 Fuji Heavy Ind Ltd Radar device for vehicle
JP2012220998A (en) * 2011-04-04 2012-11-12 Pioneer Electronic Corp Warning device, method, and information apparatus
JP5605395B2 (en) * 2012-06-08 2014-10-15 株式会社デンソー Vehicle determination device and program
JP2014002012A (en) * 2012-06-18 2014-01-09 Denso Corp Radar device and program
JP6182987B2 (en) 2012-07-06 2017-08-23 株式会社Soken Parallel vehicle detector
JP5862785B2 (en) * 2012-09-03 2016-02-16 トヨタ自動車株式会社 Collision determination device and collision determination method
JP2015114834A (en) * 2013-12-11 2015-06-22 株式会社デンソー Vehicle control device
JP6367697B2 (en) * 2014-11-28 2018-08-01 株式会社デンソー Object detection device
JP7169873B2 (en) 2018-12-27 2022-11-11 株式会社デンソー Driving support device
JP2020179808A (en) * 2019-04-26 2020-11-05 トヨタ自動車株式会社 Vehicle control apparatus
CN112835361A (en) * 2020-12-28 2021-05-25 深兰人工智能(深圳)有限公司 Edge operation method of sweeper

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004239792A (en) * 2003-02-07 2004-08-26 Hitachi Ltd On-vehicle radar system

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004239792A (en) * 2003-02-07 2004-08-26 Hitachi Ltd On-vehicle radar system

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105103208A (en) * 2013-04-03 2015-11-25 丰田自动车株式会社 Detection device, detection method, driving assistance device, and driving assistance method
CN107111952A (en) * 2014-11-18 2017-08-29 罗伯特·博世有限公司 The track accessory system of close vehicle in response to being exceedingly fast
CN107111952B (en) * 2014-11-18 2020-06-05 罗伯特·博世有限公司 Lane assist system responsive to extremely fast approaching vehicles

Also Published As

Publication number Publication date
JP2007091102A (en) 2007-04-12

Similar Documents

Publication Publication Date Title
JP4736677B2 (en) Obstacle detection device
CN107430822B (en) Object detection device and object detection method
JP4558758B2 (en) Obstacle recognition device for vehicles
JP6396838B2 (en) Vehicle control apparatus and vehicle control method
JP4371115B2 (en) Object detection device
JP6022983B2 (en) Driving assistance device
JPH0717347A (en) Obstacle detecting device for automobile
JP2006284293A (en) Device and method for detecting target for car
US10787170B2 (en) Vehicle control method and apparatus
JP4901275B2 (en) Travel guidance obstacle detection device and vehicle control device
US10611240B2 (en) Vehicle cruise control apparatus and cruise control method
JP4807444B2 (en) Control object extraction device and vehicle control device
JP6717240B2 (en) Target detection device
JP6601362B2 (en) Movement detector
JP6557923B2 (en) On-vehicle radar device and area detection method
US8160300B2 (en) Pedestrian detecting apparatus
JP2011002869A (en) Collision possibility determination device for vehicle
KR20190109622A (en) System and method for detecting close cut-in vehicle based on free space signal
CN107077793A (en) Drive assistance device
JP6252559B2 (en) Moving body detection device and driving support device
JP2011039833A (en) Vehicle detector, vehicle detection program, and vehicle detection method
JP2003276538A (en) Obstacle predicting device
WO2018012513A1 (en) Object detection device
US11407390B2 (en) Vehicle control apparatus and vehicle control method
JP2007163431A (en) Target recognition device of vehicle, and target recognition method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080902

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100824

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100826

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110418

R151 Written notification of patent or utility model registration

Ref document number: 4736677

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140513

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees