JP2014016962A - Vehicle perimeter monitoring system - Google Patents

Vehicle perimeter monitoring system Download PDF

Info

Publication number
JP2014016962A
JP2014016962A JP2012155890A JP2012155890A JP2014016962A JP 2014016962 A JP2014016962 A JP 2014016962A JP 2012155890 A JP2012155890 A JP 2012155890A JP 2012155890 A JP2012155890 A JP 2012155890A JP 2014016962 A JP2014016962 A JP 2014016962A
Authority
JP
Japan
Prior art keywords
vehicle
stereo camera
camera unit
road surface
obstacle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012155890A
Other languages
Japanese (ja)
Inventor
Koji Ibaraki
宏治 茨木
Mitsuaki Torigoe
光暁 鳥越
Hatoo Nakayama
鳩夫 中山
Keiji Saneyoshi
敬二 實吉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tokyo Institute of Technology NUC
Resonant Systems Inc
Original Assignee
Tokyo Institute of Technology NUC
Resonant Systems Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tokyo Institute of Technology NUC, Resonant Systems Inc filed Critical Tokyo Institute of Technology NUC
Priority to JP2012155890A priority Critical patent/JP2014016962A/en
Publication of JP2014016962A publication Critical patent/JP2014016962A/en
Pending legal-status Critical Current

Links

Landscapes

  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a highly reliable vehicle perimeter monitoring system with which obstacles that exist within areas around a vehicle that cannot be seen from a driver's seat can be detected with high accuracy.SOLUTION: A vehicle perimeter monitoring system 10 includes: two stereo camera units 14 and 16 that are located on the upper part of a vehicle and angled to a lower road surface so that images of areas around the vehicle that cannot be seen from a driver's seat can be recorded; image analysis units 18 and 20 that are designed to determine whether or not any obstacles exist according to the images recorded by the stereo camera units 14 and 16; and a warning signal generation unit 22 that is designed to generate a warning signal if it is determined that an obstacle(s) exists according to the image analysis units 18 and 20.

Description

本発明は運転席から見て死角となる車両周辺の領域を監視するための車両周辺監視システムに関する。   The present invention relates to a vehicle periphery monitoring system for monitoring a region around a vehicle that becomes a blind spot when viewed from a driver's seat.

従来、バスやトラック等の自動車は車両の前面下方や側面下方の領域が運転席から見て死角となっていることが多く、このような死角を監視するために複数のミラーが設置されている。このようなミラーとしては一般的に広い視界が得られる凸面鏡が採用されている。   Conventionally, automobiles such as buses and trucks often have blind spots when viewed from the driver's seat in areas below the front and side of the vehicle, and a plurality of mirrors are installed to monitor such blind spots. . As such a mirror, a convex mirror that generally provides a wide field of view is employed.

一方、複数のミラーを限られた時間内に視認することは容易でない。又、凸面鏡を介して得られる像は目視と比較して距離感を掴みにくいという事情がある。従って、人や動物、或いは物体等の障害物がミラーに映っていても運転者が見落としてしまう可能性がある。   On the other hand, it is not easy to visually recognize a plurality of mirrors within a limited time. In addition, there is a situation in which an image obtained through a convex mirror is less likely to have a sense of distance compared to visual observation. Therefore, even if an obstacle such as a person, an animal, or an object is reflected on the mirror, the driver may miss it.

これに対し、運転席から見て死角となる領域をカメラ、赤外線カメラ、超音波センサ等によって監視して障害物を自動的に認識し、障害物が存在する場合に警告を発したり車両の発進を阻止するようにしたシステムが知られている(例えば、特許文献1〜7参照)。このようなシステムを用いることにより死角内の障害物に車両が衝突、或いは接触することを防止することが期待される。   In contrast, blind spots as viewed from the driver's seat are monitored by cameras, infrared cameras, ultrasonic sensors, etc., and obstacles are automatically recognized. When obstacles exist, a warning is issued or the vehicle starts. There are known systems that prevent the above (for example, see Patent Documents 1 to 7). By using such a system, it is expected to prevent the vehicle from colliding with or contacting an obstacle in the blind spot.

特許第4751894号公報Japanese Patent No. 4751894 特開2008−254710号公報JP 2008-254710 A 特開2008−68675号公報JP 2008-68675 A 特開平3−14100号公報Japanese Patent Laid-Open No. 3-14100 特許第3890878号公報Japanese Patent No. 3890878 特許第4670359号公報Japanese Patent No. 4670359 特開昭62−273477号公報Japanese Patent Laid-Open No. 62-273477

しかしながら、障害物である可能性があるものがカメラによって撮像されたとしてもそれが障害物であるか否かを自動的に判断することが困難な場合がある。例えば、路面の一部に周辺と色が異なる部分があったり、路上に紙屑のようなごみが落ちている場合、このような路面の一部、或いは路面近くだけに存在するものは障害物として認識されるべきではないが、カメラの画像データのみではこれらが路面の一部、或いは路面近くだけに存在するものであるのか、もっと高い位置に存在するものであるのかを識別することまではできないため、これらを自動的に障害物から除外することは困難である。これに対し、赤外線カメラは人や動物の識別には有効であるが赤外線カメラは太陽光の影響を受けやすいという問題があり、例えば日差しが強い日中は運転席から見て死角となる領域に人や動物が存在してもこれらを適確に認識できないことがある。尚、通常の可視光領域を対象とするカメラも直射日光が入射すると測定対象物を適確に認識できないことがある。これに対し、超音波センサは距離の把握が可能であるので路面の一部、或いは路面近くだけに存在するものと、もっと高い位置に存在するものとを識別することが可能であり、又、太陽光の影響を受けないが、超音波センサは自身と測定対象物との距離の測定精度に優れる一方で測定対象物の大きさの測定には適さないという事情がある。このため、障害物として認識されるべきではないような大きさの物と障害物として認識されるべき大きさのものとを識別することが困難な場合がある。   However, even if an object that may be an obstacle is captured by the camera, it may be difficult to automatically determine whether or not the object is an obstacle. For example, if there is a part of the road surface that is different in color from the surrounding area, or if garbage such as paper scraps has fallen on the road, such a part of the road surface or only existing near the road surface is recognized as an obstacle. Although it should not be done, it is not possible to identify whether these are part of the road surface, only near the road surface, or higher positions only with the camera image data. It is difficult to automatically exclude these from obstacles. In contrast, infrared cameras are effective for identifying humans and animals, but infrared cameras are susceptible to sunlight. For example, in the daytime when the sun is strong, it is a blind spot as seen from the driver's seat. Even if there are people or animals, they may not be recognized correctly. It should be noted that a camera that targets a normal visible light region may not be able to accurately recognize an object to be measured when direct sunlight enters. On the other hand, since the ultrasonic sensor can grasp the distance, it is possible to distinguish between a part of the road surface or only existing near the road surface and a higher position, Although not affected by sunlight, the ultrasonic sensor has excellent accuracy in measuring the distance between itself and the measurement object, but is not suitable for measuring the size of the measurement object. For this reason, it may be difficult to distinguish an object having a size that should not be recognized as an obstacle and a size that should be recognized as an obstacle.

本発明は、以上の問題点に鑑みてなされたものであって、運転席から見て死角となる車両周辺の領域に存在する障害物を高精度で検出できる信頼性が高い車両周辺監視システムを提供することを課題とする。   The present invention has been made in view of the above problems, and provides a highly reliable vehicle periphery monitoring system capable of detecting an obstacle existing in a region around the vehicle that becomes a blind spot when viewed from the driver's seat with high accuracy. The issue is to provide.

本発明は、運転席から見て死角となる車両周辺の領域を撮像するように下方の路面に向けて車両の上部に設置されるステレオカメラユニットと、ステレオカメラユニットの撮像画像に基づいて障害物が存在するか否かを判断するように構成された画像解析部と、画像解析部によって障害物が存在すると判断された場合に警告信号を発信するように構成された警告信号発信部と、を備える車両周辺監視システムにより上記課題を解決したものである。   The present invention relates to a stereo camera unit installed on an upper part of a vehicle toward a lower road surface so as to image an area around the vehicle that becomes a blind spot when viewed from a driver's seat, and an obstacle based on an image captured by the stereo camera unit An image analysis unit configured to determine whether there is an obstacle, and a warning signal transmission unit configured to transmit a warning signal when the image analysis unit determines that an obstacle exists. The above problem is solved by a vehicle periphery monitoring system provided.

この車両周辺監視システムはステレオカメラユニットを用いているので、測定対象物までの距離及び測定対象物の大きさを高精度で認識することができる。又、ステレオカメラユニットは下方の路面に向けて設置されているので太陽光の影響を受けにくい。従って、運転席から見て死角となる車両周辺の領域に存在する障害物を高精度で検出することができる。   Since this vehicle periphery monitoring system uses a stereo camera unit, the distance to the measurement object and the size of the measurement object can be recognized with high accuracy. Moreover, since the stereo camera unit is installed toward the road surface below, it is not easily affected by sunlight. Therefore, it is possible to detect an obstacle present in the area around the vehicle that becomes a blind spot when viewed from the driver's seat with high accuracy.

尚、画像解析部は、障害物が存在しない標準的な路面をステレオカメラユニットによって撮像した場合のステレオカメラユニットの複数の画素に対応する標準的な路面の複数のポイントとステレオカメラユニットとの距離をレファレンスデータとして予め記憶しており、ステレオカメラユニットによって実際に撮像される画像中の前記複数の画素に対応する複数のポイントとステレオカメラユニットとの間の距離を算出し、この算出された計測距離データの値が相互に近い所定の範囲内の値であり、且つ、標準的な路面から所定の高さ以上の範囲に存在するポイントの集合を路面とは異なる物体と判別すると共にその大きさを算出し、所定の大きさの物体の存在を認識した場合に障害物が存在すると判断するように構成されているとよい。   Note that the image analysis unit determines the distance between the stereo camera unit and a plurality of points on the standard road surface corresponding to the plurality of pixels of the stereo camera unit when the stereo camera unit images a standard road surface on which no obstacle exists. Is stored in advance as reference data, and distances between the plurality of points corresponding to the plurality of pixels in the image actually captured by the stereo camera unit and the stereo camera unit are calculated, and this calculated measurement is calculated. A set of points whose distance data values are within a predetermined range close to each other and within a predetermined height from the standard road surface are identified as objects different from the road surface and their sizes. It is good to be comprised so that it may be judged that an obstruction exists when the presence of the object of a predetermined size is recognized.

このようにステレオカメラユニットの複数の画素に対応する画像中の複数のポイントについて計測距離データの値が相互に近い値であるか否かを判断することにより、物体の存在や物体の大きさを高精度で認識することができる。又、レファレンスデータに基づいて標準的な路面から所定の高さ以上の範囲に存在するポイントの集合であるか否かを判断することにより、路面の一部、或いは路面近くだけに存在するものと区別することができる。従って、障害物を適確に認識することができる。   Thus, by determining whether or not the measurement distance data values are close to each other for a plurality of points in the image corresponding to a plurality of pixels of the stereo camera unit, the presence of the object and the size of the object can be determined. It can be recognized with high accuracy. In addition, by judging whether or not it is a set of points that exist within a predetermined height range from the standard road surface based on the reference data, it is present only on a part of the road surface or near the road surface. Can be distinguished. Therefore, an obstacle can be recognized accurately.

又、レファレンスデータの値から計測距離データの値を差し引いた差分データを前記複数の画素に対応する複数のポイント毎に算出し、差分データの値が相互に近い所定の範囲内の値であり、且つ、差分データの値が所定の閾値以上であるポイントの集合を路面とは異なる物体として認識するようにしてもよい。このような差分データを用いることで、路面とは異なる物体の存在や物体の大きさの判別のための計算を簡略化することができる。   Further, the difference data obtained by subtracting the measurement distance data value from the reference data value is calculated for each of a plurality of points corresponding to the plurality of pixels, and the difference data value is a value within a predetermined range close to each other. In addition, a set of points whose difference data value is equal to or greater than a predetermined threshold may be recognized as an object different from the road surface. By using such difference data, it is possible to simplify the calculation for determining the presence of an object different from the road surface and the size of the object.

又、警告信号に基づいて障害物の存在を点灯又は点滅により知らせるための警告灯、及び警告信号に基づいて障害物の存在を音により知らせるための警告音発生器の少なくとも一方の警告報知手段を更に備えているとよい。このように警告報知手段を備えることで、運転手や車両の周辺にいる人に障害物の存在を知らせることができる。   Also, a warning light for notifying the presence of an obstacle by lighting or blinking based on the warning signal, and at least one warning notification means of a warning sound generator for notifying the presence of the obstacle by sound based on the warning signal It is good to have more. By providing the warning notification means in this way, it is possible to notify the driver or a person around the vehicle of the presence of an obstacle.

又、警告信号に基づいて車両の発進を阻害するインターロック手段を更に備えていてもよい。このようにインターロック手段を備えることで、死角に障害物が存在する状態で車両が発進してしまう事態を回避できる。   Moreover, you may further provide the interlock means which inhibits start of a vehicle based on a warning signal. By providing the interlock means in this way, it is possible to avoid a situation where the vehicle starts with an obstacle in the blind spot.

又、ステレオカメラユニットは2つのカメラが1つの筐体に収容された構成であるとよい。このように2つのカメラが1つの筐体に収容された構成であればステレオカメラユニットの設置や扱いが容易である。   Further, the stereo camera unit may have a configuration in which two cameras are accommodated in one housing. If the two cameras are housed in one housing in this way, the stereo camera unit can be easily installed and handled.

又、筐体における少なくともステレオカメラユニットの視線が向く側の端部近傍の部分は視線の方向に向かって細くなるように側面が傾斜しているとよい。ステレオカメラユニットが下方の路面に向けて設置されることに加え、このように筐体における少なくともステレオカメラユニットの視線が向かう側の端部近傍の部分は視線の方向に向かって細くなるように側面が傾斜していれば、例えばステレオカメラユニットが車外に設置された場合でも、ステレオカメラユニットの入光面に雨水等が付着しにくく高い監視精度を維持することができる。   Further, it is preferable that the side surface is inclined so that at least a portion in the vicinity of the end portion on the side facing the line of sight of the stereo camera unit in the housing becomes narrower toward the line of sight. In addition to the stereo camera unit being installed toward the lower road surface, in this way, at least the portion in the vicinity of the end of the stereo camera unit on the side toward which the line of sight is directed in the housing is such that the side becomes narrower toward the line of sight. Is inclined, for example, even when a stereo camera unit is installed outside the vehicle, it is difficult for rainwater or the like to adhere to the light incident surface of the stereo camera unit, and high monitoring accuracy can be maintained.

本発明によれば、運転席から見て死角となる車両周辺の領域に存在する障害物を高精度で検出できる信頼性が高い車両周辺監視システムを実現できる。   ADVANTAGE OF THE INVENTION According to this invention, the reliable vehicle periphery monitoring system which can detect the obstacle which exists in the area | region of the vehicle periphery which becomes a blind spot seeing from a driver's seat with high precision is realizable.

本発明の実施形態に係る車両周辺監視システムの構成を模式的に示すブロック図The block diagram which shows typically the structure of the vehicle periphery monitoring system which concerns on embodiment of this invention 同車両周辺監視システムが備えられたバスを模式的に示す斜視図A perspective view schematically showing a bus provided with the vehicle periphery monitoring system 前記バスの車両前面下方の死角及びその周辺の領域を模式的に示す平面図The top view which shows typically the blind spot below the vehicle front surface of the said bus | bath, and the area | region of the circumference | surroundings 同バスの車両左側面下方の死角及びその周辺の領域を模式的に示す斜視図The perspective view which shows typically the blind spot below the vehicle left side surface of the bus | bath, and the area | region of the circumference | surroundings 同車両周辺監視システムを構成するステレオカメラの外観を示す正面図Front view showing the appearance of a stereo camera constituting the vehicle periphery monitoring system 同平面図Plan view 同側面図Side view 障害物がない標準的な路面における前記車両左側面下方の死角及びその周辺の領域を模式的に示す斜視図The perspective view which shows typically the blind spot below the left side surface of the vehicle on the standard road surface without an obstacle and the surrounding area

以下、図面を参照して本発明の好ましい実施形態について詳細に説明する。本実施形態は図1に示されるような車両周辺監視システム10に関する。車両周辺監視システム10は図2に示されるようなバス12に備えられている。   Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the drawings. This embodiment relates to a vehicle periphery monitoring system 10 as shown in FIG. The vehicle periphery monitoring system 10 is provided in a bus 12 as shown in FIG.

車両周辺監視システム10は、運転席から見て死角となる車両周辺の領域を撮像するように下方の路面に向けて車両の上部に設置される2つのステレオカメラユニット14、16と、ステレオカメラユニット14、16の撮像画像に基づいて障害物が存在するか否かを判断するように構成された画像解析部18、20と、画像解析部18、20によって障害物が存在すると判断された場合に警告信号を発信するように構成された警告信号発信部22と、警告信号に基づいて障害物の存在を点灯又は点滅により運転手に知らせるための警告灯24と、警告信号に基づいて障害物の存在を音により運転手等に知らせるための車内ブザー(警告音発生器)26と、警告信号に基づいて障害物の存在を音により車外に知らせるための車外スピーカシステム(警告音発生器)28と、警告信号に基づいて車両の発進を阻害するインターロック手段30と、を備えている。尚、本出願において「障害物」とは人や動物も含む意義で用いることとする。   The vehicle periphery monitoring system 10 includes two stereo camera units 14 and 16 installed on the upper part of the vehicle toward a lower road surface so as to capture an area around the vehicle that becomes a blind spot when viewed from the driver's seat, and a stereo camera unit. The image analysis units 18 and 20 configured to determine whether or not an obstacle exists based on the captured images 14 and 16 and the image analysis units 18 and 20 determine that an obstacle exists. A warning signal transmitter 22 configured to transmit a warning signal, a warning lamp 24 for notifying the driver of the presence of an obstacle based on the warning signal by lighting or blinking, and an obstacle signal based on the warning signal An in-vehicle buzzer (warning sound generator) 26 for notifying the driver of the presence by sound, and an out-of-vehicle speaker system for notifying the presence of an obstacle by sound based on the warning signal A beam (warning sound generator) 28, and a interlocking means 30 for inhibiting the starting of the vehicle, the based on the warning signal. In the present application, the term “obstacle” is used to include humans and animals.

ステレオカメラユニット14は、図3に示されるような車両前面下方の路面を撮像するように車両前端の上部に設置されている。より詳細にはステレオカメラユニット14は車内の前端の天井の近くに視線が垂直下方から前側に若干傾斜した方向を向く姿勢で設置されている。図2、3において車両前面下方に陰影のように描かれた路面上の台形の部分はステレオカメラユニット14の撮像範囲のうちの確認対象範囲(障害物の有無を確認する範囲)を模式的に示したものである。図3に示されるようにステレオカメラユニット14の撮像範囲のうちバス12の前面に近い部分が運転席から見て死角となっている。尚、ステレオカメラユニット14の確認対象範囲のうちこれよりも前の部分については運転席から直接視認することが可能である。   The stereo camera unit 14 is installed at the upper part of the front end of the vehicle so as to image the road surface below the front of the vehicle as shown in FIG. More specifically, the stereo camera unit 14 is installed in a posture in which the line of sight faces a direction slightly inclined from the vertically lower side to the front side near the ceiling at the front end in the vehicle. 2 and 3, a trapezoidal portion on the road surface drawn as a shade under the front of the vehicle schematically shows a confirmation target range (range in which the presence or absence of an obstacle is confirmed) in the imaging range of the stereo camera unit 14. It is shown. As shown in FIG. 3, a portion close to the front surface of the bus 12 in the imaging range of the stereo camera unit 14 is a blind spot as viewed from the driver's seat. It should be noted that the portion before the confirmation target range of the stereo camera unit 14 can be directly viewed from the driver's seat.

一方、ステレオカメラユニット16は、図4に示されるような車両左側面下方の路面を撮像するように車両前端の左側の端部に設置されている。より詳細にはステレオカメラユニット16は、車両前端の上部左側の車外のミラーを支持するステーに視線が垂直下方から後側に傾斜した方向を向く姿勢で取り付けられている。図4はステレオカメラユニット16の画像であり、図2、4において車両左側面下方に陰影のように描かれた路面上の矩形の部分はステレオカメラユニット16の撮像範囲のうちの確認対象範囲(障害物の有無を確認する範囲)を模式的に示したものである。ステレオカメラユニット16の撮像範囲の大部分は運転席から見て死角となっている。尚、車両前面下方の死角も車両左側面下方の死角も運転手は車外のミラーを介して視認することは可能である。   On the other hand, the stereo camera unit 16 is installed at the left end of the front end of the vehicle so as to image the road surface below the left side of the vehicle as shown in FIG. More specifically, the stereo camera unit 16 is attached to a stay supporting a mirror outside the vehicle on the upper left side of the front end of the vehicle in a posture in which the line of sight is directed from the vertically downward direction to the rear side. FIG. 4 is an image of the stereo camera unit 16, and in FIGS. 2 and 4, a rectangular portion on the road surface drawn as a shade on the lower left side of the vehicle is a confirmation target range (of the imaging range of the stereo camera unit 16 ( The range in which the presence or absence of an obstacle is confirmed is schematically shown. Most of the imaging range of the stereo camera unit 16 is a blind spot as seen from the driver's seat. The driver can visually recognize the blind spot below the front of the vehicle and the blind spot below the left side of the vehicle through a mirror outside the vehicle.

次に、ステレオカメラユニット14、16の構成について簡単に説明する。尚、ステレオカメラユニット14、16は同じ構成であるので、同じ構成要素については共通の符号を付することとして重複説明を省略することとする。ステレオカメラユニット14、16はそれぞれ、第1のカメラ32と第2のカメラ34とを有し、これら第1のカメラ32及び第2のカメラ34は共通の撮像対象を撮像可能であるように所定の基線長離れて設置されている。第1のカメラ32及び第2のカメラ34は同じ構成であり、それぞれレンズ36及び撮像素子38を備えている。撮像素子38は例えばCMOSイメージセンサ、或いはCCDイメージセンサである。第1のカメラ32及び第2のカメラ34の基線長(レンズ36の光軸の間隔)は例えば4〜16cm(一例として8cm)である。又、ステレオカメラユニット14、16は図5〜7に示されるような外観であり、それぞれ第1のカメラ32及び第2のカメラ34が1つの筐体40に収容された構成である。筐体40におけるステレオカメラユニット14、16の視線が向く側の端部近傍の部分は視線の方向に向かって細くなるように側面が傾斜している。尚、図5〜7はそれぞれステレオカメラユニット14(16)の正面図、平面図、側面図であるが、これはステレオカメラユニット14、16をその視線が向く側から見た場合を正面図とした見方であり、バス12に設置された状態の見方とは異なる。例えばステレオカメラユニット14の場合、バス12に設置された状態では図5〜7はそれぞれ下面図、正面図、側面図である。   Next, the configuration of the stereo camera units 14 and 16 will be briefly described. Since the stereo camera units 14 and 16 have the same configuration, the same components are denoted by common reference numerals, and redundant description will be omitted. The stereo camera units 14 and 16 each have a first camera 32 and a second camera 34, and the first camera 32 and the second camera 34 are predetermined so as to be able to image a common imaging target. The base line length is set apart. The first camera 32 and the second camera 34 have the same configuration, and include a lens 36 and an image sensor 38, respectively. The image sensor 38 is, for example, a CMOS image sensor or a CCD image sensor. The base line length (interval of the optical axis of the lens 36) of the first camera 32 and the second camera 34 is, for example, 4 to 16 cm (8 cm as an example). Further, the stereo camera units 14 and 16 have an appearance as shown in FIGS. 5 to 7, and are configured such that the first camera 32 and the second camera 34 are accommodated in one housing 40. The side surface of the case 40 in the vicinity of the end of the stereo camera units 14 and 16 on the side facing the line of sight is inclined so as to become narrower in the direction of the line of sight. 5 to 7 are a front view, a plan view, and a side view of the stereo camera unit 14 (16), respectively, which are a front view when the stereo camera units 14 and 16 are viewed from the side facing the line of sight. This is different from the view of the state installed on the bus 12. For example, in the case of the stereo camera unit 14, FIGS. 5 to 7 are a bottom view, a front view, and a side view in a state where the stereo camera unit 14 is installed on the bus 12.

画像解析部18、20は、それぞれステレオカメラユニット14、16に対応しており、ステレオカメラユニット14、16の筐体40の中に収容されている。画像解析部18、20はハードウェアとしては同じ構成であり、それぞれFPGA(Field-Programmable Gate Array)42、データメモリ44、及びマイクロコントローラ46を備えている。   The image analysis units 18 and 20 correspond to the stereo camera units 14 and 16, respectively, and are accommodated in the housing 40 of the stereo camera units 14 and 16. The image analysis units 18 and 20 have the same hardware configuration, and each include an FPGA (Field-Programmable Gate Array) 42, a data memory 44, and a microcontroller 46.

FPGA42は、第1のカメラ32及び第2のカメラ34の視差に基づいて画像中の所定の複数の画素に対応する複数のポイントまでのステレオカメラユニット14、16からの距離を算出するように構成されている。より詳細には、FPGA42は第1のカメラ32及び第2のカメラ34のレンズ36の歪除去を行った後、撮像素子38の所定の画素の信号に基づいて各画素に対応するポイントまでの距離を算出するように構成されている。更に詳細には、FPGA42は第1のカメラ32の撮像素子38の所定の画素と輝度が等しい画素を第2のカメラ34の撮像素子38において特定する。第1のカメラ32及び第2のカメラ34は基線長の分だけ離れた位置から測定対象物を撮像するので、これら輝度が等しい画素の(それぞれの撮像素子38における)位置は一致しない。FPGA42はこの位置ずれ量に基づいて画素に対応するポイントまでの距離を算出する。具体的には、第1のカメラ32及び第2のカメラ34の基線長をB、焦点距離をF、輝度が等しい画素の(撮像素子38における)位置ずれ量をZとすると距離算出対象ポイントまでの距離Lは次式によって算出される。
L=B×F/Z
The FPGA 42 is configured to calculate distances from the stereo camera units 14 and 16 to a plurality of points corresponding to a plurality of predetermined pixels in the image based on the parallax of the first camera 32 and the second camera 34. Has been. More specifically, the FPGA 42 removes distortion of the lenses 36 of the first camera 32 and the second camera 34 and then distances to points corresponding to the respective pixels based on signals of predetermined pixels of the image sensor 38. Is calculated. More specifically, the FPGA 42 specifies, in the image sensor 38 of the second camera 34, a pixel having the same brightness as a predetermined pixel of the image sensor 38 of the first camera 32. Since the first camera 32 and the second camera 34 image the measurement object from a position separated by the base line length, the positions of the pixels having the same luminance (in the respective image sensors 38) do not match. The FPGA 42 calculates the distance to the point corresponding to the pixel based on the positional deviation amount. Specifically, if the baseline length of the first camera 32 and the second camera 34 is B, the focal length is F, and the amount of positional deviation (in the image sensor 38) of pixels having the same luminance is Z, the distance calculation target point is reached. Is calculated by the following equation.
L = B × F / Z

尚、撮像素子38がモノクロの撮像素子の場合、距離の算出対象の複数の画素は撮像素子38の総ての画素でもよいし、所定の一部の画素であってもよい。一方、撮像素子38がR、G、Bの3種類の画素を有するカラー撮像素子である場合、距離の算出対象の画素はR、G、Bのうちのいずれか1種類の画素の総てでもよいし、R、G、Bのうちのいずれか1種類の画素のうちの所定の一部の(複数の)画素であってもよい。R、G、Bの画素がベイヤ配列で配列されたカラー撮像素子の場合、Gの画素の個数はRやBの画素の個数よりも多いのでGの画素について距離の算出をすることが好ましい。   When the image sensor 38 is a monochrome image sensor, the plurality of pixels whose distances are to be calculated may be all of the pixels of the image sensor 38 or some predetermined pixels. On the other hand, when the image sensor 38 is a color image sensor having three types of R, G, and B pixels, the distance calculation target pixels are all one type of R, G, and B pixels. Alternatively, it may be a predetermined part (plural) of pixels of any one type of R, G, and B. In the case of a color imaging device in which R, G, and B pixels are arranged in a Bayer array, the number of G pixels is larger than the number of R and B pixels, and therefore it is preferable to calculate the distance for the G pixels.

データメモリ44は、図8に示されるような障害物が存在しない標準的な路面をステレオカメラユニット14、16によって撮像した場合のステレオカメラユニット14、16の前記所定の複数の画素に対応する標準的な路面の複数のポイントとステレオカメラユニット14、16との距離をレファレンスデータとして予め記憶している。尚、図8は標準的な路面の車両左側面下方の部分を模式的に示したものであり、図8において陰影のように描かれた路面上の矩形の部分は、標準的な路面におけるステレオカメラユニット16の撮像範囲のうちの確認対象範囲に相当する。一方、標準的な路面におけるステレオカメラユニット14の(車両前面下方の)撮像範囲のうちの確認対象範囲の図示は省略するが、図3において車両前面下方に陰影のように描かれた路面上の台形の部分のようになる。レファレンスデータは例えば実在する標準的な路面(一例として充分に平坦な路面)をステレオカメラユニット14、16によって実際に撮像し、所定のスイッチを押すことにより取得されるように構成されているとよい。尚、ステレオカメラユニット14、16の設置位置や設置角度が予め把握されている場合、標準的な路面は仮想の路面でもよい。標準的な路面が仮想の路面の場合、レファレンスデータは仮想の路面の画像データを取り込むことにより取得できる。   The data memory 44 is a standard corresponding to the predetermined plurality of pixels of the stereo camera units 14 and 16 when the stereo camera units 14 and 16 image a standard road surface having no obstacle as shown in FIG. The distances between a plurality of points on a typical road surface and the stereo camera units 14 and 16 are stored in advance as reference data. FIG. 8 schematically shows a portion of the standard road surface below the left side surface of the vehicle. A rectangular portion on the road surface drawn as shaded in FIG. 8 represents a stereo on the standard road surface. This corresponds to the confirmation target range in the imaging range of the camera unit 16. On the other hand, although the illustration of the confirmation target range in the imaging range (below the front of the vehicle) of the stereo camera unit 14 on the standard road surface is omitted, it is on the road surface drawn as a shade in the lower front of the vehicle in FIG. It looks like a trapezoidal part. For example, the reference data may be obtained by actually capturing an actual standard road surface (for example, a sufficiently flat road surface) with the stereo camera units 14 and 16 and pressing a predetermined switch. . When the installation positions and installation angles of the stereo camera units 14 and 16 are known in advance, the standard road surface may be a virtual road surface. When the standard road surface is a virtual road surface, the reference data can be obtained by capturing image data of the virtual road surface.

マイクロコントローラ46は、FPGA42によって算出された計測距離データの値が相互に近い所定の範囲内の値であり、且つ、標準的な路面から所定の高さ以上(一例として300mm以上)の範囲に存在するポイントの集合を路面の一部、或いは路面近くだけに存在するものとは異なる物体と判別すると共にその大きさを算出し、所定の大きさの物体の存在を認識した場合に障害物が存在すると判断するように構成されている。ここで所定の大きさとは例えば人間の大きさ、或いは大きめの荷物を持った人間に相当する大きさ(荷物と人間の組み合わせの大きさ)であり、例えば(水平方向の)幅が300mm以上の大きさである。尚、マイクロコントローラ46は、物体の大きさが人間に相当する大きさと判断される場合に限定して死角に障害物が存在すると判断する機能を有していてもよい。又、マイクロコントローラ46は、物体の形状を画像解析して人体であるか否かを識別し、物体が人間と判断される場合に死角に障害物が存在すると判断する機能を有していてもよい。又、マイクロコントローラ46は、図4に示されるバス停標識のような障害物と認識されるべきではない物体を所定のテンプレートと照合することにより識別し、障害物と認識されるべき物体から除外する機能を有していてもよい。   The microcontroller 46 has a measurement distance data value calculated by the FPGA 42 within a predetermined range close to each other and within a predetermined height or more (for example, 300 mm or more) from the standard road surface. If a set of points to be detected is identified as an object different from a part of the road surface or only near the road surface, its size is calculated, and an obstacle exists when the presence of an object of a predetermined size is recognized It is comprised so that it may judge. Here, the predetermined size is, for example, the size of a human or a size corresponding to a human having a large baggage (the size of a combination of a baggage and a human), for example, the width (in the horizontal direction) is 300 mm or more. It is a size. Note that the microcontroller 46 may have a function of determining that an obstacle exists in the blind spot only when the size of the object is determined to be equivalent to a human. Further, the microcontroller 46 has a function of discriminating whether or not the object is a human body by performing image analysis on the shape of the object, and determining that an obstacle exists in the blind spot when the object is determined to be a human being. Good. In addition, the microcontroller 46 identifies an object that should not be recognized as an obstacle such as the bus stop sign shown in FIG. 4 by comparing it with a predetermined template, and excludes it from the object that should be recognized as an obstacle. It may have a function.

より詳細にはFPGA42は、レファレンスデータの値から計測距離データの値を差し引いた差分データを前記複数の画素に対応する画像中の複数のポイント毎に算出し、データメモリ44はFPGA42によって算出された差分データを記憶し、マイクロコントローラ46は差分データの値が相互に近い所定の範囲内の値であり、且つ、差分データの値が所定の閾値以上(一例として300mm以上)であるポイントの集合を路面の一部、或いは路面近くだけに存在するものとは異なる物体として認識するように構成されている。   More specifically, the FPGA 42 calculates difference data obtained by subtracting the measurement distance data value from the reference data value for each of a plurality of points in the image corresponding to the plurality of pixels, and the data memory 44 is calculated by the FPGA 42. The difference data is stored, and the microcontroller 46 determines a set of points where the values of the difference data are values within a predetermined range close to each other, and the values of the difference data are equal to or greater than a predetermined threshold (for example, 300 mm or more). It is configured so as to be recognized as an object that is different from a part of the road surface or an object that exists only near the road surface.

更に詳細にはマイクロコントローラ46は、FPGA42によって算出された差分データの値が等しい、或いは差分データの値の差が一定の閾値以下(一例として300mm以下)であるポイントの集合を一塊の物体として認識するように構成されている。又、マイクロコントローラ46は、FPGA42によって算出された差分データの値が他の一定の閾値以上(一例として300mm以上)であるポイントの集合を路面とは異なる物体として認識するように構成されている。尚、差分データの値の差の上限値を例えば数mm程度の小さな値に設定し、差分データの値が等しい、或いは差分データの値の差が一定の閾値以下であるか否かの判断を、例えば距離測定対象の複数の画素の中の隣り合う2つの画素に対応する2つのポイント毎に行ってもよい。この場合、距離測定対象の画素のうち隣り合っておらず離れて配置された2つの画素に対応する2つのポイントの差分データの値の差が一定の閾値よりも大きくても、これらの2つの画素の間に存在する隣り合う他の2つの(距離測定対象の)画素に対応するポイントの差分データの値の差がいずれも一定の閾値以下であればこれらのポイントの集合は一塊の物体として認識されることになる。例えば、人間の頭部のような球形状の物体が撮像された場合、球体の中心近傍のポイントと輪郭近傍のポイントとでは差分データの値の差が大きいが、これらのポイントの間に存在する距離測定対象のポイントの中の隣り合う2つのポイントの差分データの値の差がいずれも一定の閾値以下の小さい値であれば球形状の物体は一塊の物体として認識されることになる。又、マイクロコントローラ46は、FPGA42によって算出された計測距離データの値、および、レンズ36の水平画角、物体上のポイントに対応する画素の数に基づいて物体の大きさを算出するようになっている。   More specifically, the microcontroller 46 recognizes a set of points whose difference data values calculated by the FPGA 42 are equal or whose difference data values are below a certain threshold value (for example, 300 mm or less) as a single object. Is configured to do. In addition, the microcontroller 46 is configured to recognize a set of points whose difference data calculated by the FPGA 42 is equal to or more than another certain threshold (for example, 300 mm or more) as an object different from the road surface. Note that the upper limit value of the difference value of the difference data is set to a small value, for example, about several mm, and it is determined whether the difference data value is equal or the difference data value difference is equal to or less than a certain threshold value. For example, the measurement may be performed every two points corresponding to two adjacent pixels among a plurality of pixels to be measured. In this case, even if the difference between the values of the difference data of two points corresponding to two pixels that are not adjacent to each other among the pixels to be measured for distance is larger than a certain threshold value, If the difference between the values of the difference data of the points corresponding to the other two adjacent (distance measurement target) pixels existing between the pixels is less than a certain threshold, the set of these points is regarded as a lump of objects. Will be recognized. For example, when a spherical object such as a human head is imaged, there is a large difference in the value of difference data between a point near the center of the sphere and a point near the contour, but exists between these points. If the difference between the values of the difference data of two adjacent points among the distance measurement target points is a small value that is not more than a certain threshold value, the spherical object is recognized as a lump object. The microcontroller 46 calculates the size of the object based on the measured distance data value calculated by the FPGA 42, the horizontal angle of view of the lens 36, and the number of pixels corresponding to the point on the object. ing.

警告信号発信部22は、ステレオカメラユニット14、16の筐体40の外部に備えられたマイクロコントローラである。警告信号発信部22は、ステレオカメラユニット14に対応する画像解析部18のマイクロコントローラ46に接続されると共にステレオカメラユニット16に対応する画像解析部20のマイクロコントローラ46にも接続されている。又、警告信号発信部22は、パーキングブレーキがかけられているか否かを示す信号が入力されるバッファ48と、車速のパルス信号が入力されるレベル変換器50にも接続されている。更に、警告信号発信部22は、警告灯24と、車内ブザー26と、車外スピーカシステム28と、インターロック手段30にも接続されている。尚、車速のパルス信号は1マイル(約1609m)の走行距離に対して1000パルスを基本単位としており、この基本単位の4倍、8倍、16倍、20倍、25倍のパルスを発生させる装置が駆動系部分(例えばトランスミッションの出力軸側)に備えられている(図示省略)。   The warning signal transmission unit 22 is a microcontroller provided outside the housing 40 of the stereo camera units 14 and 16. The warning signal transmission unit 22 is connected to the microcontroller 46 of the image analysis unit 18 corresponding to the stereo camera unit 14 and also to the microcontroller 46 of the image analysis unit 20 corresponding to the stereo camera unit 16. The warning signal transmission unit 22 is also connected to a buffer 48 to which a signal indicating whether or not the parking brake is applied and a level converter 50 to which a vehicle speed pulse signal is input. Further, the warning signal transmitter 22 is also connected to a warning lamp 24, an in-vehicle buzzer 26, an in-vehicle speaker system 28, and an interlock means 30. The pulse signal of the vehicle speed has a basic unit of 1000 pulses for a mileage of about 1 mile (about 1609 m), and generates 4 times, 8 times, 16 times, 20 times and 25 times as many pulses as this basic unit. The device is provided in a drive system part (for example, on the output shaft side of the transmission) (not shown).

警告信号発信部22は、車両が停車中であり、且つ、パーキングブレーキが解除されている状態においてステレオカメラユニット14に対応する画像解析部18によって車両前面下方の死角に障害物が存在すると判断された場合に警告信号を発信するように構成されている。   The warning signal transmission unit 22 determines that there is an obstacle in the blind spot below the front of the vehicle by the image analysis unit 18 corresponding to the stereo camera unit 14 when the vehicle is stopped and the parking brake is released. In this case, a warning signal is transmitted.

又、警告信号発信部22は、車両が停車中又は所定の速度以下(一例として20km/h以下)で徐行中であり、且つ、パーキングブレーキが解除されている状態においてステレオカメラユニット16に対応する画像解析部20によって車両左側面下方の死角に障害物が存在すると判断された場合にも警告信号を発信するように構成されている。   The warning signal transmission unit 22 corresponds to the stereo camera unit 16 in a state where the vehicle is stopped or slowing down at a predetermined speed or less (for example, 20 km / h or less) and the parking brake is released. Even when it is determined by the image analysis unit 20 that there is an obstacle in the blind spot below the left side surface of the vehicle, a warning signal is transmitted.

警告灯24は運転席の周辺における運転手が運転席に座った状態で見やすい位置に設置されている。警告灯24は警告信号発信部22が発信する警告信号によって点灯又は点滅するようになっている。   The warning lamp 24 is installed at a position where the driver around the driver's seat can easily see the driver while sitting on the driver's seat. The warning lamp 24 is lit or blinked by a warning signal transmitted from the warning signal transmitter 22.

車内ブザー26は、警告信号発信部(マイクロコントローラ)22によって直接駆動されるようになっている。一方、車外スピーカシステム28は、合成音声発生器52と、スピーカアンプ54と、車外スピーカ56と、を有して構成されている。合成音声発生器52は警告信号発信部22が発信する警告信号を受信することにより所定の音声或いはアラームに相当する信号を発信し、この信号がスピーカアンプ54で増幅されて車外スピーカ56から障害物の存在を知らせる内容の音声やアラームが発せられるようになっている。尚、合成音声発生器52はステレオカメラユニット14によって車両前面下方に障害物が存在すると判断された場合と、ステレオカメラユニット16によって車両左側面下方に障害物が存在すると判断された場合とで異なる音声或いはアラームを発するように異なる信号を発信するように構成されていてもよい。   The in-vehicle buzzer 26 is directly driven by a warning signal transmission unit (microcontroller) 22. On the other hand, the vehicle exterior speaker system 28 includes a synthesized voice generator 52, a speaker amplifier 54, and a vehicle exterior speaker 56. The synthesized voice generator 52 receives a warning signal transmitted from the warning signal transmission unit 22 and transmits a signal corresponding to a predetermined voice or an alarm, and the signal is amplified by the speaker amplifier 54 and is obstructed from the speaker 56 outside the vehicle. The sound and the alarm of the content which informs the existence of are to be issued. The synthesized sound generator 52 is different between the case where the stereo camera unit 14 determines that an obstacle exists below the front of the vehicle and the case where the stereo camera unit 16 determines that an obstacle exists below the left side of the vehicle. You may be comprised so that a different signal may be transmitted so that a sound or an alarm may be emitted.

インターロック手段30は、例えばトランスミッションをニュートラルに保持することにより車両の発進を阻害するように構成されている。より詳細にはトランスミッションがオートトランスミッションや電気/エア式のマニュアルトランスミッションのような電気的な制御によって変速(ギヤの切り替え)が行われるタイプのトランスミッションである場合、警告信号発信部22が警告信号を発信すると、トランスミッションを制御するマイクロコントローラにトランスミッションをニュートラルに保持する制御を行わせるように構成することにより車両の発進を阻害できる。又、インターロック手段30は、エンジンの回転を停止させることにより車両の発進を阻害する構成でもよい。より詳細には燃料噴射量が電気的な制御によって増減されるタイプのエンジンの場合、警告信号発信部22が警告信号を発信するとアクセルペダルが踏まれても、燃料噴射量を制御するためのマイクロコントローラに燃料噴射を停止する制御を行わせるように構成することにより車両の発進を阻害できる。又、インターロック手段30は、自動的にブレーキをかけることにより車両の発進を阻害するように構成されていてもよい。より詳細にはブレーキがエア、液体、又はエアと液体との併用で作動するようになっており、ブレーキ配管中のエアや液体に圧力を印加するためのバルブが電気的に制御されるようになっているタイプのブレーキシステムの場合、警告信号発信部22が警告信号を発信するとブレーキ配管中のエアや液体に圧力を印加するようにバルブを作動させるように構成することにより車両の発進を阻害できる。又、これらトランスミッション、エンジン、ブレーキのいずれか2つ、或いは3つの制御を併用して車両の発進を阻害する構成でもよい。尚、インターロック手段30の具体的な構成としては例えばマイクロコンピューターや、リレーを含む電気回路等を挙げることができる。インターロック手段30がマイクロコンピューターである場合、インターロックのための専用のマイクロコンピューターであってもよいが、警告信号発信部22のマイクロコントローラ、トランスミッションを制御するためのマイクロコントローラ、エンジンの燃料噴射量を制御するためのマイクロコントローラ、或いはブレーキのバルブを制御するためのマイクロコントローラがインターロック手段30の機能を兼ねていてもよい。   The interlock means 30 is configured to inhibit the start of the vehicle, for example, by holding the transmission neutral. More specifically, when the transmission is a type of transmission in which shifting (gear switching) is performed by electrical control, such as an automatic transmission or an electric / pneumatic manual transmission, the warning signal transmission unit 22 transmits a warning signal. Then, the start of the vehicle can be inhibited by configuring the microcontroller that controls the transmission to control the transmission to be neutral. Further, the interlock means 30 may be configured to inhibit the start of the vehicle by stopping the rotation of the engine. More specifically, in the case of an engine of a type in which the fuel injection amount is increased or decreased by electrical control, even if the accelerator pedal is depressed when the warning signal transmission unit 22 transmits a warning signal, a micro for controlling the fuel injection amount By configuring the controller to perform control to stop fuel injection, the start of the vehicle can be inhibited. Further, the interlock means 30 may be configured to inhibit the start of the vehicle by automatically applying a brake. More specifically, the brake is operated by air, liquid, or a combination of air and liquid so that the valve for applying pressure to the air or liquid in the brake pipe is electrically controlled. In the case of the type of brake system, when the warning signal transmission unit 22 transmits a warning signal, the valve is operated so as to apply pressure to the air or liquid in the brake pipe, thereby inhibiting the start of the vehicle. it can. Moreover, the structure which inhibits start of a vehicle may be used by using two or three of these transmissions, engines, and brakes in combination. Note that specific examples of the structure of the interlock means 30 include a microcomputer and an electric circuit including a relay. When the interlock means 30 is a microcomputer, it may be a dedicated microcomputer for the interlock, but the microcontroller of the warning signal transmitter 22, the microcontroller for controlling the transmission, the fuel injection amount of the engine A microcontroller for controlling the control or a microcontroller for controlling a brake valve may also serve as the function of the interlock means 30.

次に、車両周辺監視システム10の作用について説明する。例えば、停留所等においてバス12が停止している状態ではレベル変換器50には車速のパルス信号が入力されず、これにより警告信号発信部22はバス12が停止していることを認識する。又、運転手がパーキングブレーキをかけている場合、バッファ48にはパーキングブレーキがかけられていることを示す信号が入力され、これにより警告信号発信部22はパーキングブレーキがかけられていることを認識する。一方、運転手がバス12の発進のためにパーキングブレーキを解除すると、バッファ48にはパーキングブレーキがかけられていることを示す信号が入力されなくなり、これにより警告信号発信部22はパーキングブレーキが解除されたことを認識する。   Next, the operation of the vehicle periphery monitoring system 10 will be described. For example, in a state where the bus 12 is stopped at a stop or the like, a pulse signal of the vehicle speed is not input to the level converter 50, whereby the warning signal transmission unit 22 recognizes that the bus 12 is stopped. In addition, when the driver applies the parking brake, a signal indicating that the parking brake is applied is input to the buffer 48, whereby the warning signal transmission unit 22 recognizes that the parking brake is applied. To do. On the other hand, when the driver releases the parking brake to start the bus 12, a signal indicating that the parking brake is applied is not input to the buffer 48, whereby the warning signal transmission unit 22 releases the parking brake. Recognize that

ステレオカメラユニット14、16はそれぞれ車両前面下方の死角、車両左側面下方の死角を含む車両周辺の領域を撮像しており、画像解析部18、20はステレオカメラユニット14、16の撮像画像に基づいて障害物が存在するか否かを判断する。車両前面下方や車両左側面下方に例えば人や動物、物品等の障害物が存在する場合、障害物はステレオカメラユニット14、16によって撮像され、画像解析部18、20によって障害物が存在すると判断される。   The stereo camera units 14 and 16 respectively capture an area around the vehicle including a blind spot below the front of the vehicle and a blind spot below the left side of the vehicle. The image analysis units 18 and 20 are based on the captured images of the stereo camera units 14 and 16. To determine whether there is an obstacle. When an obstacle such as a person, an animal, or an article exists below the front of the vehicle or below the left side of the vehicle, the obstacle is imaged by the stereo camera units 14 and 16 and is determined to be present by the image analysis units 18 and 20. Is done.

車両周辺監視システム10はステレオカメラユニット14、16を用いているので、測定対象物までの距離及び測定対象物の大きさを高精度で認識することができる。又、ステレオカメラユニット14、16は下方の路面に向けて設置されているので太陽光の影響を受けにくい。従って、運転席から見て死角となる車両周辺の領域に存在する障害物を高精度で検出することができる。   Since the vehicle periphery monitoring system 10 uses the stereo camera units 14 and 16, the distance to the measurement object and the size of the measurement object can be recognized with high accuracy. Moreover, since the stereo camera units 14 and 16 are installed toward the road surface below, they are not easily affected by sunlight. Therefore, it is possible to detect an obstacle present in the area around the vehicle that becomes a blind spot when viewed from the driver's seat with high accuracy.

又、ステレオカメラユニット14、16の複数の画素に対応する画像中の複数のポイントについて計測距離データの値(差分データの値)が相互に近い値であるか否かを判断することにより、物体の存在や物体の大きさを高精度で認識することができる。又、レファレンスデータに基づいて標準的な路面から所定の高さ以上の範囲に存在するポイントの集合であるか否かを判断することにより、路面の一部、或いは路面近くに存在するものと区別することができる。従って、障害物を適確に認識することができる。又、差分データを用いることで、路面とは異なる物体の存在や物体の大きさの判別のための計算を簡略化することができる。   Further, by determining whether or not the measurement distance data values (difference data values) are close to each other at a plurality of points in the image corresponding to the plurality of pixels of the stereo camera units 14 and 16, the object And the size of the object can be recognized with high accuracy. In addition, by judging whether or not it is a set of points that exist within a predetermined height range from the standard road surface based on the reference data, it can be distinguished from those that are part of the road surface or those that are close to the road surface. can do. Therefore, an obstacle can be recognized accurately. Further, by using the difference data, it is possible to simplify the calculation for determining the presence of an object different from the road surface and the size of the object.

画像解析部18、20において障害物が存在すると判断されると、警告信号発信部22は警告信号を発信する。これにより警告灯24が点灯又は点滅し、運転手は死角に障害物が存在することを視覚的に知ることができる。又、車内ブザー26がアラームを発し、運転手は死角に障害物が存在することを聴覚的にも知ることができる。又、車外スピーカ56も音声やアラームを発し、これにより死角内にいる人は自身が死角内にいることを聴覚的に知ることができる。又、バス12の周囲にいる他の人も、死角内に人や動物、物品等の障害物が存在することを聴覚的に知ることができる。   If the image analysis units 18 and 20 determine that an obstacle exists, the warning signal transmission unit 22 transmits a warning signal. As a result, the warning lamp 24 is turned on or flashes, and the driver can visually know that there is an obstacle in the blind spot. In addition, the buzzer 26 in the vehicle issues an alarm, so that the driver can also know audibly that there is an obstacle in the blind spot. In addition, the speaker 56 outside the vehicle also emits a sound or an alarm so that a person in the blind spot can audibly know that he is in the blind spot. Also, other people around the bus 12 can audibly know that there are obstacles such as people, animals, and articles in the blind spot.

又、インターロック手段30は、トランスミッションをニュートラルに保持したり、エンジンの回転を停止させたり、或いはブレーキをかけることにより車両の発進を阻害する。これにより、車両前面下方等の死角に障害物が存在する状態で車両が発進してしまう事態を回避できる。   Further, the interlock means 30 inhibits the start of the vehicle by holding the transmission in neutral, stopping the rotation of the engine, or applying a brake. As a result, it is possible to avoid a situation in which the vehicle starts in a state where there is an obstacle in a blind spot such as the lower front of the vehicle.

又、ステレオカメラユニット14、16は、それぞれ第1のカメラ32及び第2のカメラ34が1つの筐体40に収容された構成であるので設置や扱いが容易である。   The stereo camera units 14 and 16 are configured so that the first camera 32 and the second camera 34 are accommodated in a single housing 40, respectively, so that they can be easily installed and handled.

又、ステレオカメラユニット14、16は下方の路面に向けて設置されることに加え、筐体40におけるステレオカメラユニット14、16の視線が向かう側の端部近傍の部分が視線の方向に向かって細くなるように側面が傾斜しているので、ステレオカメラユニット16のように車外に設置される場合でも、入光面に雨水等が付着しにくく高い監視精度を維持できる。   Further, in addition to the stereo camera units 14 and 16 being installed toward the lower road surface, a portion in the vicinity of the end portion on the side where the line of sight of the stereo camera units 14 and 16 in the housing 40 is directed toward the line of sight. Since the side surfaces are inclined so as to be thin, even when installed outside the vehicle like the stereo camera unit 16, rainwater or the like is hardly attached to the light incident surface, and high monitoring accuracy can be maintained.

尚、本実施形態において、ステレオカメラユニット14は車内の前端の天井の近くに設置されているが、ステレオカメラユニット16のようにステレオカメラユニット14も車外に設置されていてもよい。例えばステレオカメラユニット14は車両前端の上部左側の車外のミラーを支持するステーに取り付けられていてもよい。この場合、ステレオカメラユニット14は視線が垂直下方から右側に傾斜した方向を向く姿勢で取り付けられる。   In this embodiment, the stereo camera unit 14 is installed near the ceiling at the front end in the vehicle, but the stereo camera unit 14 may also be installed outside the vehicle like the stereo camera unit 16. For example, the stereo camera unit 14 may be attached to a stay that supports a mirror outside the vehicle on the upper left side of the front end of the vehicle. In this case, the stereo camera unit 14 is attached in a posture in which the line of sight faces the direction inclined from the vertically lower side to the right side.

又、本実施形態において、車両周辺監視システム10は車両前面下方の死角を撮像するためのステレオカメラユニット14、及び車両左側面下方の死角を撮像するためのステレオカメラユニット16を備えているが、これらに加えて更に車両右側面下方の死角を撮像するためのステレオカメラユニットや車両後面下方の死角を撮像するためのステレオカメラユニットも備えていてもよい。   In the present embodiment, the vehicle periphery monitoring system 10 includes a stereo camera unit 14 for imaging a blind spot at the lower front of the vehicle and a stereo camera unit 16 for capturing a blind spot at the lower left of the vehicle. In addition to these, a stereo camera unit for imaging a blind spot below the right side of the vehicle and a stereo camera unit for imaging a blind spot below the rear of the vehicle may be provided.

又、本実施形態において、警告信号発信部22はステレオカメラユニット14の撮像画像に基づいて車両前面下方の死角に障害物が存在すると判断した場合と、ステレオカメラユニット16の撮像画像に基づいて車両左側面下方の死角に障害物が存在すると判断した場合とで同じ警告信号を発信するようになっているが、車両前面下方の死角に障害物が存在すると判断した場合と、車両左側面下方の死角に障害物が存在すると判断した場合とで警告信号発信部22が異なる警告信号を発信するようにしてもよい。これにより例えば、車両左側面下方の死角に障害物が存在すると判断しただけではインターロック手段30は作動せず、車両前面下方の死角に障害物が存在する場合にだけインターロック手段30が作動するようにしてもよい。   In the present embodiment, the warning signal transmission unit 22 determines that there is an obstacle in the blind spot below the front of the vehicle based on the image captured by the stereo camera unit 14 and the vehicle based on the image captured by the stereo camera unit 16. The same warning signal is sent when it is determined that there is an obstacle in the blind spot below the left side, but when there is an obstacle in the blind spot below the front of the vehicle, The warning signal transmitter 22 may transmit different warning signals when it is determined that there is an obstacle in the blind spot. Accordingly, for example, the interlock means 30 does not operate only when it is determined that an obstacle exists in the blind spot below the left side of the vehicle, and the interlock means 30 operates only when an obstacle exists in the blind spot below the front of the vehicle. You may do it.

又、本実施形態において、車両周辺監視システム10はインターロック手段30を備えているが、例えば警告灯24等の警告報知手段により死角内の障害物の存在を運転手等が認識できれば充分であるような場合には、車両周辺監視システム10はインターロック手段を備えていなくてもよい。   In the present embodiment, the vehicle periphery monitoring system 10 includes the interlock unit 30. However, it is sufficient that the driver or the like can recognize the presence of an obstacle in the blind spot by a warning notification unit such as a warning lamp 24. In such a case, the vehicle periphery monitoring system 10 may not include an interlock unit.

又、本実施形態において、車両周辺監視システム10は警告報知手段として、警告灯24、車内ブザー26、及び車外スピーカシステム28を備えているが、これらのうちのいずれか2つ、或いは1つだけでも死角内の障害物の存在を充分に運転手等が認識できるような場合には、車両周辺監視システム10は警告報知手段としてこれらのうちのいずれか2つ、或いは1つだけを備える構成であってもよい。例えば、警告灯24のみを備える構成であってもよい。   In the present embodiment, the vehicle periphery monitoring system 10 includes a warning light 24, an in-vehicle buzzer 26, and an outside speaker system 28 as warning notification means. However, any two or only one of them is provided. However, when the driver or the like can sufficiently recognize the presence of an obstacle in the blind spot, the vehicle periphery monitoring system 10 is configured to include any two or only one of them as warning notification means. There may be. For example, the structure provided only with the warning light 24 may be sufficient.

又、本実施形態において、警告信号発信部22は、ステレオカメラユニット14、16の筐体40の外部に備えられているが、警告信号発信部22はステレオカメラユニット14、16のいずれかの筐体40の中に収容されていてもよい。   In this embodiment, the warning signal transmission unit 22 is provided outside the housing 40 of the stereo camera units 14 and 16, but the warning signal transmission unit 22 is provided in either case of the stereo camera units 14 and 16. It may be accommodated in the body 40.

又、本実施形態において、画像解析部18、20は、それぞれステレオカメラユニット14、16の筐体40の中に収容されているが、画像解析部18、20はステレオカメラユニット14、16の筐体40の外に設置されていてもよい。   In the present embodiment, the image analysis units 18 and 20 are housed in the housings 40 of the stereo camera units 14 and 16, respectively, but the image analysis units 18 and 20 are housed in the stereo camera units 14 and 16. It may be installed outside the body 40.

又、本実施形態において、画像解析部18、20及び警告信号発信部22はそれぞれ専用のマイクロコントローラを有して構成されているが、これらのうちの2つ、或いは3つの役割を共通の1つのマイクロコントローラが担う構成であってもよい。   In the present embodiment, the image analysis units 18 and 20 and the warning signal transmission unit 22 are each configured with a dedicated microcontroller. However, two or three of these functions share a common one. A configuration in which one microcontroller is responsible may be employed.

又、本実施形態において、画像解析部18、20はFPGA42が、レファレンスデータの値から計測距離データの値を差し引いた差分データを複数のポイント毎に算出し、差分データに基づいて路面の一部、或いは路面近くだけに存在するものとは異なる物体として認識するように構成されているが、差分データによらず計測距離データの値に基づいて、計測距離データの値が相互に近い所定の範囲内の値であるか否かを直接判断することにより物体が存在するか否かを判別してもよい。この場合も、その物体の位置が標準的な路面に対して所定の高さ以上の位置にあるか否かを判断することにより路面の一部、或いは路面近くだけに存在するものとは異なる物体であるか否かを判別することが可能である。   In the present embodiment, the image analysis units 18 and 20 allow the FPGA 42 to calculate difference data obtained by subtracting the value of the measurement distance data from the value of the reference data for each of a plurality of points, and a part of the road surface based on the difference data. Or, it is configured to recognize as an object different from the object that exists only near the road surface, but based on the value of the measurement distance data regardless of the difference data, a predetermined range in which the values of the measurement distance data are close to each other It may be determined whether or not the object exists by directly determining whether or not the value is within the range. In this case as well, an object that is different from a part of the road surface or only near the road surface is determined by determining whether the position of the object is higher than a predetermined height with respect to the standard road surface. It is possible to determine whether or not.

又、本実施形態において、車両周辺監視システム10はバスに適用されているが、車両周辺監視システム10は例えばトラックやトラクタ、乗用車等のバス以外の自動車にも適用可能である。   In this embodiment, the vehicle periphery monitoring system 10 is applied to a bus. However, the vehicle periphery monitoring system 10 can be applied to an automobile other than a bus such as a truck, a tractor, and a passenger car.

本発明は、例えばバス等の自動車に利用することができる。   The present invention can be used for automobiles such as buses.

10…車両周辺監視システム
12…バス
14、16…ステレオカメラユニット
18、20…画像解析部
22…警告信号発信部
24…警告灯
26…車内ブザー(警告音発生器)
28…車外スピーカシステム(警告音発生器)
30…インターロック手段
32…第1のカメラ
34…第2のカメラ
36…レンズ
38…撮像素子
40…筐体
42…FPGA
44…データメモリ
46…マイクロコントローラ
48…バッファ
50…レベル変換器
52…合成音声発生器
54…スピーカアンプ
56…車外スピーカ
DESCRIPTION OF SYMBOLS 10 ... Vehicle periphery monitoring system 12 ... Bus 14, 16 ... Stereo camera unit 18, 20 ... Image analysis part 22 ... Warning signal transmission part 24 ... Warning light 26 ... In-vehicle buzzer (warning sound generator)
28 ... Outside speaker system (warning sound generator)
DESCRIPTION OF SYMBOLS 30 ... Interlock means 32 ... 1st camera 34 ... 2nd camera 36 ... Lens 38 ... Image pick-up element 40 ... Housing | casing 42 ... FPGA
44 ... Data memory 46 ... Microcontroller 48 ... Buffer 50 ... Level converter 52 ... Synthetic voice generator 54 ... Speaker amplifier 56 ... External speaker

Claims (7)

運転席から見て死角となる車両周辺の領域を撮像するように下方の路面に向けて車両の上部に設置されるステレオカメラユニットと、
前記ステレオカメラユニットの撮像画像に基づいて障害物が存在するか否かを判断するように構成された画像解析部と、
前記画像解析部によって障害物が存在すると判断された場合に警告信号を発信するように構成された警告信号発信部と、を備えることを特徴とする車両周辺監視システム。
A stereo camera unit installed at the top of the vehicle toward the lower road surface so as to image an area around the vehicle that becomes a blind spot when viewed from the driver's seat;
An image analysis unit configured to determine whether an obstacle exists based on a captured image of the stereo camera unit;
A vehicle periphery monitoring system, comprising: a warning signal transmitter configured to transmit a warning signal when it is determined by the image analysis unit that an obstacle exists.
請求項1において、
前記画像解析部は、障害物が存在しない標準的な路面を前記ステレオカメラユニットによって撮像した場合の前記ステレオカメラユニットの複数の画素に対応する前記標準的な路面の複数のポイントと前記ステレオカメラユニットとの距離をレファレンスデータとして予め記憶しており、前記ステレオカメラユニットによって実際に撮像される画像中の前記複数の画素に対応する複数のポイントと前記ステレオカメラユニットとの間の距離を算出し、この算出された計測距離データの値が相互に近い所定の範囲内の値であり、且つ、前記標準的な路面から所定の高さ以上の範囲に存在するポイントの集合を路面とは異なる物体と判別すると共にその大きさを算出し、所定の大きさの物体の存在を認識した場合に障害物が存在すると判断するように構成されたことを特徴とする車両周辺監視システム。
In claim 1,
The image analysis unit includes a plurality of points on the standard road surface corresponding to a plurality of pixels of the stereo camera unit and a stereo camera unit corresponding to a plurality of pixels of the stereo camera unit when a standard road surface without an obstacle is imaged by the stereo camera unit. And the distance between the plurality of points corresponding to the plurality of pixels in the image actually captured by the stereo camera unit and the distance between the stereo camera unit, The calculated measurement distance data value is a value within a predetermined range close to each other, and a set of points existing within a predetermined height or more from the standard road surface is defined as an object different from the road surface. It is judged and the size is calculated, and it is judged that an obstacle exists when the existence of an object of a predetermined size is recognized. Vehicle environment monitoring system characterized in that it is configured to.
請求項2において、
前記画像解析部は、前記レファレンスデータの値から前記計測距離データの値を差し引いた差分データを前記複数の画素に対応する複数のポイント毎に算出し、前記差分データの値が相互に近い所定の範囲内の値であり、且つ、前記差分データの値が所定の閾値以上であるポイントの集合を路面とは異なる物体として認識するように構成されたことを特徴とする車両周辺監視システム。
In claim 2,
The image analysis unit calculates difference data obtained by subtracting the value of the measurement distance data from the value of the reference data for each of a plurality of points corresponding to the plurality of pixels, and the value of the difference data is a predetermined value close to each other. A vehicle periphery monitoring system configured to recognize a set of points which are values within a range and whose difference data value is equal to or greater than a predetermined threshold as objects different from a road surface.
請求項1乃至3のいずれかにおいて、
前記警告信号に基づいて前記障害物の存在を点灯又は点滅により知らせるための警告灯、及び前記警告信号に基づいて前記障害物の存在を音により知らせるための警告音発生器の少なくとも一方の警告報知手段を更に備えることを特徴とする車両周辺監視システム。
In any one of Claims 1 thru | or 3,
A warning light for notifying the presence of the obstacle by lighting or blinking based on the warning signal and a warning notification of at least one of a warning sound generator for notifying the presence of the obstacle by sound based on the warning signal The vehicle periphery monitoring system further comprising means.
請求項1乃至4のいずれかにおいて、
前記警告信号に基づいて車両の発進を阻害するインターロック手段を更に備えることを特徴とする車両周辺監視システム。
In any one of Claims 1 thru | or 4,
A vehicle periphery monitoring system, further comprising an interlock unit that inhibits starting of the vehicle based on the warning signal.
請求項1乃至5のいずれかにおいて、
前記ステレオカメラユニットは2つのカメラが1つの筐体に収容された構成であることを特徴とする車両周辺監視システム。
In any one of Claims 1 thru | or 5,
The stereo camera unit has a configuration in which two cameras are housed in one housing.
請求項6において、
前記筐体における少なくとも前記ステレオカメラユニットの視線が向く側の端部近傍の部分は前記視線の方向に向かって細くなるように側面が傾斜していることを特徴とする車両周辺監視システム。
In claim 6,
The vehicle periphery monitoring system characterized in that a side surface is inclined so that at least a portion in the vicinity of an end portion on the side facing the line of sight of the stereo camera unit in the housing is narrowed toward the line of sight.
JP2012155890A 2012-07-11 2012-07-11 Vehicle perimeter monitoring system Pending JP2014016962A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012155890A JP2014016962A (en) 2012-07-11 2012-07-11 Vehicle perimeter monitoring system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012155890A JP2014016962A (en) 2012-07-11 2012-07-11 Vehicle perimeter monitoring system

Publications (1)

Publication Number Publication Date
JP2014016962A true JP2014016962A (en) 2014-01-30

Family

ID=50111549

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012155890A Pending JP2014016962A (en) 2012-07-11 2012-07-11 Vehicle perimeter monitoring system

Country Status (1)

Country Link
JP (1) JP2014016962A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016049029A (en) * 2014-08-28 2016-04-11 株式会社Ihiスター Farm work machine, travel vehicle, and farm work vehicle system
CN108241851A (en) * 2016-12-27 2018-07-03 松下电器(美国)知识产权公司 Information processing unit, information processing method and program
JP2022086686A (en) * 2020-11-30 2022-06-09 トヨタ自動車株式会社 Target detection device and vehicle equipped with the same
KR20230043022A (en) * 2021-09-22 2023-03-30 모셔널 에이디 엘엘씨 Switchable wheel view mirrors

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0314100A (en) * 1989-06-12 1991-01-22 Takashi Saito In-turning run-over prevention system for automobile
JPH10143659A (en) * 1996-11-06 1998-05-29 Komatsu Ltd Object detector
JPH11242796A (en) * 1998-02-26 1999-09-07 Mitsubishi Heavy Ind Ltd Vehicle detector
JP2006224700A (en) * 2005-02-15 2006-08-31 Denso Corp Dead angle monitoring device for vehicle, and operation assisting system for vehicle
JP2006344009A (en) * 2005-06-09 2006-12-21 Xanavi Informatics Corp Method and system for monitoring periphery of vehicle
JP2007223342A (en) * 2006-02-21 2007-09-06 Hitachi Ltd Rear monitoring camera of vehicle and driving support device
WO2011090053A1 (en) * 2010-01-21 2011-07-28 クラリオン株式会社 Obstacle detection warning device
JP2011238161A (en) * 2010-05-13 2011-11-24 Yupiteru Corp Alarm device
US20120056734A1 (en) * 2009-06-03 2012-03-08 Aisin Seiki Kabushiki Kaisha Method of monitoring vehicle surroundings, and apparatus for monitoring vehicle surroundings

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0314100A (en) * 1989-06-12 1991-01-22 Takashi Saito In-turning run-over prevention system for automobile
JPH10143659A (en) * 1996-11-06 1998-05-29 Komatsu Ltd Object detector
JPH11242796A (en) * 1998-02-26 1999-09-07 Mitsubishi Heavy Ind Ltd Vehicle detector
JP2006224700A (en) * 2005-02-15 2006-08-31 Denso Corp Dead angle monitoring device for vehicle, and operation assisting system for vehicle
JP2006344009A (en) * 2005-06-09 2006-12-21 Xanavi Informatics Corp Method and system for monitoring periphery of vehicle
JP2007223342A (en) * 2006-02-21 2007-09-06 Hitachi Ltd Rear monitoring camera of vehicle and driving support device
US20120056734A1 (en) * 2009-06-03 2012-03-08 Aisin Seiki Kabushiki Kaisha Method of monitoring vehicle surroundings, and apparatus for monitoring vehicle surroundings
WO2011090053A1 (en) * 2010-01-21 2011-07-28 クラリオン株式会社 Obstacle detection warning device
JP2011238161A (en) * 2010-05-13 2011-11-24 Yupiteru Corp Alarm device

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016049029A (en) * 2014-08-28 2016-04-11 株式会社Ihiスター Farm work machine, travel vehicle, and farm work vehicle system
CN108241851A (en) * 2016-12-27 2018-07-03 松下电器(美国)知识产权公司 Information processing unit, information processing method and program
CN108241851B (en) * 2016-12-27 2023-04-07 松下电器(美国)知识产权公司 Information processing apparatus, information processing method, and program
JP2022086686A (en) * 2020-11-30 2022-06-09 トヨタ自動車株式会社 Target detection device and vehicle equipped with the same
JP7384147B2 (en) 2020-11-30 2023-11-21 トヨタ自動車株式会社 Target object detection device and vehicle equipped with it
KR20230043022A (en) * 2021-09-22 2023-03-30 모셔널 에이디 엘엘씨 Switchable wheel view mirrors
KR102561976B1 (en) * 2021-09-22 2023-08-01 모셔널 에이디 엘엘씨 Switchable wheel view mirrors

Similar Documents

Publication Publication Date Title
US9744901B2 (en) Vehicle-mounted apparatus
US9878665B2 (en) Active detection and enhanced visualization of upcoming vehicles
US9586525B2 (en) Camera-assisted blind spot detection
US9787951B2 (en) Vehicle proximity warning system
US8638205B2 (en) Device for preventing a collision of a pivoting element of a vehicle
US9777518B2 (en) Collision protection device for a pivotable hatch of a motor vehicle, hatch, motor vehicle and corresponding method
US7362215B2 (en) System and method for monitoring the surroundings of a vehicle
US20080033603A1 (en) Device for bringing a motor vehicle to a target position
US20190220034A1 (en) Sensor array for an autonomously operated utility vehicle and method for surround-view image acquisition
US20180288848A1 (en) Vehicle imaging systems and methods for lighting diagnosis
US20090072996A1 (en) Vehicle illumination system
EP2163428A1 (en) Intelligent driving assistant systems
JP5177515B2 (en) Peripheral recognition support system
US20180222387A1 (en) Blind Zone Monitoring Method, License Plate Frame Device with Blind Zone Monitoring Function and Rearview Mirror
CN103987575A (en) Method and device for identifying a braking situation
CN105378813A (en) Information display device
KR20170000363A (en) Display system for vehicles, in particular commercial vehicles
CN110214346B (en) Sensor arrangement and method for detecting objects around a trailer of a vehicle
KR101746746B1 (en) A driver assistance system and method for a motor vehicle
CN113879297A (en) Vehicle vision blind area early warning system and method and vehicle
CN109901122A (en) Synchronization short-range radar for automatic trailer detection
CN105539404A (en) Target detection prewarning and auxiliary braking system for parking
JP2014016962A (en) Vehicle perimeter monitoring system
JP2012221303A (en) In-vehicle lighting device for driving support and in-vehicle driving support device and driving support system
JP4730589B2 (en) Vehicle perimeter monitoring system

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20140328

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20140328

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20140328

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150619

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160301

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20160906