JP5931691B2 - White line detection device and white line detection method - Google Patents

White line detection device and white line detection method Download PDF

Info

Publication number
JP5931691B2
JP5931691B2 JP2012234356A JP2012234356A JP5931691B2 JP 5931691 B2 JP5931691 B2 JP 5931691B2 JP 2012234356 A JP2012234356 A JP 2012234356A JP 2012234356 A JP2012234356 A JP 2012234356A JP 5931691 B2 JP5931691 B2 JP 5931691B2
Authority
JP
Japan
Prior art keywords
white line
white
unit
recognized
recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012234356A
Other languages
Japanese (ja)
Other versions
JP2014085842A (en
Inventor
渡辺 隆行
隆行 渡辺
康介 棟方
康介 棟方
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2012234356A priority Critical patent/JP5931691B2/en
Publication of JP2014085842A publication Critical patent/JP2014085842A/en
Application granted granted Critical
Publication of JP5931691B2 publication Critical patent/JP5931691B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、白線検出装置および白線検出方法に関し、特に、車両後方のリアカメラにより撮影された画像の認識処理によって路上の白線を検出する装置に用いて好適なものである。   The present invention relates to a white line detection device and a white line detection method, and is particularly suitable for use in an apparatus that detects a white line on a road by recognition processing of an image photographed by a rear camera behind a vehicle.

従来、カメラにより撮影された画像の処理によって路上の白線を検出する白線検出装置が提供されている。この種の白線検出装置は、例えば、走行中の車両が車線から逸脱する恐れがある場合に警報を発する車線逸脱警報装置に利用されている。すなわち、車線逸脱警報装置は、白線検出装置によって検出された路上の白線を跨いで車両が車線から逸脱する恐れがあると判断した場合に、警報を発するようになされている。   2. Description of the Related Art Conventionally, a white line detection device that detects a white line on a road by processing an image taken by a camera has been provided. This type of white line detection device is used, for example, in a lane departure warning device that issues a warning when a running vehicle has a risk of departing from the lane. In other words, the lane departure warning device issues a warning when it is determined that the vehicle may deviate from the lane across the white line on the road detected by the white line detection device.

近年では、車両の後方にリアカメラを搭載し、後進する際の運転支援として車両後方の画像をモニタに表示するアシスト機能を備えた車両が増えている。そのため、白線検出装置で用いるカメラとしても、リアカメラを使用する例が少なくない。   In recent years, an increasing number of vehicles are equipped with an assist function in which a rear camera is mounted on the rear side of the vehicle and an image of the rear side of the vehicle is displayed on a monitor as driving assistance when moving backward. Therefore, there are many examples in which a rear camera is used as a camera used in the white line detection device.

ところで、車両の左右にある白線のうち一方のみが画像認識されるケースにおいて、認識された側の白線位置と、認識が不安定になるまでに検出された車線幅とを用いて、認識できなかった側の白線位置を推定する技術が提供されている(例えば、特許文献1,2参照)。この技術を用いることにより、例えば、車両の左右にある白線の一方が実線で他方が破線の道路区間を走行中に、自車位置から破線が遠方にあって破線を画像認識できない場合に、補間処理によって破線位置を特定することが可能である。   By the way, in the case where only one of the white lines on the left and right sides of the vehicle is recognized, it cannot be recognized using the recognized white line position and the lane width detected until the recognition becomes unstable. Techniques for estimating the position of the white line on the other side are provided (for example, see Patent Documents 1 and 2). By using this technology, for example, when traveling on a road section where one of the white lines on the left and right of the vehicle is a solid line and the other is a broken line, the broken line is far from the vehicle position and the broken line cannot be recognized. The broken line position can be specified by processing.

すなわち、図11(a)に示すように、左右の白線201,202を検出できているときに、白線間隔(車線幅)Wを計算して記憶しておく。その後、図11(b)のように、実線201のみが画像に写り破線を画像認識できなくなったら、実線201の検出位置と、前に記憶しておいた白線間隔Wとに基づいて、実線201に対する平行線203を補間することにより、破線位置を特定する。このような白線の補間を行うことより、車線逸脱の恐れがあるときの未警報や警報遅れを防ぐことができる。   That is, as shown in FIG. 11A, when the left and right white lines 201 and 202 are detected, the white line interval (lane width) W is calculated and stored. After that, as shown in FIG. 11B, when only the solid line 201 appears in the image and the broken line cannot be recognized, the solid line 201 is based on the detection position of the solid line 201 and the white line interval W previously stored. The position of the broken line is specified by interpolating the parallel line 203 with respect to. By performing such white line interpolation, it is possible to prevent unalarmed and alarm delay when there is a possibility of lane departure.

しかしながら、リアカメラを用いた白線検出装置では、一般道の分岐路(右左折専用車線)などを走行中に、以下のような問題が生じることがあった。すなわち、図12に示すように、分岐路に沿う斜めの外側線204のみが画像に写っているときに、その外側線204に対する平行線205を補間すると、正しい位置に破線が補間されない。そのため、車線内を直進しているにもかかわらず、補間された平行線205を跨いで車線を逸脱する恐れがあると誤判定され、誤警報が発生してしまうという問題があった。   However, in the white line detection device using the rear camera, the following problems may occur while traveling on a general road branch road (right / left turn lane) or the like. That is, as shown in FIG. 12, when only the oblique outer line 204 along the branch path is shown in the image, if the parallel line 205 with respect to the outer line 204 is interpolated, the broken line is not interpolated at the correct position. For this reason, there is a problem that, although the vehicle travels straight in the lane, it is erroneously determined that there is a risk of deviating from the lane across the interpolated parallel line 205, and a false alarm is generated.

なお、分岐路を走行中にも白線を精度よく認識できるようにした装置が提案されている(例えば、特許文献3,4参照)。この特許文献3に記載の白線検出装置では、画像認識により検出された白線候補線の中から、本線から分岐する分岐路の分岐白線が選定されたときは、誤検出と判定して分岐処理モードを設定する。ここで、道路曲率および車両のピッチ角がそれぞれ所定値より大きいときに、選定された白線候補線が分岐白線であると判定する。この場合、分岐白線として選定された白線のデータを採用せず、それ以前に選定した本線の白線を白線のデータとして採用する。   In addition, an apparatus has been proposed in which a white line can be accurately recognized even while traveling on a branch road (see, for example, Patent Documents 3 and 4). In the white line detection device described in Patent Document 3, when a branch white line of a branch road that branches from the main line is selected from the white line candidate lines detected by image recognition, it is determined as a false detection and a branch processing mode is selected. Set. Here, when the road curvature and the vehicle pitch angle are each greater than a predetermined value, it is determined that the selected white line candidate line is a branch white line. In this case, the white line data selected as the branch white line is not adopted, and the main line white line selected before is adopted as the white line data.

また、特許文献4に記載の白線認識装置では、画像認識により検出した左右の白線の平行性が低いと判定したとき、分岐路を走行中であると判定する。この場合、本線の破線を正しい仮白線近似線であると判定するとともに、分岐車線の実線を誤認識した仮白線近似線であると判定する。そして、正しいと判定した破線を誤認識側に車線幅分オフセットさせた位置に仮白線近似線を算出する。   Moreover, in the white line recognition apparatus described in Patent Document 4, when it is determined that the parallelism between the left and right white lines detected by image recognition is low, it is determined that the vehicle is traveling on a branch road. In this case, it is determined that the broken line of the main line is a correct provisional white line approximation line, and that the solid line of the branch lane is a provisional white line approximation line erroneously recognized. Then, a temporary white line approximate line is calculated at a position where the broken line determined to be correct is offset to the erroneous recognition side by the lane width.

特開2002−163642号公報JP 2002-163642 A 特開2010−218528号公報JP 2010-218528 A 特開2005−346383号公報JP 2005-346383 A 特開2012−22574号公報JP 2012-22574 A

しかしながら、特許文献3,4に記載の白線検出装置は、車両の前方に設置されたフロントカメラにより広範囲に撮影された画像を認識し、その認識結果に基づいて分岐路を走行中か否かを判定している。すなわち、フロントカメラを用いた場合、分岐路に沿う外側の実線と本線の破線とが広範囲にわたって画像に写り込むため、画像認識した実線と破線との平行性などから分岐路を走行中(あるいは走行前)か否かを判定することができる。   However, the white line detection device described in Patent Documents 3 and 4 recognizes an image captured over a wide range by a front camera installed in front of the vehicle, and determines whether or not the vehicle is traveling on a branch road based on the recognition result. Judgment. In other words, when the front camera is used, the outer solid line and the main broken line along the branch road are reflected in the image over a wide range. It is possible to determine whether or not.

これに対して、後進の際の運転支援画像を表示するために後方画像を撮影するリアカメラを白線検出装置にも兼用する場合、リアカメラは下向きに設置され、車両近くの比較的狭い範囲しか撮影されない。そのため、分岐路に沿う外側の実線は画像に写るものの、本線の破線が画像に写り込まないことが生じ得る。図12で説明した問題はこのケースに関するものである。つまり、図12で説明した問題は、撮像装置がリアカメラで、車両前方を広範囲に撮影できないことに起因して生じるものである。よって、特許文献3,4の技術を用いても、図12で説明した問題を解消することはできない。   On the other hand, when a rear camera that captures a rear image to display a driving assistance image during reverse travel is also used as a white line detection device, the rear camera is installed downward and has a relatively narrow range near the vehicle. Not taken. For this reason, although the outer solid line along the branch path appears in the image, the broken line of the main line may not appear in the image. The problem described in FIG. 12 relates to this case. In other words, the problem described with reference to FIG. 12 is caused by the fact that the imaging device is a rear camera and the front of the vehicle cannot be photographed over a wide range. Therefore, even if the techniques of Patent Documents 3 and 4 are used, the problem described in FIG. 12 cannot be solved.

本発明は、このような問題を解決するために成されたものであり、車両後方のリアカメラにより撮影された画像の認識処理によって路上の白線を検出する白線検出装置において、分岐路を走行しているときにおける白線の検出精度を向上させることができるようにすることを目的とする。   The present invention has been made to solve such a problem, and in a white line detection device that detects a white line on a road by recognition processing of an image photographed by a rear camera behind the vehicle, it travels on a branch road. An object of the present invention is to improve the detection accuracy of white lines when the image is being read.

上記した課題を解決するために、本発明では、車両後方のリアカメラにより撮影された画像において認識された白線が左右のうち何れか一方の白線のみであった場合、左右の白線が認識されていたときに行われた前回の判定において白線が平行でないと判定されていたときは、今回認識された一方の白線から今回認識されなかった側の白線を補間するための補間処理を行わないようにしている。   In order to solve the above-described problem, in the present invention, when the white line recognized in the image taken by the rear camera behind the vehicle is only one of the left and right white lines, the left and right white lines are recognized. If it was determined in the previous determination that the white line was not parallel, do not perform an interpolation process to interpolate the white line that was not recognized this time from one of the white lines that was recognized this time. ing.

上記のように構成した本発明によれば、車両が分岐路を走行中で、あるタイミングにおいて分岐路に沿う外側線の実線のみが画像に写っていて本線の破線が写っていない場合であっても、それより前のタイミングにおいて外側線の実線と本線の破線との両方が写っているときに画像認識された両側の白線が平行でないと判定されているときは、外側線に対する平行線を補間する処理は行われないようになる。これにより、車両が分岐路を走行しているときに誤った位置に本線の破線が補間される不都合をなくし、白線の検出精度を向上させることができる。   According to the present invention configured as described above, the vehicle is traveling on a branch road, and at a certain timing, only the solid line of the outer line along the branch road is shown in the image and the broken line of the main line is not shown. However, if it is determined that the white line on both sides of the image recognition is not parallel when both the solid line of the outer line and the broken line of the main line are captured at the timing before that, the parallel line to the outer line is interpolated. No processing is performed. This eliminates the inconvenience of interpolating the main broken line at an incorrect position when the vehicle is traveling on a branch road, and improves the white line detection accuracy.

本実施形態による白線検出装置の機能構成例を示すブロック図である。It is a block diagram which shows the function structural example of the white line detection apparatus by this embodiment. 本実施形態による白線補間部による白線の補間処理を説明するための図である。It is a figure for demonstrating the white line interpolation process by the white line interpolation part by this embodiment. 本実施形態による白線特定部による白線の特定処理を説明するための図である。It is a figure for demonstrating the white line specific process by the white line specific | specification part by this embodiment. 本実施形態による白線検出装置の動作例を示すフローチャートであり、白線補間部による白線補間処理の実行の有無を設定するための処理を示すフローチャートである。It is a flowchart which shows the operation example of the white line detection apparatus by this embodiment, and is a flowchart which shows the process for setting the presence or absence of execution of the white line interpolation process by a white line interpolation part. 本実施形態による白線検出装置の動作例を示すフローチャートであり、補間ありに設定された場合の処理を示すフローチャートである。It is a flowchart which shows the operation example of the white line detection apparatus by this embodiment, and is a flowchart which shows a process at the time of setting with interpolation. 本実施形態による白線検出装置の動作例を示すフローチャートであり、補間なしに設定された場合の処理を示すフローチャートである。It is a flowchart which shows the operation example of the white line detection apparatus by this embodiment, and is a flowchart which shows a process at the time of setting without interpolation. 本実施形態の車両直進性判定部により車両が車線に沿って直進中であると判定された場合の動作例を示す図である。It is a figure which shows the operation example when it determines with the vehicle straight-ahead determination part of this embodiment determining that the vehicle is going straight along the lane. 本実施形態の車両直進性判定部および白線平行度判定部により車線逸脱の可能性があると判定された場合の動作例を示す図である。It is a figure which shows the operation example when it determines with the possibility of lane departure by the vehicle straightness determination part and white line parallelism determination part of this embodiment. 本実施形態の車両直進性判定部および白線平行度判定部により分岐路を走行中であると判定された場合の動作例を示す図である。It is a figure which shows the example of an operation | movement when it determines with driving | running | working on a branch road by the vehicle straightness determination part and white line parallelism determination part of this embodiment. 本実施形態による白線検出装置の別の動作例を示すフローチャートである。It is a flowchart which shows another example of operation | movement of the white line detection apparatus by this embodiment. 白線補間処理を説明するための図である。It is a figure for demonstrating a white line interpolation process. 分岐路を走行中における従来の問題点を説明するための図である。It is a figure for demonstrating the conventional problem in driving | running | working on a fork road.

以下、本発明の一実施形態を図面に基づいて説明する。図1は、本実施形態による白線検出装置100の機能構成例を示すブロック図である。図1に示すように、本実施形態の白線検出装置100は、その機能構成として、白線認識部1、白線信頼度算出部2、認識判定部3、白線情報検出部4、白線情報記憶部5、車両直進性判定部6、白線平行度判定部7、白線補間部8、白線特定部9および信頼度判定部10を備えている。また、本実施形態の白線検出装置100には、車両後方に設置されたリアカメラ200が接続されている。   Hereinafter, an embodiment of the present invention will be described with reference to the drawings. FIG. 1 is a block diagram illustrating a functional configuration example of the white line detection device 100 according to the present embodiment. As shown in FIG. 1, the white line detection device 100 of the present embodiment has, as its functional configuration, a white line recognition unit 1, a white line reliability calculation unit 2, a recognition determination unit 3, a white line information detection unit 4, and a white line information storage unit 5. The vehicle straightness determination unit 6, the white line parallelism determination unit 7, the white line interpolation unit 8, the white line specifying unit 9, and the reliability determination unit 10 are provided. In addition, a rear camera 200 installed behind the vehicle is connected to the white line detection device 100 of the present embodiment.

白線認識部1は、リアカメラ200より入力される車両後方の撮影画像において路上の白線を認識する。白線認識については、公知の手法を適用することが可能である。すなわち、白線認識部1は、撮影画像を水平方向に1ラインずつスキャンしていき、閾値以上の輝度が一定間隔続く部分をスライスとして抽出し、複数のスライスの集合を白線として認識する。本実施形態では、車両の左右にある白線を認識する。   The white line recognition unit 1 recognizes a white line on the road in the captured image of the rear of the vehicle input from the rear camera 200. A known method can be applied to white line recognition. That is, the white line recognizing unit 1 scans the captured image one line at a time in the horizontal direction, extracts a portion where luminance equal to or higher than the threshold continues for a certain interval as a slice, and recognizes a set of a plurality of slices as a white line. In the present embodiment, white lines on the left and right sides of the vehicle are recognized.

白線信頼度算出部2は、白線認識部1により認識された白線の信頼度を算出する。信頼度は、白線としての確からしさを示すものであり、その算出には公知の手法を適用することが可能である。例えば、白線を認識するときに画像内から抽出した各スライスの中点のばらつきの程度から信頼度を算出する。   The white line reliability calculation unit 2 calculates the reliability of the white line recognized by the white line recognition unit 1. The reliability indicates the certainty as a white line, and a known method can be applied to the calculation. For example, the reliability is calculated from the degree of variation of the midpoint of each slice extracted from the image when recognizing a white line.

認識判定部3は、白線認識部1により車両の左右の白線が両方とも認識されたか、左右のうち何れか一方の白線のみが認識されたか、左右の白線が両方とも認識されなかったかを判定する。左右の白線が両方とも認識されるケースは、典型的には左右の白線が両方とも実線の場合である。左右のうち何れか一方の白線のみが認識されるケースは、一方の白線が実線で他方の白線が破線であり、破線の白い部分でないところがちょうどリアカメラ200の撮影範囲となっている場合である。片側の白線が破線であっても、破線の白い部分がリアカメラ200の撮影範囲に入っていれば、左右の白線が両方とも認識される。   The recognition determination unit 3 determines whether both the left and right white lines of the vehicle are recognized by the white line recognition unit 1, only one of the left and right white lines is recognized, or whether both the left and right white lines are not recognized. . A case where both the left and right white lines are recognized is typically a case where both the left and right white lines are solid lines. A case where only one of the left and right white lines is recognized is a case where one white line is a solid line and the other white line is a broken line, and a portion that is not a white part of the broken line is just the shooting range of the rear camera 200. . Even if the white line on one side is a broken line, both the left and right white lines are recognized as long as the white part of the broken line is within the imaging range of the rear camera 200.

白線情報検出部4は、認識判定部3により左右の白線が認識されたと判定された場合、白線認識部1により認識された左右の白線の位置と、左右の白線の間隔とを検出して白線情報記憶部5に記憶させる。ここで、左右の白線の位置は、例えば車両中心から白線までの距離でそれぞれ表すものとする。また、白線間隔は、左右の白線の間の距離で表すものとする。   The white line information detection unit 4 detects the positions of the left and right white lines recognized by the white line recognition unit 1 and the interval between the left and right white lines when the recognition determination unit 3 determines that the left and right white lines are recognized. The information is stored in the information storage unit 5. Here, the positions of the left and right white lines are respectively represented by the distance from the vehicle center to the white line, for example. Further, the white line interval is represented by the distance between the left and right white lines.

車両直進性判定部6は、白線認識部1により認識された白線の方向と車両の進行方向との成す角度が所定値(例えば、1.5deg)以内か否かを確認することによって、車両の直進性を判定する。ここで、車両の進行方向は、撮影画像の上下方向と一致している。したがって、白線の方向と車両の進行方向との成す角度は、撮影画像内に写っている白線の角度を求めればよい。   The vehicle straightness determination unit 6 confirms whether or not the angle formed by the direction of the white line recognized by the white line recognition unit 1 and the traveling direction of the vehicle is within a predetermined value (for example, 1.5 deg). Determine straightness. Here, the traveling direction of the vehicle matches the vertical direction of the captured image. Therefore, the angle formed between the direction of the white line and the traveling direction of the vehicle may be obtained as the angle of the white line shown in the captured image.

ここで、白線認識部1により左右の白線が両方とも認識されている場合、車両直進性判定部6は、両方の白線の角度をそれぞれ求め、両方とも所定値以内となっているか否かを判定する。一方、白線認識部1により左右のうち何れか一方の白線のみが認識されている場合、車両直進性判定部6は、認識された白線の角度を求め、それが所定値以内となっているか否かを判定する。   Here, when both the left and right white lines are recognized by the white line recognition unit 1, the vehicle straightness determination unit 6 determines the angles of both the white lines and determines whether both are within a predetermined value. To do. On the other hand, when only one of the left and right white lines is recognized by the white line recognition unit 1, the vehicle straightness determination unit 6 obtains the angle of the recognized white line and determines whether or not it is within a predetermined value. Determine whether.

なお、白線の角度を求める前提として、白線認識部1により認識された白線の画像を、リアカメラ200の取付角度パラメータを含むカメラパラメータに基づいて3次元座標の平面上(路面上)に投影する。3次元座標の路面への投影とは、各スライスの集合から成る白線の画像を、車両上方の仮想視点から見た真上からの画像に視点変換することをいう。   As a premise for obtaining the angle of the white line, the image of the white line recognized by the white line recognition unit 1 is projected on the plane of the three-dimensional coordinate (on the road surface) based on the camera parameters including the mounting angle parameter of the rear camera 200. . Projection of a three-dimensional coordinate onto a road surface means that a viewpoint of a white line image formed by a set of slices is converted into an image from directly above viewed from a virtual viewpoint above the vehicle.

車両直進性判定部6は、求めた白線の角度が所定値以内であれば、車両は車線に沿って直進中であると判定する。一方、求めた白線の角度が所定値より大きい場合は、次の2パターンのどちらかと考えられる。
1.車両が車線に沿って直進しておらず車線逸脱の可能性があるため、白線の角度が所定値より大きくなっているパターン
2.車両が分岐路を本線に沿って直進中であるものの、本線の破線は画像認識されずに分岐路の外側線のみが画像認識された結果、その外側線の角度が所定値より大きくなっているパターン
If the angle of the obtained white line is within a predetermined value, the vehicle straightness determination unit 6 determines that the vehicle is traveling straight along the lane. On the other hand, when the obtained white line angle is larger than a predetermined value, it is considered as one of the following two patterns.
1. 1. A pattern in which the angle of the white line is larger than a predetermined value because the vehicle is not moving straight along the lane and may deviate from the lane. Although the vehicle is traveling straight along the main line along the main road, the main line dashed line is not recognized, and only the outer line of the main road is recognized. As a result, the angle of the outer line is larger than the predetermined value. pattern

白線平行度判定部7は、認識判定部3により左右の白線が両方とも認識されたと判定された場合、白線認識部1により認識された左右の白線の成す角度が所定値(例えば、1.0deg)以内か否かを確認することによって、白線の平行度を判定する。例えば、白線平行度判定部7は、3次元座標の路面上に投影された左右の白線の角度をそれぞれ求め、両角度の差が所定値以内となっているか否かを判定する。そして、白線平行度判定部7は、左右の白線の成す角度が所定値以内であれば、左右の白線は平行であると判定する。一方、左右の白線の成す角度が所定値より大きい場合は、左右の白線は非平行であると判定する。   When the white line parallelism determination unit 7 determines that both the left and right white lines are recognized by the recognition determination unit 3, the angle formed by the left and right white lines recognized by the white line recognition unit 1 is a predetermined value (for example, 1.0 deg). ) To determine the parallelism of the white lines. For example, the white line parallelism determination unit 7 obtains the angles of the left and right white lines projected on the road surface of three-dimensional coordinates, and determines whether or not the difference between the two angles is within a predetermined value. The white line parallelism determination unit 7 determines that the left and right white lines are parallel if the angle formed by the left and right white lines is within a predetermined value. On the other hand, when the angle formed by the left and right white lines is larger than a predetermined value, it is determined that the left and right white lines are non-parallel.

上記車両直進性判定部6により白線の方向と車両の進行方向との成す角度が所定値より大きい(車線に沿って直進中ではない)と判定され、かつ、白線平行度判定部7により左右の白線の成す角度が所定値以内(左右の白線が平行)であると判定された場合は、上述した2パターンのうち1番目のパターン、つまり車線逸脱の可能性がある状況ということになる。   The vehicle straightness determination unit 6 determines that the angle between the direction of the white line and the traveling direction of the vehicle is larger than a predetermined value (not straight ahead along the lane), and the white line parallelism determination unit 7 When it is determined that the angle formed by the white lines is within a predetermined value (the left and right white lines are parallel), the first pattern out of the two patterns described above, that is, a situation where there is a possibility of lane departure.

また、上記車両直進性判定部6により白線の方向と車両の進行方向との成す角度が所定値より大きい(車線に沿って直進中ではない)と判定され、かつ、白線平行度判定部7により左右の白線の成す角度が所定値より大きい(左右の白線が非平行)であると判定された場合は、上述した2パターンのうち2番目のパターン、つまり分岐路を走行中の状況ということになる。   Further, the vehicle straightness determination unit 6 determines that the angle formed between the direction of the white line and the traveling direction of the vehicle is larger than a predetermined value (not straight ahead along the lane), and the white line parallelism determination unit 7 If it is determined that the angle between the left and right white lines is greater than a predetermined value (the left and right white lines are non-parallel), the second pattern of the two patterns described above, that is, the situation where the vehicle is traveling on a branch road Become.

以上に説明した白線認識部1、白線信頼度算出部2、認識判定部3、白線情報検出部4、車両直進性判定部6および白線平行度判定部7の処理は、所定の間隔毎に繰り返し実行される。   The processes of the white line recognition unit 1, the white line reliability calculation unit 2, the recognition determination unit 3, the white line information detection unit 4, the vehicle straightness determination unit 6, and the white line parallelism determination unit 7 described above are repeated at predetermined intervals. Executed.

白線補間部8は、認識判定部3により何れか一方の白線のみが認識されたと判定された場合に、白線認識部1により認識された一方の白線の位置(今回の認識位置)と、白線情報記憶部5に記憶されている白線間隔(前回の白線認識時に記憶されたもの)とに基づいて、白線認識部1により今回認識されなかった方の白線を補間によって算出する。   When the recognition determining unit 3 determines that only one of the white lines has been recognized, the white line interpolating unit 8 recognizes the position of one white line (currently recognized position) recognized by the white line recognizing unit 1 and the white line information. Based on the white line interval (stored at the time of previous white line recognition) stored in the storage unit 5, the white line not recognized by the white line recognition unit 1 this time is calculated by interpolation.

図2は、白線補間部8による白線の補間処理を説明するための図である。図2において、101は白線認識部1により今回認識された白線、102は白線補間部8により補間された白線(以下、補間線という)である。白線補間部8は、白線認識部1により今回認識された白線101の位置を基準として、白線認識部1により今回白線が認識されなかった方に、白線情報記憶部5に記憶されている白線間隔Wだけシフトした位置に補間線102を算出する。   FIG. 2 is a diagram for explaining white line interpolation processing by the white line interpolation unit 8. In FIG. 2, 101 is a white line recognized this time by the white line recognition unit 1, and 102 is a white line (hereinafter referred to as an interpolation line) interpolated by the white line interpolation unit 8. The white line interpolating unit 8 uses the position of the white line 101 recognized this time by the white line recognizing unit 1 as a reference, the white line interval stored in the white line information storage unit 5 in the direction in which the white line recognizing unit 1 has not recognized this time The interpolation line 102 is calculated at a position shifted by W.

本実施形態では、認識判定部3により何れか一方の白線のみが認識されたと判定された場合に、常に白線補間部8による補間処理を行うのではなく、更に一定の条件を課している。すなわち、認識判定部3による今回の判定において、左右のうち何れか一方の白線のみが白線認識部1により認識されたと判定された場合で、車両直進性判定部6により車両が直進中であると判定されたときは、白線補間部8による白線の補間処理を実行する。   In the present embodiment, when it is determined by the recognition determination unit 3 that only one of the white lines has been recognized, the white line interpolation unit 8 does not always perform the interpolation process, but further imposes certain conditions. That is, in the current determination by the recognition determination unit 3, when it is determined that only one of the left and right white lines is recognized by the white line recognition unit 1, the vehicle straightness determination unit 6 determines that the vehicle is going straight ahead. When it is determined, white line interpolation processing by the white line interpolation unit 8 is executed.

一方、左右のうち何れか一方の白線のみが認識されたと認識判定部3により判定された場合であっても、車両直進性判定部6により車両が直進中でないと判定されたときは、以下の条件に従う。すなわち、白線平行度判定部7による前回の判定において左右の白線が平行でないと判定されていたとき(つまり、分岐路を走行中のとき)は、白線補間部8は白線の補間処理を行わない。   On the other hand, even when the recognition determining unit 3 determines that only one of the left and right white lines has been recognized, when the vehicle straightness determining unit 6 determines that the vehicle is not traveling straight, Follow the conditions. That is, when it is determined in the previous determination by the white line parallelism determination unit 7 that the left and right white lines are not parallel (that is, when traveling on a branch road), the white line interpolation unit 8 does not perform white line interpolation processing. .

白線特定部9は、認識判定部3により左右のうち何れか一方の白線のみが認識されたと判定された場合であって、白線平行度判定部7による前回の判定において左右の白線が平行でないと判定されていたとき(分岐路を走行中のとき)、前回のタイミングで白線認識部1により認識され白線情報記憶部5に記憶された左右の白線のうち、今回のタイミングで白線認識部1により認識されなかった方に対応する前回の白線を利用して、今回の白線の位置を特定する。   The white line specifying unit 9 is a case where it is determined by the recognition determining unit 3 that only one of the left and right white lines has been recognized, and in the previous determination by the white line parallelism determining unit 7, the left and right white lines are not parallel. When it is determined (when traveling on a fork road), among the left and right white lines recognized by the white line recognition unit 1 at the previous timing and stored in the white line information storage unit 5, the white line recognition unit 1 at this timing Using the previous white line corresponding to the unrecognized person, the position of the current white line is specified.

すなわち、今回のタイミングで白線認識部1により分岐路の外側線の実線のみが認識され、本線の破線が認識されなかった場合であって、白線平行度判定部7による前回の判定において左右の白線が平行でないと判定されていたとき、白線特定部9は、前回のタイミングで白線認識部1により認識され白線情報記憶部5に記憶された本線の破線を利用して、今回の本線の破線の位置を特定する。   That is, at this time, the white line recognition unit 1 recognizes only the solid line of the outer line of the branch road and the main line broken line is not recognized. In the previous determination by the white line parallelism determination unit 7, Is determined not to be parallel, the white line specifying unit 9 uses the main line broken line recognized by the white line recognition unit 1 and stored in the white line information storage unit 5 at the previous timing to determine the current main line broken line. Identify the location.

図3は、白線特定部9による白線の特定処理を説明するための図である。図3において、101は白線認識部1により今回認識された白線、103は白線認識部1により前回認識された白線(以下、前回線という)、104は白線特定部9により特定された白線である。白線特定部9は、白線認識部1により今回認識された白線101の反対側の前回線103を用いて、白線認識部1により今回白線が認識されなかった方に今回の白線104を特定する。   FIG. 3 is a diagram for explaining white line specifying processing by the white line specifying unit 9. In FIG. 3, 101 is a white line recognized by the white line recognition unit 1 this time, 103 is a white line recognized by the white line recognition unit 1 last time (hereinafter referred to as the previous line), and 104 is a white line specified by the white line specifying unit 9. . The white line specifying unit 9 uses the front line 103 opposite to the white line 101 recognized this time by the white line recognizing unit 1 to specify the current white line 104 to the one that has not been recognized by the white line recognizing unit 1 this time.

信頼度判定部10は、白線信頼度算出部2により算出された信頼度が所定値より大きいか否かを判定する。上述の白線補間部8は、認識判定部3により何れか一方の白線のみが認識されたと判定された場合であっても、信頼度判定部10により信頼度が所定値より大きくないと判定されたときは、白線の補間処理を行わない。この場合は、白線特定部9によって今回の白線を特定する。   The reliability determination unit 10 determines whether or not the reliability calculated by the white line reliability calculation unit 2 is greater than a predetermined value. The white line interpolating unit 8 described above is determined by the reliability determining unit 10 that the reliability is not greater than the predetermined value even when only one of the white lines is determined to be recognized by the recognition determining unit 3. When the white line is not interpolated. In this case, the current white line is specified by the white line specifying unit 9.

図4〜図6は、上記のように構成した本実施形態による白線検出装置100の動作例を示すフローチャートである。なお、図4に示すフローチャートは、例えばユーザによって白線検出装置100の動作実行が指示されたときに開始する。そして、この図4に示すフローチャートは、所定の時間間隔毎に繰り返し実行される。   4 to 6 are flowcharts showing an operation example of the white line detection device 100 according to the present embodiment configured as described above. Note that the flowchart shown in FIG. 4 is started when, for example, the user instructs the execution of the operation of the white line detection device 100. The flowchart shown in FIG. 4 is repeatedly executed at predetermined time intervals.

まず、白線認識部1は、リアカメラ200より入力される車両後方の撮影画像において路上の白線を認識する(ステップS1)。また、白線信頼度算出部2は、白線認識部1により認識された白線の信頼度を算出する(ステップS2)。さらに、認識判定部3は、白線認識部1により車両の左右の白線が両方とも認識されたか、左右のうち何れか一方の白線のみが認識されたか、左右の白線が両方とも認識されなかったかを判定する(ステップS3)。   First, the white line recognition unit 1 recognizes a white line on the road in the captured image of the rear of the vehicle input from the rear camera 200 (step S1). Also, the white line reliability calculation unit 2 calculates the reliability of the white line recognized by the white line recognition unit 1 (step S2). Furthermore, the recognition determination unit 3 determines whether both the left and right white lines of the vehicle are recognized by the white line recognition unit 1, only one of the left and right white lines is recognized, or whether both the left and right white lines are not recognized. Determine (step S3).

ここで、左右の白線が両方とも認識されたと認識判定部3により判定された場合、車両直進性判定部6は、白線認識部1により認識された白線の方向と車両の進行方向との成す角度が所定値(例えば、1.5deg)以内か否かを確認することによって、車両が車線に沿って直進中か否かを判定する(ステップS4)。   Here, when the recognition determination unit 3 determines that both the left and right white lines have been recognized, the vehicle straightness determination unit 6 determines the angle formed by the direction of the white line recognized by the white line recognition unit 1 and the traveling direction of the vehicle. Is determined to be within a predetermined value (for example, 1.5 deg), it is determined whether the vehicle is traveling straight along the lane (step S4).

ここで、車両が車線に沿って直進中でないと車両直進性判定部6により判定された場合、上述した2パターン(車線逸脱の傾向にあるパターン、分岐路を走行中のパターン)のうちの何れかに該当することになる。この何れのパターンであるかを確認するために、白線平行度判定部7は、白線認識部1により認識された左右の白線の成す角度が所定値以内か否かを確認することによって、左右の白線が平行か否かを判定する(ステップS5)。   Here, when the vehicle straightness determination unit 6 determines that the vehicle is not traveling straight along the lane, any of the two patterns described above (a pattern that tends to deviate from the lane and a pattern that is traveling on a branch road) It corresponds to crab. In order to confirm which pattern this is, the white line parallelism determination unit 7 confirms whether the angle formed by the left and right white lines recognized by the white line recognition unit 1 is within a predetermined value. It is determined whether the white lines are parallel (step S5).

ここで、左右の白線が平行でないと判定された場合は、車両が分岐路を走行中ということになる。この場合、白線補間部8は「補間なし」の設定をする(ステップS6)。一方、ステップS4で車両が車線に沿って直進中ではないと判定され、かつ、ステップS5で左右の白線が平行であると判定された場合は、車線逸脱の可能性があるということになる。この場合、白線補間部8は「補間あり」の設定をする(ステップS7)。また、ステップS4で車両が直進中であると判定された場合も、白線補間部8は「補間あり」の設定をする(ステップS7)。   Here, when it is determined that the left and right white lines are not parallel, the vehicle is traveling on a branch road. In this case, the white line interpolation unit 8 sets “no interpolation” (step S6). On the other hand, if it is determined in step S4 that the vehicle is not traveling straight along the lane, and it is determined in step S5 that the left and right white lines are parallel, there is a possibility of lane departure. In this case, the white line interpolation unit 8 sets “with interpolation” (step S7). Also, when it is determined in step S4 that the vehicle is traveling straight, the white line interpolation unit 8 sets “with interpolation” (step S7).

また、上記ステップS3において、左右のうち何れか一方の白線のみが認識されたと認識判定部3により判定された場合、車両直進性判定部6は、白線認識部1により認識された白線の方向と車両の進行方向との成す角度が所定値(例えば、1.5deg)以内か否かを確認することによって、車両が車線に沿って直進中か否かを判定する(ステップS8)。   In step S3, when the recognition determination unit 3 determines that only one of the left and right white lines is recognized, the vehicle straightness determination unit 6 determines the direction of the white line recognized by the white line recognition unit 1. It is determined whether or not the vehicle is traveling straight along the lane by checking whether or not the angle formed with the traveling direction of the vehicle is within a predetermined value (for example, 1.5 deg) (step S8).

ここで、車両が車線に沿って直進中であると判定された場合、白線補間部8は「補間あり」の設定をする(ステップS9)。一方、車両が車線に沿って直進中でないと判定された場合は、上述した2パターンのうちの何れかに該当することになる。しかし、ここでは片方の白線しか認識されていないため、白線平行度判定部7によって何れのパターンであるかを判定することができない。そこで、白線補間部8は、前回の設定結果(「補間あり」または「補間なし」の何れか)を維持することとする(ステップS10)。   Here, when it is determined that the vehicle is traveling straight along the lane, the white line interpolation unit 8 sets “with interpolation” (step S9). On the other hand, when it is determined that the vehicle is not traveling straight along the lane, it corresponds to one of the two patterns described above. However, since only one white line is recognized here, the white line parallelism determination unit 7 cannot determine which pattern. Therefore, the white line interpolation unit 8 maintains the previous setting result (either “with interpolation” or “without interpolation”) (step S10).

さらに、上記ステップS3において、左右の白線が両方とも認識されなかったと認識判定部3により判定された場合、車両直進性判定部6による判定も白線平行度判定部7による判定も行うことができない。そこで、この場合も白線補間部8は、前回の判定結果(「補間あり」または「補間なし」の何れか)を維持することとする(ステップS11)。   Furthermore, when the recognition determination unit 3 determines that both the left and right white lines are not recognized in step S3, neither the determination by the vehicle straightness determination unit 6 nor the determination by the white line parallelism determination unit 7 can be performed. Therefore, also in this case, the white line interpolation unit 8 maintains the previous determination result (either “with interpolation” or “without interpolation”) (step S11).

ステップS6,S7,S9,S10,S11の何れかによって「補間あり」または「補間なし」の設定を行った後、白線補間部8は、その設定がどちらであるかを判定する(ステップS12)。「補間あり」の設定になっている場合、白線補間部8は、補間ありの白線検出処理(図5のフローチャート)を実行する(ステップS13)。一方、「補間なし」の設定になっている場合、白線補間部8は、補間なしの白線検出処理(図6のフローチャート)を実行する(ステップS14)。   After setting “with interpolation” or “without interpolation” in any of steps S6, S7, S9, S10, and S11, the white line interpolating unit 8 determines which setting is set (step S12). . When “with interpolation” is set, the white line interpolation unit 8 executes white line detection processing with the interpolation (flowchart in FIG. 5) (step S13). On the other hand, when “no interpolation” is set, the white line interpolation unit 8 executes white line detection processing (flowchart in FIG. 6) without interpolation (step S14).

ステップS13またはステップS14の処理が終わった後、白線情報検出部4は、白線認識部1により認識された白線の位置と、左右の白線が認識されたときの白線間隔とを検出して白線情報記憶部5に記憶させる(ステップS15)。また、白線補間部8により設定された「補間あり」または「補間なし」の情報も白線情報記憶部5に記憶させる。これにより、あるタイミングにおいて行われる図4に示すフローチャートの処理が終了する。ここで白線情報記憶部5に記憶された白線の位置は、次のタイミングにおいて必要に応じて前回線として用いられる。   After the processing of step S13 or step S14 is finished, the white line information detection unit 4 detects the position of the white line recognized by the white line recognition unit 1 and the white line interval when the left and right white lines are recognized, thereby white line information. It memorize | stores in the memory | storage part 5 (step S15). Further, the information “with interpolation” or “without interpolation” set by the white line interpolation unit 8 is also stored in the white line information storage unit 5. Thereby, the process of the flowchart shown in FIG. 4 performed at a certain timing is completed. Here, the position of the white line stored in the white line information storage unit 5 is used as a previous line as needed at the next timing.

なお、白線認識部1より片側の白線しか認識されなかった場合、および、左右の白線が両方とも認識されなかった場合は、認識されなかった側において白線の位置が白線情報記憶部5に記憶されないため、次のタイミングにおいて前回線が存在しないことになる。これを避けるため、以前のタイミングで認識された白線の位置を引き継いで白線情報記憶部5に記憶させる。あるいは、白線補間部8または白線特定部9によって求められた白線の位置を白線情報記憶部5に記憶させるようにしてもよい。   When only one white line is recognized by the white line recognition unit 1 and when both the left and right white lines are not recognized, the position of the white line on the unrecognized side is not stored in the white line information storage unit 5. Therefore, the previous line does not exist at the next timing. In order to avoid this, the position of the white line recognized at the previous timing is taken over and stored in the white line information storage unit 5. Alternatively, the position of the white line obtained by the white line interpolation unit 8 or the white line specifying unit 9 may be stored in the white line information storage unit 5.

白線認識部1より片側の白線しか認識されなかった場合、および、左右の白線が両方とも認識されなかった場合は、白線間隔Wも白線情報記憶部5に記憶されないため、次のタイミングにおいて白線間隔Wが存在しないことになる。これを避けるため、以前のタイミングで検出された白線間隔Wを引き継いで白線情報記憶部5に記憶させる。   When only one white line is recognized from the white line recognition unit 1 and when both the left and right white lines are not recognized, the white line interval W is not stored in the white line information storage unit 5, so the white line interval at the next timing. W does not exist. In order to avoid this, the white line interval W detected at the previous timing is taken over and stored in the white line information storage unit 5.

次に、図5を参照して、上記ステップS13において行われる「補間あり」の場合の白線検出処理について説明する。まず、認識判定部3は、図4のステップS3で行った判定の結果を確認する(ステップS21)。ここで、左右の白線が両方とも認識されていた場合、信頼度判定部10は、図4のステップS2で白線信頼度算出部2により左右の白線について算出された信頼度が両方とも所定値より大きいか否かを判定する(ステップS22)。   Next, the white line detection process in the case of “with interpolation” performed in step S13 will be described with reference to FIG. First, the recognition determination unit 3 confirms the result of the determination performed in step S3 in FIG. 4 (step S21). Here, when both the left and right white lines are recognized, the reliability determination unit 10 determines that the reliability calculated for the left and right white lines by the white line reliability calculation unit 2 in step S2 of FIG. It is determined whether it is larger (step S22).

ここで、左右の白線について算出された信頼度の少なくとも一方が所定値より大きくないと判定された場合、信頼度が高い方については白線認識部1により認識された白線を採用し、信頼度が低い方については白線補間部8による補間によって補間線を算出する(ステップS23)。すなわち、信頼度が高い方の白線の位置を基準として、白線情報記憶部5に記憶されている白線間隔だけシフトした位置に補間線を求める。   Here, when it is determined that at least one of the reliability calculated for the left and right white lines is not greater than a predetermined value, the white line recognized by the white line recognition unit 1 is adopted for the higher reliability, and the reliability is For the lower one, an interpolation line is calculated by interpolation by the white line interpolation unit 8 (step S23). That is, an interpolation line is obtained at a position shifted by the white line interval stored in the white line information storage unit 5 with the position of the white line having the higher reliability as a reference.

一方、左右の白線について算出された信頼度が両方とも所定値より大きいと判定された場合、左右の両方とも白線認識部1により認識された白線を採用する(ステップS24)。   On the other hand, when it is determined that the reliability calculated for the left and right white lines is both greater than the predetermined value, the white line recognized by the white line recognition unit 1 is adopted for both the left and right sides (step S24).

また、上記ステップS21において、左右のうち何れか一方の白線のみが認識されたと判定された場合、信頼度判定部10は、図4のステップS2で白線信頼度算出部2により上記何れか一方の白線について算出された信頼度が所定値より大きいか否かを判定する(ステップS25)。   If it is determined in step S21 that only one of the left and right white lines has been recognized, the reliability determination unit 10 causes the white line reliability calculation unit 2 in step S2 of FIG. It is determined whether or not the reliability calculated for the white line is greater than a predetermined value (step S25).

ここで、何れか一方の白線について算出された信頼度が所定値より大きいと判定された場合、白線認識部1により認識された白線を採用するとともに、白線認識部1により認識されなかった方については白線補間部8による補間によって補間線を算出する(ステップS26)。   Here, when it is determined that the reliability calculated for any one of the white lines is larger than a predetermined value, the white line recognized by the white line recognition unit 1 is adopted and the one not recognized by the white line recognition unit 1 is used. Calculates an interpolation line by interpolation by the white line interpolation unit 8 (step S26).

一方、何れか一方の白線について算出された信頼度が所定値より大きくないと判定された場合、白線認識部1により認識された白線を採用するとともに、白線認識部1により認識されなかった方については白線特定部9によって前回線から今回の白線を特定する(ステップS27)。   On the other hand, when it is determined that the reliability calculated for any one of the white lines is not greater than a predetermined value, the white line recognized by the white line recognition unit 1 is adopted and the one not recognized by the white line recognition unit 1 The white line identification unit 9 identifies the current white line from the previous line (step S27).

さらに、上記ステップS21において、左右の白線が両方とも認識されなかったと判定された場合は、左右の両方とも、白線特定部9によって前回線から今回の白線を特定する(ステップS28)。   Furthermore, when it is determined in step S21 that both the left and right white lines have not been recognized, the white line for this time is specified from the previous line by the white line specifying unit 9 for both the left and right sides (step S28).

次に、図6を参照して、図4のステップS14において行われる「補間なし」の場合の白線検出処理について説明する。まず、認識判定部3は、図4のステップS3で行った判定の結果を確認する(ステップS31)。ここで、左右の白線が両方とも認識されていた場合は、左右の両方とも白線認識部1により認識された白線を採用する(ステップS32)。   Next, the white line detection process in the case of “no interpolation” performed in step S14 of FIG. 4 will be described with reference to FIG. First, the recognition determination unit 3 confirms the result of the determination performed in step S3 of FIG. 4 (step S31). Here, when both the left and right white lines are recognized, the white lines recognized by the white line recognition unit 1 are adopted for both the left and right sides (step S32).

また、上記ステップS31において、左右のうち何れか一方の白線のみが認識されたと判定された場合は、白線認識部1により認識された白線を採用するとともに、白線認識部1により認識されなかった方については白線特定部9によって前回線から今回の白線を特定する(ステップS33)。   If it is determined in step S31 that only one of the left and right white lines has been recognized, the white line recognized by the white line recognition unit 1 is adopted and the white line recognition unit 1 does not recognize it. For white line, the white line specifying unit 9 specifies the current white line from the previous line (step S33).

さらに、上記ステップS31において、左右の白線が両方とも認識されなかったと判定された場合は、左右の両方とも、白線特定部9によって前回線から今回の白線を特定する(ステップS34)。   Furthermore, when it is determined in step S31 that both the left and right white lines have not been recognized, the white line for this time is specified from the previous line by the white line specifying unit 9 for both the left and right sides (step S34).

図7〜図9は、白線認識部1により左右のうち何れか一方の白線のみが認識された場合において、認識されなかった方の白線を求める動作を説明するための図である。なお、この図7〜図9の例では、認識された白線の信頼度は所定値より大きいものと仮定している。   FIGS. 7 to 9 are diagrams for explaining an operation for obtaining the white line that is not recognized when only one of the left and right white lines is recognized by the white line recognition unit 1. In the examples of FIGS. 7 to 9, it is assumed that the reliability of the recognized white line is greater than a predetermined value.

図7は、車両が車線に沿って直進中であると判定された場合の動作例を示す図である。図7(a)は前回のタイミングで左右の白線が両方とも認識され、かつ、車両が車線に沿って直進中の状態を示している。図7(b)は今回のタイミングで左側の白線101のみが認識された状態を示している。ここでは、今回認識された白線101の方向と車両の進行方向とに基づいて、車両が車線に沿って直進中であると判定されるので、白線補間部8によって白線の補間処理が行われ、補間線102が求められている。   FIG. 7 is a diagram illustrating an operation example when it is determined that the vehicle is traveling straight along the lane. FIG. 7A shows a state in which both the left and right white lines are recognized at the previous timing, and the vehicle is traveling straight along the lane. FIG. 7B shows a state where only the left white line 101 is recognized at the current timing. Here, since it is determined that the vehicle is traveling straight along the lane based on the direction of the white line 101 recognized this time and the traveling direction of the vehicle, the white line interpolation unit 8 performs white line interpolation processing. An interpolation line 102 is desired.

図8は、車線逸脱の可能性があると判定された場合の動作例を示す図である。図8(a)は、前回のタイミングで左右の白線が両方とも認識され、車両が車線に沿って直進中でなく、かつ、左右の白線が平行であると判定された状態、つまり車線逸脱の可能性があると判定された状態を示している。この場合は、白線補間部8によって「補間あり」の設定がされる。   FIG. 8 is a diagram illustrating an operation example when it is determined that there is a possibility of lane departure. FIG. 8A shows a state in which both the left and right white lines are recognized at the previous timing, the vehicle is not moving straight along the lane, and the left and right white lines are determined to be parallel, that is, lane departure It shows a state that is determined to be possible. In this case, “with interpolation” is set by the white line interpolation unit 8.

図8(b)は、今回のタイミングで左側の白線101のみが認識された状態を示している。ここでは、車両が車線に沿って直進中ではないと判定されているので、白線補間部8による前回の設定結果「補間あり」が維持される。これにより、白線補間部8によって白線の補間処理が行われ、補間線102が求められている。   FIG. 8B shows a state where only the left white line 101 is recognized at the current timing. Here, since it is determined that the vehicle is not traveling straight along the lane, the previous setting result “with interpolation” by the white line interpolation unit 8 is maintained. As a result, white line interpolation processing is performed by the white line interpolation unit 8 to obtain the interpolation line 102.

図9は、車両が分岐路を走行中であると判定された場合の動作例を示す図である。図9(a)は、前回のタイミングで左右の白線が両方とも認識され、車両が車線に沿って直進中でなく、かつ、左右の白線が平行でないと判定された状態、つまり分岐路を走行中であると判定された状態を示している。この場合は、白線補間部8によって「補間なし」の設定がされる。   FIG. 9 is a diagram illustrating an operation example when it is determined that the vehicle is traveling on a branch road. FIG. 9A shows a state where both the left and right white lines are recognized at the previous timing, the vehicle is determined not to go straight along the lane, and the left and right white lines are not parallel, that is, travels on a branch road. The state determined to be in the middle is shown. In this case, “no interpolation” is set by the white line interpolation unit 8.

図9(b)は、今回のタイミングで左側の白線のみが認識された状態を示している。ここでは、車両が車線に沿って直進中ではないと判定されているので、白線補間部8による前回の設定結果「補間なし」が維持される。これにより、白線特定部9によって前回線103を用いて今回の白線104が特定されている。   FIG. 9B shows a state in which only the left white line is recognized at the current timing. Here, since it is determined that the vehicle is not traveling straight along the lane, the previous setting result “no interpolation” by the white line interpolation unit 8 is maintained. As a result, the white line 104 of this time is specified by the white line specifying unit 9 using the previous line 103.

以上詳しく説明したように、本実施形態では、図9(b)に示すように、車両後方のリアカメラ200により撮影された画像において認識された白線が分岐路の外側線のみであった場合、図9(a)のように左右の白線が認識されていたときに行われた前回の判定において白線が平行でないと判定されていたときは、今回認識された斜めの外側線から今回認識されなかった本線側の白線を平行線により補間するための補間処理を行わないようにしている。つまり、前回線によって本線側の白線を特定するようにしている。このように構成した本実施形態によれば、車両が分岐路を走行しているときに誤った位置に本線の破線が補間される不都合をなくし、白線の検出精度を向上させることができる。その結果、車線逸脱の誤警報の発生を防ぐことができる。   As described above in detail, in the present embodiment, as shown in FIG. 9B, when the white line recognized in the image photographed by the rear camera 200 behind the vehicle is only the outer line of the branch road, When it is determined that the white line is not parallel in the previous determination performed when the left and right white lines are recognized as shown in FIG. 9A, the current line is not recognized from the oblique outer line recognized this time. Further, the interpolation processing for interpolating the white line on the main line side with the parallel lines is not performed. That is, the white line on the main line side is specified by the previous line. According to the present embodiment configured as described above, it is possible to eliminate the inconvenience of interpolating the main broken line at an incorrect position when the vehicle is traveling on a branch road, and to improve white line detection accuracy. As a result, it is possible to prevent a false alarm of lane departure.

なお、上記実施形態では、白線の平行度に加えて、白線の信頼度も考慮して白線補間処理の有無を決定する例について説明したが、本発明はこれに限定されない。すなわち、白線の信頼度は用いず、よりシンプルに白線補間処理の有無を決定するようにしてもよい。図10は、その場合の動作例を示すフローチャートである。   In the above-described embodiment, the example in which the presence / absence of the white line interpolation processing is determined in consideration of the reliability of the white line in addition to the parallelism of the white line has been described, but the present invention is not limited to this. That is, the presence / absence of white line interpolation processing may be determined more simply without using white line reliability. FIG. 10 is a flowchart showing an operation example in that case.

まず、白線認識部1は、リアカメラ200より入力される車両後方の撮影画像において路上の白線を認識する(ステップS41)。また、認識判定部3は、白線認識部1により車両の左右の白線が両方とも認識されたか、左右のうち何れか一方の白線のみが認識されたか、左右の白線が両方とも認識されなかったかを判定する(ステップS42)。   First, the white line recognizing unit 1 recognizes a white line on the road in a photographed image behind the vehicle input from the rear camera 200 (step S41). Also, the recognition determination unit 3 determines whether both the left and right white lines of the vehicle are recognized by the white line recognition unit 1, only one of the left and right white lines is recognized, or whether both the left and right white lines are not recognized. Determination is made (step S42).

ここで、左右の白線が両方とも認識されたと認識判定部3により判定された場合、白線認識部1により認識された左右の白線を両方とも採用する(ステップS43)。そして、白線情報検出部4は、白線認識部1により認識された左右の白線の位置と左右の白線間隔とを検出して白線情報記憶部5に記憶させる(ステップS44)。   Here, when the recognition determination unit 3 determines that both the left and right white lines are recognized, both the left and right white lines recognized by the white line recognition unit 1 are employed (step S43). Then, the white line information detection unit 4 detects the positions of the left and right white lines recognized by the white line recognition unit 1 and the spacing between the left and right white lines, and stores them in the white line information storage unit 5 (step S44).

さらに、白線平行度判定部7は、白線認識部1により認識された左右の白線の成す角度が所定値以内か否かを確認することによって、左右の白線が平行か否かを判定し、その判定結果を白線情報記憶部5に記憶させる(ステップS45)。   Further, the white line parallelism determination unit 7 determines whether or not the left and right white lines are parallel by checking whether the angle formed by the left and right white lines recognized by the white line recognition unit 1 is within a predetermined value. The determination result is stored in the white line information storage unit 5 (step S45).

また、上記ステップS42において、左右のうち何れか一方の白線のみが認識されたと認識判定部3により判定された場合、車両直進性判定部6は、白線認識部1により認識された白線の方向と車両の進行方向との成す角度が所定値(例えば、1.5deg)以内か否かを確認することによって、車両が車線に沿って直進中か否かを判定する(ステップS46)。   Further, when the recognition determination unit 3 determines that only one of the left and right white lines has been recognized in step S42, the vehicle straightness determination unit 6 determines the direction of the white line recognized by the white line recognition unit 1 and It is determined whether or not the vehicle is traveling straight along the lane by checking whether or not the angle formed with the traveling direction of the vehicle is within a predetermined value (for example, 1.5 deg) (step S46).

ここで、車両が車線に沿って直進中であると判定された場合、白線認識部1により認識された白線を採用するとともに、白線認識部1により認識されなかった方については白線補間部8による補間によって補間線を算出する(ステップS47)。そして、白線情報検出部4は、白線認識部1により認識された一方の白線の位置を検出して白線情報記憶部5に記憶させる(ステップS48)。なお、他方の白線の位置および白線間隔は、以前に記憶されたものを維持する。   Here, when it is determined that the vehicle is traveling straight along the lane, the white line recognized by the white line recognition unit 1 is adopted, and the one not recognized by the white line recognition unit 1 is determined by the white line interpolation unit 8. An interpolation line is calculated by interpolation (step S47). Then, the white line information detection unit 4 detects the position of one white line recognized by the white line recognition unit 1 and stores it in the white line information storage unit 5 (step S48). The position of the other white line and the white line interval are maintained as previously stored.

一方、車両が車線に沿って直進中でないと判定された場合、白線補間部8は、白線情報記憶部5を参照することにより、前回のタイミングで白線が平行と判定されていたか否かを判定する(ステップS49)。前回のタイミングで白線が平行と判定されていた場合、処理はステップS47に進む。   On the other hand, when it is determined that the vehicle is not traveling straight along the lane, the white line interpolation unit 8 refers to the white line information storage unit 5 to determine whether the white line has been determined to be parallel at the previous timing. (Step S49). If it is determined that the white lines are parallel at the previous timing, the process proceeds to step S47.

一方、前回のタイミングで白線が平行でないと判定されていた場合、白線認識部1により認識された白線を採用するとともに、白線認識部1により認識されなかった方については白線特定部9によって前回線から今回の白線を特定する(ステップS50)。そして、処理はステップS48に進む。   On the other hand, when it is determined that the white lines are not parallel at the previous timing, the white line recognized by the white line recognition unit 1 is adopted, and the white line identifying unit 9 determines whether the white line is recognized by the white line recognition unit 1 From this, the current white line is specified (step S50). Then, the process proceeds to step S48.

さらに、上記ステップS42において、左右の白線が両方とも認識されなかったと認識判定部3により判定された場合は、左右の両方とも、白線特定部9によって前回線から今回の白線を特定する(ステップS51)。   Further, when the recognition determining unit 3 determines that both the left and right white lines are not recognized in step S42, the white line specifying unit 9 specifies the current white line from the previous line for both the left and right (step S51). ).

なお、図10のフローチャートにおいて、ステップS46の判定を省略し、車両が車線に沿って直進中か否かを問わずステップS49の判定を行うようにしてもよい。また、図4のフローチャートにおいてもステップS8の判定を省略し、車両が車線に沿って直進中か否かを問わず白線補間部8による前回の設定結果に従うようにしてもよい。   In the flowchart of FIG. 10, the determination in step S <b> 46 may be omitted, and the determination in step S <b> 49 may be performed regardless of whether the vehicle is traveling straight along the lane. Also, in the flowchart of FIG. 4, the determination in step S <b> 8 may be omitted, and the previous setting result by the white line interpolation unit 8 may be followed regardless of whether or not the vehicle is traveling straight along the lane.

また、上記実施形態では、白線平行度判定部7は、左右の白線の成す角度が所定値(例えば、1.0deg)以内か否かを確認することによって白線の平行度を判定する例について説明したが、本発明はこれに限定されない。例えば、白線認識部1より認識された左右の白線の信頼度が両方とも所定値より大きいときに白線情報検出部4により検出された白線間隔Wに対して、今回検出された白線間隔がW±α(αは許容誤差値)以内の値なっているか否かを更に判定するようにしてもよい。   In the above-described embodiment, an example in which the white line parallelism determination unit 7 determines the parallelism of the white lines by confirming whether or not the angle formed by the left and right white lines is within a predetermined value (for example, 1.0 deg). However, the present invention is not limited to this. For example, the white line interval detected this time is W ± with respect to the white line interval W detected by the white line information detection unit 4 when the reliability of both the left and right white lines recognized by the white line recognition unit 1 is greater than a predetermined value. It may be further determined whether or not the value is within α (α is an allowable error value).

また、上記実施形態では、車両直進性判定部6は、白線認識部1により認識された白線の方向と車両の進行方向との成す角度が所定値(例えば、1.5deg)以内か否かを確認することによって車両の直進性を判定する例について説明したが、本発明はこれに限定されない。例えば、車両が直進しているか否かは、ハンドル操舵角の情報に基づいて判定することも可能である。   In the above embodiment, the vehicle straightness determination unit 6 determines whether the angle formed by the direction of the white line recognized by the white line recognition unit 1 and the traveling direction of the vehicle is within a predetermined value (for example, 1.5 deg). Although an example in which the straightness of the vehicle is determined by checking has been described, the present invention is not limited to this. For example, whether or not the vehicle is traveling straight can be determined based on information on the steering wheel steering angle.

その他、上記実施形態は、何れも本発明を実施するにあたっての具体化の一例を示したものに過ぎず、これによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。   In addition, each of the above-described embodiments is merely an example of implementation in carrying out the present invention, and the technical scope of the present invention should not be construed in a limited manner. That is, the present invention can be implemented in various forms without departing from the gist or the main features thereof.

1 白線認識部
2 白線信頼度算出部
3 認識判定部
4 白線情報検出部
5 白線情報記憶部
6 車両直進性判定部
7 白線平行度判定部
8 白線補間部
9 白線特定部
10 信頼度判定部
DESCRIPTION OF SYMBOLS 1 White line recognition part 2 White line reliability calculation part 3 Recognition determination part 4 White line information detection part 5 White line information storage part 6 Vehicle straightness determination part 7 White line parallelism determination part 8 White line interpolation part 9 White line specification part 10 Reliability determination part

Claims (4)

車両後方のリアカメラにより撮影された画像の認識処理によって路上の白線を検出する白線検出装置であって、
上記リアカメラより入力される車両後方の撮影画像において路上の白線を認識する白線認識部と、
上記白線認識部により車両の左右の白線が両方とも認識されたか、左右のうち何れか一方の白線のみが認識されたかを判定する認識判定部と、
上記認識判定部により左右の白線が両方とも認識されたと判定された場合、上記白線認識部により認識された左右の白線について白線間隔を検出して白線情報記憶部に記憶させる白線情報検出部と、
上記認識判定部により左右の白線が両方とも認識されたと判定された場合、上記白線認識部により認識された左右の白線の平行度を判定する白線平行度判定部と、
上記認識判定部により何れか一方の白線のみが認識されたと判定された場合、上記白線認識部により認識された上記一方の白線の位置および上記白線情報記憶部に記憶されている上記白線間隔に基づいて、上記白線認識部により認識されなかった方の白線を補間によって算出する白線補間部とを備え、
上記白線認識部、上記認識判定部、上記白線情報検出部および上記白線平行度判定部の処理を所定の間隔毎に繰り返し実行し、上記認識判定部による今回の判定において、上記白線認識部により上記何れか一方の白線のみが認識されたと判定された場合であって、上記白線平行度判定部による前回の判定において上記白線が平行でないと判定されていたときは、上記白線補間部による白線の補間処理を行わないように制御することを特徴とする白線検出装置。
A white line detection device that detects a white line on a road by recognition processing of an image taken by a rear camera behind the vehicle,
A white line recognition unit for recognizing a white line on the road in a captured image behind the vehicle input from the rear camera;
A recognition determination unit that determines whether both the left and right white lines of the vehicle are recognized by the white line recognition unit, or only one of the left and right white lines is recognized;
When it is determined by the recognition determination unit that both the left and right white lines are recognized, a white line information detection unit that detects a white line interval for the left and right white lines recognized by the white line recognition unit and stores the white line information in a white line information storage unit;
When it is determined by the recognition determination unit that both the left and right white lines are recognized, a white line parallelism determination unit that determines the parallelism of the left and right white lines recognized by the white line recognition unit;
When it is determined by the recognition determination unit that only one of the white lines is recognized, based on the position of the one white line recognized by the white line recognition unit and the white line interval stored in the white line information storage unit A white line interpolating unit that calculates a white line that is not recognized by the white line recognizing unit by interpolation,
The processes of the white line recognition unit, the recognition determination unit, the white line information detection unit, and the white line parallelism determination unit are repeatedly executed at predetermined intervals, and in the current determination by the recognition determination unit, the white line recognition unit If it is determined that only one of the white lines has been recognized, and the white line is determined not to be parallel in the previous determination by the white line parallelism determination unit, the white line is interpolated by the white line interpolation unit. A white line detection device that is controlled so as not to perform processing.
上記白線情報検出部は、上記認識判定部により左右の白線が両方とも認識されたと判定された場合、上記白線間隔に加えて、上記認識された左右の白線の位置を検出して上記白線情報記憶部に記憶させ、
上記認識判定部により上記何れか一方の白線のみが認識されたと判定された場合であって、上記白線平行度判定部による前回の判定において上記白線が平行でないと判定されていたときに、上記白線情報記憶部に記憶されている左右の白線の位置のうち、上記白線認識部により今回認識されなかった方に対応する白線の位置を利用して、今回の白線の位置を特定する白線特定部を更に備えたことを特徴とする請求項1に記載の白線検出装置。
The white line information detection unit detects the positions of the recognized white lines on the left and right sides in addition to the white line interval when the recognition determination unit determines that both the left and right white lines are recognized. To remember
When it is determined that only one of the white lines has been recognized by the recognition determination unit, and the white line is determined not to be parallel in the previous determination by the white line parallelism determination unit, the white line Of the positions of the left and right white lines stored in the information storage unit, using the position of the white line corresponding to the one not recognized at this time by the white line recognition unit, a white line specifying unit for specifying the position of the current white line The white line detection device according to claim 1, further comprising:
上記車両の直進性を判定する車両直進性判定部を更に備え、
上記車両直進性判定部により上記車両が直進中であると判定された場合には上記白線補間部による白線の補間処理を実行し、上記車両直進性判定部により上記車両が直進中でないと判定された場合であって、上記白線平行度判定部による前回の判定において上記白線が平行でないと判定されていたときは、上記白線補間部による白線の補間処理を行わないように制御することを特徴とする請求項1に記載の白線検出装置。
The vehicle further includes a vehicle straightness determination unit that determines straightness of the vehicle,
If the vehicle straightness determination unit determines that the vehicle is traveling straight, white line interpolation processing is performed by the white line interpolation unit, and the vehicle straightness determination unit determines that the vehicle is not traveling straight. If the white line is determined not to be parallel in the previous determination by the white line parallelism determination unit, control is performed so as not to perform white line interpolation processing by the white line interpolation unit. The white line detection device according to claim 1.
車両後方のリアカメラにより撮影された画像の認識処理によって路上の白線を検出する白線検出方法であって、
白線検出装置の白線認識部が、上記リアカメラより入力される車両後方の撮影画像において路上の白線を認識する第1のステップと、
上記白線検出装置の認識判定部が、上記白線認識部により車両の左右の白線が両方とも認識されたか、左右のうち何れか一方の白線のみが認識されたかを判定する第2のステップと、
上記白線検出装置の白線情報検出部が、上記認識判定部により左右の白線が両方とも認識されたと判定された場合、上記白線認識部により認識された左右の白線について白線間隔を検出して白線情報記憶部に記憶させる第3のステップと、
上記白線検出装置の白線平行度判定部が、上記認識判定部により左右の白線が両方とも認識されたと判定された場合、上記白線認識部により認識された左右の白線の平行度を判定する第4のステップとを所定の間隔毎に繰り返し実行し、
上記認識判定部による今回の判定において、上記白線認識部により上記何れか一方の白線のみが認識されたと判定された場合であって、上記白線平行度判定部による前回の判定において上記白線が平行であると判定されていたときに、上記白線検出装置の白線補間部が、上記白線認識部により認識された上記一方の白線の位置および上記白線情報記憶部に記憶されている上記白線間隔に基づいて、上記白線認識部により認識されなかった方の白線を補間によって算出する第5のステップとを有し、
上記認識判定部による今回の判定において、上記白線認識部により上記何れか一方の白線のみが認識されたと判定された場合であって、上記白線平行度判定部による前回の判定において上記白線が平行でないと判定されていたときは、上記白線補間部による白線の補間処理を行わないようにしたことを特徴とする白線検出方法。
A white line detection method for detecting a white line on a road by recognition processing of an image taken by a rear camera behind a vehicle,
A first step in which a white line recognition unit of the white line detection device recognizes a white line on the road in a captured image of the rear of the vehicle input from the rear camera;
A second step in which the recognition determination unit of the white line detection device determines whether both the left and right white lines of the vehicle have been recognized by the white line recognition unit, or only one of the left and right white lines has been recognized;
When the white line information detection unit of the white line detection device determines that both the left and right white lines are recognized by the recognition determination unit, the white line information is detected by detecting the white line interval for the left and right white lines recognized by the white line recognition unit. A third step to be stored in the storage unit;
When the white line parallelism determination unit of the white line detection device determines that both the left and right white lines are recognized by the recognition determination unit, the fourth determination unit determines the parallelism of the left and right white lines recognized by the white line recognition unit. Are repeatedly executed at predetermined intervals,
In the current determination by the recognition determination unit, the white line recognition unit determines that only one of the white lines is recognized, and the white line is parallel in the previous determination by the white line parallelism determination unit. When it is determined that there is a white line interpolation unit of the white line detection device based on the position of the one white line recognized by the white line recognition unit and the white line interval stored in the white line information storage unit. And a fifth step of calculating by interpolation the white line that has not been recognized by the white line recognition unit,
In the current determination by the recognition determination unit, when the white line recognition unit determines that only one of the white lines is recognized, the white line is not parallel in the previous determination by the white line parallelism determination unit. A white line detection method, wherein the white line interpolation processing by the white line interpolation unit is not performed.
JP2012234356A 2012-10-24 2012-10-24 White line detection device and white line detection method Active JP5931691B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012234356A JP5931691B2 (en) 2012-10-24 2012-10-24 White line detection device and white line detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012234356A JP5931691B2 (en) 2012-10-24 2012-10-24 White line detection device and white line detection method

Publications (2)

Publication Number Publication Date
JP2014085842A JP2014085842A (en) 2014-05-12
JP5931691B2 true JP5931691B2 (en) 2016-06-08

Family

ID=50788846

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012234356A Active JP5931691B2 (en) 2012-10-24 2012-10-24 White line detection device and white line detection method

Country Status (1)

Country Link
JP (1) JP5931691B2 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6541942B2 (en) * 2014-05-20 2019-07-10 国立大学法人電気通信大学 Parcel detection system
JP6456682B2 (en) * 2014-12-25 2019-01-23 株式会社Soken Traveling line recognition device
JP6106229B2 (en) 2015-08-10 2017-03-29 富士重工業株式会社 Lane recognition device
CN109040613B (en) * 2017-06-09 2022-03-25 株式会社爱信 Image processing apparatus

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4092308B2 (en) * 2004-06-02 2008-05-28 トヨタ自動車株式会社 Boundary line detection device
JP4696539B2 (en) * 2004-11-26 2011-06-08 アイシン精機株式会社 Vehicle travel support device
JP5066123B2 (en) * 2009-03-24 2012-11-07 日立オートモティブシステムズ株式会社 Vehicle driving support device
JP5603687B2 (en) * 2010-07-15 2014-10-08 富士重工業株式会社 Vehicle white line recognition device

Also Published As

Publication number Publication date
JP2014085842A (en) 2014-05-12

Similar Documents

Publication Publication Date Title
JP5926080B2 (en) Traveling lane marking recognition device and program
JP5276637B2 (en) Lane estimation device
JP6416293B2 (en) Method of tracking a target vehicle approaching a car by a car camera system, a camera system, and a car
WO2017158983A1 (en) Object recognition device, object recognition method, and object recognition program
WO2016002405A1 (en) Parking space recognition device
US11024051B2 (en) Object detection device
US9619717B2 (en) Lane-line recognition apparatus
US9202106B2 (en) Eyelid detection device
JP6302519B2 (en) Vehicle driving support device
JP5971020B2 (en) Lane recognition device
US20150073660A1 (en) Method for controlling steering wheel and system therefor
JP5931691B2 (en) White line detection device and white line detection method
JP2017147629A (en) Parking position detection system, and automatic parking system using the same
JP4721278B2 (en) Lane departure determination device, lane departure prevention device, and lane tracking support device
JP6086424B2 (en) In-vehicle image processing device
JP2016099719A (en) Travel section line recognition apparatus
JP6314655B2 (en) Marking line detection device, marking line detection method
JP2010061375A (en) Apparatus and program for recognizing object
JP5559650B2 (en) Lane estimation device
JP2012517055A (en) Method and apparatus for operating a vehicle driver assistance system based on video
JP6799030B2 (en) Image recognition device, image recognition method, and parking support system
JP2001082954A (en) Image processing device and image processing distance- measuring method
JP5760523B2 (en) Runway estimation apparatus and program
JP2019151307A (en) Parking area detection device and parking area detection method
JP2010002985A (en) Moving vector calculation device, obstacle detection device and moving vector calculation method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150911

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160426

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160428

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160427

R150 Certificate of patent or registration of utility model

Ref document number: 5931691

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150