JP2018037053A - 車線境界線を検出する方法、装置、およびデバイス - Google Patents

車線境界線を検出する方法、装置、およびデバイス Download PDF

Info

Publication number
JP2018037053A
JP2018037053A JP2016244016A JP2016244016A JP2018037053A JP 2018037053 A JP2018037053 A JP 2018037053A JP 2016244016 A JP2016244016 A JP 2016244016A JP 2016244016 A JP2016244016 A JP 2016244016A JP 2018037053 A JP2018037053 A JP 2018037053A
Authority
JP
Japan
Prior art keywords
lane boundary
candidate lane
point
candidate
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016244016A
Other languages
English (en)
Other versions
JP6347827B2 (ja
Inventor
白文静
Wenjing Bai
杜▲瑩▼芳
Jiatong Zheng
▲劉▼威
Wei Liu
袁淮
Huai Yuan
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Neusoft Corp
Neusoft Reach Automotive Technology Shanghai Co Ltd
Original Assignee
Neusoft Corp
Neusoft Reach Automotive Technology Shanghai Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Neusoft Corp, Neusoft Reach Automotive Technology Shanghai Co Ltd filed Critical Neusoft Corp
Publication of JP2018037053A publication Critical patent/JP2018037053A/ja
Application granted granted Critical
Publication of JP6347827B2 publication Critical patent/JP6347827B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/243Classification techniques relating to the number of classes
    • G06F18/2431Multiple classes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source

Abstract

【課題】車線境界線を正確に検出する方法を提供する。
【解決手段】車線画像をフィルタリングすることによって車線画像中の候補車線境界線領域を決定する。決定した各候補車線境界線領域について中心点を抽出する。抽出した、各候補車線境界線領域の中心点に対して曲線フィッティングを実行することによって各候補車線境界線領域のフィッティング曲線を得る。各候補車線境界線領域のフィッティング曲線の傾き角に従って、候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類する。分類結果に基づいて候補車線境界線領域をグループに分割し、第1の所定の条件を満たす2つのグループを目標グループとして決定する。決定した目標グループ中の候補車線境界線領域を車線境界線領域として認識する。
【選択図】図2

Description

本開示は、情報処理の技術分野に関し、特に、車線境界線を検出する方法、装置、およびデバイスに関する。
現在では、多くの車両が運転支援システムを備えている。いくつかの運転支援システムは、道路上の車線境界線を検出することによって、車両の車線情報を提供することができる。例えば、先進運転支援システム(ADAS)の重要な部分として、車両逸脱警報システムは、車両が走行している車線の情報を検出し、車両がその車線から逸脱したときに運転者に警報プロンプトを与えて、運転の安全性を保証することができる。
従来の技術では、車線画像をフィルタリングすることによって車線画像中の車線境界線領域を検出することができ、一般に、車線情報は、車線境界線によって識別することができる。しかし、発明者が行った研究によれば、フィルタリングによって得られる車線境界線領域は、一部は現実の車線境界線の領域であるが、一部はそうではない。すなわち、従来の技術で検出される車線境界線領域は、その全てが現実の車線境界線の領域であるわけではなく、検出された車線境界線領域は、現実の車線境界線に対応しないいくつかの雑音領域も含んでいる。したがって、従来の技術における車線境界線領域の検出は、確度が不十分であり、これにより車線情報の検出が不正確になり、それにより車両逸脱警報システムが正確に警報プロンプトを出すことができなくなる。
上記に鑑みて、本開示によれば、車線境界線を検出する方法、装置、およびデバイスを提供して、フィルタリングによって得られる車線境界線領域から現実の車線境界線に対応しない領域をフィルタリングによって除去して、車線境界線領域の検出および車線情報をより正確にすることによって、車両逸脱警報システムがより正確に警報プロンプトを出すことができるようにする。
第1の態様では、車線境界線を検出する方法であって、
車線画像をフィルタリングすることによって車線画像中の候補車線境界線領域を決定するステップと、
候補車線境界線領域のそれぞれについて中心点を抽出するステップであり、中心点が、候補車線境界線領域のそれぞれにおける各行の2つの終端点の間の中央点を含むステップと、
候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングを実行することによって候補車線境界線領域のそれぞれのフィッティング曲線を得るステップと、
候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って、候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類するステップと、
分類の結果に基づいて候補車線境界線領域をグループに分割するステップであり、曲線状候補車線境界線領域は、それぞれ単独で1つのグループを形成し、直線状候補車線境界線領域は、1つまたは複数で1つのグループを形成し、同じグループ内の候補車線境界線領域は、同じ車線境界線に対応するステップと、
グループのうちから第1の所定の条件を満たす2つを目標グループとして決定し、目標グループ中の候補車線境界線領域を車線境界線領域として認識するステップとを含み、
第1の所定の条件が、2つのグループに対応する車線境界線の間の距離が第1の所定の距離範囲内であること、および2つのグループに対応する車線境界線の狭角が第1の所定の狭角範囲内であること、のうちの少なくとも1つを含む、方法が提供される。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域は、同じグループであり、
第2の所定の条件は、2つの直線状候補車線境界線領域のフィッティング線分が垂直方向に互いに重なり合わず、2つの直線状候補車線境界線領域の垂直方向に互いに最も近い中心点どうしの間の距離が第2の所定の距離範囲内であり、2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内であることを含み、直線状候補車線境界線領域のフィッティング線分は、直線状候補車線境界線領域の中心点に対して直線フィッティングを実行することによって得られる。
任意選択で、候補車線境界線領域のそれぞれについて中心点を抽出した後で、この方法は、
候補車線境界線領域のそれぞれについて、中心点における有効画素の数を有効画素数として認識するステップと、
候補車線境界線領域のうち、所定の数しきい値(number threshold)より小さい有効画素数を有する候補車線境界線領域をフィルタリングによって除去し、候補車線境界線領域のうちの残りの候補車線境界線領域について、候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングアクションを実行するステップと、をさらに含む。
任意選択で、候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングを実行することによって候補車線境界線領域のそれぞれのフィッティング曲線を得るステップは、
候補車線境界線領域のそれぞれの中心点から複数の標定点を選択するステップであり、標定点が候補車線境界線領域のそれぞれの2つの端部の中心点を含むステップと、
候補車線境界線領域のそれぞれの標定点に対してフィッティングを実行することによって候補車線境界線領域のそれぞれの中の隣接する標定点の対の曲線方程式を得るステップと、
候補車線境界線領域のそれぞれの隣接する標定点の対の曲線方程式を用いて、候補車線境界線領域のそれぞれのフィッティング曲線を形成するステップとを含む。
任意選択で、候補車線境界線領域のそれぞれの中心点から複数の標定点を選択するステップは、
候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定するステップであり、屈曲点が峰点または谷点であるステップと、
候補車線境界線領域のうちの1つの候補車線境界線領域の中心点の中に屈曲点がないことに応答して、標定点として前記1つの候補車線境界線領域から第1の目標点を選択するステップであり、前記1つの候補車線境界線領域内の隣接する第1の目標点の対の間の距離が互いに等しく、前記1つの候補車線境界線領域の第1の目標点が、前記1つの候補車線境界線領域の2つの端部における中心点を含むステップと、
前記1つの候補車線境界線領域の中心点の中に屈曲点があることに応答して、標定点として前記1つの候補車線境界線領域から第2の目標点を選択するステップであり、前記1つの候補車線境界線領域の標定点である第2の目標点が、前記1つの候補車線境界線領域の2つの端部における中心点、および屈曲点を含み、前記1つの候補車線境界線領域の第1の端部における中心点と屈曲点の間に位置する任意の隣接する2つの第2の目標点の間の距離が互いに等しく、前記1つの候補車線境界線領域の第2の端部における中心点と屈曲点の間に位置する任意の隣接する2つの第2の目標点の間の距離が互いに等しいステップとを含む。
任意選択で、この方法は、
候補車線境界線領域のそれぞれの現実の長さを計算し、候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定するステップであり、屈曲点が峰点または谷点であるステップと、
候補車線境界線領域のうち、その現実の長さが所定の長さ範囲内であり、その中心点が屈曲点を含まない候補車線境界線領域を、直線状候補車線境界線領域として認識し、候補車線境界線領域のうちの残りについて、候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って、候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類するステップを実行するステップとをさらに含む。
任意選択で、候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類するステップは、
候補車線境界線領域のそれぞれの中心点から第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点を選択するステップと、
候補車線境界線領域のそれぞれについて、第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点におけるフィッティング曲線の傾き角を、第1の傾き角、第2の傾き角、および第3の傾き角として計算するステップと、
候補車線境界線領域のそれぞれの第1の傾き角、第2の傾き角、および第3の傾き角に基づいて、候補車線境界線領域のうち、第3の所定の条件または第4の所定の条件を満たす候補車線境界線領域を、曲線状候補車線境界線領域として認識し、候補車線境界線領域のうち、第3の所定の条件も第4の所定の条件も満たさない他の候補車線境界線領域を、直線状候補車線境界線領域として認識するステップとをさらに含み、
第3の所定の条件は、対応する候補車線境界線領域の第1の傾き角と第2の傾き角の間の差、および対応する候補車線境界線領域の第2の傾き角と第3の傾き角の間の差が、両方とも、第1の傾き角しきい値より大きいことであり、
第4の所定の条件は、対応する候補車線境界線領域の第1の傾き角と第2の傾き角の間の差が、第1の傾き角しきい値より小さく、対応する候補車線境界線領域の第2の傾き角と第3の傾き角の間の差が、第2の傾き角しきい値より大きいことである。
任意選択で、候補車線境界線領域のそれぞれの中心点から第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点を選択するステップは、
候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定するステップであり、屈曲点が峰点または谷点であるステップと、
候補車線境界線領域のうちの1つの候補車線境界線領域の中心点の中に屈曲点がないことに応答して、前記1つの候補車線境界線領域の第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点として、前記1つの候補車線境界線領域から任意の3つの中心点を選択するステップと、
前記1つの候補車線境界線領域の中心点の中に屈曲点があることに応答して、前記1つの候補車線境界線領域内の屈曲点を前記1つの候補車線境界線領域の第2のサンプリング点として決定し、前記1つの候補車線境界線領域内の第2のサンプリング点の2つの側の2つの中心点を、前記1つの候補車線境界線領域の第1のサンプリング点および第3のサンプリング点として選択するステップとを含む。
任意選択で、候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定するステップは、
候補車線境界線領域のそれぞれの中心点の中で、最大の水平座標を有する第3の目標点および最小の水平座標を有する第4の目標点を探索するステップと、
第3の目標点および第4の目標点が第5の所定の条件または第6の所定の条件を満たすことに応答して、対応する候補車線境界線領域の中心点の中に屈曲点があると判定するステップと、
第3の目標点および第4の目標点が第5の所定の条件も第6の所定の条件も満たさないことに応答して、対応する候補車線境界線領域の中心点の中に屈曲点がないと判定するステップとを含み、
第5の所定の条件は、第3の目標点が対応する候補車線境界線領域の中央にあり、第4の目標点が対応する候補車線境界線領域の2つの端部のうちのいずれか1つにあることであり、
第6の所定の条件は、第4の目標点が対応する候補車線境界線領域の中央にあり、第3の目標点が対応する候補車線境界線領域の2つの端部のうちのいずれか1つにあることである。
任意選択で、2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内にあることは、2つの直線状候補車線境界線領域のフィッティング線分の狭角が第2の所定の狭角範囲内にあること、2つの直線状候補車線境界線領域の推定された現実の狭角が第3の所定の狭角範囲内にあること、および2つの直線状候補車線境界線領域のフィッティング線分の間のずれ距離が第3の所定の距離範囲内にあること、のうちの少なくとも1つを含み、
ずれ距離は、第1の交差点と第2の交差点の間の距離であり、第1の交差点および第2の交差点は、それぞれ、2つの候補車線境界線領域のフィッティング線分の延長線と水平中央線との交差点であり、2つの直線状候補車線境界線領域の垂直方向に最も近い中心点と水平中央線の間の距離は、互いに等しい。
任意選択で、第2の所定の条件は、2つの直線状候補車線境界線領域のフィッティング線分の狭角が第4の所定の狭角範囲内にある場合に、2つの直線状候補車線境界線領域のフィッティング線分の間のずれ距離が第4の所定の距離範囲内であることをさらに含み、
第2の所定の狭角範囲は、第4の所定の狭角範囲より広く、第3の所定の距離範囲は、第4の所定の距離範囲より広い。
任意選択で、目標グループ内の候補車線境界線領域を車線境界線領域として認識した後で、この方法は、
目標グループ内の車線境界線領域に対してフィッティングを実行して、車線画像内の車線境界線を得るステップをさらに含み、
目標グループのそれぞれにおける車線境界線領域は、1本の車線境界線にフィッティングされる。
第2の態様では、車線境界線を検出する装置であって、
車線画像をフィルタリングすることによって車線画像中の候補車線境界線領域を決定するように構成されたフィルタリング部と、
候補車線境界線領域のそれぞれについて中心点を抽出するように構成された抽出部であり、中心点が、候補車線境界線領域のそれぞれにおける各行の2つの終端点の間の中央点を含む抽出部と、
候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングを実行することによって候補車線境界線領域のそれぞれのフィッティング曲線を得るように構成された第1のフィルタリング部と、
候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って、候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類するように構成された分類部と、
分類結果に基づいて候補車線境界線領域をグループに分割するように構成されたグループ分け部であり、曲線状候補車線境界線領域は、それぞれ単独で1つのグループを形成し、直線状候補車線境界線領域は、1つまたは複数で1つのグループを形成し、同じグループ内の候補車線境界線領域は、同じ車線境界線に対応するグループ分け部と、
グループのうちから第1の所定の条件を満たす2つを目標グループとして決定し、目標グループ中の候補車線境界線領域を車線境界線領域として認識するように構成された第1の認識部とを含み、
第1の所定の条件が、2つのグループに対応する車線境界線の間の距離が第1の所定の距離範囲内であること、および2つのグループに対応する車線境界線の狭角が第1の所定の狭角範囲内であること、のうちの少なくとも1つを含む、装置が提供される。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域は、同じグループであり、
第2の所定の条件は、2つの直線状候補車線境界線領域のフィッティング線分が垂直方向に互いに重なり合わず、2つの直線状候補車線境界線領域の垂直方向に互いに最も近い中心点どうしの間の距離が第2の所定の距離範囲内であり、2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内であることを含み、直線状候補車線境界線領域のフィッティング線分は、直線状候補車線境界線領域の中心点に対して直線フィッティングを実行することによって得られる。
任意選択で、この装置は、
候補車線境界線領域のそれぞれについて中心点を抽出した後で、候補車線境界線領域のそれぞれについて、中心点における有効画素の数を有効画素数として認識するように構成された第2の認識部と、
候補車線境界線領域のうち、所定の数しきい値より小さい有効画素数を有する候補車線境界線領域をフィルタリングによって除去し、候補車線境界線領域のうちの残りの候補車線境界線領域について、候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングアクションを実行するように構成されたフィルタリング部とをさらに含む。
任意選択で、第1のフィッティング部は、
候補車線境界線領域のそれぞれの中心点から複数の標定点を選択するように構成された第1の選択部であり、標定点が候補車線境界線領域のそれぞれの2つの端部の中心点を含む第1の選択部と、
候補車線境界線領域のそれぞれの標定点に対してフィッティングを実行することによって候補車線境界線領域のそれぞれの中の隣接する標定点の対の曲線方程式を得るように構成された第2のフィッティング部と、
候補車線境界線領域のそれぞれの隣接する標定点の対の曲線方程式を用いて、候補車線境界線領域のそれぞれのフィッティング曲線を形成するように構成された形成部とを含む。
任意選択で、第1の選択部は、
候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定するように構成された判定部であり、屈曲点が峰点または谷点である判定部と、
候補車線境界線領域のうちの1つの候補車線境界線領域の中心点の中に屈曲点がないことに応答して、標定点として前記1つの候補車線境界線領域から第1の目標点を選択するように構成された第2の選択部であり、前記1つの候補車線境界線領域内の隣接する第1の目標点の対の間の距離が互いに等しく、前記1つの候補車線境界線領域の第1の目標点が、前記1つの候補車線境界線領域の2つの端部における中心点を含む第2の選択部と、
前記1つの候補車線境界線領域の中心点の中に屈曲点があることに応答して、前記1つの候補車線境界線領域に屈曲点がある場合に標定点として前記1つの候補車線境界線領域から第2の目標点を選択するように構成された第3の選択部であり、前記1つの候補車線境界線領域の標定点である第2の目標点が、前記1つの候補車線境界線領域の2つの端部における中心点および屈曲点を含み、前記1つの候補車線境界線領域の第1の端部における中心点と屈曲点の間に位置する任意の隣接する2つの第2の目標点の間の距離が互いに等しく、前記1つの候補車線境界線領域の第2の端部における中心点と屈曲点の間に位置する任意の隣接する2つの第2の目標点の間の距離が互いに等しい第3の選択部とを含む。
任意選択で、この装置は、
候補車線境界線領域のそれぞれの現実の長さを計算し、候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定するように構成された第1の計算部であり、屈曲点が峰点または谷点である第1の計算部と、
候補車線境界線領域のうち、その現実の長さが所定の長さ範囲内であり、その中心点が屈曲点を含まない候補車線境界線領域を、直線状候補車線境界線領域として認識し、候補車線境界線領域のうちの残りについて、候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って、候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類するステップを実行するように構成された第3の認識部とをさらに含む。
任意選択で、分類部は、
候補車線境界線領域のそれぞれの中心点から第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点を選択するように構成された第4の選択部であり、第1のサンプリング点と第2のサンプリング点の間の距離が第2のサンプリング点と第3のサンプリング点の間の距離と等しい第4の選択部と、
候補車線境界線領域のそれぞれについて、第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点におけるフィッティング曲線の傾き角を、第1の傾き角、第2の傾き角、および第3の傾き角として計算するように構成された第2の計算部と、
候補車線境界線領域のそれぞれの第1の傾き角、第2の傾き角、および第3の傾き角に基づいて、候補車線境界線領域のうち、第3の所定の条件または第4の所定の条件を満たす候補車線境界線領域を、曲線状候補車線境界線領域として認識し、候補車線境界線領域のうち、第3の所定の条件も第4の所定の条件も満たさない他の候補車線境界線領域を、直線状候補車線境界線領域として認識するように構成された第4の認識部とを含み、
第3の所定の条件は、対応する候補車線境界線領域の第1の傾き角と第2の傾き角の間の差、および対応する候補車線境界線領域の第2の傾き角と第3の傾き角の間の差が、両方とも、第1の傾き角しきい値より大きいことであり、
第4の所定の条件は、対応する候補車線境界線領域の第1の傾き角と第2の傾き角の間の差が、第1の傾き角しきい値より小さく、対応する候補車線境界線領域の第2の傾き角と第3の傾き角の間の差が、第2の傾き角しきい値より大きいことである。
任意選択で、第4の選択部は、
候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定するように構成された判定部であり、屈曲点が峰点または谷点である判定部と、
候補車線境界線領域のうちの1つの候補車線境界線領域の中心点の中に屈曲点がないことに応答して、前記1つの候補車線境界線領域の第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点として、前記1つの候補車線境界線領域から任意の3つの等間隔の中心点を選択するように構成された第5の選択部と、
前記1つの候補車線境界線領域の中心点の中に屈曲点があることに応答して、前記1つの候補車線境界線領域内の屈曲点を前記1つの候補車線境界線領域の第2のサンプリング点として決定し、前記1つの候補車線境界線領域内の第2のサンプリング点の2つの側の中心点を、前記1つの候補車線境界線領域の第1のサンプリング点および第3のサンプリング点として選択するように構成された第6の選択部であり、第1のサンプリング点として選択された中心点から第2のサンプリング点までの距離が、第3のサンプリング点として選択された中心点から第2のサンプリング点までの距離と等しい第6の選択部とを含む。
任意選択で、判定部は、
候補車線境界線領域のそれぞれの中心点の中で、最大の水平座標を有する第3の目標点および最小の水平座標を有する第4の目標点を探索するように構成された探索部と、
第3の目標点および第4の目標点が第5の所定の条件または第6の所定の条件を満たすことに応答して、対応する候補車線境界線領域の中心点の中に屈曲点があると判定するように構成された第1の判定部と、
第3の目標点および第4の目標点が第5の所定の条件も第6の所定の条件も満たさないことに応答して、対応する候補車線境界線領域の中心点の中に屈曲点がないと判定するように構成された第2の判定部とを含み、
第5の所定の条件は、第3の目標点が対応する候補車線境界線領域の中央にあり、第4の目標点が対応する候補車線境界線領域の2つの端部のうちのいずれか1つにあることであり、
第6の所定の条件は、第4の目標点が対応する候補車線境界線領域の中央にあり、第3の目標点が対応する候補車線境界線領域の2つの端部のうちのいずれか1つにあることである。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域が同じグループにある場合には、2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内にあることは、2つの直線状候補車線境界線領域のフィッティング線分の狭角が第2の所定の狭角範囲内にあること、2つの直線状候補車線境界線領域の推定された現実の狭角が第3の所定の狭角範囲内にあること、および2つの直線状候補車線境界線領域のフィッティング線分の間のずれ距離が第3の所定の距離範囲内にあること、のうちの少なくとも1つを含み、
ずれ距離は、第1の交差点と第2の交差点の間の距離であり、第1の交差点および第2の交差点は、それぞれ、2つの候補車線境界線領域のフィッティング線分の延長線と水平中央線との交差点であり、2つの直線状候補車線境界線領域の垂直方向に最も近い中心点と水平中央線の間の距離は、互いに等しい。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域が同じグループにある場合には、第2の所定の条件は、2つの直線状候補車線境界線領域のフィッティング線分の狭角が第4の所定の狭角範囲内にある場合に、2つの直線状候補車線境界線領域のフィッティング線分の間のずれ距離が第4の所定の距離範囲内であることをさらに含み、
第2の所定の狭角範囲は、第4の所定の狭角範囲より広く、第3の所定の距離範囲は、第4の所定の距離範囲より広い。
任意選択で、この装置は、
目標グループ内の候補車線境界線領域を車線境界線領域として認識した後で、目標グループ内の車線境界線領域に対してフィッティングを実行して、車線画像内の車線境界線を得るように構成された第3のフィッティング部をさらに含み、
ここで、目標グループのそれぞれにおける車線境界線領域は、1本の車線境界線にフィッティングされる。
第3の態様では、プロセッサと、メモリと、通信インタフェースと、バスシステムとを含む、車線境界線を検出するデバイスが提供される。
バスシステムは、デバイスのハードウェアを結合するように構成される。
通信インタフェースは、このデバイスと少なくとも1つの他のデバイスとの間の通信接続を実施するように構成される。
メモリは、プログラム命令およびデータを記憶するように構成される。
プロセッサは、メモリに記憶された命令およびデータを読み取り、
車線画像をフィルタリングすることによって車線画像中の候補車線境界線領域を決定する動作と、
候補車線境界線領域のそれぞれについて中心点を抽出する動作であり、中心点が、候補車線境界線領域のそれぞれにおける各行の2つの終端点の間の中央点を含む動作と、
候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングを実行することによって候補車線境界線領域のそれぞれのフィッティング曲線を得る動作と、
候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って、候補車線境界線領域を直線状車線境界線領域および曲線状候補車線境界線領域として分類する動作と、
分類の結果に基づいて候補車線境界線領域をグループに分割する動作であり、曲線状候補車線境界線領域は、それぞれ単独で1つのグループを形成し、直線状候補車線境界線領域は、1つまたは複数で1つのグループを形成し、同じグループ内の候補車線境界線領域は、同じ車線境界線に対応する動作と、
前記グループのうちから第1の所定の条件を満たす2つを目標グループとして決定し、目標グループ中の候補車線境界線領域を車線境界線領域として認識する動作とを実行するように構成され、
第1の所定の条件は、2つのグループに対応する車線境界線の間の距離が第1の所定の距離範囲内であること、および2つのグループに対応する車線境界線の狭角が第1の所定の狭角範囲内であること、のうちの少なくとも1つを含む。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域は、同じグループであり、
第2の所定の条件は、2つの直線状候補車線境界線領域のフィッティング線分が垂直方向に互いに重なり合わず、2つの直線状候補車線境界線領域の垂直方向に互いに最も近い中心点どうしの間の距離が第2の所定の距離範囲内であり、2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内であることを含み、ここで、直線状候補車線境界線領域のフィッティング線分は、直線状候補車線境界線領域の中心点に対して直線フィッティングを実行することによって得られる。
任意選択で、候補車線境界線領域のそれぞれについて中心点を抽出した後で、プロセッサは、
候補車線境界線領域のそれぞれについて、中心点における有効画素の数を有効画素数として認識する動作と、
候補車線境界線領域のうち、所定の数しきい値より小さい有効画素数を有する候補車線境界線領域をフィルタリングによって除去し、候補車線境界線領域のうちの残りの候補車線境界線領域について、候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングアクションを実行する動作と、をさらに実行することができる。
任意選択で、プロセッサは、
候補車線境界線領域のそれぞれの中心点から複数の標定点を選択する動作であり、標定点が候補車線境界線領域のそれぞれの2つの端部の中心点を含む動作と、
候補車線境界線領域のそれぞれの標定点に対してフィッティングを実行することによって候補車線境界線領域のそれぞれの中の隣接する標定点の対の曲線方程式を得る動作と、
候補車線境界線領域のそれぞれの隣接する標定点の対の曲線方程式を用いて、候補車線境界線領域のそれぞれのフィッティング曲線を形成する動作とを実行することによって、
候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングを実行することにより候補車線境界線領域のそれぞれのフィッティング曲線を得ることができる。
任意選択で、プロセッサは、
候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定する動作であり、屈曲点が峰点または谷点である動作と、
候補車線境界線領域のうちの1つの候補車線境界線領域の中心点の中に屈曲点がないことに応答して、標定点として前記1つの候補車線境界線領域から第1の目標点を選択する動作であり、前記1つの候補車線境界線領域内の隣接する第1の目標点の対の間の距離が互いに等しく、前記1つの候補車線境界線領域の第1の目標点が、前記1つの候補車線境界線領域の2つの端部における中心点を含む動作と、
前記1つの候補車線境界線領域の中心点の中に屈曲点があることに応答して、標定点として前記1つの候補車線境界線領域から第2の目標点を選択する動作であり、前記1つの候補車線境界線領域の標定点である第2の目標点が、前記1つの候補車線境界線領域の2つの端部における中心点、および屈曲点を含み、前記1つの候補車線境界線領域の第1の端部における中心点と屈曲点の間に位置する任意の隣接する2つの第2の目標点の間の距離が互いに等しく、前記1つの候補車線境界線領域の第2の端部における中心点と屈曲点の間に位置する任意の隣接する2つの第2の目標点の間の距離が互いに等しい動作とを実行することによって、
候補車線境界線領域のそれぞれの中心点から複数の標定点を選択することができる。
任意選択で、プロセッサは、
候補車線境界線領域のそれぞれの現実の長さを計算し、候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定する動作であり、屈曲点が峰点または谷点である動作と、
候補車線境界線領域のうち、その現実の長さが所定の長さ範囲内であり、その中心点が屈曲点を含まない候補車線境界線領域を、直線状候補車線境界線領域として認識し、候補車線境界線領域のうちの残りについて、候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って、候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類するステップを実行する動作とをさらに実行することができる。
任意選択で、プロセッサは、
候補車線境界線領域のそれぞれの中心点から第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点を選択する動作であり、第1のサンプリング点と第2のサンプリング点の間の距離が第2のサンプリング点と第3のサンプリング点の間の距離と等しい動作と、
候補車線境界線領域のそれぞれについて、第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点におけるフィッティング曲線の傾き角を、第1の傾き角、第2の傾き角、および第3の傾き角として計算する動作と、
候補車線境界線領域のそれぞれの第1の傾き角、第2の傾き角、および第3の傾き角に基づいて、候補車線境界線領域のうち、第3の所定の条件または第4の所定の条件を満たす候補車線境界線領域を、曲線状候補車線境界線領域として認識し、候補車線境界線領域のうち、第3の所定の条件も第4の所定の条件も満たさない他の候補車線境界線領域を、直線状候補車線境界線領域として認識する動作とを実行することによって、
候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類することができ、
第3の所定の条件は、対応する候補車線境界線領域の第1の傾き角と第2の傾き角の間の差、および対応する候補車線境界線領域の第2の傾き角と第3の傾き角の間の差が、両方とも、第1の傾き角しきい値より大きいことであり、
第4の所定の条件は、対応する候補車線境界線領域の第1の傾き角と第2の傾き角の間の差が、第1の傾き角しきい値より小さく、対応する候補車線境界線領域の第2の傾き角と第3の傾き角の間の差が、第2の傾き角しきい値より大きいことである。
任意選択で、プロセッサは、
候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定する動作であり、屈曲点が峰点または谷点である動作と、
候補車線境界線領域のうちの1つの候補車線境界線領域の中心点の中に屈曲点がないことに応答して、前記1つの候補車線境界線領域の第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点として、前記1つの候補車線境界線領域から任意の3つの等間隔の中心点を選択する動作と、
前記1つの候補車線境界線領域の中心点の中に屈曲点があることに応答して、前記1つの候補車線境界線領域内の屈曲点を前記1つの候補車線境界線領域の第2のサンプリング点として決定し、前記1つの候補車線境界線領域内の第2のサンプリング点の2つの側の2つの中心点を、前記1つの候補車線境界線領域の第1のサンプリング点および第3のサンプリング点として選択する動作であり、第1のサンプリング点として選択された中心点から第2のサンプリング点までの距離が、第3のサンプリング点として選択された中心点から第2のサンプリング点までの距離と等しい動作とを実行することによって、
候補車線境界線領域のそれぞれの中心点から第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点を選択することができる。
任意選択で、プロセッサは、
候補車線境界線領域のそれぞれの中心点の中で、最大の水平座標を有する第3の目標点および最小の水平座標を有する第4の目標点を探索する動作と、
第3の目標点および第4の目標点が第5の所定の条件または第6の所定の条件を満たすことに応答して、対応する候補車線境界線領域の中心点の中に屈曲点があると判定する動作と、
第3の目標点および第4の目標点が第5の所定の条件も第6の所定の条件も満たさないことに応答して、対応する候補車線境界線領域の中心点の中に屈曲点がないと判定する動作と
を実行することによって、候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定することができ、
第5の所定の条件は、第3の目標点が対応する候補車線境界線領域の中央にあり、第4の目標点が対応する候補車線境界線領域の2つの端部のうちのいずれか1つにあることであり、
第6の所定の条件は、第4の目標点が対応する候補車線境界線領域の中央にあり、第3の目標点が対応する候補車線境界線領域の2つの端部のうちのいずれか1つにあることである。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域が同じグループにある場合には、2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内にあることは、2つの直線状候補車線境界線領域のフィッティング線分の狭角が第2の所定の狭角範囲内にあること、2つの直線状候補車線境界線領域の推定された現実の狭角が第3の所定の狭角範囲内にあること、および2つの直線状候補車線境界線領域のフィッティング線分の間のずれ距離が第3の所定の距離範囲内にあること、のうちの少なくとも1つを含み、
ずれ距離は、第1の交差点と第2の交差点の間の距離であり、第1の交差点および第2の交差点は、それぞれ、2つの候補車線境界線領域のフィッティング線分の延長線と水平中央線との交差点であり、2つの直線状候補車線境界線領域の垂直方向に最も近い中心点と水平中央線の間の距離は、互いに等しい。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域が同じグループにある場合には、第2の所定の条件は、2つの直線状候補車線境界線領域のフィッティング線分の狭角が第4の所定の狭角範囲内にある場合に、2つの直線状候補車線境界線領域のフィッティング線分の間のずれ距離が第4の所定の距離範囲内であることをさらに含み、
第2の所定の狭角範囲は、第4の所定の狭角範囲より広く、第3の所定の距離範囲は、第4の所定の距離範囲より広い。
任意選択で、目標グループ内の候補車線境界線領域を車線境界線領域として認識した後で、プロセッサは、
目標グループ内の車線境界線領域に対してフィッティングを実行して、車線画像内の車線境界線を得る動作をさらに実行することができ、
目標グループのそれぞれにおける車線境界線領域は、1本の車線境界線にフィッティングされる。
本開示では、車線画像をフィルタリングして、候補車線境界線領域としてフィルタリング済み領域を得る。これらの候補車線境界線領域を、候補車線境界線領域のフィッティング曲線に基づいて直線状候補車線境界線領域および曲線状候補車線境界線領域として分類し、分類結果に基づいてグループに分割する。ここで、各グループの候補車線境界線領域は、1本の車線境界線を形成する。互いに一致する車線境界線に対応するグループのうちの2つを、目標グループとして決定する。目標グループ内の候補車線境界線領域を、車線境界線領域として認識する。上記によれば、車線画像をフィルタリングすることによって候補車線境界線領域を得た後で、候補車線境界線領域のグループ分けおよびマッチングによって、現実の車線境界線に対応しない雑音領域を候補車線境界線領域から除去することができるので、候補車線境界線領域のうち、現実の車線境界線に対応する領域を車線境界線領域として認識することができ、これにより車線境界線領域の検出がより正確になり、したがって、車線情報の検出がより正確になり、これにより、車両逸脱警報システムが正確に警報プロンプトを出すことができるようになる。
本開示の実施形態による技術的解決策をより明瞭にすることができるように、実施形態の説明で使用される図面について、簡単に説明する。以下の説明の図面は、単に本発明のいくつかの実施形態を例示しているに過ぎないことは明らかである。当業者なら、これらの図面に基づいて他の図面を得ることができる。
本発明の1実施形態による適用シナリオに関連するシステムを示す概略構成図である。 本発明の1実施形態による車線境界線を検出する方法を示す流れ図である。 本発明の1実施形態による車線画像内の候補車線境界線領域の一例を示す概略図である。 本発明の1実施形態による候補車線境界線領域の中心点で形成された線分の一例を示す概略図である。 本発明の別の実施形態による候補車線境界線領域の中心点で形成された線分の一例を示す概略図である。 本発明のさらに別の実施形態による候補車線境界線領域の中心点で形成された線分の一例を示す概略図である。 本発明の1実施形態による直線状候補車線境界線領域のグループ分けの一例を示す概略図である。 本発明の1実施形態による車線画像内の候補車線境界線領域のフィッティング線分の例示的な分布を示す概略図である。 本発明の1実施形態による例示的な画像座標径を示す概略図である。 本発明の1実施形態による例示的なワールド座標系を示す概略図である。 本発明の1実施形態による例示的な適用シナリオにおける車線画像を示す概略図である。 本発明の1実施形態による例示的な適用シナリオにおける車線画像をフィルタリングすることによって得られるフィルタリング済み領域を示す概略図である。 本発明の1実施形態による雑音領域の有効画素数フィルタリングによって得られるフィルタリング済み領域を示す概略図である。 本発明の1実施形態による適用シナリオにおける候補車線境界線領域のグループ分けを示す概略図である。 本発明の1実施形態による適用シナリオにおける認識された車線境界線領域を示す概略図である。 本発明の1実施形態による適用シナリオにおける車線境界線が強調表示された車線画像を示す概略図である。 本発明の1実施形態による車線境界線を検出する装置を示す概略構成図である。 本発明の1実施形態による車線境界線を検出するデバイスを示す概略構成図である。
発明者が行った研究によれば、従来の技術では、車線画像中で車線境界線を検出するためには、車線画像をフィルタリングすることによって車線画像中のフィルタリング済み領域を得、このフィルタリング済み領域を車線画像中の車線境界線領域であると決定する。実際には、車線の周囲が複雑であるので、道路上にしばしば現れる縁石、柵、および水位標が、車線画像をフィルタリングする際にフィルタリング済み領域として得られることがある。したがって、車線画像をフィルタリングすることによって得られるフィルタリング済み領域は、現実の車線境界線の領域を含むだけでなく、他の物体の領域も含んでしまうことがある。従来の技術における車線境界線領域の検出は、確度が不十分であり、これにより車線情報の検出が不正確になり、それにより車両逸脱警報システムが正確に警報プロンプトを出すことができなくなることが分かる。
この問題を解決するために、本開示による実施形態では、車線画像をフィルタリングして、候補車線境界線領域としてフィルタリング済み領域を得る。候補車線境界線領域は、候補車線境界線領域のフィッティング曲線に従って直線状候補車線境界線領域および曲線状候補車線境界線領域に分類され、この分類結果に基づいてグループに分割される。ここで、各グループの候補車線境界線領域は、1本の車線境界線を形成する。互いに一致する車線境界線に対応するこれらのグループのうちの2つが、目標グループとして決定される。目標グループの候補車線境界線領域が、車線境界線領域として認識される。上記によれば、車線画像をフィルタリングすることによって候補車線境界線領域が得られた後で、候補車線境界線領域のグループ分けおよびマッチングによって、現実の車線境界線に対応しない雑音領域を候補車線境界線領域から除去することができるので、現実の車線境界線に対応する候補車線境界線領域内の領域を、車線境界線領域として認識することができるようになり、これにより、車線境界線領域の検出がより正確になり、したがって車線情報の検出もより正確になり、これにより車両逸脱警報システムが正確に警報プロンプトを出すことができるようになる。
例えば、本開示による実施形態は、図1に示すシステムに適用することができる。例えば、このシステムは、運転支援システムとすることができ、特に、例えば車線逸脱警報システムである。このシステムは、処理デバイス101、表示デバイス102、および撮影デバイス103を含む。このシステムでは、撮影デバイス103は、車線画像を取り込み、この車線画像を処理デバイス101に送信することができる。処理デバイス101は、この車線画像をフィルタリングすることによって、車線画像中の候補車線境界線領域を決定することができる。処理デバイス101は、各候補車線境界線領域について中心点を抽出することができる。ここで、これらの中心点は、各候補車線境界線領域の各行の2つの終端点の間の中央点を含む。その後、処理デバイス101は、各候補車線境界線領域の中心点に対して曲線フィッティングを実行することによって、各候補車線境界線領域のフィッティング曲線を得ることができる。次いで、処理デバイス101は、各候補車線境界線領域のフィッティング曲線の傾き角に従って、候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域に分類することができる。処理デバイス101は、この分類結果に基づいて候補車線境界線領域をグループに分割することができ、ここで、曲線状候補車線境界線領域は、それぞれ単独で1つのグループを形成し、直線状候補車線境界線領域は、1つまたは複数で1つのグループを形成し、同じグループの候補車線境界線領域は、同じ車線境界線に対応する。最後に、処理デバイス101は、これらのグループのうちから第1の所定の条件を満たす2つを目標グループとして決定し、これらの目標グループの候補車線境界線領域を、車線境界線領域として認識することができる。処理デバイス101は、さらに、この車線境界線領域に基づいて車線境界線が強調表示された車線画像を生成し、この車線画像を表示デバイス102に送信して表示することができる。
第1の所定の条件は、2つのグループに対応する車線境界線どうしの間の距離が第1の所定の距離しきい値未満であること、および2つのグループに対応する車線境界線の狭角が第1の所定の狭角しきい値未満であることのうちの少なくとも1つを含み得る。
上記のシナリオは、本発明の実施形態による例示的なシナリオに過ぎず、本発明は上記のシナリオに限定されないことは理解されるであろう。
以下、本開示の実施形態による車線境界線を検出する方法、装置、およびデバイスの具体的な実施態様について、図面および実施形態に関連付けて詳細に説明する。
図2を参照すると、本発明の1実施形態による車線境界線を検出する方法を示す流れ図が示してある。本実施形態では、この方法は、例えば、以下のステップ201からステップ206を含むことができる。
ステップ201で、車線画像をフィルタリングすることによって、車線画像中の候補車線境界線領域を決定する。
実用的な実施態様では、得られた車線画像について、車線画像は、グレースケール画像に変換することができ、このグレースケール画像をフィルタリングし、得られたフィルタリング済み領域を、候補車線境界線領域として決定する。車線画像をフィルタリングすることによってフィルタリング済み領域を得ることは、任意の手段によって実施することができることは理解されるであろう。例えば、車線画像は、いくつかの従来の技術を用いてフィルタリングすることもできるが、これらの技術について、本実施形態のここでは重ねて説明しない。
ステップ202で、各候補車線境界線領域について中心点を抽出する。ここで、これらの中心点は、各候補車線境界線領域内の各行の2つの終端点の間の中央点を含む。
車線画像全体は、複数行の画素からなることは理解されるであろう。各候補車線境界線領域は、車線画像内の領域である。すなわち、各候補車線境界線領域は、実際には、車線画像内のいくつかの画素行を占める。候補車線境界線領域について、その候補車線境界線領域が占める各画素行には左終端点および右終端点があり、各行の左終端点と右終端点の間の中央点が、その候補車線境界線領域の中心点である。
例えば、図3に示す例示的な画像では、各四角形は、画像中の画素を表しており、点線の枠内の領域が、候補車線境界線領域である。候補車線境界線領域は、画素aから画素oを含む。画素a、d、g、j、およびmは、1行内に位置する。この行内では、左終端点はaであり、右終端点はmであり、これらの間の中央点はgである。画素b、e、h、k、およびnは、1行内に位置する。この行内では、左終端点はbであり、右終端点はnであり、これらの間の中央点はhである。画素c、f、i、l、およびoは、1行内に位置する。この行内では、左終端点はcであり、右終端点はoであり、これらの間の中央点はiである。したがって、この候補車線境界線領域の中心点は、g、h、およびiを含む。
現実の車線境界線領域は、一般にかなりの数の画素行を占め、非現実の車線境界線領域は、それほどの画素行を占めない可能性があり、中心点の数は、候補車線境界線領域が占める行数を表すことができることは理解されるであろう。したがって、各候補車線境界線領域について中心点を抽出した後、その後の処理を実行する前に、中心点がほとんどないいくつかの候補車線境界線領域をフィルタリングによって除去して、フィルタリングによって得られた候補車線境界線領域からいくつかの雑音領域をフィルタリングによって除去することができる。詳細には、本実施形態のいくつかの実施態様では、ステップ202の後で、この方法は、例えば、各候補車線境界線領域について、中心点の有効画素の数を有効画素数として認識するステップと、所定の範囲の数を超える有効画素数を有する候補車線境界線領域をフィルタリングによって除去し、残りの候補車線境界線領域に対してステップ203を実行するステップとをさらに含むことができる。この所定の範囲の数は、数しきい値とすることができ、候補車線境界線領域内の有効画素数がこの数しきい値より小さい場合には、この候補車線境界線領域をフィルタリングによって除去することができる。
ステップ203で、各候補車線境界線領域の中心点に対して曲線フィッティングを実行することにより、各候補車線境界線領域のフィッティング曲線を得る。
候補車線境界線領域について、任意の可能な実施態様によってその中心点に対して曲線フィッティングを実行して、その候補車線境界線領域のフィッティング曲線を得ることができる。
例えば、曲線フィッティングの具体例では、フィッティング曲線を候補車線境界線領域の形状により近づけることができるように、候補車線境界線領域の中心点からいくつかの標定点を選択することができ、それらの標定点に基づいて曲線フィッティングを実行することができる。詳細には、本実施形態のいくつかの実施態様では、ステップ203は、例えば、各候補車線境界線領域の中心点から複数の標定点を選択するステップであり、これらの標定点が、各候補車線境界線領域の2つの端部の中心点を含むステップと、3次スプライン補間によって各候補車線境界線領域の標定点に対してフィッティングを実行することによって各候補車線境界線領域の隣接する標定点の対の曲線方程式を得るステップと、各候補車線境界線領域の隣接する標定点の対の曲線方程式を用いて各候補車線境界線領域のフィッティング曲線を形成するステップとを含むことができる。各候補車線境界線領域の2つの端部とは、垂直方向の各候補車線境界線領域の2つの縁部であり、各候補車線境界線領域の2つの端部の中心点とは、垂直方向の各候補車線境界線領域の2つの縁部の中心点である。換言すれば、各候補車線境界線領域の全ての中心点のうち最大の垂直座標を有する中心点と最小の中心座標を有する中心点とが、各候補車線境界線領域の2つの端部の中心点である。
例えば、図4に示す例では、aとeの間の線分を、候補車線境界線領域の中心点によって形成される線分と見なすことができる。この候補車線境界線領域中の中心点a、b、c、d、およびeが標定点として選択されているとすると、標定点a、b、c、d、およびeに対して曲線フィッティングを実行することによって、aとbの間の線分の曲線方程式、bとcの間の線分の曲線方程式、cとdの間の線分の曲線方程式、およびdとeの間の線分の曲線方程式を得ることができ、この4つの線分の曲線方程式を結合することによって、すなわちこの候補車線境界線領域のフィッティング曲線を形成することによって、この候補車線境界線領域に対応する曲線方程式を形成することができる。ここでは、中心点aおよびcが、この候補車線境界線領域の2つの端部の中心点である。
フィッティングは、様々な形態の曲線を用いて、候補車線境界線領域の標定点に対して実行することができる。例えば、フィッティングは、数式1の3次方程式を用いて、候補車線境界線領域の標定点に対して実行することができる。
数式1:v=alu3+blu2+clu+dl
数式1は、候補車線境界線領域内の第1の線分の曲線方程式を表している。この曲線方程式において、vおよびuは、車線画像に基づいて構築された画像座標系内の垂直座標および水平座標であり、al、bl、cl、およびdlは、曲線方程式のパラメータである。
候補車線境界線領域の中心点の中に屈曲点がある場合には、その屈曲点の2つの側の候補車線境界線領域の部分は、かなり異なる形状を有し、異なるフィッティング曲線を用いて記述されるべきであることに留意されたい。屈曲点があるかどうかにかかわらずフィッティング曲線を適応性にすることができるようにするために、本実施形態のいくつかの実施態様では、候補車線境界線領域の中心点の中に屈曲点があるかどうかに応じて異なる方法で標定点を選択することができる。詳細には、各候補車線境界線領域の中心点から複数の標定点を選択するステップは、例えば、各候補車線境界線領域の中心点の中に屈曲点があるかどうかを判定するステップであり、この屈曲点が峰点または谷点であるステップと、候補車線境界線領域の中心点の中に屈曲点がないことに応答して、標定点として候補車線境界線領域から第1の目標点を選択するステップと、候補車線境界線領域の中心点の中に屈曲点があることに応答して、標定点として候補車線境界線領域から第2の目標点を選択するステップとを含むことができる。候補車線境界線領域内の隣接する第1の目標点の対の間の距離は、互いに等しく、候補車線境界線領域の第1の目標点は、候補車線境界線領域の2つの端部の中心点を含む。候補車線境界線領域の標定点である第2の目標点は、候補車線境界線領域の2つの端部の中心点および屈曲点を含み、候補車線境界線領域の第1の端部の中心点と屈曲点との間に位置する任意の隣接する2つの第2の目標点の間の距離は、互いに等しく、候補車線境界線領域の第2の端部の中心点と屈曲点との間の任意の隣接する2つの第2の目標点の間の距離は、互いに等しい。
例えば、図4に示す例では、aとeの間の線分を、候補車線境界線領域の中心点によって形成された線分と見なすことができる。この候補車線境界線領域の中心点には屈曲点がないので、a、b、c、d、およびeは、候補車線境界線領域の中心点から標定点として選択することができる、すなわち、第1の目標点は、a、b、c、d、およびeを含む。aとbの間の距離と、bとcの間の距離と、cとdの間の距離と、dとeの間の距離とは、等しい。図5に示す例では、a'とe'の間の線分を、候補車線境界線領域の中心点によって形成された線分と見なすことができ、この候補車線境界線領域の中心点には屈曲点c'があり、a'、b'、c'、d'、およびe'は、候補車線境界線領域の中心点から標定点として選択することができる、すなわち、第2の目標点は、a'、b'、c'、d'、およびe'を含む。ここで、a'は、候補車線境界線領域の第1の端部の中心点であり、e'は、候補車線境界線領域の第2の端部の中心点であり、a'とb'の間の距離と、b'とc'の間の距離とが等しく、c'とd'の間の距離と、d'とe'の間の距離とが等しい。
候補車線境界線領域の中心点の中で、屈曲点は、水平座標に対する峰点または谷点であることは理解されるであろう。詳細には、車線画像に基づいて構築された画像座標系において、候補車線境界線領域の中心点の中の水平座標の峰点および水平座標の谷点は、両方とも、その候補車線境界線領域の屈曲点である。候補車線境界線領域について、水平座標の峰点の2つの側の中心点の水平座標は、全て、水平座標の峰点の水平座標より小さく、水平座標の谷点の2つの側の中心点の水平座標は、全て、水平座標の谷点の水平座標より大きい。例えば、図5に示す例では、a'とe'の間の線分を、候補車線境界線領域の中心点によって形成される線分と見なすことができる。候補車線境界線領域の中心点の中で、c'が、水平座標の谷点である。別の例として、図6に示す例では、a''とe''の間の線分を、候補車線境界線領域の中心点によって形成される線分と見なすことができる。候補車線境界線領域の中心点の中で、c''が、水平座標の峰点である。
本実施形態では、候補車線境界線領域の中心点の中に屈曲点があるかどうかは、様々な実施態様によって判定することができる。例えば、本実施形態のいくつかの実施態様では、候補車線境界線領域内に屈曲点があるかどうかは、以下のように判定することができる。すなわち、候補車線境界線領域の中心点の中で、最大の水平座標を有する第3の目標点および最小の水平座標を有する第4の目標点を探索し、第3の目標点および第4の目標点が第5の所定の条件または第6の所定の条件を満たすのに応答して、候補車線境界線領域の中心点の中に屈曲点があると判定し、第3の目標点および第4の目標点が第5の所定の条件も第6の所定の条件も見なさないことに応答して、候補車線境界線領域の中心点の中に屈曲点がないと判定する。第5の所定の条件は、第3の目標点が、候補車線境界線領域の中央にあり、第4の目標点が、候補車線境界線領域の2つの端部のうちのいずれか1つにあることであり、第6の所定の条件は、第4の目標点が、候補車線境界線領域の中央にあり、第3の目標点が、候補車線境界線領域の2つの端部のうちのいずれか1つにあることである。本明細書における水平座標とは、上述の画像座標系における水平座標であることは理解されるであろう。
さらに詳細には、第5の所定の条件は、数式2および数式3によって表すことができる。
数式2:NumThre < lmax < N-NumThre
数式3:lmin ≦ NumThreまたはlmin ≧ N-NumThre
第6の所定の条件は、数式4および数式5によって表すことができる。
数式4:NumThre < lmin < N-NumThre、
数式5:lmax ≦ NumThreまたはlmax ≧ N-NumThre
Nは、候補車線境界線領域内の中心点の数を表し、NumThreは、所定の数しきい値を表し、lmaxは、候補車線境界線領域の中心点の中の第3の目標点の垂直続き番号を表し、lminは、候補車線境界線領域の中心点の中の第4の目標点の垂直続き番号を表す。例えば、車線画像に基づいて構築された画像座標系において、候補車線境界線領域の中心点が、垂直座標の小さい順にa、b、c、d、およびeであるとすると、aの垂直続き番号が1であり、bの垂直続き番号が2であり、bの垂直続き番号が3であり、dの垂直続き番号が4であり、eの垂直続き番号が5である。aが最大の水平座標を有する第3の目標点であり、cが最小の水平座標を有する第4の目標点であるとすると、lmaxは、aの垂直続き番号、すなわち1であり、lminは、cの垂直続き番号、すなわち3である。
候補車線境界線領域について、第3の目標点および第4の目標点が数式2および数式3の両方を満たす場合には、第3の目標点および第4の目標点は、第5の所定の条件を満たし、候補車線境界線領域の中心点の中に峰点がある。第3の目標点および第4の目標点が数式2および数式3のいずれか一方または両方を満たさない場合には、第3の目標点および第4の目標点は、第5の所定の条件を満たさず、候補車線境界線領域の中心点の中に峰点はない。同様に、第3の目標点および第4の目標点が数式4および数式5の両方を満たす場合には、第3の目標点および第4の目標点は、第6の所定の条件を満たし、候補車線境界線領域の中心点の中に谷点がある。第3の目標点および第4の目標点が数式4および数式5のいずれか一方または両方を満たさない場合には、第3の目標点および第4の目標点は、第6の所定の条件を満たさず、候補車線境界線領域の中心点の中に谷点はない。さらに、候補車線境界線領域の中心点の中に峰点または谷点がある場合には、その峰点または谷点は、屈曲点である。候補車線境界線領域の中心点の中に峰点または谷点がない場合には、候補車線境界線領域に屈曲点はない。
ステップ203で各候補車線境界線領域のフィッティング曲線を得た後で、ステップ204を実行して、候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類することができる。すなわち、ステップ203で得られるフィッティング曲線を使用して、候補車線境界線領域の形状を分類する。候補車線境界線領域は、そのフィッティング曲線に基づいて、直線状候補車線境界線領域または曲線状候補車線境界線領域として認識することができる。
さらに、本実施形態のいくつかの実施態様では、ステップ204を実行する前に、例えば、候補車線境界線領域の現実の長さと、屈曲点があるかどうかとに基づいて、いくつかの直線状候補車線境界線領域を認識することもできる。このようにして、現実の長さが短く、屈曲点がない候補車線境界線領域の形状は、フィッティング曲線を用いて決定する必要がなくなる。したがって、フィッティング曲線を用いてその形状を決定する必要がある候補車線境界線領域の数が減少し、これにより、計算リソースの消費が低減される。詳細には、本実施形態による方法は、例えば、各候補車線境界線領域の現実の長さを計算するステップと、各候補車線境界線領域の中心点の中に屈曲点があるかどうかを判定するステップであり、この屈曲点が峰点または谷点であるステップと、その現実の長さが所定の長さ範囲内であり、かつその中心点が屈曲点を含まない候補車線境界線領域を、直線状候補車線境界線領域として認識するステップと、残りの候補車線境界線領域に対してステップ204を実行するステップとをさらに含むことができる。所定の長さ範囲は、長さしきい値で表すことができ、候補車線境界線領域の現実の長さがこの長さしきい値より短い場合には、その現実の長さは、所定の長さ範囲内にある。
ステップ204で、候補車線境界線領域を、各候補車線境界線領域のフィッティング曲線の傾き角に従って、直線状候補車線境界線領域および曲線状候補車線境界線領域として分類する。
候補車線境界線領域の形状が、その候補車線境界線領域が対応する車線境界線の形状に対応することは理解されるであろう。詳細には、候補車線境界線領域が直線状である場合には、その候補車線境界線領域に対応する車線境界線は、直線と見なすことができ、候補車線境界線領域が曲線状である場合には、その候補車線境界線領域に対応する車線は、曲線と見なすことができる。
候補車線境界線領域について、その候補車線境界線領域の形状は、そのフィッティング曲線の異なる位置における傾き角に従って決定することができる。例えば、本実施形態のいくつかの実施態様では、3つのサンプリング点を、候補車線境界線領域の中心点から選択することができ、その3つのサンプリング点におけるフィッティング曲線の傾き角を計算し、その3つのサンプリング点における傾き角に従ってその候補車線境界線領域の形状を決定することができる。詳細には、ステップ204は、例えば、各候補車線境界線領域の中心点から第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点を選択するステップと、各候補車線境界線領域について、第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点におけるフィッティング曲線の傾き角を第1の傾き角、第2の傾き角、および第3の傾き角として計算するステップと、各候補車線境界線領域の第1の傾き角、第2の傾き角、および第3の傾き角に基づいて、これらの候補車線境界線領域のうち、第3の所定の条件または第4の所定の条件を満たす候補車線境界線領域を曲線状候補車線境界線領域として認識し、第3の所定の条件も第4の所定の条件も満たさない他の候補車線境界線領域を直線状候補車線境界線領域として認識するステップとを含むことができる。第3の所定の条件は、候補車線境界線領域の第1の傾き角と第2の傾き角の間の差、および候補車線境界線領域の第2の傾き角と第3の傾き角の間の差が、第1の傾き角しきい値より大きいことであり、第4の所定の条件は、候補車線境界線領域の第1の傾き角と第2の傾き角の間の差が第1の傾き角しきい値より小さく、候補車線境界線領域の第2の傾き角と第3の傾き角の間の差が第2の傾き角しきい値より大きいことである。第1の傾き角しきい値は、第2の傾き角しきい値より小さい。第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点は、画像座標系内で垂直座標が大きい順に位置することができる、すなわち、第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点は、車両の現在位置に対して近い方から遠い方の順に位置している。
さらに詳細には、第1の傾き角、第2の傾き角、および第3の傾き角は、数式6に従って計算することができる。
数式6:θi = arctan ki、i = 0、1、2
ここで、θ0、θ1、およびθ2は、それぞれ第1の傾き角、第2の傾き角、および第3の傾き角を表し、k0、k1、およびk2は、それぞれ第1の傾き、第2の傾き、および第3の傾きを表す。第1の傾きは、第1のサンプリング点における候補車線境界線領域のフィッティング曲線の接線の傾きであり、第2の傾きは、第2のサンプリング点における候補車線境界線領域のフィッティング曲線の接線の傾きであり、第3の傾きは、第3のサンプリング点における候補車線境界線領域のフィッティング曲線の接線の傾きである。
さらに、第3の所定の条件は、数式7および数式8で表すことができる。
数式7:θ21 ≧ θthre1、およびθ10 ≧ θthre1
数式8:θ12 ≧ θthre1、およびθ01 ≧ θthre1
第4の所定の条件は、数式9および数式10で表すことができる。
数式9:0 ≦ θ10 ≦ θthre1、およびθ21 ≧ θthre2
数式10:0 ≦ θ01 ≦ θthre1、およびθ12 ≧ θthre2
θthre1は、第1の傾き角しきい値を表し、θthre2は、第2の傾き角しきい値を表し、θthre1は、θthre2より小さい。詳細には、θthre1は、例えば3°とすることができ、θthre2は、例えば8°とすることができる。
候補車線境界線領域について、候補車線境界線領域が数式7または数式8を満たす場合には、候補車線境界線領域は、第3の所定の条件を満たし、曲線状候補車線境界線領域であると決定することができる。同様に、候補車線境界線領域が数式9または数式10を満たす場合には、候補車線境界線領域は、第4の所定の条件を満たし、曲線状候補車線境界線領域として決定することができる。候補車線境界線領域が数式7、数式8、数式9、および数式10のいずれも満たさない場合には、候補車線境界線領域は、第3の所定の条件も第4の所定の条件も満たさず、直線状候補車線境界線領域として決定することができる。
候補車線境界線領域の中心点の中に屈曲点がある場合には、屈曲点の2つの側の候補車線境界線領域の部分は、かなり異なる形状を有する。したがって、屈曲点があるかどうかが、候補車線境界線領域の形状の決定に影響を及ぼす可能性がある。したがって、本実施形態のいくつかの実施態様では、サンプリング点は、候補車線境界線領域の中心点の中に屈曲点があるかどうかに応じて様々な方法で選択することができる。詳細には、各候補車線境界線領域の中心点から第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点を選択するステップは、例えば、各候補車線境界線領域の中心点の中に屈曲点があるかどうかを判定するステップであり、この屈曲点が峰点または谷点であるステップと、候補車線境界線領域の中心点の中に屈曲点がないことに応答して、候補車線境界線領域の第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点として候補車線境界線領域から任意の3つの中心点を選択するステップと、候補車線境界線領域の中心点の中に屈曲点があることに応答して、候補車線境界線領域の屈曲点を候補車線境界線領域の第2のサンプリング点として決定し、候補車線境界線領域の第1のサンプリング点および第3のサンプリング点として候補車線境界線領域の第2のサンプリング点の2つの側の2つの中心点を選択するステップとを含むことができる。第1のサンプリング点および第3のサンプリング点は、例えば候補車線境界線領域の2つの端部の中心点とすることができる。
例えば、図4に示す例では、aとeの間の線分を、候補車線境界線領域の中心点によって形成された線分と見なすことができる。この候補車線境界線領域の中心点には屈曲点がないので、a、c、およびeは、候補車線境界線領域の中心点からサンプリング点として選択することができる、すなわち、aは第1のサンプリング点であり、cは第2のサンプリング点であり、eは第3のサンプリング点である。図5に示す例では、a'とe'の間の線分を、候補車線境界線領域の中心点によって形成された線分と見なすことができ、この候補車線境界線領域の中心点には屈曲点c'があるので、a'、c'、およびe'は、候補車線境界線領域の中心点からサンプリング点として選択することができる、すなわち、a'は第1のサンプリング点であり、c'は第2のサンプリング点であり、e'は第3のサンプリング点である。
さらに、屈曲点の導入、ならびに各候補車線境界線領域の中心点の中に屈曲点があるかどうかをどのようにして判定するかについては、本明細書では重ねて説明することはしないが、本実施形態のステップ203の詳細な説明を参照すればよい。
ステップ205で、分類結果に基づいて候補車線境界線領域をグループに分割する。ここで、曲線状候補車線境界線領域は、それぞれが単独で1つのグループを形成し、直線状候補車線境界線領域は、1つまたは複数で1つのグループを形成し、同じグループの候補車線境界線領域は、同じ車線境界線に対応する。
車線画像内の候補車線境界線領域は、候補車線境界線領域の形状に従って異なるグループに分割することができるので、異なる車線境界線に対応する候補車線境界線領域は、異なるグループに分割することができることは理解されるであろう。このようにして、各グループが1本の可能な車線境界線に対応し、同じグループの候補車線境界線領域は、同じ可能な車線境界線に対応し、異なるグループの候補車線境界線領域は、同じ車線境界線に対応しない。
実用的な実施態様では、車線画像内に曲線状候補車線境界線領域がある場合には、各候補車線境界線領域を単独で1つのグループに入れることができるので、各グループは、1つの曲線状候補車線境界線領域しか含まない。車線画像中の直線状候補車線境界線領域については、直線状候補車線境界線領域は、例えば第2の所定の条件に従ってグループに分割することができる。詳細には、第2の所定の条件を満たす2つの直線状候補車線境界線領域は、同じグループである。
第2の所定の条件は、2つの直線状候補車線境界線領域の間の位置関係および方向ずれを制限する条件とすることができる。詳細には、第2の所定の条件は、2つの直線状候補車線境界線領域のフィッティング線分が垂直方向に互いに重なり合わず、2つの直線状候補車線境界線領域の垂直方向に互いに最も近い中心点どうしの間の距離が第2の所定の距離範囲内であり、2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内であり、ここで、直線状候補車線境界線領域のフィッティング線分が、直線状候補車線境界線領域の中心点に対して直線フィッティングを実行することによって得られることを含むことができる。例えば、直線状候補車線境界線領域のフィッティング線分は、RANSAC(ランダムサンプルコンセンサス)の最小2乗アルゴリズムを用いて直線状候補車線境界線領域の中心点に対してフィッティング計算を実行することによって得ることができる。
第2の所定の条件においては、2つの直線状候補車線境界線領域の位置関係に対する制限は、ワールド座標系によって説明することができることは理解されるであろう。詳細には、2つの直線状候補車線境界線領域のフィッティング線分が垂直方向に互いに重なり合わないことは、2つの直線状候補車線境界線領域の垂直座標の範囲が、現実世界に基づいて構築されたワールド座標系において互いに重なり合わないことを表すことができる。2つの直線状候補車線境界線領域の垂直方向に互いに最も近い中心点どうしの間の距離が第2の所定の距離範囲内であることは、現実世界に基づいて構築されたワールド座標系において2つの直線状候補車線境界線領域の互いに最も近い2つの終端点どうしの間の距離が第2の所定の距離範囲内であることを表すことができる。
さらに詳細には、第2の所定の条件による位置関係に対する制限は、数式11および数式12によって表すことができる。
数式11:zS1 > zE0
数式12:MINBLANK < S < MAXBLANK
領域1および領域0は、第2の所定の条件に関わる2つの直線状候補車線境界線領域を表し、zS1は、ワールド座標系における領域1のフィッティング線分の始点の垂直座標を表し、zE0は、ワールド座標系における領域0のフィッティング線分の終点の垂直座標を表し、Sは、ワールド座標系における領域1のフィッティング線分の始点と領域0のフィッティング線分の間の距離を表し、MINBLANKは、最小距離しきい値を表し、MAXBLANKは、最大距離しきい値を表し、MINBLANKおよびMAXBLANKは、道路の車線の設計標準に従って決定することができる。
領域1は、2つの直線状候補車線境界線領域のうち車両の現在位置から遠い領域であり、領域0は、2つの直線状候補車線境界線領域のうち車両の現在位置に近い領域であることは理解されるであろう。フィッティング線分については、その始点は、そのフィッティング線分の2つの終端点のうち車両の現在位置に近い終端点であり、終点は、そのフィッティング線分の2つの終端点のうち車両の現在位置から遠い終端点である。すなわち、領域1のフィッティング線分の始点および領域0のフィッティング線分の終点は、実際には、垂直方向に互いに最も近い、領域1および領域0の2つの中心点である。
例えば、図7に示す例示的なグループ分けでは、線分「0」は、領域0のフィッティング線分として用いることができ、線分「1」は、領域1のフィッティング線分として用いることができる。E0は、領域0のフィッティング線分の終点を表し、S1は、領域1の始点を表し、E0およびS1は、2つの領域の垂直方向に最も近い2つの中心点であり、E0とS1の間の距離は、数式12のSとして用いることができ、ワールド座標系におけるE0およびS1の垂直座標は、数式11のzE0およびzS1として用いることができる。
第2の所定の条件において、2つの直線状候補車線境界線領域の方向ずれに対する制限は、多くの方法で説明することができることに留意されたい。例えば、いくつかの実施態様では、2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内であることは、以下の条件のうちの任意の1つまたは複数を含むことができる。
条件a:2つの直線状候補車線境界線領域のフィッティング線分の狭角が、第2の所定の狭角範囲内である。
条件b:2つの直線状候補車線境界線領域の推定された現実の狭角が、第3の所定の狭角範囲内である。
条件c:2つの直線状候補車線境界線領域のフィッティング線分どうしの間のずれ距離が、第3の所定の距離範囲内である。
条件aは、数式13によって表すことができる。
数式13:abs|α| < Threα、α = arctan(k1)-arctan(k0)
条件bは、数式14によって表すことができる。
数式14:abs|β| < Threβ、Threβ = 360×S/2πR
条件cは、数式15によって表すことができる。
数式15:abs|diff| < Thrediff
領域1および0は、第2の所定の条件に関わる2つの直線状候補車線境界線領域を表し、αは、画像座標系における領域1のフィッティング線分と領域0のフィッティング線分の狭角を表し、k1は、領域1のフィッティング線分の傾きを表し、k0は、領域0のフィッティング線分の傾きを表し、Threαは、第2の所定の狭角範囲を示す狭角しきい値を表し、βは、ワールド座標系における領域1のフィッティング線分と領域0のフィッティング線分の狭角(すなわち推定された現実の狭角)を表し、Sは、数式12のSと同じであり、Rは、所定の最小回転半径を表し、Threβは、第3の所定の狭角範囲を示す狭角しきい値を表し、diffは、領域1のフィッティング線分と領域0のフィッティング線分の間のずれ距離を表し、Thrediffは、第3の所定の距離範囲を示す距離しきい値を表す。例えば、Rは125mとすることができ、Thrediffは、0.25mとすることができ、Threαは、30°とすることができ、Threβは、例えばβに基づいて方程式Threβ=intβ+2によって決定することができる。
ずれ距離は、第1の交差点と第2の交差点の間の距離である。第1の交差点および第2の交差点は、それぞれ、2つの直線状候補車線境界線領域のフィッティング線分の延長線と水平中央線との交差点であることは理解されるであろう。2つの直線状候補車線境界線領域の垂直方向に最も近い中心点から水平中央線までの距離は、等しい。
例えば、図7に示す例では、線分「0」は、領域0のフィッティング線分として用いることができ、線分「1」は、領域1のフィッティング線分として用いることができる。E0は、領域0のフィッティング線分の終点を表し、S1は、領域1の始点を表し、E0およびS1は、2つの領域の垂直方向に最も近い2つの中心点である。E0と点線「V=Vmiddle」の間の距離は、S1と同点線の間の距離と等しい、すなわち、点線「V=Vmiddle」は、この2つの領域に対応する水平中央線である。点Aは、領域1のフィッティング線分の延長線と水平中央線の交差点、すなわち第1の交差点である。点Bは、領域0のフィッティング線分の延長線と水平中央線の交差点、すなわち第2の交差点である。したがって、点AとBの間の距離が、領域1のフィッティング線分と領域0のフィッティング線分の間のずれ距離である。
ときには、車線画像内のいずれの車線境界線にも対応しないいくつかの領域があり、それらの領域のフィッティング線分が、車線境界線に対応する領域のフィッティング線分とほぼ平行である、すなわち近い傾きを有することもある。例えば、図8に示す例示的な候補車線境界線領域のフィッティング線分では、線分「1」および線分「2」は、同じ車線境界線に対応する車線境界線領域であり、線分「3」は、柵に対応する領域のフィッティング線分であるが、線分「3」は、線分「1」および線分「2」とほぼ平行であり、非常に近い傾きを有する。車線境界線に対応しない領域と車線境界線に対応する領域とが同じグループにグループ分けされることを防止するために、本実施形態のいくつかの実施態様では、第2の所定の条件が、例えば条件dをさらに含むこともできる。
条件dは、2つの直線状候補車線境界線領域のフィッティング線分の狭角が第4の所定の狭角範囲内である場合に、2つの直線状候補車線境界線領域のフィッティング線分の間のずれ距離が第4の所定の距離範囲内であり、ここで、第2の所定の狭角範囲が、第4の所定の狭角範囲より広く、第3の所定の距離範囲が、第4の所定の距離範囲より広い、というものである。
詳細には、この条件は、数式16によって表現することができる。
数式16:if(abs|α| < Threα0){abs|diff| < Thrediff0}
αおよびdiffについては、数式13から数式15の説明を参照されたい。Threα0は、第4の所定の狭角範囲を示す狭角しきい値を表し、Thrediffは、第4の所定の距離範囲を示す距離しきい値を表す。第2の所定の狭角範囲が第4の所定の狭角範囲より広くなるようにするためには、Threα0をThreαより小さくすればよく、第3の所定の距離範囲が第4の所定の距離範囲より広くなるようにするためには、Thrediff0をThrediffより小さくすればよい。
車線画像内の任意の2つの直線状候補車線境界線領域について、この2つの直線状候補車線境界線領域が第2の所定の条件を満たす場合には、この2つの直線状候補車線境界線領域が同じ可能な車線境界線に対応し、同じグループに入れることができることに留意されたい。例えば、図7に示す例示的なグループ分けでは、各実線の線分は、直線状候補車線境界線領域のフィッティング線分を表す。線分「0」および線分「1」が第2の所定の条件を満たす場合には、線分「0」および線分「1」に対応する候補車線境界線領域は、同じグループにグループ分けされる。線分「1」および線分「2」が第2の所定の条件を満たさない場合には、線分「1」および線分「2」に対応する候補車線境界線領域は、異なるグループに分割される。線分「1」および線分「3」が第2の所定の条件を満たす場合には、線分「1」および線分「3」に対応する候補車線境界線領域は、同じグループにグループ分けされる。線分「0」および線分「1」が第2の所定の条件を満たし、線分「1」および線分「3」も第2の所定の条件を満たしていると、線分「0」および線分「3」が第2の所定の条件を満たしていなくても、線分「0」および線分「1」に対応する候補車線境界線領域が同じグループにグループ分けされ、線分「1」および線分「3」に対応する候補車線境界線領域も同じグループにグループ分けされるので、線分「0」および線分「3」は、実際には同じグループにグループ分けされることは理解されるであろう。すなわち、線分「0」、線分「1」、および線分「3」は、実際には同じグループにグループ分けされる。
車線画像内に複数の直線状候補車線境界線領域があることが多いことは理解されるであろう。これらの直線状候補車線境界線領域は、特定の順序でグループに分割することができる。例えば、本実施形態のいくつかの実施態様では、車線画像内の全ての直線状候補車線境界線領域を、直線状候補車線境界線領域のフィッティング線分の始点が車両の現在位置に近い順に配列し、続き番号を割り当てることができる。その後、続き番号の小さい順に、2つずつ直線状候補車線境界線領域を選択して、それらが第2の所定の条件を満たすかどうかを判定する。2つの直線状候補車線境界線領域が第2の所定の条件を満たす場合には、その2つの直線状候補車線境界線領域を同じグループにグループ分けする。詳細には、ステップ205は、例えば、本実施形態によれば、以下の手順によって実施することができる。
ステップA。グループ分けされていない車線画像内の全ての直線状候補車線境界線領域について、直線状候補車線境界線領域のフィッティング線分の始点が車両の現在位置に近い順に、それらの直線状候補車線境界線領域を配列し、続き番号を割り当てる。
ステップB。i=0、およびj=i+1として、新たなグループを現在のグループとして確立し、続き番号iを有する直線状候補車線境界線領域をこの現在のグループに追加する。
ステップC。続き番号iおよびjを有する2つの直線状候補車線境界線領域が第2の所定の条件を満たすかどうかを判定し、第2の所定の条件が満たされる場合にはステップDに進み、第2の所定の条件が満たされない場合にはステップGに進む。
詳細には、2つの直線状候補車線境界線領域について数式11から数式16が満たされるかどうかを判定する。ここでは、数式11から数式16が満たされる場合に、2つの直線状候補車線境界線領域が第2の所定の条件を満たすと判定される。
ステップD。続き番号jを有する直線状候補車線境界線領域を、確認すべき領域として決定する。
ステップE。jがNに等しいかどうかを判定し、jがNに等しくない場合にはステップFに進み、jがNに等しい場合にはステップIに進む。
ここで、Nは、直線状候補車線境界線領域の総数を表す。
ステップF。続き番号j+1およびjを有する2つの直線状候補車線境界線領域が垂直方向に互いに重なり合うかどうかを判定し、続き番号j+1およびjを有する2つの直線状候補車線境界線領域が垂直方向に互いに重なり合う場合にはステップHに進み、続き番号j+1およびjを有する2つの直線状候補車線境界線領域が垂直方向に互いに重なり合わない場合にはステップIに進む。
ステップG。jがNに等しいかどうかを判定し、jがNに等しくない場合にはステップHに進み、jがNに等しい場合にはステップIに進む。
ステップH。i=i、およびj=j+1として、ステップCに戻る。
ステップI。現在確認すべき領域の数が0である場合には、直接ステップJに進み、現在確認すべき領域の数が1である場合には、それらの確認すべき領域を目標領域として決定した後でステップJに進み、それらの確認すべき領域を現在のグループに追加し、それらの現在確認すべき領域をレコードからクリアし、現在確認すべき領域の数が1より大きい場合には、それらの確認すべき領域の中心点の一様性、それらの確認すべき領域の2つの側の縁部点の間の傾きの差、およびフィルタリング済み領域の飽和度を総合的に分析した後でステップJに進み、それらの確認すべき領域から目標領域を選択し、目標領域を現在のグループに追加し、それらの現在確認すべき領域をレコードからクリアする。
ステップJ。jがNに等しいかどうかを判定し、jがNに等しくない場合にはステップKに進み、jがNに等しい場合にはステップLに進む。
ステップK。iを現在のグループの直線状候補車線境界線領域の最大の続き番号、およびj=j+1であるとして、ステップCに戻る。
ステップL。ステップAに戻り、車線画像中の全ての直線状候補車線境界線領域がグループに分割されるまで、上記のステップを繰返し実行する。
ステップ206で、これらのグループのうちから第1の所定の条件を満たす2つを、目標グループとして決定し、目標グループの候補車線境界線領域を、車線境界線領域として認識する。
第1の所定の条件は、2つのグループに対応する車線境界線の間の距離が第1の所定の距離範囲内であること、および2つのグループに対応する車線境界線の狭角が第1の所定の狭角範囲内であること、のうちの少なくとも1つを含み得る。
一方で、同じ車線の2本の車線境界線は一般に互いに平行であることは理解されるであろう。2つのグループに対応する車線境界線の狭角が第1の所定の狭角範囲内である場合には、この2つのグループに対応する車線境界線をほぼ平行と見なすことができることが分かる。他方、道路の設計標準により、車線の幅は、一般に特定の範囲内に制限される、すなわち、同じ車線の車線境界線どうしの距離は、特定の範囲内に制限される。したがって、2つのグループに対応する車線境界線の間の距離が第1の所定の距離範囲内にある場合には、この2つのグループに対応する車線境界線が、車線距離要件を満たしていることが分かる。さらに、2つのグループに対応する車線境界線が狭角の範囲および距離の範囲に関する要件を満たす場合には、この2つのグループに対応する車線境界線は、現実の車線境界線と見なすことができ、この2つのグループの候補車線境界線領域は、現実の車線境界線領域である。
本実施形態のいくつかの実施態様では、ステップ205で目標グループおよび車線境界線領域を決定した後で、目標グループの車線境界線領域に対してフィッティングを実行して、車線画像内の車線境界線を得ることができる。ここで、各目標グループの車線境界線領域は、1本の車線境界線にフィッティングされる。車線境界線領域のフィッティングは、例えば3次スプライン補間のアルゴリズムを用いて実施することができることは理解されるであろう。
本実施形態による車線画像に基づいて構築される画像座標系は、平面車線画像内の平面座標系であり、その原点は、図9の座標系に示すように、例えば車線画像の左上隅に位置することができる。現実世界に基づいて構築されたワールド座標系は、車両が位置する3次元空間内の3次元座標系とすることができ、その原点は、例えば図10の座標系に示すように、カメラの中心から下ろした下向きの垂直線が地面と交差する位置とすることができる。
本実施形態による画像処理プロセスを当業者がよりよく理解できるように、適用シナリオを例にとって、このプロセスについて説明している。この適用シナリオでは、車線画像は、図11に示すものであり、ステップ201でフィルタリングによって得られるフィルタリング済み領域の画像は、図12に示すものである。雑音領域に対して有効画素数フィルタリングを実行することによって得られるフィルタリング済み領域の画像は、図13に示すものであり、ステップ205でグループ分割によって得られる候補車線境界線領域のグループは、図14に示すものである。図14において、同じグレーレベルの領域は、同じグループに属している。ステップ206でマッチングによって得られる車線境界線領域は、図15に示すものであり、車線境界線領域に対してフィッティングを実行することによって得られる車線境界線は、図16に示すものである。
本実施形態による方法では、車線画像をフィルタリングして、フィルタリング済み領域を候補車線境界線領域として得る。候補車線境界線領域は、候補車線境界線領域のフィッティング曲線に基づいて直線状候補車線境界線領域および曲線状候補車線境界線領域として分類され、その分類結果に基づいてグループ分割される。ここで、各グループの候補車線境界線領域は、1本の車線境界線を形成する。互いに一致する車線境界線に対応するこれらのグループのうちの2つが、目標グループとして決定される。目標グループの候補車線境界線領域が、車線境界線領域として認識される。上記によれば、車線画像をフィルタリングすることによって候補車線境界線領域が得られた後で、候補車線境界線領域のグループ分けおよびマッチングによって、現実の車線境界線に対応しない雑音領域を候補車線境界線領域から除去することができるので、現実の車線境界線に対応する候補車線境界線領域内の領域を、車線境界線領域として認識することができるようになり、これにより、車線境界線領域の検出がより正確になり、したがって車線情報の検出もより正確になり、これにより車両逸脱警報システムが正確に警報プロンプトを出すことができるようになる。
図17を参照すると、本発明の1実施形態による車線境界線を検出する装置の概略構成図が示してある。本実施形態では、この装置は、例えば、
車線画像をフィルタリングすることによって車線画像中の候補車線境界線領域を決定するように構成されたフィルタリング部1701と、
候補車線境界線領域のそれぞれについて中心点を抽出するように構成された抽出部1702であり、中心点が、候補車線境界線領域のそれぞれにおける各行の2つの終端点の間の中央点を含む抽出部1702と、
候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングを実行することによって候補車線境界線領域のそれぞれのフィッティング曲線を得るように構成された第1のフィルタリング部1703と、
候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って、候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類するように構成された分類部1704と、
分類結果に基づいて候補車線境界線領域をグループに分割するように構成されたグループ分け部1705であり、曲線状候補車線境界線領域は、それぞれ単独で1つのグループを形成し、直線状候補車線境界線領域は、1つまたは複数で1つのグループを形成し、同じグループ内の候補車線境界線領域は、同じ車線境界線に対応するグループ分け部1705と、
グループのうちから第1の所定の条件を満たす2つを目標グループとして決定し、目標グループ中の候補車線境界線領域を車線境界線領域として認識するように構成された第1の認識部1706とを含むことができ、
ここで、第1の所定の条件は、2つのグループに対応する車線境界線の間の距離が第1の所定の距離範囲内であること、および2つのグループに対応する車線境界線の狭角が第1の所定の狭角範囲内であること、のうちの少なくとも1つを含む。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域は、同じグループであり、
第2の所定の条件は、2つの直線状候補車線境界線領域のフィッティング線分が垂直方向に互いに重なり合わず、2つの直線状候補車線境界線領域の垂直方向に互いに最も近い中心点どうしの間の距離が第2の所定の距離範囲内であり、2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内であることを含み、直線状候補車線境界線領域のフィッティング線分は、直線状候補車線境界線領域の中心点に対して直線フィッティングを実行することによって得られる。
任意選択で、この装置は、
候補車線境界線領域のそれぞれについて中心点を抽出した後で、候補車線境界線領域のそれぞれについて、中心点における有効画素の数を有効画素数として認識するように構成された第2の認識部と、
候補車線境界線領域のうち、所定の数しきい値より小さい有効画素数を有する候補車線境界線領域をフィルタリングによって除去し、候補車線境界線領域のうちの残りの候補車線境界線領域について、候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングアクションを実行するように構成されたフィルタリング部とをさらに含む。
任意選択で、第1のフィッティング部1703は、
候補車線境界線領域のそれぞれの中心点から複数の標定点を選択するように構成された第1の選択部であり、標定点が候補車線境界線領域のそれぞれの2つの端部の中心点を含む第1の選択部と、
候補車線境界線領域のそれぞれの標定点に対してフィッティングを実行することによって候補車線境界線領域のそれぞれの中の隣接する標定点の対の曲線方程式を得るように構成された第2のフィッティング部と、
候補車線境界線領域のそれぞれの隣接する標定点の対の曲線方程式を用いて、候補車線境界線領域のそれぞれのフィッティング曲線を形成するように構成された形成部とを含む。
任意選択で、第1の選択部は、
候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定するように構成された判定部であり、屈曲点が峰点または谷点である判定部と、
候補車線境界線領域のうちの1つの候補車線境界線領域の中心点の中に屈曲点がないことに応答して、標定点として前記1つの候補車線境界線領域から第1の目標点を選択するように構成された第2の選択部であり、前記1つの候補車線境界線領域内の隣接する第1の目標点の対の間の距離が互いに等しく、前記1つの候補車線境界線領域の第1の目標点が、前記1つの候補車線境界線領域の2つの端部における中心点を含む第2の選択部と、
前記1つの候補車線境界線領域の中心点の中に屈曲点があることに応答して、標定点として前記1つの候補車線境界線領域から第2の目標点を選択するように構成された第3の選択部であり、前記1つの候補車線境界線領域の標定点である第2の目標点が、前記1つの候補車線境界線領域の2つの端部における中心点および屈曲点を含み、前記1つの候補車線境界線領域の第1の端部における中心点と屈曲点の間に位置する任意の隣接する2つの第2の目標点の間の距離が互いに等しく、前記1つの候補車線境界線領域の第2の端部における中心点と屈曲点の間に位置する任意の隣接する2つの第2の目標点の間の距離が互いに等しい第3の選択部とを含む。
任意選択で、この装置は、
候補車線境界線領域のそれぞれの現実の長さを計算し、候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定するように構成された第1の計算部であり、屈曲点が峰点または谷点である第1の計算部と、
候補車線境界線領域のうち、その現実の長さが所定の長さ範囲内であり、その中心点が屈曲点を含まない候補車線境界線領域を、直線状候補車線境界線領域として認識し、候補車線境界線領域のうちの残りについて、候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って、候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類するステップを実行するように構成された第3の認識部とをさらに含む。
任意選択で、分類部1704は、
候補車線境界線領域のそれぞれの中心点から第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点を選択するように構成された第4の選択部であり、第1のサンプリング点と第2のサンプリング点の間の距離が第2のサンプリング点と第3のサンプリング点の間の距離と等しい第4の選択部と、
候補車線境界線領域のそれぞれについて、第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点におけるフィッティング曲線の傾き角を、第1の傾き角、第2の傾き角、および第3の傾き角として計算するように構成された第2の計算部と、
候補車線境界線領域のそれぞれの第1の傾き角、第2の傾き角、および第3の傾き角に基づいて、候補車線境界線領域のうち、第3の所定の条件または第4の所定の条件を満たす候補車線境界線領域を、曲線状候補車線境界線領域として認識し、候補車線境界線領域のうち、第3の所定の条件も第4の所定の条件も満たさない他の候補車線境界線領域を、直線状候補車線境界線領域として認識するように構成された第4の認識部とを含み、
第3の所定の条件は、対応する候補車線境界線領域の第1の傾き角と第2の傾き角の間の差、および対応する候補車線境界線領域の第2の傾き角と第3の傾き角の間の差が、両方とも、第1の傾き角しきい値より大きいことであり、
第4の所定の条件は、対応する候補車線境界線領域の第1の傾き角と第2の傾き角の間の差が、第1の傾き角しきい値より小さく、対応する候補車線境界線領域の第2の傾き角と第3の傾き角の間の差が、第2の傾き角しきい値より大きいことである。
任意選択で、第4の選択部は、
候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定するように構成された判定部であり、屈曲点が峰点または谷点である判定部と、
候補車線境界線領域のうちの1つの候補車線境界線領域の中心点の中に屈曲点がないことに応答して、前記1つの候補車線境界線領域の第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点として、前記1つの候補車線境界線領域から任意の3つの中心点を選択するように構成された第5の選択部と、
前記1つの候補車線境界線領域の中心点の中に屈曲点があることに応答して、前記1つの候補車線境界線領域内の屈曲点を前記1つの候補車線境界線領域の第2のサンプリング点として決定し、前記1つの候補車線境界線領域内の第2のサンプリング点の2つの側の2つの中心点を、前記1つの候補車線境界線領域の第1のサンプリング点および第3のサンプリング点として選択するように構成された第6の選択部であり、第1のサンプリング点として選択された中心点から第2のサンプリング点までの距離が、第3のサンプリング点として選択された中心点から第2のサンプリング点までの距離と等しい第6の選択部とを含む。
任意選択で、判定部は、
候補車線境界線領域のそれぞれの中心点の中で、最大の水平座標を有する第3の目標点および最小の水平座標を有する第4の目標点を探索するように構成された探索部と、
第3の目標点および第4の目標点が第5の所定の条件または第6の所定の条件を満たすことに応答して、対応する候補車線境界線領域の中心点の中に屈曲点があると判定するように構成された第1の判定部と、
第3の目標点および第4の目標点が第5の所定の条件も第6の所定の条件も満たさないことに応答して、対応する候補車線境界線領域の中心点の中に屈曲点がないと判定するように構成された第2の判定部とを含み、
第5の所定の条件は、第3の目標点が対応する候補車線境界線領域の中央にあり、第4の目標点が対応する候補車線境界線領域の2つの端部のうちのいずれか1つにあることであり、
第6の所定の条件は、第4の目標点が対応する候補車線境界線領域の中央にあり、第3の目標点が対応する候補車線境界線領域の2つの端部のうちのいずれか1つにあることである。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域が同じグループにある場合には、2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内にあることは、2つの直線状候補車線境界線領域のフィッティング線分の狭角が第2の所定の狭角範囲内にあること、2つの直線状候補車線境界線領域の推定された現実の狭角が第3の所定の狭角範囲内にあること、および2つの直線状候補車線境界線領域のフィッティング線分の間のずれ距離が第3の所定の距離範囲内にあること、のうちの少なくとも1つを含み、
ずれ距離は、第1の交差点と第2の交差点の間の距離であり、第1の交差点および第2の交差点は、それぞれ、2つの候補車線境界線領域のフィッティング線分の延長線と水平中央線との交差点であり、2つの直線状候補車線境界線領域の垂直方向に最も近い中心点と水平中央線の間の距離は、互いに等しい。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域が同じグループにある場合には、第2の所定の条件は、2つの直線状候補車線境界線領域のフィッティング線分の狭角が第4の所定の狭角範囲内にある場合に、2つの直線状候補車線境界線領域のフィッティング線分の間のずれ距離が第4の所定の距離範囲内であることをさらに含み、
第2の所定の狭角範囲は、第4の所定の狭角範囲より広く、第3の所定の距離範囲は、第4の所定の距離範囲より広い。
任意選択で、この装置は、
目標グループ内の候補車線境界線領域を車線境界線領域として認識した後で、目標グループ内の車線境界線領域に対してフィッティングを実行して、車線画像内の車線境界線を得るように構成された第3のフィッティング部をさらに含み、
ここで、目標グループのそれぞれにおける車線境界線領域は、1本の車線境界線にフィッティングされる。
本実施形態による装置では、車線画像をフィルタリングすることによって候補車線境界線領域を得た後で、候補車線境界線領域のグループ分けおよびマッチングによって、現実の車線境界線に対応しない雑音領域を候補車線境界線領域から除去することができるので、候補車線境界線領域のうち、現実の車線境界線に対応する領域を車線境界線領域として認識することができ、これにより車線境界線領域の検出がより正確になり、したがって、車線情報の検出がより正確になり、これにより、車両逸脱警報システムが正確に警報プロンプトを出すことができるようになる。
図18を参照すると、本発明の1実施形態による車線境界線を検出するデバイスを示す概略構成図が示してある。本実施形態では、デバイス1800は、例えば、プロセッサ1801と、メモリ1802と、通信インタフェース1803と、バスシステム1804とを含むことができる。
バスシステム1804は、デバイスのハードウェアを結合するように構成される。
通信インタフェース1803は、このデバイスと少なくとも1つの他のデバイスとの間の通信接続を実施するように構成される。
メモリ1802は、プログラム命令およびデータを記憶するように構成される。
プロセッサ1801は、メモリに記憶された命令およびデータを読み取り、
車線画像をフィルタリングすることによって車線画像中の候補車線境界線領域を決定する動作と、
候補車線境界線領域のそれぞれについて中心点を抽出する動作であり、中心点が、候補車線境界線領域のそれぞれにおける各行の2つの終端点の間の中央点を含む動作と、
候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングを実行することによって候補車線境界線領域のそれぞれのフィッティング曲線を得る動作と、
候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って、候補車線境界線領域を直線状車線境界線領域および曲線状候補車線境界線領域として分類する動作と、
分類の結果に基づいて候補車線境界線領域をグループに分割する動作であり、曲線状候補車線境界線領域は、それぞれ単独で1つのグループを形成し、直線状候補車線境界線領域は、1つまたは複数で1つのグループを形成し、同じグループ内の候補車線境界線領域は、同じ車線境界線に対応する動作と、
前記グループのうちから第1の所定の条件を満たす2つを目標グループとして決定し、目標グループ中の候補車線境界線領域を車線境界線領域として認識する動作とを実行するように構成され、
第1の所定の条件は、2つのグループに対応する車線境界線の間の距離が第1の所定の距離範囲内であること、および2つのグループに対応する車線境界線の狭角が第1の所定の狭角範囲内であること、のうちの少なくとも1つを含む。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域は、同じグループであり、
第2の所定の条件は、2つの直線状候補車線境界線領域のフィッティング線分が垂直方向に互いに重なり合わず、2つの直線状候補車線境界線領域の垂直方向に互いに最も近い中心点どうしの間の距離が第2の所定の距離範囲内であり、2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内であることを含み、ここで、直線状候補車線境界線領域のフィッティング線分は、直線状候補車線境界線領域の中心点に対して直線フィッティングを実行することによって得られる。
任意選択で、候補車線境界線領域のそれぞれについて中心点を抽出した後で、プロセッサ1801は、
候補車線境界線領域のそれぞれについて、中心点における有効画素の数を有効画素数として認識する動作と、
候補車線境界線領域のうち、所定の数しきい値より小さい有効画素数を有する候補車線境界線領域をフィルタリングによって除去し、候補車線境界線領域のうちの残りの候補車線境界線領域について、候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングアクションを実行する動作と、をさらに実行することができる。
任意選択で、プロセッサ1801は、
候補車線境界線領域のそれぞれの中心点から複数の標定点を選択する動作であり、標定点が候補車線境界線領域のそれぞれの2つの端部の中心点を含む動作と、
候補車線境界線領域のそれぞれの標定点に対してフィッティングを実行することによって候補車線境界線領域のそれぞれの中の隣接する標定点の対の曲線方程式を得る動作と、
候補車線境界線領域のそれぞれの隣接する標定点の対の曲線方程式を用いて、候補車線境界線領域のそれぞれのフィッティング曲線を形成する動作とを実行することによって、
候補車線境界線領域のそれぞれの中心点に対して曲線フィッティングを実行することにより候補車線境界線領域のそれぞれのフィッティング曲線を得ることができる。
任意選択で、プロセッサ1801は、
候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定する動作であり、屈曲点が峰点または谷点である動作と、
候補車線境界線領域のうちの1つの候補車線境界線領域の中心点の中に屈曲点がないことに応答して、標定点として前記1つの候補車線境界線領域から第1の目標点を選択する動作であり、前記1つの候補車線境界線領域内の隣接する第1の目標点の対の間の距離が互いに等しく、前記1つの候補車線境界線領域の第1の目標点が、前記1つの候補車線境界線領域の2つの端部における中心点を含む動作と、
前記1つの候補車線境界線領域の中心点の中に屈曲点があることに応答して、標定点として前記1つの候補車線境界線領域から第2の目標点を選択する動作であり、前記1つの候補車線境界線領域の標定点である第2の目標点が、前記1つの候補車線境界線領域の2つの端部における中心点、および屈曲点を含み、前記1つの候補車線境界線領域の第1の端部における中心点と屈曲点の間に位置する任意の隣接する2つの第2の目標点の間の距離が互いに等しく、前記1つの候補車線境界線領域の第2の端部における中心点と屈曲点の間に位置する任意の隣接する2つの第2の目標点の間の距離が互いに等しい動作とを実行することによって、
候補車線境界線領域のそれぞれの中心点から複数の標定点を選択することができる。
任意選択で、プロセッサ1801は、
候補車線境界線領域のそれぞれの現実の長さを計算し、候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定する動作であり、屈曲点が峰点または谷点である動作と、
候補車線境界線領域のうち、その現実の長さが所定の長さ範囲内であり、その中心点が屈曲点を含まない候補車線境界線領域を、直線状候補車線境界線領域として認識し、候補車線境界線領域のうちの残りについて、候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って、候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類するステップを実行する動作とをさらに実行することができる。
任意選択で、プロセッサは、
候補車線境界線領域のそれぞれの中心点から第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点を選択する動作であり、第1のサンプリング点と第2のサンプリング点の間の距離が第2のサンプリング点と第3のサンプリング点の間の距離と等しい動作と、
候補車線境界線領域のそれぞれについて、第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点におけるフィッティング曲線の傾き角を、第1の傾き角、第2の傾き角、および第3の傾き角として計算する動作と、
候補車線境界線領域のそれぞれの第1の傾き角、第2の傾き角、および第3の傾き角に基づいて、候補車線境界線領域のうち、第3の所定の条件または第4の所定の条件を満たす候補車線境界線領域を、曲線状候補車線境界線領域として認識し、候補車線境界線領域のうち、第3の所定の条件も第4の所定の条件も満たさない他の候補車線境界線領域を、直線状候補車線境界線領域として認識する動作とを実行することによって、
候補車線境界線領域のそれぞれのフィッティング曲線の傾き角に従って候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類することができ、
第3の所定の条件は、対応する候補車線境界線領域の第1の傾き角と第2の傾き角の間の差、および対応する候補車線境界線領域の第2の傾き角と第3の傾き角の間の差が、両方とも、第1の傾き角しきい値より大きいことであり、
第4の所定の条件は、対応する候補車線境界線領域の第1の傾き角と第2の傾き角の間の差が、第1の傾き角しきい値より小さく、対応する候補車線境界線領域の第2の傾き角と第3の傾き角の間の差が、第2の傾き角しきい値より大きいことである。
任意選択で、プロセッサ1801は、
候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定する動作であり、屈曲点が峰点または谷点である動作と、
候補車線境界線領域のうちの1つの候補車線境界線領域の中心点の中に屈曲点がないことに応答して、前記1つの候補車線境界線領域の第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点として、前記1つの候補車線境界線領域から任意の3つの等間隔の中心点を選択する動作と、
前記1つの候補車線境界線領域の中心点の中に屈曲点があることに応答して、前記1つの候補車線境界線領域内の屈曲点を前記1つの候補車線境界線領域の第2のサンプリング点として決定し、前記1つの候補車線境界線領域内の第2のサンプリング点の2つの側の2つの中心点を、前記1つの候補車線境界線領域の第1のサンプリング点および第3のサンプリング点として選択する動作であり、第1のサンプリング点として選択された中心点から第2のサンプリング点までの距離が、第3のサンプリング点として選択された中心点から第2のサンプリング点までの距離と等しい動作とを実行することによって、
第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点を選択することができる。
任意選択で、プロセッサ1801は、
候補車線境界線領域のそれぞれの中心点の中で、最大の水平座標を有する第3の目標点および最小の水平座標を有する第4の目標点を探索する動作と、
第3の目標点および第4の目標点が第5の所定の条件または第6の所定の条件を満たすことに応答して、対応する候補車線境界線領域の中心点の中に屈曲点があると判定する動作と、
第3の目標点および第4の目標点が第5の所定の条件も第6の所定の条件も満たさないことに応答して、対応する候補車線境界線領域の中心点の中に屈曲点がないと判定する動作と
を実行することによって、候補車線境界線領域のそれぞれの中心点の中に屈曲点があるかどうかを判定することができ、
第5の所定の条件は、第3の目標点が対応する候補車線境界線領域の中央にあり、第4の目標点が対応する候補車線境界線領域の2つの端部のうちのいずれか1つにあることであり、
第6の所定の条件は、第4の目標点が対応する候補車線境界線領域の中央にあり、第3の目標点が対応する候補車線境界線領域の2つの端部のうちのいずれか1つにあることである。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域が同じグループにある場合には、2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内にあることは、2つの直線状候補車線境界線領域のフィッティング線分の狭角が第2の所定の狭角範囲内にあること、2つの直線状候補車線境界線領域の推定された現実の狭角が第3の所定の狭角範囲内にあること、および2つの直線状候補車線境界線領域のフィッティング線分の間のずれ距離が第3の所定の距離範囲内にあること、のうちの少なくとも1つを含み、
ずれ距離は、第1の交差点と第2の交差点の間の距離であり、第1の交差点および第2の交差点は、それぞれ、2つの候補車線境界線領域のフィッティング線分の延長線と水平中央線との交差点であり、2つの直線状候補車線境界線領域の垂直方向に最も近い中心点と水平中央線の間の距離は、互いに等しい。
任意選択で、第2の所定の条件を満たす2つの直線状候補車線境界線領域が同じグループにある場合には、第2の所定の条件は、2つの直線状候補車線境界線領域のフィッティング線分の狭角が第4の所定の狭角範囲内にある場合に、2つの直線状候補車線境界線領域のフィッティング線分の間のずれ距離が第4の所定の距離範囲内であることをさらに含み、
第2の所定の狭角範囲は、第4の所定の狭角範囲より広く、第3の所定の距離範囲は、第4の所定の距離範囲より広い。
任意選択で、目標グループ内の候補車線境界線領域を車線境界線領域として認識した後で、プロセッサ1801は、
目標グループ内の車線境界線領域に対してフィッティングを実行して、車線画像内の車線境界線を得る動作をさらに実行することができ、
目標グループのそれぞれにおける車線境界線領域は、1本の車線境界線にフィッティングされる。
本実施形態によるデバイスでは、車線画像をフィルタリングすることによって候補車線境界線領域を得た後で、候補車線境界線領域のグループ分けおよびマッチングによって、現実の車線境界線に対応しない雑音領域を候補車線境界線領域から除去することができるので、候補車線境界線領域のうち、現実の車線境界線に対応する領域を車線境界線領域として認識することができ、これにより車線境界線領域の検出がより正確になり、したがって、車線情報の検出がより正確になり、これにより、車両逸脱警報システムが正確に警報プロンプトを出すことができるようになる。
本開示による実施形態で言及される「第1の所定の条件」、「第1の目標点」、および「第1の所定の距離範囲」の「第1の」は、単に名称の識別子として使用されているものであり、順番が最初であることを表しているわけではない。この規則は、「第2の」および「第3の」にも当てはまる。
上記の実施形態の説明によれば、当業者なら、上記の実施形態による方法のステップの全てまたは一部は、ソフトウェアにハードウェアプラットフォームを加えれば実施することができることを明白に理解することができる。このような理解に基づき、本開示による技術的解決策は、ソフトウェア製品の形態で実施することができ、コンピュータソフトウェア製品は、コンピュータデバイス(パーソナル・コンピュータ、サーバ、またはルータのようなネットワーク通信デバイスとすることができる)が上記の実施形態またはそれらの実施形態のいくつかの部分による方法を実施するためのいくつかの命令を含む、読取り専用メモリ(ROM)、RAM、ディスクまたはコンパクトディスクなどの記憶媒体に記憶することができる。
本開示による実施形態について順番に説明したが、同じ、または同様の部分については互いを参照することができ、各実施形態は、他の実施形態との相違点を強調してある。特に、基本的にはシステムの実施形態と同様であることから、方法の実施形態およびデバイスの実施形態については簡単に説明してあるが、関連する部分については、システムの実施形態の説明を参照すればよい。上記のデバイスおよびシステムの実施形態は単なる例示に過ぎず、分離した構成要素として記載されているモジュールは、物理的に分離していても、そうでなくてもよく、モジュールとして表示されている構成要素も、物理的なモジュールであっても、そうでなくてもよい。すなわち、モジュールとして表示されている構成要素は、1箇所に配置されていても、複数のネットワークユニットに分散していてもよく、それらのモジュールの一部または全てを、実際の必要に応じて使用して、実施形態による技術的解決策の目的を達成することができる。当業者なら、いかなる創造的努力もなく、上記のことを理解し、実施することができる。
上記の実施形態は、単なる本発明のいくつかの好ましい実施形態に過ぎず、本開示の範囲を限定することは意図していない。当業者なら本発明を逸脱することなく様々な改良および装飾を行うことができること、ならびにこれらの改良および装飾は本開示の範囲に含まれることに留意されたい。
101 処理デバイス
102 表示デバイス
103 撮影デバイス
1701 フィルタリング部
1702 抽出部
1703 第1のフィッティング部
1704 分類部
1705 グループ分け部
1706 第1の認識部
1800 デバイス
1801 プロセッサ
1802 メモリ
1803 通信インタフェース

Claims (14)

  1. 車線境界線を検出する方法であって、
    車線画像をフィルタリングすることによって前記車線画像中の候補車線境界線領域を決定するステップと、
    前記候補車線境界線領域のそれぞれについて中心点を抽出するステップであり、前記中心点が、前記候補車線境界線領域のそれぞれにおける各行の2つの終端点の間の中央点を含むステップと、
    前記候補車線境界線領域のそれぞれの前記中心点に対して曲線フィッティングを実行することによって前記候補車線境界線領域のそれぞれのフィッティング曲線を得るステップと、
    前記候補車線境界線領域のそれぞれの前記フィッティング曲線の傾き角に従って、前記候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類するステップと、
    前記分類の結果に基づいて前記候補車線境界線領域をグループに分割するステップであり、曲線状候補車線境界線領域は、それぞれ単独で1つのグループを形成し、直線状候補車線境界線領域は、1つまたは複数で1つのグループを形成し、同じグループ内の候補車線境界線領域は、同じ車線境界線に対応するステップと、
    前記グループのうちから第1の所定の条件を満たす2つを目標グループとして決定し、前記目標グループ中の候補車線境界線領域を車線境界線領域として認識するステップとを含み、
    前記第1の所定の条件が、前記2つのグループに対応する車線境界線の間の距離が第1の所定の距離範囲内であること、および前記2つのグループに対応する前記車線境界線の狭角が第1の所定の狭角範囲内であること、のうちの少なくとも1つを含む、方法。
  2. 第2の所定の条件を満たす2つの直線状候補車線境界線領域が、同じグループであり、
    前記第2の所定の条件が、前記2つの直線状候補車線境界線領域のフィッティング線分が垂直方向に互いに重なり合わず、前記2つの直線状候補車線境界線領域の垂直方向に互いに最も近い中心点どうしの間の距離が第2の所定の距離範囲内であり、前記2つの直線状候補車線境界線領域のフィッティング線分の間の方向ずれが所定のずれ範囲内であることを含み、
    前記直線状候補車線境界線領域の前記フィッティング線分が、前記直線状候補車線境界線領域の中心点に対して直線フィッティングを実行することによって得られる、請求項1に記載の方法。
  3. 前記候補車線境界線領域のそれぞれについて中心点を抽出した後で、
    前記候補車線境界線領域のそれぞれについて、前記中心点における有効画素の数を有効画素数として認識するステップと、
    前記候補車線境界線領域のうち、所定の数しきい値(number threshold)より小さい有効画素数を有する候補車線境界線領域をフィルタリングによって除去し、前記候補車線境界線領域のうちの残りの候補車線境界線領域について、前記候補車線境界線領域のそれぞれの前記中心点に対して曲線フィッティングアクションを実行するステップと、をさらに含む、請求項1に記載の方法。
  4. 前記候補車線境界線領域のそれぞれの前記中心点に対して曲線フィッティングを実行することによって前記候補車線境界線領域のそれぞれのフィッティング曲線を得るステップが、
    前記候補車線境界線領域のそれぞれの前記中心点から複数の標定点を選択するステップであり、前記標定点が前記候補車線境界線領域のそれぞれの2つの端部の中心点を含むステップと、
    前記候補車線境界線領域のそれぞれの前記標定点に対してフィッティングを実行することによって前記候補車線境界線領域のそれぞれの中の隣接する標定点の対の曲線方程式を得るステップと、
    前記候補車線境界線領域のそれぞれの隣接する標定点の前記対の前記曲線方程式を用いて、前記候補車線境界線領域のそれぞれのフィッティング曲線を形成するステップとを含む、請求項1に記載の方法。
  5. 前記候補車線境界線領域のそれぞれの前記中心点から前記複数の標定点を選択するステップが、
    前記候補車線境界線領域のそれぞれの前記中心点の中に屈曲点があるかどうかを判定するステップであり、前記屈曲点が峰点または谷点であるステップと、
    前記候補車線境界線領域のうちの1つの候補車線境界線領域の前記中心点の中に屈曲点がないことに応答して、前記標定点として前記1つの候補車線境界線領域から第1の目標点を選択するステップであり、前記1つの候補車線境界線領域内の隣接する第1の目標点の対の間の距離が互いに等しく、前記1つの候補車線境界線領域の前記第1の目標点が、前記1つの候補車線境界線領域の2つの端部における中心点を含むステップと、
    前記1つの候補車線境界線領域の前記中心点の中に屈曲点があることに応答して、前記標定点として前記1つの候補車線境界線領域から第2の目標点を選択するステップであり、前記1つの候補車線境界線領域の前記標定点である前記第2の目標点が、前記1つの候補車線境界線領域の2つの端部における前記中心点、および前記屈曲点を含み、前記1つの候補車線境界線領域の第1の端部における中心点と前記屈曲点の間に位置する隣接する2つの第2の目標点の間の距離が互いに等しく、前記1つの候補車線境界線領域の第2の端部における中心点と前記屈曲点の間に位置する隣接する2つの第2の目標点の間の距離が互いに等しいステップとを含む、請求項4に記載の方法。
  6. 前記候補車線境界線領域のそれぞれの現実の長さを計算し、前記候補車線境界線領域のそれぞれの前記中心点の中に屈曲点があるかどうかを判定するステップであり、前記屈曲点が峰点または谷点であるステップと、
    前記候補車線境界線領域のうち、その現実の長さが所定の長さ範囲内であり、その中心点が屈曲点を含まない候補車線境界線領域を、直線状候補車線境界線領域として認識し、前記候補車線境界線領域のうちの残りについて、前記候補車線境界線領域のそれぞれの前記フィッティング曲線の前記傾き角に従って、前記候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類する前記ステップを実行するステップとをさらに含む、請求項1に記載の方法。
  7. 前記候補車線境界線領域のそれぞれの前記フィッティング曲線の前記傾き角に従って前記候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類するステップが、
    前記候補車線境界線領域のそれぞれの前記中心点から第1のサンプリング点、第2のサンプリング点、および第3のサンプリング点を選択するステップと、
    前記候補車線境界線領域のそれぞれについて、前記第1のサンプリング点、前記第2のサンプリング点、および前記第3のサンプリング点における前記フィッティング曲線の傾き角を、第1の傾き角、第2の傾き角、および第3の傾き角として計算するステップと、
    前記候補車線境界線領域のそれぞれの前記第1の傾き角、前記第2の傾き角、および前記第3の傾き角に基づいて、前記候補車線境界線領域のうち、第3の所定の条件または第4の所定の条件を満たす候補車線境界線領域を、曲線状候補車線境界線領域として認識し、前記候補車線境界線領域のうち、前記第3の所定の条件も前記第4の所定の条件も満たさない他の候補車線境界線領域を、直線状候補車線境界線領域として認識するステップとをさらに含み、
    前記第3の所定の条件が、対応する候補車線境界線領域の前記第1の傾き角と前記第2の傾き角の間の差、および前記対応する候補車線境界線領域の前記第2の傾き角と前記第3の傾き角の間の差が、両方とも、第1の傾き角しきい値より大きいことであり、
    前記第4の所定の条件が、前記対応する候補車線境界線領域の前記第1の傾き角と前記第2の傾き角の間の差が、前記第1の傾き角しきい値より小さく、前記対応する候補車線境界線領域の前記第2の傾き角と前記第3の傾き角の間の差が、第2の傾き角しきい値より大きいことである、請求項1に記載の方法。
  8. 前記候補車線境界線領域のそれぞれの前記中心点から前記第1のサンプリング点、前記第2のサンプリング点、および前記第3のサンプリング点を選択するステップが、
    前記候補車線境界線領域のそれぞれの前記中心点の中に屈曲点があるかどうかを判定するステップであり、前記屈曲点が峰点または谷点であるステップと、
    前記候補車線境界線領域のうちの1つの候補車線境界線領域の前記中心点の中に屈曲点がないことに応答して、前記1つの候補車線境界線領域の前記第1のサンプリング点、前記第2のサンプリング点、および前記第3のサンプリング点として、前記1つの候補車線境界線領域から任意の3つの中心点を選択するステップと、
    前記1つの候補車線境界線領域の前記中心点の中に屈曲点があることに応答して、前記1つの候補車線境界線領域内の前記屈曲点を前記1つの候補車線境界線領域の前記第2のサンプリング点として決定し、前記1つの候補車線境界線領域内の前記第2のサンプリング点の2つの側の2つの中心点を、前記1つの候補車線境界線領域の前記第1のサンプリング点および前記第3のサンプリング点として選択するステップとを含む、請求項7に記載の方法。
  9. 前記候補車線境界線領域のそれぞれの前記中心点の中に前記屈曲点があるかどうかを判定するステップが、
    前記候補車線境界線領域のそれぞれの前記中心点の中で、最大の水平座標を有する第3の目標点および最小の水平座標を有する第4の目標点を探索するステップと、
    前記第3の目標点および前記第4の目標点が第5の所定の条件または第6の所定の条件を満たすことに応答して、対応する候補車線境界線領域の前記中心点の中に屈曲点があると判定するステップと、
    前記第3の目標点および前記第4の目標点が前記第5の所定の条件も前記第6の所定の条件も満たさないことに応答して、前記対応する候補車線境界線領域の前記中心点の中に屈曲点がないと判定するステップとを含み、
    前記第5の所定の条件が、前記第3の目標点が前記対応する候補車線境界線領域の中央にあり、前記第4の目標点が前記対応する候補車線境界線領域の2つの端部のうちのいずれか1つにあることであり、
    前記第6の所定の条件が、前記第4の目標点が前記対応する候補車線境界線領域の中央にあり、前記第3の目標点が前記対応する候補車線境界線領域の前記2つの端部のうちのいずれか1つにあることである、請求項5、6、または8に記載の方法。
  10. 前記2つの直線状候補車線境界線領域の前記フィッティング線分の間の前記方向ずれが前記所定のずれ範囲内にあることが、前記2つの直線状候補車線境界線領域の前記フィッティング線分の狭角が第2の所定の狭角範囲内にあること、前記2つの直線状候補車線境界線領域の推定された現実の狭角が第3の所定の狭角範囲内にあること、および前記2つの直線状候補車線境界線領域の前記フィッティング線分の間のずれ距離が第3の所定の距離範囲内にあること、のうちの少なくとも1つを含み、
    前記ずれ距離が、第1の交差点と第2の交差点の間の距離であり、前記第1の交差点および前記第2の交差点が、それぞれ、前記2つの候補車線境界線領域の前記フィッティング線分の延長線と水平中央線との交差点であり、前記2つの直線状候補車線境界線領域の垂直方向に最も近い中心点と前記水平中央線の間の距離が互いに等しい、請求項2に記載の方法。
  11. 前記第2の所定の条件が、前記2つの直線状候補車線境界線領域の前記フィッティング線分の前記狭角が第4の所定の狭角範囲内にある場合に、前記2つの直線状候補車線境界線領域の前記フィッティング線分の間の前記ずれ距離が第4の所定の距離範囲内であることをさらに含み、
    前記第2の所定の狭角範囲が、前記第4の所定の狭角範囲より広く、前記第3の所定の距離範囲が、前記第4の所定の距離範囲より広い、請求項2に記載の方法。
  12. 前記目標グループ内の候補車線境界線領域を車線境界線領域として認識した後で、
    前記目標グループ内の前記車線境界線領域に対してフィッティングを実行して、前記車線画像内の車線境界線を得るステップをさらに含み、
    前記目標グループのそれぞれにおける前記車線境界線領域が、1本の車線境界線にフィッティングされる、請求項1に記載の方法。
  13. 車線境界線を検出する装置であって、
    車線画像をフィルタリングすることによって前記車線画像中の候補車線境界線領域を決定するように構成されたフィルタリング部と、
    前記候補車線境界線領域のそれぞれについて中心点を抽出するように構成された抽出部であり、前記中心点が、前記候補車線境界線領域のそれぞれにおける各行の2つの終端点の間の中央点を含む抽出部と、
    前記候補車線境界線領域のそれぞれの前記中心点に対して曲線フィッティングを実行することによって前記候補車線境界線領域のそれぞれのフィッティング曲線を得るように構成された第1のフィッティング部と、
    前記候補車線境界線領域のそれぞれの前記フィッティング曲線の傾き角に従って、前記候補車線境界線領域を直線状候補車線境界線領域および曲線状候補車線境界線領域として分類するように構成された分類部と、
    前記分類の結果に基づいて前記候補車線境界線領域をグループに分割するように構成されたグループ分け部であり、曲線状候補車線境界線領域は、それぞれ単独で1つのグループを形成し、直線状候補車線境界線領域は、1つまたは複数で1つのグループを形成し、同じグループ内の候補車線境界線領域は、同じ車線境界線に対応するグループ分け部と、
    前記グループのうちから第1の所定の条件を満たす2つを目標グループとして決定し、前記目標グループ中の候補車線境界線領域を車線境界線領域として認識するように構成された第1の認識部とを含み、
    前記第1の所定の条件が、前記2つのグループに対応する車線境界線の間の距離が第1の所定の距離範囲内であること、および前記2つのグループに対応する前記車線境界線の狭角が第1の所定の狭角範囲内であること、のうちの少なくとも1つを含む、装置。
  14. プロセッサと、メモリと、通信インタフェースと、バスシステムとを含む、車線境界線を検出するデバイスであって、
    前記バスシステムが、前記デバイスのハードウェアを結合するように構成され、
    前記通信インタフェースが、前記デバイスと少なくとも1つの他のデバイスとの間の通信接続を実施するように構成され、
    前記メモリが、プログラム命令およびデータを記憶するように構成され、
    前記プロセッサが、前記メモリに記憶された前記命令および前記データを読み取り、
    車線画像をフィルタリングすることによって前記車線画像中の候補車線境界線領域を決定する動作と、
    前記候補車線境界線領域のそれぞれについて中心点を抽出する動作であり、前記中心点が、前記候補車線境界線領域のそれぞれにおける各行の2つの終端点の間の中央点を含む動作と、
    前記候補車線境界線領域のそれぞれの前記中心点に対して曲線フィッティングを実行することによって前記候補車線境界線領域のそれぞれのフィッティング曲線を得る動作と、
    前記候補車線境界線領域のそれぞれの前記フィッティング曲線の傾き角に従って、前記候補車線境界線領域を直線状車線境界線領域および曲線状候補車線境界線領域として分類する動作と、
    前記分類の結果に基づいて前記候補車線境界線領域をグループに分割する動作であり、曲線状候補車線境界線領域は、それぞれ単独で1つのグループを形成し、直線状候補車線境界線領域は、1つまたは複数で1つのグループを形成し、同じグループ内の候補車線境界線領域は、同じ車線境界線に対応する動作と、
    前記グループのうちから第1の所定の条件を満たす2つを目標グループとして決定し、前記目標グループ中の候補車線境界線領域を車線境界線領域として認識する動作とを実行するように構成され、
    前記第1の所定の条件が、前記2つのグループに対応する車線境界線の間の距離が第1の所定の距離範囲内であること、および前記2つのグループに対応する前記車線境界線の狭角が第1の所定の狭角範囲内であること、のうちの少なくとも1つを含む、デバイス。

JP2016244016A 2016-08-29 2016-12-16 車線境界線を検出する方法、装置、およびデバイス Active JP6347827B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201610748872.5A CN106407893B (zh) 2016-08-29 2016-08-29 一种检测车道线的方法、装置和设备
CN201610748872.5 2016-08-29

Publications (2)

Publication Number Publication Date
JP2018037053A true JP2018037053A (ja) 2018-03-08
JP6347827B2 JP6347827B2 (ja) 2018-06-27

Family

ID=58002771

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016244016A Active JP6347827B2 (ja) 2016-08-29 2016-12-16 車線境界線を検出する方法、装置、およびデバイス

Country Status (4)

Country Link
US (1) US10140529B2 (ja)
JP (1) JP6347827B2 (ja)
CN (1) CN106407893B (ja)
DE (1) DE102016124879A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115273013A (zh) * 2022-09-27 2022-11-01 江西小马机器人有限公司 车道线检测方法、系统、计算机及可读存储介质
CN115273013B (zh) * 2022-09-27 2024-05-03 江西小马机器人有限公司 车道线检测方法、系统、计算机及可读存储介质

Families Citing this family (58)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107462223B (zh) * 2017-08-08 2020-06-16 长安大学 一种公路转弯前行车视距自动测量装置及测量方法
KR20190072834A (ko) * 2017-12-18 2019-06-26 삼성전자주식회사 차량의 종방향 속도를 제어하는 장치 및 방법
CN108256446B (zh) 2017-12-29 2020-12-11 百度在线网络技术(北京)有限公司 用于确定道路中的车道线的方法、装置和设备
CN108256445B (zh) * 2017-12-29 2020-11-06 北京华航无线电测量研究所 车道线检测方法及系统
CN108171225B (zh) * 2018-03-14 2020-12-18 海信集团有限公司 车道检测方法、装置、终端及存储介质
CN108629292B (zh) * 2018-04-16 2022-02-18 海信集团有限公司 弯曲车道线检测方法、装置及终端
CN108710834B (zh) * 2018-04-28 2022-01-14 哈尔滨工业大学深圳研究生院 滤波区域的相关滤波目标跟踪方法
CN108931786A (zh) * 2018-05-17 2018-12-04 北京智行者科技有限公司 路沿检测装置和方法
CN110555344B (zh) * 2018-06-01 2022-05-31 赛灵思电子科技(北京)有限公司 车道线识别方法、装置、电子设备、存储介质
CN108921079B (zh) * 2018-06-27 2022-06-10 盯盯拍(深圳)技术股份有限公司 拍摄角度调整方法、拍摄角度调整设备以及车载摄像装置
CN108921089A (zh) * 2018-06-29 2018-11-30 驭势科技(北京)有限公司 车道线检测方法、装置和系统及存储介质
CN110654320A (zh) * 2018-06-29 2020-01-07 比亚迪股份有限公司 探测装置探测角度的调整方法、装置及具有其的车辆
CN110765812B (zh) * 2018-07-26 2021-02-19 北京图森智途科技有限公司 一种图像数据车道线的标定方法和装置
CN109190548B (zh) * 2018-08-28 2021-04-20 武汉真元生物数据有限公司 基于gabor滤波的快速眼睑检测方法及系统
CN109186615A (zh) * 2018-09-03 2019-01-11 武汉中海庭数据技术有限公司 基于高精度地图的车道边线距离检测方法、装置及存储介质
KR102564856B1 (ko) 2018-09-07 2023-08-08 삼성전자주식회사 차선을 검출하는 방법 및 장치
CN111126106B (zh) * 2018-10-31 2023-09-05 沈阳美行科技股份有限公司 一种车道线识别方法和装置
TWI690439B (zh) * 2018-11-01 2020-04-11 財團法人車輛研究測試中心 道路標線之光達偵測方法及其系統
CN111212260B (zh) * 2018-11-21 2021-08-20 杭州海康威视数字技术股份有限公司 一种基于监控视频绘制车道线的方法及装置
JP2020087001A (ja) * 2018-11-27 2020-06-04 株式会社デンソー 車線位置情報出力装置
CN111325811B (zh) * 2018-12-14 2023-06-09 广东星舆科技有限公司 一种车道线数据的处理方法及处理装置
CN109800641B (zh) * 2018-12-14 2023-04-18 天津大学 基于阈值自适应二值化和连通域分析的车道线检测方法
CN109816720B (zh) * 2018-12-21 2021-07-20 歌尔光学科技有限公司 道路中心检测方法、机载设备及存储介质
KR20200090527A (ko) * 2019-01-21 2020-07-29 현대자동차주식회사 차선 인식 장치 및 그 방법
US10423840B1 (en) * 2019-01-31 2019-09-24 StradVision, Inc. Post-processing method and device for detecting lanes to plan the drive path of autonomous vehicle by using segmentation score map and clustering map
EP3705384B1 (en) * 2019-03-04 2021-12-22 Aptiv Technologies Limited Side collision risk estimation system for a vehicle
CN109949360B (zh) * 2019-03-18 2021-08-17 北京百度网讯科技有限公司 一种道路中心线的提取方法、装置、电子设备及存储介质
CN110281888B (zh) * 2019-05-23 2020-06-12 纽劢科技(上海)有限公司 通过曲线拟合控制减速及刹车的方法
CN110413942B (zh) * 2019-06-04 2023-08-08 上海汽车工业(集团)总公司 车道线方程筛选方法及其筛选模块
CN112802149B (zh) * 2019-11-13 2023-03-21 阿里巴巴集团控股有限公司 车道线的生成方法、生成装置、电子设备及存储介质
CN112950740A (zh) * 2019-12-10 2021-06-11 中交宇科(北京)空间信息技术有限公司 高精地图道路中心线的生成方法、装置、设备及存储介质
CN111178193A (zh) * 2019-12-18 2020-05-19 深圳市优必选科技股份有限公司 一种车道线的检测方法、检测装置及计算机可读存储介质
CN111192216B (zh) * 2019-12-31 2023-04-21 武汉中海庭数据技术有限公司 一种车道线平滑处理方法及系统
US11688155B2 (en) 2020-01-06 2023-06-27 Luminar, Llc Lane detection and tracking techniques for imaging systems
CN111488808B (zh) * 2020-03-31 2023-09-29 杭州诚道科技股份有限公司 基于交通违法图像数据的车道线检测方法
CN111460073B (zh) * 2020-04-01 2023-10-20 北京百度网讯科技有限公司 车道线检测方法、装置、设备和存储介质
CN111372188B (zh) * 2020-05-27 2020-09-01 腾讯科技(深圳)有限公司 区域内热点轨迹确定方法和装置、存储介质及电子装置
CN111652952B (zh) * 2020-06-05 2022-03-18 腾讯科技(深圳)有限公司 车道线生成方法、装置、计算机设备和存储介质
CN111932506B (zh) * 2020-07-22 2023-07-14 四川大学 一种提取图像中非连续直线的方法
CN112071058A (zh) * 2020-08-14 2020-12-11 深延科技(北京)有限公司 基于深度学习的道路交通监控及车辆异常、违禁、火灾的检测方法及系统
CN112785844B (zh) * 2020-12-28 2022-03-15 东软睿驰汽车技术(沈阳)有限公司 曲线坐标系的建立方法、装置和电子设备
CN112464914A (zh) * 2020-12-30 2021-03-09 南京积图网络科技有限公司 一种基于卷积神经网络的护栏分割方法
CN112782661A (zh) * 2021-01-05 2021-05-11 广州小鹏自动驾驶科技有限公司 一种机动车道护栏检测方法及相关装置
CN113407027B (zh) * 2021-06-04 2023-03-03 浙江商汤科技开发有限公司 位姿获取方法及装置和电子设备、存储介质
CN113254563B (zh) * 2021-06-18 2022-04-12 智道网联科技(北京)有限公司 道路编号的生成方法及相关装置
CN113762067B (zh) * 2021-07-21 2024-03-26 上海圭目机器人有限公司 一种机场板块的识别方法
CN113920319B (zh) * 2021-12-15 2022-04-05 深圳佑驾创新科技有限公司 一种车道干扰噪声线的滤除方法及装置
CN114399589B (zh) * 2021-12-20 2022-11-11 禾多科技(北京)有限公司 三维车道线生成方法、装置、电子设备和计算机可读介质
CN114511832B (zh) * 2022-04-21 2022-07-12 深圳比特微电子科技有限公司 车道线分析方法、装置、电子设备及存储介质
CN114842448B (zh) * 2022-05-11 2023-03-24 禾多科技(北京)有限公司 三维车道线生成方法、装置、电子设备和计算机可读介质
CN114694138B (zh) * 2022-06-01 2022-09-20 远峰科技股份有限公司 一种应用于智能驾驶的路面检测方法、装置及设备
CN114724117B (zh) * 2022-06-07 2022-09-13 腾讯科技(深圳)有限公司 车道线关键点数据生成方法、装置、电子设备及存储介质
CN115019518A (zh) * 2022-06-17 2022-09-06 南京乾创电子科技有限公司 一种用于公交车道占用的抓拍系统和方法
CN116486354B (zh) * 2022-07-13 2024-04-16 阿波罗智能技术(北京)有限公司 车道线处理方法、装置、设备以及存储介质
CN115071733B (zh) * 2022-07-21 2022-10-25 成都工业职业技术学院 一种基于计算机的辅助驾驶方法及装置
CN115147802B (zh) * 2022-09-06 2022-11-25 福思(杭州)智能科技有限公司 一种车道线预测方法、装置、介质、程序产品及车辆
CN115422316B (zh) * 2022-11-02 2023-01-13 高德软件有限公司 车道线数据处理方法、装置、电子设备及存储介质
CN117495989B (zh) * 2023-12-29 2024-04-19 腾讯科技(深圳)有限公司 数据处理方法、装置、设备及可读存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08261756A (ja) * 1994-11-10 1996-10-11 Toyota Central Res & Dev Lab Inc 走行レーン認識装置
JPH10143646A (ja) * 1996-08-28 1998-05-29 Matsushita Electric Ind Co Ltd 局地的位置把握装置及びその方法
JP2010128949A (ja) * 2008-11-28 2010-06-10 Hitachi Automotive Systems Ltd カメラ装置
JP2010198119A (ja) * 2009-02-23 2010-09-09 Nissan Motor Co Ltd 道路白線認識装置及び道路白線認識方法
JP2012083892A (ja) * 2010-10-08 2012-04-26 Mitsubishi Heavy Ind Ltd 自律走行制御装置及びそれを備えた自律走行車両
JP2014096135A (ja) * 2012-10-10 2014-05-22 Ricoh Co Ltd 移動面境界線認識装置、これを用いた移動体機器制御システム、移動面境界線認識方法及び移動面境界線認識用プログラム
JP2015191372A (ja) * 2014-03-27 2015-11-02 トヨタ自動車株式会社 走路境界区画線検出装置

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3357749B2 (ja) * 1994-07-12 2002-12-16 本田技研工業株式会社 車両の走行路画像処理装置
EP1383100A3 (en) * 1996-08-28 2005-02-02 Matsushita Electric Industrial Co., Ltd. Local positioning apparatus and method therefor
JP3521860B2 (ja) * 2000-10-02 2004-04-26 日産自動車株式会社 車両の走行路認識装置
JP3780922B2 (ja) * 2001-11-30 2006-05-31 日産自動車株式会社 道路白線認識装置
JP3864945B2 (ja) * 2003-09-24 2007-01-10 アイシン精機株式会社 路面走行レーン検出装置
JP4659631B2 (ja) * 2005-04-26 2011-03-30 富士重工業株式会社 車線認識装置
JP4616068B2 (ja) * 2005-04-28 2011-01-19 本田技研工業株式会社 車両、画像処理システム、画像処理方法及び画像処理プログラム
CN101477629B (zh) * 2008-12-29 2012-01-11 东软集团股份有限公司 车道线的感兴趣区域提取方法和装置
JP5363921B2 (ja) * 2009-08-31 2013-12-11 富士重工業株式会社 車両用白線認識装置
CN102288121B (zh) * 2011-05-12 2012-11-07 电子科技大学 一种基于单目视觉的车道偏离距离测量及预警方法
JP5832850B2 (ja) * 2011-10-20 2015-12-16 アルパイン株式会社 車線監視システム及び車線監視方法
TWI438729B (zh) * 2011-11-16 2014-05-21 Ind Tech Res Inst 車道偏移警示方法及系統
CN102521589B (zh) * 2011-11-18 2013-06-12 深圳市宝捷信科技有限公司 一种车道线检测的方法及系统
CN103473762B (zh) * 2013-08-29 2016-12-28 奇瑞汽车股份有限公司 一种车道线检测方法和装置
JP2015166903A (ja) * 2014-03-03 2015-09-24 株式会社日本自動車部品総合研究所 分岐路認識装置
JP5989701B2 (ja) * 2014-03-24 2016-09-07 トヨタ自動車株式会社 境界検出装置および境界検出方法
CN104063877B (zh) * 2014-07-16 2017-05-24 中电海康集团有限公司 一种候选车道线混合判断识别方法
CN105069415B (zh) * 2015-07-24 2018-09-11 深圳市佳信捷技术股份有限公司 车道线检测方法和装置
CN105224909A (zh) * 2015-08-19 2016-01-06 奇瑞汽车股份有限公司 车道线检测系统中的车道线确认方法
CN105260713B (zh) * 2015-10-09 2019-06-28 东方网力科技股份有限公司 一种车道线检测方法和装置
CN105261020B (zh) * 2015-10-16 2018-11-20 桂林电子科技大学 一种快速车道线检测方法
CN106203398B (zh) * 2016-07-26 2019-08-13 东软集团股份有限公司 一种检测车道边界的方法、装置和设备

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08261756A (ja) * 1994-11-10 1996-10-11 Toyota Central Res & Dev Lab Inc 走行レーン認識装置
JPH10143646A (ja) * 1996-08-28 1998-05-29 Matsushita Electric Ind Co Ltd 局地的位置把握装置及びその方法
JP2010128949A (ja) * 2008-11-28 2010-06-10 Hitachi Automotive Systems Ltd カメラ装置
JP2010198119A (ja) * 2009-02-23 2010-09-09 Nissan Motor Co Ltd 道路白線認識装置及び道路白線認識方法
JP2012083892A (ja) * 2010-10-08 2012-04-26 Mitsubishi Heavy Ind Ltd 自律走行制御装置及びそれを備えた自律走行車両
JP2014096135A (ja) * 2012-10-10 2014-05-22 Ricoh Co Ltd 移動面境界線認識装置、これを用いた移動体機器制御システム、移動面境界線認識方法及び移動面境界線認識用プログラム
JP2015191372A (ja) * 2014-03-27 2015-11-02 トヨタ自動車株式会社 走路境界区画線検出装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115273013A (zh) * 2022-09-27 2022-11-01 江西小马机器人有限公司 车道线检测方法、系统、计算机及可读存储介质
CN115273013B (zh) * 2022-09-27 2024-05-03 江西小马机器人有限公司 车道线检测方法、系统、计算机及可读存储介质

Also Published As

Publication number Publication date
DE102016124879A1 (de) 2018-03-01
CN106407893A (zh) 2017-02-15
JP6347827B2 (ja) 2018-06-27
CN106407893B (zh) 2019-11-22
US10140529B2 (en) 2018-11-27
US20180060677A1 (en) 2018-03-01

Similar Documents

Publication Publication Date Title
JP6347827B2 (ja) 車線境界線を検出する方法、装置、およびデバイス
JP6347815B2 (ja) 車線境界を検出する方法、装置、およびデバイス
US9245188B2 (en) Lane detection system and method
JP6802331B2 (ja) 車線処理方法及び装置
CN110390306B (zh) 直角车位的检测方法、车辆和计算机可读存储介质
US20150347840A1 (en) Autonomous vehicle, and object recognizing method in autonomous vehicle
JP5385105B2 (ja) 画像検索方法およびシステム
Cheng et al. Curb detection for road and sidewalk detection
US9336595B2 (en) Calibration device, method for implementing calibration, and camera for movable body and storage medium with calibration function
WO2022134996A1 (en) Lane line detection method based on deep learning, and apparatus
US11049275B2 (en) Method of predicting depth values of lines, method of outputting three-dimensional (3D) lines, and apparatus thereof
CN111433780A (zh) 车道线检测方法、设备、计算机可读存储介质
KR101366871B1 (ko) 관심영역 분할을 통한 곡선차선 검출장치 및 그 방법
JP6230498B2 (ja) 対象物認識装置
JP2015225546A (ja) 物体検出装置、運転支援装置、物体検出方法、および物体検出プログラム
CN111046719A (zh) 用于转换图像的设备和方法
CN112907723A (zh) 具有三维对象显示的方法和装置
Bui et al. Road area detection based on texture orientations estimation and vanishing point detection
WO2020001631A1 (zh) 基于视觉摄像机的自阴影物体边缘识别方法、装置及车辆
US11145063B2 (en) Image processing apparatus
CN112912894B (zh) 道路边界识别方法和装置
WO2014054124A1 (ja) 路面標示検出装置及び路面標示検出方法
US20190197720A1 (en) Vehicle exterior environment recognition apparatus
JP6569416B2 (ja) 画像処理装置、物体認識装置、機器制御システム、画像処理方法及び画像処理プログラム
JPH11219435A (ja) 自動車用白線検出装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180515

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180529

R150 Certificate of patent or registration of utility model

Ref document number: 6347827

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250