JP7033389B2 - 車両の周囲にある縁石を検知する装置および方法並びに車両用縁石チェックシステム - Google Patents

車両の周囲にある縁石を検知する装置および方法並びに車両用縁石チェックシステム Download PDF

Info

Publication number
JP7033389B2
JP7033389B2 JP2017007048A JP2017007048A JP7033389B2 JP 7033389 B2 JP7033389 B2 JP 7033389B2 JP 2017007048 A JP2017007048 A JP 2017007048A JP 2017007048 A JP2017007048 A JP 2017007048A JP 7033389 B2 JP7033389 B2 JP 7033389B2
Authority
JP
Japan
Prior art keywords
line segment
curb
vehicle
point
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017007048A
Other languages
English (en)
Other versions
JP2017151968A5 (ja
JP2017151968A (ja
Inventor
ピーター,ラカトシュ
ピーター,ポジェゴヴィチャ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of JP2017151968A publication Critical patent/JP2017151968A/ja
Publication of JP2017151968A5 publication Critical patent/JP2017151968A5/ja
Application granted granted Critical
Publication of JP7033389B2 publication Critical patent/JP7033389B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/579Depth or shape recovery from multiple images from motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/165Anti-collision systems for passive traffic, e.g. including static obstacles, trees
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Description

本発明は、独立請求項に記載の種類の装置または方法に基づく。本発明の対象はコンピュータプログラムでもある。
車両はたとえば車載カメラを搭載していることがある。この種の車載カメラは、車両の周囲を撮影するように構成されていることがある。周囲には、たとえば障害物等の形態の定置の対象物のような対象物が配置されている場合がある。
このような背景に対し、ここに提示するアプローチにより、主請求項に記載の方法、さらにこの方法を使用する装置、最後に対応するコンピュータプログラムが提示される。従属項で述べる処置により、独立請求項に記載した装置の好適な更なる構成および改善が可能である。
実施態様によれば、たとえば魚眼レンズを備えたカメラを使用して縁石検知を実現することができる。この場合、縁石検知は、たとえば近距離カメラプラットホームをベースにしたシステムによっても可能にすることができる。特に、車両に対しては、車両周囲の縁石の検知と、これに加えてまたはこれとは択一的に、車両に対する縁石の位置に関するチェックを行うことができ、この場合たとえばただ1つのカメラをベースにしても、縁石の3次元表示を生成して利用することができる。
実施態様によれば、たとえば縁石の位置と形態とを確実に検知できるので好適である。これは、特にただ1つの車載カメラを使用しても可能にすることができる。さらに、たとえば縁石と車両との位置関係を監視して、チェックすることもできる。したがって、車両誘導を改善することができ、走行安全性を向上させることができる。その際、縁石検知または縁石チェックを正確に、確実に、低コストで実施することができる。
車両の周囲にある縁石を検知する方法が提案され、この方法は次のステップを有し、すなわち、
前記車両の少なくとも1つのカメラ機構に対するインターフェースによって読み取られるイメージデータを使用して、前記縁石に属している少なくとも1つの線分を認識するステップであって、前記イメージデータは車両の周囲を表している前記ステップと、
前記少なくとも1つの線分を前記周囲の地面表面に投影して、投影線分を生成させるステップと、
前記車両の前記周囲にある複数の3次元三角測量点の少なくとも一部を、前記カメラ機構の位置に対する前記点の相対位置と、前記投影線分の始点に対する前記点の相対位置と、前記投影線分の終点に対する前記点の相対位置とに依存して、前記少なくとも1つの線分に割り振るステップであって、前記3次元三角測量点が前記車両の前記周囲にある物点に対応している前記ステップと、
割振り点を使用して前記縁石の側面を特定するステップと、
を有する。
この方法は、たとえばソフトウェアまたはハードウェア、或いはソフトウェアとハードウェアとから成る混合形態でたとえば制御器で実行されていてよい。車両とは自動車であり、特にたとえば乗用車、トラック等の路上走行車両である。少なくとも1つのカメラ機構は魚眼レンズを有していてよい。割振りのステップでは、3次元三角測量点を少なくとも1つの線分に、およびこれに加えて、またはこれとは択一的に縁石に割り振りまたは関連付けることができる。側面は、認識された線分を有することができる。側面は、地面表面に関して傾斜した、縁石の面を表すことができる。地面表面は走行軌道レベル、または走行軌道レベルに対し平行にシフトした面を表すことができる。
1実施態様によれば、割り振るステップで、3次元三角測量点が分離面から最大で所定間隔で離れて配置されているかどうかをチェックする。この場合分離面は、カメラ機構の位置と、投影線分の始点と、投影線分の終点とによって定義されている。このような実施態様は、縁石に潜在的に属している特徴を確実に識別できるという利点を提供する。特に、この場合には1次元に関する線外値点を排除することができる。
また、割り振るステップでは、3次元三角測量点が、カメラ機構の位置と、投影線分の始点と、投影線分の終点とによって定義されている分離面への該3次元三角測量点の投影の際に、カメラ機構の位置と、投影線分の始点と、投影線分の終点とによって定義されている三角形の内側に配置されているかどうかをチェックできる。このような実施態様は、縁石に属している特徴を確実に正確に識別できるという利点を提供する。特に、この場合には2次元および3次元に関する線外値点を排除することができる。
さらに、特定するステップでは、前記側面を、割振り点が周囲の地面表面から所定間隔インターバルで配置されているかどうかに依存して特定できる。換言すれば、特定するステップは、割振り点が周囲の地面表面から所定間隔インターバルで配置されているときに実施することができる。この場合、点の間の平均間隔を使用してもよい。このような実施態様は、縁石をさらに確実に、より正確に検知できるという利点を提供する。
さらに、特定するステップでは、前記側面を、割り振るステップで所定最小数の点が割り振りされたかどうかに依存して特定できる。換言すれば、特定するステップは、割り振るステップで所定最小数の点が割り振られたときに実施することができる。このような実施態様は、誤検知をさらに低減できるという利点を提供する。
特に、特定するステップでは、縁石の前記側面を、割振り点の算出した質量中心点を使用して特定できる。このような実施態様は、前記側面の位置をさらに確実に、より正確に特定できるという利点を提供する。
また、認識するステップでは第1の座標系を使用することができる。この場合投影するステップ、割り振るステップおよびこれに加えてまたはこれとは択一的に特定するステップで、第2の座標系を使用することができる。この場合、第1の座標系はイメージ座標を有し、第2の座標系はワールド座標を有していてよい。このような実施態様は、確実な縁石検知を可能にすることができ、その際車両と縁石とを含んでいる参照フレームを利用できるという利点を提供する。
さらに、本方法は、車両と、特定するステップで特定した縁石の前記側面との間の間隔を算出するステップを備えていてよい。間隔は、ワールド座標を使用して算出することができる。特に、算出するステップでは、車両の少なくとも1つの車輪またはタイヤと、特定するステップで特定した縁石の側面との間隔を算出することができる。このような実施態様は、車両と縁石との間の確実な間隔チェックを可能にするという利点を提供する。
この場合、本方法は、算出するステップで算出した間隔が所定の安全間隔を下回っているときに警告信号を供給するステップを有していてよい。このような実施態様は、走行安定性を高め、走行快適性を向上させることができるという利点を提供する。
さらに、本方法は、少なくとも1つの線分、割振り点、これに加えてまたはこれとは択一的に前記側面を、経時的におよびこれに加えてまたはこれとは択一的に車両の移動時に追跡するステップを有していてよい。追跡するステップは、車両のカメラ機構によって時間的に連続して検知されたイメージデータを表すイメージデータを使用して行うことができる。このような実施態様は、縁石検知の信頼性を可能にし、検出確実性をさらに向上させることができるという利点を提供する。
さらに、本方法は、車両の周囲にある複数の3次元三角測量点を検出するステップを有していてよい。この場合、3次元三角測量点は車両の周囲にある物点に対応できる。検出するステップは、少なくとも1つのカメラ機構のイメージデータを使用して実施することができる。特に、検出するステップは移動から構造を取得するためのアルゴリズムを使用して実施することができる。このような実施態様は、車両周囲の信頼性のある適切な表示を取得できるという利点を提供する。
ここに提示するアプローチは、さらに、ここに提示した方法の1実施態様でのステップを適当な機構で実施し、制御し、または置換するように構成された装置を提供する。装置の形態の本発明のこれらの実施態様によっても、本発明の基本的な課題を迅速かつ効率的に解決することができる。
このため、装置は、信号またはデータを処理するための少なくとも1つの演算ユニット、信号またはデータを記憶するための少なくとも1つのメモリユニット、センサのセンサ信号を読み取るための、或いは、通信プロトコルに埋め込まれているデータの読み取りまたは出力のためにデータ信号または制御信号をアクチュエータおよび/または少なくとも1つの通信インターフェースへ出力するためのセンサまたはアクチュエータのための少なくとも1つのインターフェースを有していてよい。演算ユニットはたとえば信号プロセッサ、マイクロコントローラ等であってよく、この場合メモリユニットはフラッシュメモリ、EPROMまたは磁気メモリユニットであってよい。通信インターフェースは、データを無線および/または有線で読み取りまたは出力するように構成されていてよく、この場合有線データの読み取りまたは出力を行うことができる通信インターフェースはこれらのデータをたとえば電気的にまたは光学的に対応するデータ伝送線から読み取り、または、適当なデータ伝送線へ出力することができる。
装置とは、本発明では、センサ信号を処理し、制御信号および/またはデータ信号に依存して出力させる電気機器であってよい。装置は、ハードウェアおよび/またはソフトウェアとして構成されていてよいインターフェースを有していてよい。ハードウェアによる構成の場合、インターフェースは、たとえば装置の種々の機能を含んでいるいわゆるシステムASICの一部であってよい。しかしながら、インターフェースが固有の集積回路であり、または、少なくとも部分的に個別部品から成っていることも可能である。ソフトウェアによる構成の場合には、インターフェースは、たとえば他のソフトウェアモジュールとともにマイクロコントローラに設けられたソフトウェアモジュールであってよい。
好適な構成では、装置によってイメージデータの処理が行われる。このため、装置は、たとえば少なくとも1つのカメラ機構のカメラ信号およびビデオ信号のようなセンサ信号へアクセスすることができる。装置は、処理したイメージデータを提供するように構成されていてよく、これらのイメージデータが縁石を描く。
車両用縁石チェックシステムが提示される。この場合システムは次の構成要件を有し、すなわち
前記車両の周囲のイメージデータを提供する少なくとも1つのカメラ機構と、
データ伝送可能に前記少なくとも1つのカメラ機構と接続可能またはこれと接続されている前記装置の1実施形態と、
を有している。
縁石チェックシステムとの関連で、前述の装置の1実施形態を、車両の周囲にある縁石を検知するために好適に投入または使用することができる。
プログラムコードを備えたコンピュータプログラム製品またはコンピュータプログラムも好適である。コンピュータプログラム製品またはコンピュータプログラムは半導体メモリ、ハードディスク、または光学メモリのような機械で読み取り可能なキャリアまたは記憶媒体に記憶されていてよく、特にコンピュータプログラム製品またはコンピュータプログラムがコンピュータまたは装置で実施される場合に、前述したいくつかの実施態様のうちの1つによる方法のステップの実施、置換および/または制御のために使用される。
ここで提示したアプローチのいくつかの実施例が図面に図示されており、以下の説明で詳細に説明する。
1実施例によるシステムの概略図である。 1実施例による方法のフローチャートである。 図1のシステムと車両の周囲とを合わせて示した車両の概略図である。 縁石検知時の図3の車両の周囲の概略図である。 縁石検知時の図3または図4の車両の周囲の概略図である。
本発明の好ましい実施例に関する以下の説明では、異なる図面に図示されて同様の作用をする要素に対しては同一または類似の参照符号を使用し、これらの要素の説明は反復しないことにする。
図1は、1実施例によるシステム100の概略図である。システム100は、車両のための縁石チェックまたは縁石監視を実施するように構成されている。したがってシステム100は車両内で利用可能であり、特に自動車または路上走行車両で利用可能である。
その際にシステム100は、車両の周囲のイメージデータ110を提供するための少なくとも1つのカメラ機構105を有している。図1に示した実施例によれば、システム100はたとえばカメラ機構105のみを有している。イメージデータ110は車両の周囲を表している。カメラ機構105は、たとえばスチールカメラおよび/またはビデオカメラとして実施されていてよい車両カメラである。図1に示した実施例によれば、カメラ機構105は魚眼対物レンズを有している。カメラ機構105は、イメージデータ110を提供するように構成されている。
システム100は、さらに、検知装置120または車両の周囲にある縁石を検知するための装置120を有している。検知装置120はデータを伝送可能にカメラ機構105と接続されている。したがって検知装置120は、カメラ機構105のイメージデータ110を受信または読み取るように構成されている。
検知装置120は、システム100が使用のために配置されている車両の周囲にある縁石を検知するように構成されている。この場合検知装置120は、カメラ機構105のイメージデータ110を使用して縁石を検知するように構成されている。検知装置120は、認識機構122と、投影機構124と、割振り機構126と、特定機構128とを有している。
検出機構122は、カメラ機構105のイメージデータ110を使用するように構成されている。たとえば、検出機構122は、カメラ機構105または該カメラ機構105へのインターフェースのイメージデータ110を読み取るように構成されている。検出機構122は、読み取ったイメージデータ110を使用して、縁石に属する少なくとも1つの線分を認識するように構成されている。検出機構122は、認識した線分または認識した線分に関する情報を投影機構124へ伝送するようにも構成されている。
投影機構124は、少なくとも1つの線分を周囲の地面表面に投影して、投影線分を生成するように構成されている。投影機構124は、さらに、投影線分を割振り機構126に対し提供するように構成されている。
割振り機構126は、車両周囲にある複数の3次元三角測量点の少なくとも一部を少な
くとも1つの線分に割り振るように構成されている。この場合割振り機構126は、3次元三角測量点を、カメラ機構105の位置に対するこれら三角測量点の相対位置と、投影線分の始点に対するこれら三角測量点の相対位置と、投影線分の終点に対するこれら三角測量点の相対位置とに依存して少なくとも1つの線分に割り振るように構成されている。3次元三角測量点は、車両周囲の物点に対応している。割振り機構126は、さらに、割振り点または割振り点に関する情報を特定機構128へ転送するように構成されている。
特定機構128は、割振り点を使用して縁石の側面を特定するように構成されている。特に、特定機構128は縁石の少なくとも側面を特定するように構成されている。
次に、以下の図面を参照して検知装置120の機能をさらに詳細に説明する。
図2は、1実施例による検知方法200のフローチャートである。この方法200は、車両周囲の縁石を検知するために実施可能である。この場合、方法200は、図1の検知装置120或いは同様の検知装置との連動でまたは該検知装置或いは同様の検知装置を使用して実施可能である。
検知方法200は、イメージデータを使用して、縁石に属する少なくとも1つの線分を認識する認識ステップ210を有している。この場合、イメージデータは車両の少なくとも1つのカメラ機構に対するインターフェースによって読み取られ、車両の周囲を表す。認識ステップ210に関連して以下に説明する投影ステップ220では、認識ステップ210で認識した少なくとも1つの線分を地面表面に投影させることで、投影線分を生成させる。
次に、割振りステップ230では、車両周囲の複数の3次元三角測量点の少なくとも一部を、カメラ機構の位置に対する三角測量点の相対位置と、投影線分の始点に対する三角測量点の相対位置と、投影線分の終点に対する三角測量点の相対位置とに依存して、少なくとも1つの線分に割り振る。3次元三角測量点は、車両周囲の物点に対応している。特定ステップ240では、割振りステップ230で割振り点を使用して、縁石の側面を特定する。
1実施例によれば、方法200は、さらに、算出ステップ250を有し、該算出ステップで、車両と特定ステップ240で特定した縁石の側面との間隔を算出する。次の、オプションである供給ステップ260では、算出ステップ250で算出した間隔が所定の安全間隔を下回ったときに警告信号を供給する。
他の実施例によれば、方法200は、少なくとも1つの線分、割振り点および/または前記側面を車両の移動時間にわたっておよび/または車両の移動時に追跡する追跡ステップ270をも有している。この場合、追跡ステップ270は特定ステップ240の後、または、算出ステップ250の後に実施可能である。
1実施例によれば、方法200は、車両周囲の複数の3次元三角測量点を検出する検出ステップ280をも有している。この場合、検出ステップ280は割振りステップ230の前に実施可能である。
1実施例によれば、方法200では、検知ステップ210での検知のために第1の座標系を使用する。この場合、投影ステップ220、割振りステップ230および/または特定ステップ240では、第2の座標系を使用する。第1の座標系はイメージ座標を有し、第2の座標系はワールド座標を有している。オプションでは、算出ステップ250、追跡ステップ270および/または検出ステップ280でも第2の座標系を使用することができる。
他の実施例によれば、特定ステップ240は、前記側面を、割振り点が周囲の地面表面から所定の間隔インターバルで配置されているかどうか、および/または、割振りステップ230で所定最小数の点が割り振られたかどうかに依存して特定される。特に、特定ステップ240では、縁石の側面は算出した割振り点の質量中心点を使用して特定される。
図3は、図1のシステムと車両300の周囲とを合わせて示した車両300の概略図である。したがって、車両300は図1のシステムを有している。1実施形態によれば、車両300は、図1のシステムに類似した縁石チェックシステムを有していてよい。図3では、作図上の理由から、システムのうちカメラ機構105のみを示している。
車両300の周囲には、縁石330が配置されている。システムの検知装置により、たとえば縁石330の複数の線分が認識され、その際図3では、一例として1本の線分335のみに参照符号を付した。線分335は縁石330の1つのエッジを表している。さらに、説明のために、車両300の周囲に、地面または地面表面への縁石の投影340を象徴的に記入した。換言すれば、線分335の投影を表す少なくとも1つの投影線分340が示されている。投影線分340は始点342と終点344とを有している。カメラ機構105と始点342との間には、第1の視線352が始点342へ延びている。カメラ機構105と終点344との間には、第2の視線354が終点344へ延びている。
換言すれば、図3は車両300と車両300の周辺との概略平面図である。システムの検知装置の線検出アルゴリズムの出力として、縁石330のエッジで検出されて地面への投影線分340として投影される線分335が得られる。
図4は、縁石検知時の図3の車両の周囲の概略図である。図4の図示では、カメラ機構105と、縁石330と、線分335と、地面への縁石330の投影をカメラ機構105によって表わす投影線分340と、始点342と、終点344と、第1の視線352と、第2の視線354と、地面または地面表面への縁石330の垂直投影430と、複数の3次元三角測量点460またはその散布図が図示されている。
始点342と、終点344と、カメラ機構105の位置とにより、三角形が定義され、または張られている。複数の3次元三角測量点460はこの三角形の内部および外部に配置されている。さらに、始点342と終点344とカメラ機構105の位置とにより分離面が定義され、または張られている。
図1のシステムの検知装置により、または、図2の方法により、3次元三角測量点460を縁石330の少なくとも1つの線分335に対し割り振るために、または、投影線分340に対し割り振るために、チェックを実施する。このチェックは、3次元三角測量点460を分離面に投影したときに該3次元三角測量点が図4に図示した三角形の内側に配置されているかどうかに関して行う。したがって、このチェックは三角形判断基準に基づいて行う。三角形の内側に配置され、よって三角形判断基準を満たしている点460を割り振り、三角形の外側に配置されている点460は排除する。
換言すれば、図4は概略正面図であり、三角形によって表わされる分離面が始点342と、終点344と、カメラ機構105の位置とによって定義されている。散布図から、分離面に十分近くにあるような三角測量点460を探す。さらに、たとえば、これらの点460は縁石330のエッジの周囲にあると仮定する。
図5は、縁石検知時の図3または図4の車両の周囲の概略図である。図4とは異なり、図5の車両の周囲は概略側面図で図示されている。図5の図示では、カメラ機構105と、縁石330と、投影線分340と、複数の3次元三角測量点460と、縁石330の側面を表す、ここでは鉛直面530と、分離面570と、地面表面580と、高さhとが示されている。高さhはたとえば縁石330または縁石330のエッジの想定高さまたは検出高さに対応している。
図5の図示では、点460は分離面570の両側に配置され、および、たとえば分離面570の内側にも配置されている。図1のシステムの検知装置により、または、図2の方法により、3次元三角測量点460を、縁石330の少なくとも1つの線分335または投影線分340に割り振るために、チェックを実施する。このチェックは、3次元三角測量点460が最大で分離面570から所定間隔離れて配置されているかどうかに関して行う。したがって、このチェックは面間隔判断基準を用いて行う。最大で分離面570から所定間隔で配置され、したがって面間隔判断基準を満たしている点460を割り振り、分離面570から所定間隔より離れて配置されている点460は排除する。
換言すれば、分離面570からの三角測量点460の間隔、特に垂直間隔を測定する。点460が十分にあれば、縁石330自体が地面表面580に対し平行であり、その結果垂直面530または縁石の側面530が地面表面580に対し実質的に垂直であるという仮定の下に、縁石330の鉛直面530を再構成することができる。この時点で、鉛直面530と車両のタイヤまたは車輪との間隔、特に垂直間隔を測定可能である。たとえば車輪の1つが縁石330付近へ来れば、警告信号を出力または供給することができる。
次に、図1ないし図5を参照して、たとえば6つまたは6つまでの主ステップのみを用いて縁石検知または縁石チェックを行うためのアルゴリズムの一例を説明する。
線検出または線認識のステップでは、検知装置120を用いて、または、方法200の実施の際に、少なくとも1つの線分335を認識する。縁石330の構造はほとんどの場合直線を有しているので、本発明にしたがって提案されるアルゴリズムはこの事実を活用する。
線投影のステップでは、検知装置120を用いて、または、方法200を実施する際に、特に、魚眼レンズを備えた少なくとも1つの校正したカメラまたはカメラ機構105を利用する。この場合、たとえばカメラ機構105の位置はワールド座標において既知であり、その結果イメージ座標をワールド座標に変換することができる。このことは、線認識の際にイメージ座標で算出された線または線分335を地面または地面表面580に投影することができ、3次元ワールドマップ表示に変換できることを意味している。
三角測量または3次元三角測量点460を検出するステップでは、たとえばいわゆるStructure from Motion(SfM,運動からの構造復元)の原理に従って作動するアルゴリズムを使用する。しかしながら、周囲を再構成する複数の方法を散布図として使用することができる。この散布図は、車両300のまわりに多数の3次元三角測量点460を有することができ、これらの3次元三角測量点を本発明にしたがって提案されるアルゴリズムに利用して、とりわけ縁石330のエッジの高さhに関する高さ情報を周囲またはイメージデータ110から得る。
割振りステップ230では、得られた入力データを使用し、たとえば面間隔判断基準(図5を参照)および三角形判断基準(図4を参照)に基づき、点460を線分335に割り振り、または排除する。
面間隔判断基準に対しては、3次元ワールドに3つの点が与えられている。これらの点とは、地面に投影した線分340の初期点342または始点342と、同様に地面に投影した線分340の終点344と、カメラ位置またはカメラ機構105の位置である。これら3つの点から分離面570を定義し、その後点460または散布図の個々の要素の分離面570からの垂直間隔を測定または特定することが可能である。この許容間隔に対し最小公差範囲を考慮することができる。間隔がこの公差範囲内にある場合には、三角形判断基準を利用することができ、他の場合には、実際の線分335に該当する点460を排除することができる。
三角形判断基準は、潜在的に面間隔判断基準をまだ許容するような可能な不適当な割振りを制限するために適している。というのは、1つの面は無限の対象物を表すからである。このため、地面へ投影した線分340の始点342と終点344、および、カメラ位置をも新たに考慮するが、これらの点が分離面570として定義されている同じ面内で常に三角形を形成するという事実を活用する。散布図または分離面570上へのその投影図の、この三角形の境界内にあるような点460が注目すべき点である。換言すれば、注目区域が3次元で分離面570上に定義されている。
1つの3次元三角測量点460が前記判断基準を満たしている場合には、この点460は実際の線分335に属している。この点460の座標を線分335とともに記憶させ、たとえばその構造の点で記憶させる。各線分335と3次元三角測量点460との間でチェックを行い、もし1つより多くの点が判断基準を満たしていれば、これらの点460を最も近くにある面に割り振る。
割振りを行った場合、判定ステップで、点の平均高さhが縁石330とみなすために十分高いかどうかを判定する。経験則によれば、算出高さhを持ったこの種の対象物が存在することについての確実性が増せば増すほど、それだけ多くの点460を割り振ることができる。誤った推測を阻止するため、割り振られる点460の数量に対し下限または最小数を考慮してよい。
なお、点460の平均高さhは、縁石330と見なすことができるような、前述のように定義したインターバルにあるものと仮定する。このケースでは、分離面570に投影されている割振り点460の重心または質量中心点を算出することができる。縁石330の上端は地面表面580に対し平行で且つその側面は地面表面に対し傾斜しているか垂直であるとの仮定の下に、縁石330の1つの側面の鉛直面530を、1つの点460と、この点460を通る分離面570上の線とを用いて定義することができる。すると、たとえば車両の車輪とこの鉛直面530との垂直間隔を測定可能であり、得られた値が閾値未満であるか、そうでないかを判定することができる。
縁石330が存在しているかどうかに関しさらに確実にするため、および、可能な限り誤検出を少なくするため、対象物を経時的に追跡してよい。このため、線追跡またはいわゆるライントラッキングを行うことができる。
1つの実施例が第1の構成要件と第2の構成要件との間で「および/または」の関係にあれば、これは、この実施例は、1つの実施態様によれば第1の構成要件と第2の構成要件との双方を有し、他の実施態様によれば、第1の構成要件のみまたは第2の構成要件のみを有するものと読み取るべきである。
100 システム
105 カメラ機構
110 イメージデータ
120 装置
200 縁石検知方法
210 線分検知ステップ
220 投影ステップ
230 割振りステップ
240 特定ステップ
250 算出ステップ
260 警告信号供給ステップ
270 追跡ステップ
280 検出ステップ
300 車両
330 縁石
335 線分
340 投影線分
342 投影線分の始点
344 投影線分の終点
460 3次元三角測量点
530 縁石の側面
570 分離面

Claims (15)

  1. 検出機構(122)と、投影機構(124)と、割振り機構(126)と、特定機構(128)と、を備える装置(120)によって実行される、車両(300)の周囲にある縁石(330)を検知する方法(200)であって、該方法(200)が次のステップを有し、すなわち、
    前記検出機構(122)が、前記車両(300)の少なくとも1つのカメラ機構(105)に対するインターフェースによって読み取られるイメージデータ(110)を使用して、前記縁石(330)の上面の長辺を表す前記イメージデータ(110)中の線分(335)を認識するステップ(210)であって、前記イメージデータ(110)は前記車両(300)の周囲を表している、ステップと、
    前記投影機構(124)が、投影線分(340)を生成するために、前記少なくとも1つのカメラ機構(105)から前記線分(335)の両端へそれぞれ延びる直線と前記周囲の地面表面(580)との交点が前記投影線分(340)の両端となるように、前記投影線分(340)を前記周囲の地面表面(580)上に投影するステップ(220)と、
    前記割振り機構(126)が、前記車両(300)の前記周囲にある複数の3次元三角測量点(460)の少なくとも一部を、前記カメラ機構(105)の位置に対する前記3次元三角測量点(460)の相対位置と、前記投影線分(340)の始点(342)に対する前記3次元三角測量点の相対位置と、前記投影線分(340)の終点(344)に対する前記3次元三角測量点の相対位置とを用いて、前記線分(335)に割り振るステップ(230)であって、前記3次元三角測量点(460)が前記車両(300)の前記周囲にある物点に対応している、ステップと、
    前記特定機構(128)が、前記割り振られた3次元三角測量点(460)を使用して前記縁石(330)の側面(530)を特定するステップ(240)と、
    を有する方法(200)。
  2. 前記割り振るステップ(230)で、前記3次元三角測量点(460)が分離面(570)から最大で所定間隔で離れて配置されているかどうかをチェックし、前記分離面(570)が、前記カメラ機構(105)の位置と、前記投影線分(340)の前記始点(342)と、前記投影線分(340)の前記終点(344)とを頂点とする三角形によって定義されている、請求項1に記載の方法(200)。
  3. 前記割り振るステップ(230)で、前記3次元三角測量点(460)が、前記カメラ機構(105)の位置と、前記投影線分(340)の前記始点(342)と、前記投影線分(340)の前記終点(344)とを頂点とする三角形によって定義されている分離面(570)への該3次元三角測量点の投影の際に、前記カメラ機構(105)の位置と、前記投影線分(340)の前記始点(342)と、前記投影線分(340)の前記終点(344)とによって定義されている三角形の内側に配置されているかどうかをチェックする、請求項1または2に記載の方法(200)。
  4. 前記特定するステップ(240)で、前記割り振られた3次元三角測量点(460)が前記周囲の地面表面(580)から所定間隔インターバル(h)で配置されているかどうかに依存して前記縁石(330)の前記側面(530)を特定する、請求項1から3までのいずれか一つに記載の方法(200)。
  5. 前記特定するステップ(240)で、前記割り振るステップ(230)で所定最小数の3次元三角測量点(460)が割り振りされたかどうかに依存して前記縁石(330)の前記側面(530)を特定する、請求項1から4までのいずれか一つに記載の方法(200)。
  6. 前記特定するステップ(240)で、前記割り振られた3次元三角測量点(460)の算出した質量中心点を使用して前記縁石(330)の前記側面(530)を特定する、請求項1から5までのいずれか一つに記載の方法(200)。
  7. 前記認識するステップ(210)で第1の座標系を使用し、前記投影するステップ(220)、前記割り振るステップ(230)および/または前記特定するステップ(240)で、第2の座標系を使用し、前記第1の座標系がイメージ座標を有し、前記第2の座標系がワールド座標を有している、請求項1から6までのいずれか一つに記載の方法(200)。
  8. 前記装置(120)がさらに備える第1の機構が、前記車両(300)と、前記特定するステップ(240)で特定した前記縁石(330)の前記側面(530)との間の間隔を算出するステップ(250)を備えている、請求項1から7までのいずれか一つに記載の方法(200)。
  9. 前記装置(120)がさらに備える第2の機構が、前記算出するステップ(250)で算出した間隔が所定の間隔を下回っているときに警告信号を供給するステップ(260)を備えている、請求項8に記載の方法(200)。
  10. 前記装置(120)がさらに備える第3の機構が、前記線分(335)、前記割り振られた3次元三角測量点(460)および/または前記側面(530)を、経時的におよび/または前記車両(300)の移動時に追跡するステップ(270)を備えている、請求項1から9までのいずれか一つに記載の方法(200)。
  11. 前記装置(120)がさらに備える第4の機構が、前記車両(300)の前記周囲にある複数の3次元三角測量点(460)を検出するステップ(280)を備える、請求項1から10までのいずれか一つに記載の方法(200)。
  12. 請求項1から11までのいずれか一つに記載の方法(200)を実行するように構成されている装置(120)。
  13. 車両(300)のための縁石チェックシステム(100)において、該システム(100)が次の構成要件を備え、すなわち、
    前記車両(300)の周囲のイメージデータ(110)を提供する少なくとも1つのカメラ機構(105)と、
    データ伝送可能に前記少なくとも1つのカメラ機構(105)と接続可能またはこれと接続されている、請求項12に記載の装置(120)と、
    を備えている縁石チェックシステム。
  14. 請求項1から13までのいずれか一つに記載の方法(200)をコンピュータ装置に実行させるように構成されたコンピュータプログラム。
  15. 請求項14に記載のコンピュータプログラムが記憶されている、機械で読み取り可能な記憶媒体。
JP2017007048A 2016-01-28 2017-01-18 車両の周囲にある縁石を検知する装置および方法並びに車両用縁石チェックシステム Active JP7033389B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102016201304.1 2016-01-28
DE102016201304.1A DE102016201304A1 (de) 2016-01-28 2016-01-28 Vorrichtung und Verfahren zum Erfassen eines Randsteins in einer Umgebung eines Fahrzeugs sowie System zur Randsteinkontrolle für ein Fahrzeug

Publications (3)

Publication Number Publication Date
JP2017151968A JP2017151968A (ja) 2017-08-31
JP2017151968A5 JP2017151968A5 (ja) 2021-06-10
JP7033389B2 true JP7033389B2 (ja) 2022-03-10

Family

ID=59327586

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017007048A Active JP7033389B2 (ja) 2016-01-28 2017-01-18 車両の周囲にある縁石を検知する装置および方法並びに車両用縁石チェックシステム

Country Status (4)

Country Link
US (1) US10275665B2 (ja)
JP (1) JP7033389B2 (ja)
CN (1) CN107066937B (ja)
DE (1) DE102016201304A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102018210692B4 (de) * 2018-06-29 2020-07-02 Bayerische Motoren Werke Aktiengesellschaft Verfahren zum Bestimmen von Stützpunkten zum Schätzen eines Verlaufs einer Randbebauung einer Fahrbahn, computerlesbares Medium, System, und Fahrzeug
EP3620332B1 (en) * 2018-09-05 2021-03-10 Volvo Car Corporation Driver assistance system and method for vehicle flank safety
DE102021207834A1 (de) * 2021-07-22 2023-01-26 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren für Kraftfahrzeuge zur Höhenerkennung von erhabenen Objekten
DE102021208827A1 (de) * 2021-08-12 2023-02-16 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zur Identifizierung von Kanten von Bordsteinen
DE102022125766A1 (de) 2022-10-06 2024-04-11 Connaught Electronics Ltd. Berechnung von Höheninformationen eines Bordsteins in einer Umgebung einesFahrzeugs

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013190719A1 (ja) 2012-06-19 2013-12-27 トヨタ自動車株式会社 路側物検出装置
JP2016080650A (ja) 2014-10-22 2016-05-16 株式会社デンソー 物体検知装置
JP2016120892A (ja) 2014-12-25 2016-07-07 富士通株式会社 立体物検出装置、立体物検出方法および立体物検出プログラム

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5904725A (en) * 1995-04-25 1999-05-18 Matsushita Electric Industrial Co., Ltd. Local positioning apparatus
JP2001134769A (ja) * 1999-11-04 2001-05-18 Honda Motor Co Ltd 対象物認識装置
US6978037B1 (en) * 2000-11-01 2005-12-20 Daimlerchrysler Ag Process for recognition of lane markers using image data
JP4569837B2 (ja) * 2007-03-30 2010-10-27 アイシン・エィ・ダブリュ株式会社 地物情報収集装置及び地物情報収集方法
CN101052124A (zh) * 2007-04-29 2007-10-10 戴宏 一种机动车、船夜视装置
US8320615B2 (en) * 2008-02-27 2012-11-27 Honeywell International Inc. Systems and methods for recognizing a target from a moving platform
JP5089545B2 (ja) * 2008-09-17 2012-12-05 日立オートモティブシステムズ株式会社 道路境界検出判断装置
JP5299688B2 (ja) * 2009-06-03 2013-09-25 アイシン精機株式会社 車両周辺監視方法及び車両周辺監視装置
KR101562589B1 (ko) * 2010-04-30 2015-10-23 엘지전자 주식회사 영상 표시 장치 및 그 방법
US9280711B2 (en) * 2010-09-21 2016-03-08 Mobileye Vision Technologies Ltd. Barrier and guardrail detection using a single camera
EP2993654B1 (en) * 2010-12-07 2017-05-03 Mobileye Vision Technologies Ltd. Method and system for forward collision warning
US9547795B2 (en) * 2011-04-25 2017-01-17 Magna Electronics Inc. Image processing method for detecting objects using relative motion
KR101906951B1 (ko) * 2013-12-11 2018-10-11 한화지상방산 주식회사 차선 검출 시스템 및 차선 검출 방법
US9298993B2 (en) * 2014-02-27 2016-03-29 Xerox Corporation On-street vehicle parking occupancy estimation via curb detection
JP5989701B2 (ja) * 2014-03-24 2016-09-07 トヨタ自動車株式会社 境界検出装置および境界検出方法
WO2015177648A1 (en) * 2014-05-14 2015-11-26 Ofer Springer Systems and methods for curb detection and pedestrian hazard assessment
JP6046666B2 (ja) * 2014-06-24 2016-12-21 トヨタ自動車株式会社 走路境界推定装置及び走路境界推定方法
KR101632486B1 (ko) * 2014-07-09 2016-06-22 고려대학교 산학협력단 레이저 거리 센서를 이용한 도로의 연석 추출 방법 및 도로의 연석 정보를 이용한 이동 로봇의 위치 측정 방법
US9529087B2 (en) * 2014-07-24 2016-12-27 GM Global Technology Operations LLC Curb detection using lidar with sparse measurements
EP3007099B1 (en) * 2014-10-10 2022-12-07 Continental Autonomous Mobility Germany GmbH Image recognition system for a vehicle and corresponding method
KR20160054825A (ko) * 2014-11-07 2016-05-17 현대모비스 주식회사 주행 가능 공간 판단 장치 및 방법
US9870437B2 (en) * 2014-11-24 2018-01-16 Google Llc Systems and methods for detecting and modeling curb curves in complex urban scenes
CN104636763B (zh) * 2014-12-01 2018-10-09 北京工业大学 一种基于无人驾驶车的道路与障碍物检测方法
CN204924957U (zh) * 2015-08-24 2015-12-30 四川沃文特生物技术有限公司 全方位的粪便样本检测装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013190719A1 (ja) 2012-06-19 2013-12-27 トヨタ自動車株式会社 路側物検出装置
JP2016080650A (ja) 2014-10-22 2016-05-16 株式会社デンソー 物体検知装置
JP2016120892A (ja) 2014-12-25 2016-07-07 富士通株式会社 立体物検出装置、立体物検出方法および立体物検出プログラム

Also Published As

Publication number Publication date
CN107066937B (zh) 2022-01-04
DE102016201304A1 (de) 2017-08-03
US10275665B2 (en) 2019-04-30
CN107066937A (zh) 2017-08-18
JP2017151968A (ja) 2017-08-31
US20170220878A1 (en) 2017-08-03

Similar Documents

Publication Publication Date Title
JP7033389B2 (ja) 車両の周囲にある縁石を検知する装置および方法並びに車両用縁石チェックシステム
US10949684B2 (en) Vehicle image verification
JP6657789B2 (ja) 画像処理装置、撮像装置、機器制御システム、頻度分布画像生成方法、及びプログラム
JP6662388B2 (ja) 画像処理装置、撮像装置、機器制御システム、分布データ生成方法、及びプログラム
JP5867273B2 (ja) 接近物体検知装置、接近物体検知方法及び接近物体検知用コンピュータプログラム
KR20220134029A (ko) 자율 주행 내비게이션 동안의 객체 회피 방법
JP7040374B2 (ja) 物体検出装置、車両制御システム、物体検出方法及び物体検出用コンピュータプログラム
US10699567B2 (en) Method of controlling a traffic surveillance system
KR20200127219A (ko) 검출된 배리어에 기반한 차량의 항법
US20110243455A1 (en) Scene matching reference data generation system and position measurement system
CN106169244A (zh) 利用人行横道识别结果的引导信息提供装置及方法
KR20120034352A (ko) 장애물 감지 시스템 및 방법
JP6583527B2 (ja) 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム
US11373415B2 (en) Vehicle and method for avoiding a collision of a vehicle with one or more obstacles
JP2017529517A (ja) 自動車に接近する対象車両を自動車のカメラシステムにより追跡する方法、カメラシステムおよび自動車
JP6769477B2 (ja) 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム
JP4539388B2 (ja) 障害物検出装置
CN108604412A (zh) 信息显示装置及信息显示方法
JPWO2017145634A1 (ja) 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム
CN108344392B (zh) 低洼路面信息的检测方法、系统及车辆
JP2021117048A (ja) 変化点検出装置及び地図情報配信システム
CN113874914A (zh) 用于求取牵引机与牵引机的挂车之间的运行角度
JP2017151968A5 (ja)
US20230034560A1 (en) Method for tracking a remote target vehicle in an area surrounding a motor vehicle by means of a collision detection device
JP6763198B2 (ja) 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170418

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191227

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20200615

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210209

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20210422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211028

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220225

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220228

R150 Certificate of patent or registration of utility model

Ref document number: 7033389

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150