JP7106664B2 - 知的運転制御方法および装置、電子機器、プログラムならびに媒体 - Google Patents

知的運転制御方法および装置、電子機器、プログラムならびに媒体 Download PDF

Info

Publication number
JP7106664B2
JP7106664B2 JP2020545431A JP2020545431A JP7106664B2 JP 7106664 B2 JP7106664 B2 JP 7106664B2 JP 2020545431 A JP2020545431 A JP 2020545431A JP 2020545431 A JP2020545431 A JP 2020545431A JP 7106664 B2 JP7106664 B2 JP 7106664B2
Authority
JP
Japan
Prior art keywords
vehicle
lane line
driving control
lane
intelligent driving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020545431A
Other languages
English (en)
Other versions
JP2021503414A (ja
Inventor
程光▲亮▼
石建萍
Original Assignee
ベイジン・センスタイム・テクノロジー・デベロップメント・カンパニー・リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ベイジン・センスタイム・テクノロジー・デベロップメント・カンパニー・リミテッド filed Critical ベイジン・センスタイム・テクノロジー・デベロップメント・カンパニー・リミテッド
Publication of JP2021503414A publication Critical patent/JP2021503414A/ja
Application granted granted Critical
Publication of JP7106664B2 publication Critical patent/JP7106664B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0967Systems involving transmission of highway information, e.g. weather, speed limits
    • G08G1/096708Systems involving transmission of highway information, e.g. weather, speed limits where the received information might be used to generate an automatic action on the vehicle control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/10Path keeping
    • B60W30/12Lane keeping
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/0097Predicting future conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/005Handover processes
    • B60W60/0051Handover processes from occupants to vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/005Handover processes
    • B60W60/0059Estimation of the risk associated with autonomous or manual driving, e.g. situation too complex, sensor failure or driver incapacity
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00Input parameters relating to infrastructure
    • B60W2552/53Road markings, e.g. lane marker or crosswalk

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Atmospheric Sciences (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Image Analysis (AREA)

Description

(関連出願の相互参照)
本願は2018年08月22日に出願された、出願番号201810961511.8の中国特許出願に基づいて提出され、該中国特許出願の優先権を主張し、その開示の全てが参照によって本願に組み込まれる。
本願の実施例は知的運転の技術分野に関し、特に知的運転制御方法および装置、電子機器、プログラムならびに媒体に関する。
自動運転の発展に伴い、道路走行において、自動運転の安全性を向上させるために、道路上のレーンラインへの検出が必要となっている。レーンライン検出は主に視覚ナビゲーションシステムに用いられ、撮影した道路画像からレーンラインの道路検出画像における位置を探し出すことである。しかし、レーンラインを検出してから、検出したレーンラインをどのように利用して車線逸脱を早期に警告するかは、自動運転製品および運転支援製品などの知的運転製品において考慮される重要な要因となっている。
本願の実施例は知的運転制御方法および装置、電子機器、プログラムならびに媒体を提供する。
第一態様で、本願の実施例は、車両走行環境のレーンライン検出結果を取得することと、前記車両の走行状態および前記レーンライン検出結果に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定することと、前記推定距離が第一の予め設定された距離値よりも大きくかつ第二の予め設定された距離値以下であることに応答して、前記車両が前記レーンラインを超えるまでの推定時間を決定することと、前記推定時間に基づいて知的運転制御を行うことと、を含む知的運転制御方法を提供する。
第二態様で、本願の実施例は、車両走行環境のレーンライン検出結果を取得するための取得モジュールと、前記車両の走行状態および前記レーンライン検出結果に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定するための距離決定モジュールと、前記推定距離が第一の予め設定された距離値よりも大きくかつ第二の予め設定された距離値以下であることに応答して、前記車両が前記レーンラインを超えるまでの推定時間を決定するための時間決定モジュールと、前記推定時間に基づいて知的運転制御を行うための制御モジュールと、を含む知的運転制御装置を提供する。
第三態様で、本願の実施例は、コンピュータプログラムを記憶するためのメモリ、および前記コンピュータプログラムを実行し、それによって第一態様のいずれか一項に記載の知的運転制御方法を実現するためのプロセッサを含む電子機器を提供する。
第四態様で、本願の実施例は実行される時に第一態様のいずれか一項に記載の知的運転制御方法を実現するコンピュータプログラムが記憶されているコンピュータ記憶媒体を提供する。
第五態様で、本願の実施例は、コンピュータ命令を含むコンピュータプログラムであって、前記コンピュータ命令は機器のプロセッサにおいて運用される時、上記第一態様のいずれか一項に記載の知的運転制御方法を実現することを特徴とするコンピュータプログラムを提供する。
本願の実施例が提供する知的運転制御方法および装置、電子機器、プログラムならびに媒体は、車両走行環境のレーンライン検出結果を取得し、車両の走行状態およびレーンライン検出結果に基づき、車両がレーンラインを超えるまでの推定距離を決定し、推定距離および/または推定時間に基づき、前記推定距離が第一の予め設定された距離値よりも大きくかつ第二の予め設定された距離値以下であることに応答して、前記車両が前記レーンラインを超えるまでの推定時間を決定し、そして前記推定時間に基づいて知的運転制御を行う。これによって、本願の実施例は車両走行状態のレーンラインに基づく知的制御を実現し、それによって車両がレーンラインを超えて交通事故を引き起こすことを低減または回避し、運転の安全性を向上させることを図る。
本願明細書は、例えば、以下の項目も提供する。
(項目1)
車両走行環境のレーンライン検出結果を取得することと、
前記車両の走行状態および前記レーンライン検出結果に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定することと、
前記推定距離が第一の予め設定された距離値よりも大きくかつ第二の予め設定された距離値以下であることに応答して、前記車両が前記レーンラインを超えるまでの推定時間を決定することと、
前記推定時間に基づいて知的運転制御を行うことと、を含む知的運転制御方法。
(項目2)
前記推定時間に基づいて知的運転制御を行うことは、前記推定時間を少なくとも一つの予め設定された閾値と比較することと、
比較結果が一つ以上の予め設定された条件を満たす場合、満たされる予め設定された条件の対応する、自動運転制御、運転支援制御、運転モード切替制御の少なくとも一つを含む知的運転制御を行うことと、を含む項目1に記載の知的運転制御方法。
(項目3)
前記自動運転制御は、車線逸脱警告、制動、走行速度変更、走行方向変更、車線維持、および車両ランプ状態変更のいずれか一つまたは複数を含み、
および/または、前記運転支援制御は、車線逸脱早期警告、車線維持指示の少なくとも一つを含む項目2に記載の知的運転制御方法。
(項目4)
前記知的運転制御方法はさらに、
前記推定距離が第二の予め設定された距離値以下または第一の予め設定された距離値よりも小さいことに応答して、前記知的運転制御機能を自動的に有効化すること、または、
前記推定時間が予め設定された閾値よりも小さいことに応答して、前記知的運転制御機能を自動的に有効化すること、または、
前記車両が前記レーンラインを踏んでいると検出したことに応答して、前記知的運転制御機能を自動的に有効化することを含む項目1から3のいずれか一項に記載の知的運転制御方法。
(項目5)
前記予め設定された条件が複数ある場合、複数の予め設定された条件のそれぞれ対応する知的運転制御の程度は段階的に増加する項目2から4のいずれか一項に記載の知的運転制御方法。
(項目6)
比較結果が一つ以上の予め設定された条件を満たす場合、満たされる予め設定された条件の対応する知的運転制御を行うことは、
前記推定時間が第一の予め設定された時間値以下で、かつ前記第一の予め設定された時間値よりも小さい第二の予め設定された時間値よりも大きい場合、前記車両の車線逸脱早期警告を行うことを含む項目5に記載の知的運転制御方法。
(項目7)
比較結果が一つ以上の予め設定された条件を満たす場合、満たされる予め設定された条件の対応する知的運転制御を行うことはさらに、
前記推定時間が前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことを含み、
前記車線逸脱早期警告は前記車線逸脱警告を含む項目5または6に記載の知的運転制御方法。
(項目8)
前記知的運転制御方法はさらに、前記第一距離が前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことを含み、
前記車線逸脱早期警告は前記車線逸脱警告を含む項目5から7のいずれか一項に記載の知的運転制御方法。
(項目9)
前記推定時間が前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことは、前記画像および履歴フレーム画像に基づいて決定された前記推定時間はいずれも前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことを含み、または、
前記第一距離が前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことは、前記画像および履歴フレーム画像に基づいて決定された前記推定距離はいずれも前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことを含み、
前記履歴フレーム画像は前記画像が存在するビデオにおける検出タイミングが前記画像よりも前になっている少なくとも1フレームの画像を含む項目8に記載の知的運転制御方法。
(項目10)
前記車線逸脱警告は、コーナリングランプ起動および/または音声指示を含む項目3に記載の知的運転制御方法。
(項目11)
前記車線逸脱早期警告は、ランプ点滅、アラーム鳴動および音声指示の少なくとも一つを含む項目4に記載の知的運転制御方法。
(項目12)
前記知的運転制御方法はさらに、
前記車両の運転者の運転レベルを取得することと、
前記運転レベルに基づき、前記第一の予め設定された距離値、前記第二の予め設定された距離値および予め設定された閾値の少なくとも一つを調整することと、を含む項目2から11のいずれか一項に記載の知的運転制御方法。
(項目13)
車両走行環境のレーンライン検出結果を取得することは、ニューラルネットワークによって前記車両走行環境を含む画像のセマンティックセグメンテーションを行い、前記画像における少なくとも一つの画素点がレーンラインに属するそれぞれの確率値を表すためのレーンライン確率マップを出力することと、
前記レーンライン確率マップに基づいてレーンラインが存在する領域を決定することと、を含み、
前記レーンライン検出結果は前記レーンラインが存在する領域を含む項目1から12のいずれか一項に記載の知的運転制御方法。
(項目14)
前記車両の走行状態およびレーンライン検出結果に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定することは、
各前記レーンラインが存在する領域における画素点のカーブフィッティングをそれぞれ行い、各前記レーンラインのフィッティング曲線を得ることと、
前記車両の走行状態および前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定することと、を含む項目13に記載の知的運転制御方法。
(項目15)
前記車両の走行状態および前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定することは、前記車両のワールド座標系における位置、および前記レーンラインのフィッティング曲線に基づき、前記車両と前記レーンラインとの間の推定距離を決定することを含み、
前記車両の走行状態は前記車両のワールド座標系における位置を含む項目14に記載の知的運転制御方法。
(項目16)
前記車両が前記レーンラインを超えるまでの推定時間を決定することは、
前記車両の速度および前記車両のワールド座標系における位置、ならびに前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定することを含み、
前記車両の走行状態は前記車両の速度および前記車両のワールド座標系における位置を含む項目14または15に記載の知的運転制御方法。
(項目17)
前記車両の速度および前記車両のワールド座標系における位置、ならびに前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定することは、
前記車両の走行方向と前記レーンラインのフィッティング曲線との夾角を取得することと、
前記車両のワールド座標系における位置に基づき、前記車両と前記レーンラインのフィッティング曲線との間の推定距離を取得することと、
前記夾角、前記推定距離および前記車両の速度に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定することと、を含む項目16に記載の知的運転制御方法。
(項目18)
車両走行環境のレーンライン検出結果を取得するための取得モジュールと、
前記車両の走行状態および前記レーンライン検出結果に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定するための距離決定モジュールと、
前記推定距離が第一の予め設定された距離値よりも大きくかつ第二の予め設定された距離値以下であることに応答して、前記車両が前記レーンラインを超えるまでの推定時間を決定するための時間決定モジュールと、
前記推定時間に基づいて知的運転制御を行うための制御モジュールと、を含む知的運転制御装置。
(項目19)
前記制御モジュールは、
前記推定時間を少なくとも一つの予め設定された閾値と比較するための比較ユニットと、
比較結果が一つ以上の予め設定された条件を満たす場合、満たされる予め設定された条件の対応する、自動運転制御、運転支援制御、運転モード切替制御の少なくとも一つを含む知的運転制御を行うための制御ユニットと、を含む項目18に記載の知的運転制御装置。
(項目20)
前記自動運転制御は、車線逸脱警告、制動、走行速度変更、走行方向変更、車線維持、および車両ランプ状態変更のいずれか一つまたは複数を含み、
および/または、前記運転支援制御は、車線逸脱早期警告、車線維持指示の少なくとも一つを含む項目19に記載の知的運転制御装置。
(項目21)
前記知的運転制御装置はさらに、
前記推定距離が第二の予め設定された距離値以下または第一の予め設定された距離値よりも小さいことに応答して、前記知的運転制御機能を自動的に有効化するための、または、前記推定時間が予め設定された閾値よりも小さいことに応答して、前記知的運転制御機能を自動的に有効化するための、または、前記車両が前記レーンラインを踏んでいると検出したことに応答して、前記知的運転制御機能を自動的に有効化するための有効化モジュールを含む項目18から20のいずれか一項に記載の知的運転制御装置。
(項目22)
前記予め設定された条件が複数ある場合、複数の予め設定された条件のそれぞれ対応する知的運転制御の程度は段階的に増加する項目19から21のいずれか一項に記載の知的運転制御装置。
(項目23)
前記制御ユニットは、前記推定時間が第一の予め設定された時間値以下で、かつ前記第一の予め設定された時間値よりも小さい第二の予め設定された時間値よりも大きい場合、前記車両の車線逸脱早期警告を行うために用いられる項目21または22に記載の知的運転制御装置。
(項目24)
前記制御ユニットはさらに、前記推定時間が前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うために用いられ、
前記車線逸脱早期警告は前記車線逸脱警告を含む項目21から23のいずれか一項に記載の知的運転制御装置。
(項目25)
前記制御ユニットはさらに、前記第一距離が前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うために用いられ、
前記車線逸脱早期警告は前記車線逸脱警告を含む項目24に記載の知的運転制御装置。
(項目26)
前記制御ユニットは、前記画像および履歴フレーム画像に基づいて決定された前記推定時間はいずれも前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うために、または、
前記画像および履歴フレーム画像に基づいて決定された前記推定距離はいずれも前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うために用いられ、
前記履歴フレーム画像は前記画像が存在するビデオにおける検出タイミングが前記画像よりも前になっている少なくとも1フレームの画像を含む項目25に記載の知的運転制御装置。
(項目27)
前記車線逸脱警告は、コーナリングランプ起動および/または音声指示を含む項目20に記載の知的運転制御装置。
(項目28)
前記車線逸脱早期警告は、ランプ点滅、アラーム鳴動および音声指示の少なくとも一つを含む項目21に記載の知的運転制御装置。
(項目29)
前記知的運転制御装置はさらに、調整モジュールを含み、
前記取得モジュールはさらに、前記車両の運転者の運転レベルを取得するために用いられ、
前記調整モジュールは、前記運転レベルに基づき、前記第一の予め設定された距離値、前記第二の予め設定された距離値および予め設定された閾値の少なくとも一つを調整するために用いられる項目19から28のいずれか一項に記載の知的運転制御装置。
(項目30)
前記取得モジュールは、
ニューラルネットワークによって前記車両走行環境を含む画像のセマンティックセグメンテーションを行い、前記画像における少なくとも一つの画素点がレーンラインに属するそれぞれの確率値を表すためのレーンライン確率マップを出力するためのセグメンテーションユニットと、
前記レーンライン確率マップに基づいてレーンラインが存在する領域を決定するための第一決定ユニットと、を含み、
前記レーンライン検出結果は前記レーンラインが存在する領域を含む項目18から29のいずれか一項に記載の知的運転制御装置。
(項目31)
前記距離決定モジュールは、
各前記レーンラインが存在する領域における画素点のカーブフィッティングをそれぞれ行い、各前記レーンラインのフィッティング曲線を得るためのフィッティングユニットと、
前記車両の走行状態および前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定するための第二決定ユニットと、を含む項目30に記載の知的運転制御装置。
(項目32)
前記第二決定ユニットは、前記車両のワールド座標系における位置、および前記レーンラインのフィッティング曲線に基づき、前記車両と前記レーンラインとの間の推定距離を決定するために用いられ、
前記車両の走行状態は前記車両のワールド座標系における位置を含む項目31に記載の知的運転制御装置。
(項目33)
前記時間決定モジュールは、前記車両の速度および前記車両のワールド座標系における位置、ならびに前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定するために用いられ、
前記車両の走行状態は前記車両の速度および前記車両のワールド座標系における位置を含む項目31または32に記載の知的運転制御装置。
(項目34)
前記時間決定モジュールはさらに、前記車両の走行方向と前記レーンラインのフィッティング曲線との夾角を取得し、前記車両のワールド座標系における位置に基づき、前記車両と前記レーンラインのフィッティング曲線との間の推定距離を取得し、そして前記夾角、前記推定距離および前記車両の速度に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定するために用いられる項目33に記載の知的運転制御装置。
(項目35)
コンピュータプログラムを記憶するためのメモリと、
前記メモリに記憶された、実行される時に上記項目1から17のいずれか一項に記載の知的運転制御方法を実現するコンピュータプログラムを実行するためのプロセッサと、を含む電子機器。
(項目36)
実行される時に項目1から17のいずれか一項に記載の知的運転制御方法を実現するコンピュータプログラムが記憶されているコンピュータ記憶媒体。
(項目37)
コンピュータ命令を含むコンピュータプログラムであって、前記コンピュータ命令が機器のプロセッサで実行される時に、上記項目1から17のいずれか一項に記載の知的運転制御方法を実現するコンピュータプログラム。
本願の実施例1が提供する知的運転制御方法のフローチャートである。 本実施例1に係るニューラルネットワークモデルの構成模式図である。 本実施例1に係る車両とレーンラインの相対位置の模式図である。 本願の実施例2が提供する知的運転制御方法のフローチャートである。 本願の実施例3が提供する知的運転制御方法のフローチャートである。 本実施例2に係る車両とレーンラインの相対位置の一模式図である。 本実施例2に係る車両とレーンラインの相対位置の別の模式図である。 本願の実施例1が提供する知的運転制御装置の構成模式図である。 本願の実施例2が提供する知的運転制御装置の構成模式図である。 本願の実施例3が提供する知的運転制御装置の構成模式図である。 本願の実施例4が提供する知的運転制御装置の構成模式図である。 本願の実施例5が提供する知的運転制御装置の構成模式図である。 本願の実施例6が提供する知的運転制御装置の構成模式図である。 本願の電子機器の一応用例の構成模式図である。
本願の実施例の目的、技術的解決手段および利点をより明確にするために、以下に本願の実施例における図面と関連付けて、本願の実施例における技術的解決手段を明確に、完全に説明し、当然ながら、説明される実施例は本願の実施例の一部に過ぎず、全ての実施例ではない。本願における実施例に基づき、当業者が創造的な労力を要することなく、得られた他の全ての実施例は、いずれも本願の保護範囲に属する。
本願の実施例は端末機器、コンピュータシステム、サーバなどの電子機器に適用可能であり、それは他の様々な共通または専用計算システム環境または構成と共に動作可能である。端末機器、コンピュータシステム、サーバなどの電子機器との併用に適する公知の端末機器、計算システム、環境および/または構成の例は、パーソナルコンピュータシステム、サーバコンピュータシステム、シンクライアント、ファットクライアント、手持ちまたはラップトップデバイス、およびマイクロプロセッサ、中央処理装置(Central Processing Unit:CPU)、画像処理装置(Graphics Processing Unit:GPU)や、フィールドプログラマブルゲートアレイ(Field-Programmable Gate Array:FPGA)に基づくシステム、セットトップボックス、プログラマブル消費者用電子機器、ネットワークパソコン、小型コンピュータシステム、大型コンピュータシステムおよび上記任意のシステムを含む分散型クラウドコンピューティング技術環境、車載機器などを含むが、これらに限定されない。
端末機器、コンピュータシステム、サーバなどの電子機器はコンピュータシステムにより実行されるコンピュータシステム実行可能命令(例えばプログラムモジュール)の一般的なコンテキストにおいて説明できる。通常、プログラムモジュールは、特定のタスクを実行するかまたは特定の抽象データ型を実現するルーチン、プログラム、目標プログラム、コンポーネント、ロジック、データ構造などを含むことができる。コンピュータシステム/サーバは、タスクが通信ネットワークにわたって接続された遠隔処理機器により実行される分散型クラウドコンピューティング環境において実施できる。分散型クラウドコンピューティング環境において、プログラムモジュールは記憶機器を含むローカルまたは遠隔計算システムの記憶媒体に存在してもよい。
以下に具体的な実施例により本願の技術的解決手段を詳細に説明する。以下の該いくつかの具体的な実施例は互いに組み合わせることができ、同一または類似の概念またはプロセスは一部の実施例において説明を省略することがある。
図1は本願の実施例1が提供する知的運転制御方法のフローチャートである。図1に示すように、本実施例の方法は以下を含むことができる。
S101において、車両走行環境のレーンライン検出結果を取得する。
本実施例は実行主体が電子機器であることを例にして説明し、該電子機器はスマートフォン、コンピュータ、車載システムなどであってもよいが、これらに限定されない。
本願の一つ以上の実施例によれば、本実施例の電子機器はさらに、車両の走行環境、例えば車両が走行する道路の前方(または周囲)を撮影し、道路検出画像を生成し、該道路検出画像を電子機器のプロセッサに送信することが可能なカメラを有してもよい。
本願の一つ以上の実施例によれば、本実施例の電子機器は外部のカメラと接続可能であり、該カメラは車両の走行環境を撮影し、道路検出画像を生成可能であり、電子機器は該カメラから道路検出画像を取得可能である。
本実施例は電子機器が道路検出画像を取得する具体的な方式を限定しない。
本実施例の道路検出画像には少なくとも一つのレーンラインが含まれる。
本実施例は車両走行環境のレーンライン検出結果を取得する方法を限定せず、例えば、以下のようにして車両走行環境におけるレーンライン検出結果を取得してもよい。即ち、例えばニューラルネットワークによって前記車両走行環境を含む画像のレーンライン検出を行うように、ニューラルネットワークに基づいて車両走行環境におけるレーンラインを検出し、レーンライン検出結果を得るか、または、先進運転支援システム(Advanced Driver Assistance Systems:ADAS)もしくは無人運転システムから車両走行環境におけるレーンライン検出結果を直接取得し、ADASまたは無人運転システムにおけるレーンライン検出結果を直接利用するようにしてもよい。ここで、ニューラルネットワークに基づく車両走行環境におけるレーンライン検出は、図2を参照すればよい。具体的には、図2における最左側の道路検出画像を予め設定され且つ訓練されておいたニューラルネットワークモデルに入力し、各レーンラインの確率マップ(図2の最右側を参照)を生成する。続いて、確率マップにおけるレーンラインの対応する点のカーブフィッティングを行い、レーンラインのフィッティング曲線を生成する。
本願の一つ以上の実施例によれば、予め設定されたニューラルネットワークモデルは完全畳み込みネットワーク(Fully Convolutional Networks:FCN)、残差ネットワーク(Residual Network:Res Net)または畳み込みニューラルネットワークモデルなどであってもよい。
本願の一つ以上の実施例によれば、図2に示すように、本実施例のニューラルネットワークモデルは、それぞれパラメータが145*169*16である1つ目の畳み込み層、パラメータが73*85*32である2つ目の畳み込み層、パラメータが37*43*64である3つ目の畳み込み層、パラメータが19*22*128である4つ目の畳み込み層、パラメータが73*85*32である5つ目の畳み込み層、パラメータが145*169*16である6つ目の畳み込み層、およびパラメータが289*337*5である7つ目の畳み込み層という7個の畳み込み層を含むことができる。
本実施例では、各レーンラインは、それぞれ一つの確率マップに対応し、例えば、図2の最左側に示す道路検出画像には4つのレーンラインが含まれており、ニューラルネットワークモデルは4つの確率マップを出力できる。
本願の一つ以上の実施例によれば、容易に道路検出画像と照合できるよう、各レーンラインの確率マップを、一つの確率マップとして併合してもよい。例えば、4つのレーンラインの確率マップを併合し、図2の最右側に示す確率マップを生成する。
各レーンラインの確率マップは、それぞれ道路検出画像における画素点に一対一で対応する複数の確率点を含む。各確率点の値は道路検出画像における対応する位置の画素点が該レーンラインである確率値である。
図2における各確率点の値は道路検出画像における対応する位置の画素点がレーンラインである確率値を表し、図2に示すように、白色の確率点の確率値は1、黒色の確率点の確率値は0である。図2に示す確率マップに基づき、図2における確率値が設定値よりも大きい確率点を取得し、これらの確率点の対応する画素点はレーンラインにおける点であり、そしてこれらの点のカーブフィッティングを行い、該レーンラインのフィッティング曲線を生成する。ここで、設定値は確率点の対応する画素点がレーンラインにおける点であるかどうかを区別する基準であり、該設定値は実際の必要に応じて決定してもよい。例えば、設定値を0.8とすると、図2における確率値が0.8よりも大きい点、即ち図2における白色の確率点を取得でき、これらの白色の確率点の対応する画素点のカーブフィッティングを行えば、該レーンラインのフィッティング曲線を得ることができる。
本願の一つ以上の実施例によれば、本実施例はカーブフィッティングを行う時、一次関数によるカーブフィッティング、二次関数によるカーブフィッティング、三次関数によるカーブフィッティング、または高次関数によるカーブフィッティングを使用することができる。本実施例はカーブフィッティングの方式を限定せず、具体的には実際の必要に応じて決定する。
S102において、前記車両の走行状態および前記レーンライン検出結果に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定する。
本願の上記実施例が提供する知的運転制御方法に基づき、車両走行環境のレーンライン検出結果を取得し、車両の走行状態およびレーンライン検出結果に基づき、車両がレーンラインを超えるまでの推定距離を決定する。
例えば、車両の走行状態は車両の走行方向および車両の現在座標位置を含み、レーンラインの検出結果はレーンラインのフィッティング曲線を含み、そして上記情報に基づき、車両がレーンラインを超えるまでの推定距離を決定できる。
S103において、前記推定距離が第一の予め設定された距離値よりも大きくかつ第二の予め設定された距離値以下であることに応答して、前記車両が前記レーンラインを超えるまでの推定時間を決定する。
例えば、図3に示すように、本実施例では、車両が前記レーンラインを超えるまでの推定距離dを取得し、該推定距離dを第一の予め設定された距離値aと比較する。該推定距離dが上記第一の予め設定された距離値aよりも大きく、第二設定値b以下である、即ちa<d<bである場合、車両が該レーンラインを超えるまでの推定時間を決定しなければならない。そして、該推定時間に基づいて知的運転制御を行う。
一例では、上記車両の走行状態は車両の走行速度を含み、車両がレーンラインを超えるまでの推定距離および車両の走行速度に基づき、車両が前記レーンラインを超えるまでの推定時間を決定できる。
別の例では、本実施例の電子機器は車両のバスと接続され、該バスから車両の走行速度vを読み取ることができる。このように、車両の走行速度vおよび推定距離dに基づき、車両が現在の走行速度vで前記レーンラインを超えるまでの推定時間tを決定し、例えばt=d/vである。
S104において、前記推定時間に基づいて知的運転制御を行う。
本願の一つ以上の実施例によれば、推定時間に基づく車両の知的運転制御は、例えば、車両に、自動運転制御、運転支援制御、運転モード切替制御(例えば、自動運転モードから非自動運転モードへの切替、非自動運転モードから自動運転モードへの切替)などの少なくとも一つを実行することを含んでもよいが、これに限定されない。ここで、運転モード切替制御は車両を自動運転モードから非自動運転モード(非自動運転モードは例えば、手動運転モード)、または非自動運転モードから自動運転モードに切り替えるように制御できる。ここで、車両の自動運転制御は、例えば、車両に、車線逸脱警告、制動、減速、走行速度変更、走行方向変更、車線維持、車両ランプ状態変更などの車両運転状態を制御する動作のいずれか一つまたは複数を実行することを含んでもよいが、これに限定されない。ここで、車両の運転支援制御は、例えば、車両に、車線逸脱早期警告、車線維持指示など、運転者に車両の運転状態を制御するように促すことに役立つ動作のいずれか一つまたは複数を実行することを含んでもよいが、これに限定されない。
本願の実施例が提供する知的運転制御方法は、車両走行環境のレーンライン検出結果を取得し、車両の走行状態およびレーンライン検出結果に基づき、車両がレーンラインを超えるまでの推定距離を決定し、推定距離および/または推定時間に基づき、前記推定距離が第一の予め設定された距離値よりも大きくかつ第二の予め設定された距離値以下であることに応答して、前記車両が前記レーンラインを超えるまでの推定時間を決定し、そして前記推定時間に基づいて知的運転制御を行う。これによって、本願の実施例は車両走行状態のレーンラインに基づく知的制御を実現し、それによって車両がレーンラインを超えて交通事故を引き起こすことを低減または回避し、運転の安全性を向上させることを図る。
本願の一つ以上の実施例によれば、前記方法はさらに、前記推定距離が第二の予め設定された距離値以下または第一の予め設定された距離値よりも小さいことに応答して、前記知的運転制御機能を自動的に有効化すること、または、前記推定時間が予め設定された閾値よりも小さいことに応答して、前記知的運転制御機能を自動的に有効化すること、または、前記車両が前記レーンラインを踏んでいると検出したことに応答して、前記知的運転制御機能を自動的に有効化することを含む。
例えば、正常な運転過程では、知的運転制御機能はオフまたはスリープ状態になっており、推定距離が第二の予め設定された距離値以下または第一の予め設定された距離値よりも小さい場合、あるいは推定時間が予め設定された閾値よりも小さい場合、あるいは車両がレーンライン(車線境界線)を踏んでいると検出した場合、知的運転制御機能は自動的に有効化され、このように知的運転制御機能の対応するモジュールのエネルギー消費を低減し、知的運転制御機能の対応するモジュールの動作時間を延長させることができる。
図4は本願の実施例2が提供する知的運転制御方法のフローチャートである。上記実施例のもとに、本実施例は前記推定時間に基づいて知的運転制御を行う具体的なプロセスに関する。図4に示すように、上記S104は、前記推定時間を少なくとも一つの予め設定された閾値と比較するS201、および比較結果が一つ以上の予め設定された条件を満たす場合、満たされる予め設定された条件の対応する知的運転制御を行うS202を含むことができる。
上記少なくとも一つの予め設定された閾値は実際の必要に応じて決定され、本実施例はこれを限定しない。
例えば、比較結果が一つ以上の予め設定された条件を満たす場合、満たされる予め設定された条件の対応する知的運転制御を行うステップは、本願の一つ以上の実施例によれば、前記推定時間が第一の予め設定された時間値以下であり、かつ第二の予め設定された時間値よりも大きい場合、前記車両の車線逸脱早期警告を行うことを含んでもよい。例えば、車両が現在車線から逸脱したこと、すぐに現在車線からはみ出すことなどを指示する。
ここで、前記車線逸脱早期警告は、ランプ点滅、アラーム鳴動および音声指示の少なくとも一つを含む。
上記第二の予め設定された時間値は第一の予め設定された時間値よりも小さい。例えば、第一の予め設定された閾値および第二の予め設定された閾値はそれぞれ5秒、3秒とする。
本実施例では、前記推定時間が第一の予め設定された時間値以下であり、かつ第二の予め設定された時間値よりも大きい場合、前記車両の車線逸脱を指示し、それは運転者に車両が車線から逸脱したと指示し、それによって対応する運転措置を適時に取らせ、車両がレーンラインを超えることを回避し、運転の安全性を向上させることができる。さらに車両とレーンラインとの推定距離およびレーンラインを超えるまでの推定時間と合わせて車線逸脱を指示し、車線逸脱早期警告の正確率を向上させる。
本願の一つ以上の実施例によれば、さらに、前記推定時間が前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うこと、または、前記第一距離が前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことを含んでもよく、ここで、前記車線逸脱早期警告は前記車線逸脱警告を含む。そのうち、前記車線逸脱警告は、声、光、電気などによる警告、例えば、コーナリングランプ起動および/または音声指示を含む。
上記実施形態では、推定距離および/または推定時間が徐々に小さくなることに伴い、そのそれぞれ対応する知的運転制御の程度は、車両の車線逸脱指示から、車両の自動運転制御および/または車線逸脱警告まで段階的に増加し、それによって車両がレーンラインを超えることを回避し、運転の安全性を向上させる。
本願の一つ以上の実施例によれば、前記推定時間が前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことは、前記画像および履歴フレーム画像に基づいて決定された前記推定時間はいずれも前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことを含む。または、前記第一距離が前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことは、前記画像および履歴フレーム画像に基づいて決定された前記推定距離はいずれも前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことを含み、ここで、前記履歴フレーム画像は前記画像が存在するビデオにおける検出タイミングが前記画像よりも前になっている少なくとも1フレームの画像を含む。
本実施例は履歴フレーム画像の推定距離および推定時間を、車両の自動運転制御および/または車線逸脱警告を行う根拠として同時に統計し、車両の自動運転制御および/または車線逸脱警告の正確性を向上可能である。
本願の一つ以上の実施例によれば、本実施例の可能な一実施形態では、前記方法はさらに、前記車両の運転者の運転レベルを取得することと、前記運転レベルに基づき、上記第一の予め設定された距離値、前記第二の予め設定された距離値、第一の予め設定された時間値、第二の予め設定された時間値の少なくとも一つを調整することと、を含む。
本願の一つ以上の実施例によれば、前記車両の運転者の、車両を運転する習熟度を示す運転レベルを取得する。続いて、前記運転レベルに基づき、前記第一の予め設定された距離値、前記第二の予め設定された距離値、第一の予め設定された時間値、第二の予め設定された時間値の少なくとも一つを調整する。例えば、運転者の運転レベルが高ければ高いほど、運転者が車両を運転する習熟度が高く、こうすると、該運転者の対応する第一の予め設定された距離値、第二の予め設定された距離値、第一の予め設定された時間値および第二の予め設定された時間値の少なくとも一つを小さく調整してもよい。運転者の運転レベルが低ければ低いほど、運転者が車両を運転する習熟度が低く、こうすると、該運転者の対応する第一の予め設定された距離値、第二の予め設定された距離値、第一の予め設定された時間値および第二の予め設定された時間値の少なくとも一つを大きく調整し、それによって該車両の安全運転を保証するようにしてもよい。
ここで、運転者の運転レベルは運転者が手動で入力してもよく、運転者の運転免許証をスキャンし、運転免許証における運転年数に基づき、例えば運転者の運転年数が長ければ長いほど、対応する運転レベルが高くなるように、決定してもよい。他の実施例では、さらに他の方法によって運転者の運転レベルを取得してもよい。
本願の実施例は自動運転および運転支援シーンに用いて、正確なレーンライン検出、自動運転制御および車両の車線逸脱早期警告を実現することができる。
図5は本願の実施例3が提供する知的運転制御方法のフローチャートである。図5に示すように、該実施例の知的運転制御方法は以下を含む。
S301において、ニューラルネットワークによって車両走行環境を含む画像のセマンティックセグメンテーションを行い、画像における少なくとも一つの画素点がレーンラインに属するそれぞれの確率値を表すためのレーンライン確率マップを出力する。
本願の実施例におけるニューラルネットワークは深層ニューラルネットワーク、例えば畳み込みニューラルネットワークであってもよく、事前にサンプル画像および予めラベル付けされた正確なレーンライン確率マップによってニューラルネットワークを訓練して得ることができる。ここで、サンプル画像および正確なレーンライン確率マップによってニューラルネットワークを訓練することは、例えば以下のようにして実現してもよい。即ち、ニューラルネットワークによってサンプル画像のセマンティックセグメンテーションを行い、予測レーンライン確率マップを出力し、そして予測レーンライン確率マップと正確なレーンライン確率マップとの対応する少なくとも一つの画素点間の差異に基づき、ニューラルネットワークの損失関数値を取得し、該損失関数値に基づいてニューラルネットワークを、例えば、勾配更新による訓練方法に基づき、チェーンルールによって勾配を逆伝播し、ニューラルネットワークにおける各ネットワーク層パラメータの値を予め設定された条件、例えば予測レーンライン確率マップと正確なレーンライン確率マップとの対応する少なくとも一つの画素点間の差異が設定差よりも小さいこと、および/またはニューラルネットワークの訓練回数が予め設定された回数に達したことを満たすまで調整するように、訓練し、訓練されておいたニューラルネットワークを得るようにしてもよい。
本願の一つ以上の実施例によれば、本願の知的運転制御方法の別の実施例では、上記ステップS301の前に、さらに、車両走行環境を含む元画像を前処理し、車両走行環境を含む上記画像を得ることを含んでもよい。それに対して、ステップS301では、ニューラルネットワークによって、前処理した上記画像のセマンティックセグメンテーションを行う。
ここで、ニューラルネットワークによって元画像を前処理することは、例えば、カメラで取得した元画像を、予め設定されたサイズの画像としてズームしたり、切り出したりし、ニューラルネットワークに入力して処理し、それによって画像のニューラルネットワークによるセマンティックセグメンテーションの複雑度を低下させ、処理時間を短縮し、処理効率を向上させるように、実現してもよい。
また、ニューラルネットワークによって元画像を前処理することは、予め設定された画像品質(例えば画像の解像度、露光など)基準に従い、カメラで取得した元画像からいくつかの品質が高い画像を選択し、ニューラルネットワークに入力して処理し、それによりセマンティックセグメンテーションの正確性を向上させ、さらにレーンライン検出の正確率を向上させるように、実現してもよい。
本願の一つ以上の実施例によれば、ステップS301で、ニューラルネットワークによって車両走行環境を含む画像のセマンティックセグメンテーションを行い、レーンライン確率マップを出力する前記工程は、ニューラルネットワークによって画像の特徴を抽出し、特徴マップを得ることと、ニューラルネットワークによって該特徴マップのセマンティックセグメンテーションを行い、N本のレーンラインの確率マップを得ることと、を含んでもよい。ここで、各レーンラインの確率マップにおける各画素点の画素値は画像における対応する画素点が該レーンラインに属するそれぞれの確率値を表すために用いられ、Nの値は0よりも大きい整数である。例えば、Nの値は4とする。
本願の各実施例におけるニューラルネットワークは、特徴抽出用のネットワーク層および分類用のネットワーク層を含んでもよい。ここで、特徴抽出用のネットワーク層は、例えば、畳み込み層、バッチ正規化(Batch Normalization:BN)層および非線形層を含んでもよい。順に畳み込み層、BN層および非線形層によって画像の特徴抽出を行うと、特徴マップを生成することができ、そして分類用のネットワーク層によって特徴マップのセマンティックセグメンテーショを行うと、複数のレーンラインの確率マップを得ることができる。ここで、上記N本のレーンラインの確率マップは一つのチャネルの確率マップであってもよく、該確率マップにおける各画素点の画素値は画像における対応する画素点がレーンラインに属する確率値をそれぞれ表す。また、上記N本のレーンラインの確率マップはN+1個のチャネルの確率マップであってもよく、該N+1個のチャネルはN本のレーンラインおよび背景にそれぞれ対応し、つまり、N+1個のチャネルの確率マップにおける各チャネルの確率マップは上記画像における少なくとも一つの画素点が該チャネルの対応するレーンラインまたは背景に属するそれぞれの確率をそれぞれ表す。
本願の一つ以上の実施例によれば、ニューラルネットワークによって特徴マップのセマンティックセグメンテーションを行い、N本のレーンラインの確率マップを得ることは、ニューラルネットワークによって上記特徴マップのセマンティックセグメンテーションを行い、N+1個のチャネルの確率マップを得ることを含んでもよい。ここで、該N+1個のチャネルはN本のレーンラインおよび背景にそれぞれ対応し、つまり、N+1個のチャネルの確率マップにおける各チャネルの確率マップは上記画像における少なくとも一つの画素点が該チャネルの対応するレーンラインまたは背景に属するそれぞれの確率をそれぞれ表す。ここで、N+1個のチャネルの確率マップからN本のレーンラインの確率マップを取得する。
本願の実施例におけるニューラルネットワークは、特徴抽出用のネットワーク層、分類用のネットワーク層、および正規化(Softmax)層を含んでもよい。順に特徴抽出用の各ネットワーク層によって画像の特徴抽出を行い、一連の特徴マップを生成し、分類用のネットワーク層によって最終的に出力される特徴マップのセマンティックセグメンテーションを行い、N+1個のチャネルのレーンライン確率マップを得て、そしてSoftmax層を利用してN+1個のチャネルのレーンライン確率マップを正規化処理し、レーンライン確率マップにおける各画素点の確率値を0~1の範囲内の値に変換する。
本願の実施例では、分類用のネットワーク層は、例えば、4つのレーンライン(左左レーンライン、左レーンライン、右レーンラインおよび右右レーンラインという)のシーンについて、特徴マップにおける各画素点を五分類し、特徴マップにおける各画素点が五つの種類(背景、左左レーンライン、左レーンライン、右レーンラインおよび右右レーンライン)に属するそれぞれの確率値を識別し、特徴マップにおける各画素点がそれらの一つのタイプに属する確率マップをそれぞれ出力し、上記N+1個のチャネルの確率マップを得るように、特徴マップにおける各画素点を数種類に分類することができ、ここで、各確率マップにおける各画素の確率値は該画素の対応する画像における画素がある種類に属する確率値を表す。
上記実施例では、Nは車両走行環境におけるレーンラインの本数であり、0よりも大きい任意の整数値であってもよい。例えば、Nの値は2とする場合、N+1個のチャネルは車両走行環境における背景、左レーンラインおよび右レーンラインにそれぞれ対応し、または、Nの値は3とする場合、N+1個のチャネルは車両走行環境における背景、左レーンライン、中レーンラインおよび右レーンラインにそれぞれ対応し、または、Nの値は4とする場合、N+1個のチャネルは車両走行環境における背景、左左レーンライン、左レーンライン、右レーンラインおよび右右レーンラインにそれぞれ対応する。
S302において、レーンライン確率マップに基づいてレーンラインが存在する領域を決定する。ここで、前記レーンライン検出結果は前記レーンラインが存在する領域を含む。
本実施例が提供する知的運転制御方法に基づき、ニューラルネットワークによって画像のセマンティックセグメンテーションを行い、レーンライン確率マップを出力し、該レーンライン確率マップに基づいてレーンラインが存在する領域を決定する。ニューラルネットワークは深層学習の方式に基づき、大量のラベル付けされたレーンライン画像、例えば曲がり、レーンライン欠落、縁石エッジ、および光線が暗い、逆光などのシーンでのレーンライン画像を学習することで、手動で特徴を設計する必要なく、レーンラインの様々な特徴を自動的に習得することができるため、フローを簡略化し、手動でラベル付けするコストを削減し、また、それは様々な運転シーンにおいてレーンラインを効果的に識別し、曲がり、レーンライン欠落、縁石エッジ、および光線が暗い、逆光などの様々の複雑なシーンでのレーンライン検出を実現し、レーンライン検出の正確度を向上させ、それによって正確な推定距離および/または推定時間を取得し、さらに知的運転制御の正確性を向上させ、運転の安全性を向上させることができる。
本願の一つ以上の実施例によれば、ステップS302で一つのレーンラインの確率マップに基づいてレーンラインが存在する領域を決定することは、上記レーンライン確率マップから確率値が第一の予め設定された閾値よりも大きい画素点を選択することと、選択した画素点に基づいてレーンライン確率マップにおいて最大連結領域を検索し、該レーンラインに属する画素点集合を探し出すことと、レーンラインに属する上記画素点集合に基づいて該レーンラインが存在する領域を決定することと、を含んでもよい。
例えば、幅優先探索アルゴリズムを採用して最大連結領域を検索し、確率値が第一の予め設定された閾値よりも大きい全ての連結領域を探し出し、続いて全ての連結領域の最大領域を、検出したレーンライン存在領域として比較するようにしてもよい。
ニューラルネットワークの出力は複数のレーンラインの確率マップであり、レーンライン確率マップにおける各画素点の画素値は対応する画像における画素点があるレーンラインに属する確率値を表し、その値は0-1の正規化後の値であってもよい。第一の予め設定された閾値によってレーンライン確率マップにおける該レーンライン確率マップの所属レーンラインに属する確率が高い画素点を選択し、続いて最大連結領域を検索し、該レーンラインに属する画素点集合を、該レーンラインが存在する領域として探し出す。レーンライン毎に上記動作をそれぞれ実行すれば、各レーンラインが存在する領域を決定できる。
本願の一つ以上の実施例によれば、レーンラインに属する画素点集合に基づいて該レーンラインが存在する領域を決定する上記ステップは、該レーンラインに属する画素点集合内の全ての画素点の確率値の和を統計し、該レーンラインの信頼度を得ることと、該信頼度が第二の予め設定された閾値よりも大きい場合、上記画素点集合により形成された領域を該レーンラインが存在する領域とすることと、を含んでもよい。
本願の実施例では、各レーンラインについて、画素点集合内の全ての画素点の確率値の和を統計し、該レーンラインの信頼度を得る。ここの信頼度は、画素点集合により形成された領域が実在するレーンラインである確率値である。ここで、第二の予め設定された閾値は実際の必要に応じて設定された経験値であり、実際のシーンに応じて調整可能である。信頼度が低くなり過ぎた場合、即ち第二の予め設定された閾値以下である場合、該レーンラインが存在せず、決定された該レーンラインを破棄し、信頼度が高い場合、即ち第二の予め設定された閾値よりも大きい場合、決定されたレーンライン存在領域が実在するレーンラインである確率値が高く、それを該レーンラインが存在する領域として決定する。
S303において、各前記レーンラインが存在する領域における画素点のカーブフィッティングをそれぞれ行い、各前記レーンラインのフィッティング曲線を得る。
ここのレーンライン情報の表現形式は様々あり、例えば曲線、直線、レーンラインにおける少なくとも一つの点およびその車両との距離を含む分散マップとしてもよく、データテーブルとしてもよく、または方程式で表してもよいなど、本願の実施例はレーンライン情報の具体的な表現形式を限定しない。レーンライン情報は方程式で表される場合、レーンライン方程式と呼ばれてもよい。そのいくつかの任意選択的な例では、レーンライン方程式は二次曲線方程式として、x=a*y*y+b*y+cで表してもよい。該レーンライン方程式は三つのパラメータ(a、b、c)を有する。
本願の一つ以上の実施例によれば、ステップS303で、1本のレーンラインが存在する領域における画素点のカーブフィッティングを行い、該レーンラインの情報を得ることは、1本のレーンラインが存在する領域から複数(例えば三つ以上)の画素点を選択することと、選択した複数の画素点をカメラが存在するカメラ座標系からワールド座標系へ変換し、上記複数の画素点のワールド座標系における座標を得ることと、を含んでもよい。そのうち、ワールド座標系の原点は必要に応じて設定してもよく、例えば原点を車両の左前輪の着地点として設定してもよく、ワールド座標系におけるy軸方向は車両の真正面方向とし、そして上記複数の画素点のワールド座標系における座標に基づき、ワールド座標系において上記複数の画素点のカーブフィッティングを行い、上記1本のレーンラインの情報を得る。
例えば、1本のレーンラインが存在する領域から一部の画素点をランダムに選択し、カメラ校正パラメータ(ビデオカメラ校正パラメータと呼んでもよい)に基づき、これらの画素点をワールド座標系へ変換し、続いてワールド座標系でこれらの画素点のカーブフィッティングを行えば、フィッティング曲線を得ることができる。ここのカメラ校正パラメータは、内部パラメータおよび外部パラメータを含むことができる。そのうち、外部パラメータに基づいてカメラまたはビデオカメラのワールド座標系における位置および向きを決定でき、外部パラメータは回転行列および並進行列を含んでもよく、回転行列および並進行列はどのように点をワールド座標系からカメラ座標系へまたはその逆に変換するかを共同で記述しており、内部パラメータはカメラ自体の特性に関連するパラメータ、例えばカメラの焦点距離、画素数などである。
ここのカーブフィッティングとは、いくつかの分散点に基づいてこれらの点からなる曲線を算出することである。本願の一つ以上の実施例によれば、例えば最小二乗法を採用して上記複数の画素点に基づいてカーブフィッティングを行うことができる。
また、本願の知的運転制御方法のさらに別の実施例では、2フレームの画像に基づいて決定されたレーンラインのブレおよび車両の車線変更過程でのレーンラインの混乱を防止するために、ステップS303でレーンラインの情報を得る後に、さらに、レーンラインの情報内のパラメータをフィルタリングし、それによってブレおよび何らかの異常状況を排除し、レーンライン情報の安定性を保証することを含んでもよい。本願の一つ以上の実施例によれば、1本のレーンラインの情報内のパラメータをフィルタリングすることは、該レーンラインの情報内のパラメータの値および前のフレームの画像に基づいて得られた該レーンラインの履歴情報内のパラメータの値に基づき、該レーンライン情報内のパラメータの値をカルマン(kalman)フィルタリングする。ここで、前のフレームの画像は上記画像が存在するビデオにおいて検出タイミングが該画像よりも前になっている1フレームの画像であり、例えば該画像に隣接する前のフレームの画像であってもよく、検出タイミングが該画像よりも前の、1フレーム間隔以上の画像であってもよい。
カルマンフィルタリングは時変確率的信号の統計特性に基づき、信号の将来値をできるだけ真値に近付ける推定方法である。本実施例では該レーンラインの情報内のパラメータの値および前のフレームの画像に基づいて得られた該レーンラインの履歴情報内のパラメータの値によって、該レーンライン情報内のパラメータの値をカルマンフィルタリングし、該レーンライン情報の正確性を向上可能であり、後続で車両とレーンラインとの間の距離などの情報を正確に決定し、車両の車線逸脱を正確に早期警告することに寄与する。
本願の知的運転制御方法のさらに別の実施例では、レーンライン情報内のパラメータの値をカルマンフィルタリングする前に、さらに、同一レーンラインについて、レーンライン情報内のパラメータの値が履歴レーンライン情報内の対応するパラメータの値に対して変化しており、かつレーンライン情報内のパラメータの値と履歴レーンライン情報内の対応するパラメータの値との差が第三の予め設定された閾値よりも小さいレーンライン情報を、カルマンフィルタリングするための有効なレーンライン情報として選択すること、即ちレーンライン情報内のパラメータ(例えばx=a*y*y+b*y+cにおける三つのパラメータ(a、b、c))を平滑化することを含んでもよい。ビデオにおいて各フレームの画像に基づいてフィッティングしたレーンライン情報内のパラメータはいずれも変化するが、隣接するフレームの画像が大きく変化しないため、現在フレームの画像のレーンライン情報を少し平滑化し、ブレおよび何らかの異常状況を排除し、レーンライン情報の安定性を保証することができる。
例えば、ビデオにおけるレーンライン検出に参与する最初のフレームの画像によって決定されたレーンラインについて、各レーンラインのトラッカーをそれぞれ作成して該レーンラインを追跡し、そして現在フレームの画像から同一レーンラインを検出しており、かつ該レーンラインの情報は前のフレームの画像によって決定された同一レーンラインの情報内のパラメータ値に対する差が第三の予め設定された閾値よりも小さい場合、現在フレームの画像のレーンライン情報内のパラメータ値を前のフレームの画像によって決定された同一レーンラインのトラッカーへ更新し、それによって現在フレームの画像における該同一レーンラインの情報をカルマンフィルタリングするようにしてもよい。同一レーンラインのトラッカーは連続2フレームの画像において更新された場合、該レーンラインの決定結果が正確であり、該レーンラインのトラッカーを確認して、該トラッカーで追跡したレーンラインを最終のレーンライン結果とすることができる。トラッカーは連続数フレームも更新されていない場合、対応するレーンラインが消えたと考えられ、該トラッカーを削除する。現在フレームの画像から前のフレームの画像とマッチするレーンラインを検出できない場合、前のフレームの画像において決定された該レーンラインの誤差が大きく、前のフレームの画像における該トラッカーを削除する。
S304において、前記車両の走行状態および前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定する。
本願の実施例はレーンラインが存在する領域を決定してから、各レーンラインが存在する領域における画素点のカーブフィッティングを行うことで各レーンラインのレーンライン情報を得て、車両の走行状態およびレーンラインの情報に基づいて該車両が対応するレーンラインを超えるまでの推定距離を決定することができる。カーブフィッティングによって得られたレーンライン情報は二次曲線または類似の表現形式で表現可能で、曲がりレーンラインに効果的にフィット可能であるため、曲がりに対しても高い適用性を有し、様々な道路状況の早期警告に適する。
本願の一つ以上の実施例によれば、ステップS304で、前記車両の走行状態および前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定する前記工程は、該車両のワールド座標系における位置、および前記レーンラインのフィッティング曲線に基づき、該車両と前記レーンラインとの間の推定距離を決定することを含んでもよく、ここで、前記車両の走行状態は該車両のワールド座標系における位置を含む。
例えば、一応用例では、車両の現在位置をA、現在走行方向に沿った1本のレーンライン(目標レーンラインと呼ばれると想定する)との交点位置をBと想定すると、線分ABは車両が現在状態で該目標レーンラインを超える軌跡となる。カメラ校正パラメータによって車両のワールド座標系における絶対位置A’を取得でき、続いて該目標レーンラインの方程式によって、レーンライン走行方向の直線A’Bと該目標レーンラインとの交点位置Bを算出し、それにより直線A’Bの長さを得ることができる。
ここで、車両と目標レーンラインとの間の距離は、該目標レーンラインの方程式の座標原点の設定、および車両走行方向、車両の幅によって取得可能である。例えば、レーンライン方程式の座標原点が車両の左輪として設定され、目標レーンラインが該車両の左側にある場合、該車両と、その走行方向と目標レーンラインとの交点との間の距離を直接取得すればよい。レーンライン方程式の座標原点が車両の右輪として設定され、目標レーンラインが該車両の左側にある場合、該車両と、その走行方向と目標レーンラインとの交点との間の距離を取得し、車両の幅がその走行方向に投影した有効幅を加えれば、車両と目標レーンラインとの間の距離を得ることができる。レーンライン方程式の座標原点が車両の中心として設定され、目標レーンラインが該車両の左側にある場合、該車両と、その走行方向と目標レーンラインとの交点との間の距離を取得し、車両の半分の幅がその走行方向に投影した有効幅を加えれば、車両と目標レーンラインとの間の推定距離を得ることができる。
S305において、前記推定距離が第一の予め設定された距離値よりも大きくかつ第二の予め設定された距離値以下であることに応答して、前記車両が前記レーンラインを超えるまでの推定時間を決定する。
上記ステップに基づき、車両とレーンラインとの間の推定距離を得て、該推定距離が第一の予め設定された距離値よりも大きくかつ第二の予め設定された距離値以下である場合、車両が前記レーンラインを超えるまでの推定時間を決定する。
本願の一つ以上の実施例によれば、ステップS305で、前記車両が前記レーンラインを超えるまでの推定時間を決定する前記工程は、前記車両の速度および前記車両のワールド座標系における位置、ならびに前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定することを含んでもよく、前記車両の走行状態は前記車両の速度および前記車両のワールド座標系における位置を含む。
例えば、履歴フレーム画像情報を統計すれば該車両の現在時刻の側方速度を算出可能であり、さらに該車両と該目標レーンラインとの現在の距離によって、現在時刻の車両が該目標レーンラインを踏むまでの時間(即ち該目標レーンラインに到達する時間)を算出し、該レーンラインを踏むまでの時間を車両が前記レーンラインを超えるまでの推定時間として決定することができる。
本願の一つ以上の実施例によれば、前記車両の速度および前記車両のワールド座標系における位置、ならびに前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定することは、前記車両の走行方向と前記レーンラインのフィッティング曲線との夾角を取得することと、前記車両のワールド座標系における位置に基づき、前記車両と前記レーンラインのフィッティング曲線との間の推定距離を取得することと、前記夾角、前記推定距離および前記車両の速度に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定することと、を含む。
例えば、図6に示すように、前記車両の走行方向と前記レーンラインのフィッティング曲線との夾角θを取得する。続いて該夾角θおよび車両の走行速度によって車両の走行速度の水平成分v_xを得ることができる。上記推定距離および車両の走行速度の水平成分v_xによって、車両が前記レーンラインを踏むまでの推定時間tを得ることができ、例えば、t=d/v_xである。
本願の一つ以上の実施例によれば、実際の走行過程で、車両は短時間内でレーンラインを踏んでしまったこと、例えば車両がふらつくためにヘッドがレーンラインを踏んでしまったことが不可避であり得るが、これらの現象について、その消えた後、車両は正常な運転軌跡に自動的に戻るため、これらの状況では警告しなくてもよい。上記状況での誤警告を回避するために、レーンラインが踏まれる臨界線を設置する。例えば、図7に示すように、レーンラインの車両から離れた一方に一つの臨界線(図7におけるレーンライン左側の点線)を設置すると、車両が該臨界線を踏んだ時のみ、車両へ警告メッセージを発信し、さらに誤警告の確率を低下させる。推定距離dと予め設定された距離cとの和を新たな推定距離d’とし、夾角、新たな推定距離d’および前記車両の走行速度に基づき、車両がレーンラインを踏むまでの時間を決定する。
S306において、推定時間に基づき、該車両の知的運転制御を行う。
本願の実施例が提供する知的運転制御方法は、端末機器およびサーバなどに限られないデータ処理能力を有する任意の適当な機器によって実行できる。または、本願の実施例が提供するいずれかの知的運転制御方法は、例えばプロセッサがメモリに記憶された対応する命令を呼び出すことで本願の実施例で言及されたいずれかの知的運転制御方法を実行するように、プロセッサによって実行できる。以下は説明を省略する。
当業者であれば、上記方法の実施例を実現する全てまたは一部のステップはプログラムによって関連ハードウェアに命令を出すことにより完了できることを理解でき、前記プログラムは、ROM、RAM、磁気ディスクまたは光ディスクなどのプログラムコードを記憶可能である様々な媒体を含むコンピュータ読み取り可能記憶媒体に記憶可能であり、該プログラムは実行される時に、上記方法の実施例を含むステップを実行する。
図8は本願の実施例1が提供する知的運転制御装置の構成模式図である。図8に示すように、本実施例の知的運転制御装置100は、車両走行環境のレーンライン検出結果を取得するための取得モジュール110と、前記車両の走行状態および前記レーンライン検出結果に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定するための距離決定モジュール120と、前記推定距離が第一の予め設定された距離値よりも大きくかつ第二の予め設定された距離値以下であることに応答して、前記車両が前記レーンラインを超えるまでの推定時間を決定するための時間決定モジュール130と、前記推定時間に基づいて知的運転制御を行うための制御モジュール140と、を含む。
本発明の実施例のレーンラインに基づく知的運転制御装置は、上述した方法の実施例の技術的解決手段を実行するために用いることができ、その実現原理は技術的効果に類似し、以上の対応する記載を参照すればよく、ここでは説明を省略する。図9は本願の実施例2が提供する知的運転制御装置の構成模式図である。上記実施例のもとに、図9に示すように、本実施例の制御モジュール140は、前記推定時間を少なくとも一つの予め設定された閾値と比較するための比較ユニット141と、比較結果が一つ以上の予め設定された条件を満たす場合、満たされる予め設定された条件の対応する、自動運転制御、運転支援制御、運転モード切替制御の少なくとも一つを含む知的運転制御を行うための制御ユニット142と、を含む。
本実施例の可能な一実施形態では、前記自動運転制御は、車線逸脱警告、制動、走行速度変更、走行方向変更、車線維持、および車両ランプ状態変更のいずれか一つまたは複数を含み、および/または、前記運転支援制御は、車線逸脱早期警告、車線維持指示の少なくとも一つを含む。
本発明の実施例のレーンラインに基づく知的運転制御装置は、上述した方法の実施例の技術的解決手段を実行するために用いることができ、その実現原理は技術的効果に類似し、以上の対応する記載を参照すればよく、ここでは説明を省略する。
図10は本願の実施例3が提供する知的運転制御装置の構成模式図である。上記実施例のもとに、図10に示すように、本実施例の知的運転制御装置100はさらに、前記推定距離が第二の予め設定された距離値以下または第一の予め設定された距離値よりも小さいことに応答して、前記知的運転制御機能を自動的に有効化するための、または、前記推定時間が予め設定された閾値よりも小さいことに応答して、前記知的運転制御機能を自動的に有効化するための、または、前記車両が前記レーンラインを踏んでいると検出したことに応答して、前記知的運転制御機能を自動的に有効化するための有効化モジュール150を含む。
本願の一つ以上の実施例によれば、前記予め設定された条件が複数ある場合、複数の予め設定された条件のそれぞれ対応する知的運転制御の程度は段階的に増加する。
本実施例の可能な一実施形態では、前記制御ユニット142は、前記推定時間が第一の予め設定された時間値以下で、かつ前記第一の予め設定された時間値よりも小さい第二の予め設定された時間値よりも大きい場合、前記車両の車線逸脱早期警告を行うために用いられる。
本実施例の可能な一実施形態では、前記制御ユニット142はさらに、前記推定時間が前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うために用いられ、ここで、前記車線逸脱早期警告は前記車線逸脱警告を含む。
本実施例の可能な一実施形態では、前記制御ユニット142はさらに、前記第一距離が前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うために用いられ、ここで、前記車線逸脱早期警告は前記車線逸脱警告を含む。
本実施例の可能な一実施形態では、前記制御ユニット142は、前記画像および履歴フレーム画像に基づいて決定された前記推定時間はいずれも前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うために、または、前記画像および履歴フレーム画像に基づいて決定された前記推定距離はいずれも前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うために用いられ、前記履歴フレーム画像は前記画像が存在するビデオにおける検出タイミングが前記画像よりも前になっている少なくとも1フレームの画像を含む。
本願の一つ以上の実施例によれば、前記車線逸脱警告は、コーナリングランプ起動および/または音声指示を含む。
本願の一つ以上の実施例によれば、前記車線逸脱早期警告は、ランプ点滅、アラーム鳴動および音声指示の少なくとも一つを含む。
本発明の実施例のレーンラインに基づく知的運転制御装置は、上述した方法の実施例の技術的解決手段を実行するために用いることができ、その実現原理は技術的効果に類似し、以上の対応する記載を参照すればよく、ここでは説明を省略する。
図11は本願の実施例4が提供する知的運転制御装置の構成模式図である。上記実施例のもとに、図11に示すように、本実施例の知的運転制御装置100はさらに調整モジュール160を含み、前記取得モジュール110はさらに、前記車両の運転者の運転レベルを取得するために用いられ、前記調整モジュール160は、前記運転レベルに基づき、前記第一の予め設定された距離値、前記第二の予め設定された距離値および予め設定された閾値の少なくとも一つを調整するために用いられる。
図12は本願の実施例5が提供する知的運転制御装置の構成模式図である。上記実施例のもとに、図12に示すように、本実施例の取得モジュール110は、ニューラルネットワークによって前記車両走行環境を含む画像のセマンティックセグメンテーションを行い、前記画像における少なくとも一つの画素点がレーンラインに属するそれぞれの確率値を表すためのレーンライン確率マップを出力するためのセグメンテーションユニット111と、前記レーンライン確率マップに基づいてレーンラインが存在する領域を決定するための第一決定ユニット112と、を含み、前記レーンライン検出結果は前記レーンラインが存在する領域を含む。
本発明の実施例のレーンラインに基づく知的運転制御装置は、上述した方法の実施例の技術的解決手段を実行するために用いることができ、その実現原理は技術的効果に類似し、以上の対応する記載を参照すればよく、ここでは説明を省略する。
図13は本願の実施例6が提供する知的運転制御装置の構成模式図である。上記実施例のもとに、図13に示すように、前記距離決定モジュール120は、各前記レーンラインが存在する領域における画素点のカーブフィッティングをそれぞれ行い、各前記レーンラインのフィッティング曲線を得るためのフィッティングユニット121と、前記車両の走行状態および前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定するための第二決定ユニット122と、を含む。
可能な一実施形態では、前記第二決定ユニット122は、前記車両のワールド座標系における位置、および前記レーンラインのフィッティング曲線に基づき、前記車両と前記レーンラインとの間の推定距離を決定するために用いられ、前記車両の走行状態は前記車両のワールド座標系における位置を含む。
可能な一実施形態では、前記時間決定モジュール130は、前記車両の速度および前記車両のワールド座標系における位置、ならびに前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定するために用いられ、前記車両の走行状態は前記車両の速度および前記車両のワールド座標系における位置を含む。
可能な一実施形態では、前記時間決定モジュール130はさらに、前記車両の走行方向と前記レーンラインのフィッティング曲線との夾角を取得し、前記車両のワールド座標系における位置に基づき、前記車両と前記レーンラインのフィッティング曲線との間の推定距離を取得し、そして前記夾角、前記推定距離および前記車両の速度に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定するために用いられる。
本願の実施例の知的運転制御装置は、上述した方法の実施例の技術的解決手段を実行するために用いることができ、その実現原理は技術的効果に類似し、以上の対応する記載を参照すればよく、ここでは説明を省略する。
本願の実施例はさらに、本願の上記いずれかの実施例に係る知的運転制御装置を含む電子機器を提供する。
本願の実施例はさらに、実行可能命令を記憶するためのメモリ、およびメモリと通信して実行可能命令を実行することで本願の上記いずれかの実施例に係る知的運転制御方法のステップを完了するためのプロセッサを含む別の電子機器を提供する。
図14は本願の電子機器の一応用例の構成模式図である。図14を参照すると、本願の実施例の端末機器またはサーバの実現に適する電子機器の構成模式図が示される。図14に示すように、該電子機器は一つ以上のプロセッサ、通信部などを含み、前記一つ以上のプロセッサは例えば、一つ以上のCPU、および/または一つ以上のGPUまたはFPGAなどであり、プロセッサは読み取り専用メモリ(ROM)に記憶されている実行可能命令または記憶部分からランダムアクセスメモリ(RAM)にロードされた実行可能命令に従って様々な適当の動作および処理を実行できる。通信部はネットワークカードを含むことができるが、これに限定されず、前記ネットワークカードはIB(Infiniband)ネットワークカードを含むことができるが、これに限定されず、プロセッサは読み取り専用メモリおよび/またはランダムアクセスメモリと通信して実行可能命令を実行し、バスを介して通信部と接続し、通信部によって他の目標機器と通信し、それにより本願の実施例が提供するいずれかの知的運転制御方法の対応する動作、例えば、車両走行環境のレーンライン検出結果を取得することと、前記車両の走行状態およびレーンライン検出結果に基づき、前記車両が前記レーンラインを超えるまでの推定距離および/または前記車両が前記レーンラインを超えるまでの推定時間を決定することと、前記推定距離および/または前記推定時間に基づき、前記車両の知的運転制御を行うことと、を完了することができる。
また、RAMには、装置の動作に必要な種々のプログラムおよびデータを記憶することができる。CPU、ROMおよびRAMはバスを介して互いに接続される。RAMが存在する場合、ROMは任意選択的なモジュールとなる。RAMは実行可能命令を記憶するか、または動作時にROMへ実行可能命令を書き込み、実行可能命令によってプロセッサは本願の実施例に記載のいずれかの知的運転制御方法の対応する動作を実行する。入力/出力(I/O)インタフェースもバスに接続される。通信部は統合設置してもよく、また複数のサブモジュール(例えば複数のIBネットワークカード)を有するように設置してもよく、かつバスリンクに存在する。
キーボード、マウスなどを含む入力部分、陰極線管(CRT)、液晶ディスプレイ(LCD)などおよびスピーカーなどを含む出力部分、ハードディスクなどを含む記憶部分、およびLANカード、モデムのネットワークインタフェースカードなどを含む通信部分といった部品は、I/Oインタフェースに接続される。通信部分はインターネットのようなネットワークによって通信処理を行う。ドライバも必要に応じてI/Oインタフェースに接続される。取り外し可能な媒体、例えば磁気ディスク、光ディスク、磁気光ディスク、半導体メモリなどは、必要に応じてドライバに取り付けられ、それによってそこから読み出されたコンピュータプログラムが必要に応じて記憶部分にインストールされる。
なお、図14に示すアーキテクチャは任意選択的な一実施形態に過ぎず、具体的な実践では、実際の必要に応じて上記図14の部品数およびタイプを選択、減少、増加または交換することができ、異なる機能部品の設置上でも、分離設置または統合設置などの実施形態を採用でき、例えばGPUとCPUは分離設置するかまたはGPUをCPUに統合するようにしてもよく、通信部は分離設置するか、またCPUやGPUに統合設置することなども可能であることを説明する必要がある。これらの置換可能な実施形態はいずれも本願の実施例が開示する保護範囲に属する。
また、本願の実施例は、実行される時に本願の上記いずれかの実施例に係る知的運転制御方法の動作を実現するコンピュータ読み取り可能な命令を記憶するためのコンピュータ記憶媒体を提供する。
また、本願の実施例は、コンピュータ読み取り可能な命令を含むコンピュータプログラムであって、該コンピュータ読み取り可能な命令は機器において運用される時、該機器内のプロセッサは本願の上記いずれかの実施例に係る知的運転制御方法におけるステップを実現するための実行可能命令を実行するコンピュータプログラムを提供する。
本明細書における様々な実施例は漸進的に説明され、各実施例は他の実施例との相違点に集中して説明したが、各実施例間の同一または類似の部分については相互に参照すればよい。システム実施例については、それは基本的に方法実施例に対応するので、説明は比較的簡単であり、関連部分は方法実施例の説明の一部を参照すればよい。
本願の実施例の方法および装置は、様々な形態で実現され得る。例えば、ソフトウェア、ハードウェア、ファームウェアまたはソフトウェア、ハードウェア、ファームウェアの任意の組み合わせによって本願の実施例の方法および装置を実現することができる。前記方法のステップのための上記順序は説明することのみを目的とし、本願の実施例の方法のステップは、特に断らない限り、以上で具体的に説明した順序に限定されない。また、いくつかの実施例では、本願は記録媒体に記憶されたプログラムとしてもよく、これらのプログラムは本願の実施例に係る方法を実現するための機械可読命令を含む。従って、本願の実施例は本願の実施例に係る方法を実行するためのプログラムが記憶された記録媒体も含む。
最後に、説明すべきは、以上の各実施例は本願の実施例の技術的解決手段を説明するためのものに過ぎず、それを限定するものではなく、前記各実施例を参照しながら本願を詳細に説明したが、当業者であれば、前記各実施例に記載の技術的解決手段に対する修正、またはその一部もしくは全ての技術的特徴に対する置換が可能であることは、当然理解されるものであり、これらの修正または置換は、該当する技術的解決手段の本質を本願の各実施例の技術的解決手段の範囲から逸脱させるものではないということである。

Claims (16)

  1. 電子機器によって実行される知的運転制御方法であって、
    車両走行環境のレーンライン検出結果を取得することと、
    前記車両の走行状態および前記レーンライン検出結果に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定することと、
    前記推定距離が第一の予め設定された距離値よりも大きくかつ第二の予め設定された距離値以下であることに応答して、前記車両が前記レーンラインを超えるまでの推定時間を決定することと、
    前記推定時間に基づいて知的運転制御を行うことであって、前記知的運転制御は、自動運転制御、運転支援制御、運転モード切替制御のうちの少なくとも一つを含む、ことと
    を含み、
    前記知的運転制御方法は、
    記推定時間が予め設定された閾値よりも小さいことに応答して、オフ状態又はスリープ状態にある知的運転制御機能を自動的に有効化するこ
    をさらに含む、知的運転制御方法。
  2. 前記推定時間に基づいて知的運転制御を行うことは、
    前記推定時間を少なくとも一つの予め設定された閾値と比較することと、
    比較結果が一つ以上の予め設定された条件を満たす場合、満たされる予め設定された条件の対応する知的運転制御を行うことと
    を含む、請求項1に記載の知的運転制御方法。
  3. 前記自動運転制御は、車線逸脱警告、制動、走行速度変更、走行方向変更、車線維持、および車両ランプ状態変更のいずれか一つまたは複数を含み、
    および/または、前記運転支援制御は、車線逸脱早期警告、車線維持指示の少なくとも一つを含む、請求項2に記載の知的運転制御方法。
  4. 前記予め設定された条件が複数ある場合、複数の予め設定された条件のそれぞれ対応する知的運転制御の程度が異なり、前記知的運転制御の程度は、前記複数の予め設定された条件のそれぞれによって指示される推定距離及び/又は推定時間の変化傾向と負の関係にある、請求項2又は請求項3に記載の知的運転制御方法。
  5. 比較結果が一つ以上の予め設定された条件を満たす場合、満たされる予め設定された条件の対応する知的運転制御を行うことは、
    前記推定時間が第一の予め設定された時間値以下で、かつ前記第一の予め設定された時間値よりも小さい第二の予め設定された時間値よりも大きい場合、前記車両の車線逸脱早期警告を行うこと、又は、前記推定時間が前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことを含み、
    及び/又は、
    前記知的運転制御方法は、前記推定距離が前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことをさらに含む、請求項4に記載の知的運転制御方法。
  6. 前記推定時間が前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことは、前記車両走行環境の画像および履歴フレーム画像に基づいて決定された前記推定時間はいずれも前記第二の予め設定された時間値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことを含み、または、
    前記推定距離が前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことは、前記車両走行環境の画像および履歴フレーム画像に基づいて決定された前記推定距離はいずれも前記第一の予め設定された距離値以下である場合、前記車両の自動運転制御および/または車線逸脱警告を行うことを含み、
    前記履歴フレーム画像は前記画像が存在するビデオにおける検出タイミングが前記画像よりも前になっている少なくとも1フレームの画像を含む、請求項5に記載の知的運転制御方法。
  7. 前記車線逸脱警告は、コーナリングランプ起動および/または音声指示を含み、
    及び/又は、
    前記車線逸脱早期警告は、ランプ点滅、アラーム鳴動および音声指示の少なくとも一つを含む、請求項4に記載の知的運転制御方法。
  8. 前記知的運転制御方法は、
    前記車両の運転者の運転レベルを取得することと、
    前記運転レベルに基づき、前記第一の予め設定された距離値、前記第二の予め設定された距離値および予め設定された閾値の少なくとも一つを調整することと
    をさらに含む、請求項2から7のいずれか一項に記載の知的運転制御方法。
  9. 車両走行環境のレーンライン検出結果を取得することは、
    ニューラルネットワークによって前記車両走行環境を含む画像のセマンティックセグメンテーションを行い、前記画像における少なくとも一つの画素点がレーンラインに属するそれぞれの確率値を表すためのレーンライン確率マップを出力することと、
    前記レーンライン確率マップに基づいてレーンラインが存在する領域を決定することと
    を含み、
    前記レーンライン検出結果は、前記レーンラインが存在する領域を含む、請求項1から8のいずれか一項に記載の知的運転制御方法。
  10. 前記車両の走行状態およびレーンライン検出結果に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定することは、
    各前記レーンラインが存在する領域における画素点のカーブフィッティングをそれぞれ行い、各前記レーンラインのフィッティング曲線を得ることと、
    前記車両の走行状態および前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定することと
    を含む、請求項9に記載の知的運転制御方法。
  11. 前記車両の走行状態および前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定することは、前記車両のワールド座標系における位置、および前記レーンラインのフィッティング曲線に基づき、前記車両と前記レーンラインとの間の推定距離を決定することを含み、前記車両の走行状態は前記車両のワールド座標系における位置を含み、
    及び/又は、
    前記車両が前記レーンラインを超えるまでの推定時間を決定することは、前記車両の速度および前記車両のワールド座標系における位置、ならびに前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定することを含み、前記車両の走行状態は前記車両の速度および前記車両のワールド座標系における位置を含む、請求項10に記載の知的運転制御方法。
  12. 前記車両の速度および前記車両のワールド座標系における位置、ならびに前記レーンラインのフィッティング曲線に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定することは、
    前記車両の走行方向と前記レーンラインのフィッティング曲線との夾角を取得することと、
    前記車両のワールド座標系における位置に基づき、前記車両と前記レーンラインのフィッティング曲線との間の推定距離を取得することと、
    前記夾角、前記推定距離および前記車両の速度に基づき、前記車両が前記レーンラインを超えるまでの推定時間を決定することと
    を含む、請求項11に記載の知的運転制御方法。
  13. 知的運転制御装置であって、
    車両走行環境のレーンライン検出結果を取得するための取得モジュールと、
    前記車両の走行状態および前記レーンライン検出結果に基づき、前記車両が前記レーンラインを超えるまでの推定距離を決定するための距離決定モジュールと、
    前記推定距離が第一の予め設定された距離値よりも大きくかつ第二の予め設定された距離値以下であることに応答して、前記車両が前記レーンラインを超えるまでの推定時間を決定するための時間決定モジュールと、
    前記推定時間に基づいて知的運転制御を行うための制御モジュールであって、前記知的運転制御は、自動運転制御、運転支援制御、運転モード切替制御のうちの少なくとも一つを含む、制御モジュールと
    を含み、
    知的運転制御装置は、
    記推定時間が予め設定された閾値よりも小さいことに応答して、オフ状態又はスリープ状態にある知的運転制御機能を自動的に有効化するため有効化モジュールをさらに含む、知的運転制御装置。
  14. コンピュータプログラムを記憶するためのメモリと、
    前記メモリに記憶された、実行される時に請求項1から12のいずれか一項に記載の知的運転制御方法を実現するコンピュータプログラムを実行するためのプロセッサと
    を含む電子機器。
  15. 実行される時に請求項1から12のいずれか一項に記載の知的運転制御方法を実現するコンピュータプログラムが記憶されているコンピュータ記憶媒体。
  16. コンピュータ命令を含むコンピュータプログラムであって、前記コンピュータ命令が機器のプロセッサで実行される時に、請求項1から12のいずれか一項に記載の知的運転制御方法を実現するコンピュータプログラム。
JP2020545431A 2018-08-22 2019-06-20 知的運転制御方法および装置、電子機器、プログラムならびに媒体 Active JP7106664B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201810961511.8A CN109147368A (zh) 2018-08-22 2018-08-22 基于车道线的智能驾驶控制方法装置与电子设备
CN201810961511.8 2018-08-22
PCT/CN2019/092134 WO2020038091A1 (zh) 2018-08-22 2019-06-20 智能驾驶控制方法与装置、电子设备、程序和介质

Publications (2)

Publication Number Publication Date
JP2021503414A JP2021503414A (ja) 2021-02-12
JP7106664B2 true JP7106664B2 (ja) 2022-07-26

Family

ID=64790853

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020545431A Active JP7106664B2 (ja) 2018-08-22 2019-06-20 知的運転制御方法および装置、電子機器、プログラムならびに媒体

Country Status (5)

Country Link
US (1) US20200272835A1 (ja)
JP (1) JP7106664B2 (ja)
CN (1) CN109147368A (ja)
SG (1) SG11202004313XA (ja)
WO (1) WO2020038091A1 (ja)

Families Citing this family (54)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9823657B1 (en) 2016-11-02 2017-11-21 Smartdrive Systems, Inc. Measuring operator readiness and readiness testing triggering in an autonomous vehicle
US9663118B1 (en) 2016-11-02 2017-05-30 Smartdrive Systems, Inc. Autonomous vehicle operator performance tracking
CN109147368A (zh) * 2018-08-22 2019-01-04 北京市商汤科技开发有限公司 基于车道线的智能驾驶控制方法装置与电子设备
CN111460866B (zh) * 2019-01-22 2023-12-22 北京市商汤科技开发有限公司 车道线检测及驾驶控制方法、装置和电子设备
CN111476057B (zh) * 2019-01-23 2024-03-26 北京市商汤科技开发有限公司 车道线获取方法及装置、车辆驾驶方法及装置
CN111476062A (zh) * 2019-01-23 2020-07-31 北京市商汤科技开发有限公司 车道线检测方法、装置、电子设备及驾驶系统
CN109865231B (zh) * 2019-01-29 2020-09-08 迅捷安消防及救援科技(深圳)有限公司 可移动模块化智慧消防执勤保障装备及相关产品
CN111507126B (zh) * 2019-01-30 2023-04-25 杭州海康威视数字技术股份有限公司 一种驾驶辅助系统的报警方法、装置及电子设备
CN110084230B (zh) * 2019-04-11 2021-05-28 北京百度网讯科技有限公司 基于图像的车身方向检测方法和装置
US10807527B1 (en) 2019-05-01 2020-10-20 Smartdrive Systems, Inc. Systems and methods for verifying whether vehicle operators are paying attention
CN111923906B (zh) * 2019-05-13 2021-11-02 广州汽车集团股份有限公司 车道保持控制参数的调整方法、装置、设备和存储介质
US11100339B2 (en) * 2019-05-20 2021-08-24 Zoox, Inc. Closed lane detection
CN110287832A (zh) * 2019-06-13 2019-09-27 北京百度网讯科技有限公司 高速自动驾驶场景障碍物感知评测方法及装置
CN112130550B (zh) * 2019-06-24 2024-03-12 北京市商汤科技开发有限公司 一种道路图像处理方法、装置、电子设备及存储介质
CN112131914B (zh) * 2019-06-25 2022-10-21 北京市商汤科技开发有限公司 车道线属性检测方法、装置、电子设备及智能设备
CN110428693B (zh) * 2019-07-31 2021-08-24 驭势科技(北京)有限公司 用户驾驶习惯培训方法、培训模块、车载设备及存储介质
CN113044037A (zh) * 2019-12-28 2021-06-29 华为技术有限公司 智能汽车的控制方法、装置和控制系统
CN113223313B (zh) * 2020-01-21 2022-09-16 华为技术有限公司 车道推荐方法、装置及车载通信设备
JP6937856B2 (ja) * 2020-02-13 2021-09-22 本田技研工業株式会社 運転支援装置および車両
CN111489578B (zh) * 2020-04-01 2021-09-07 北京理工大学 一种基于车道时空间隙的高速道路无人驾驶决策规划方法
EP3916633A1 (de) 2020-05-25 2021-12-01 Sick Ag Kamera und verfahren zum verarbeiten von bilddaten
JP7443177B2 (ja) * 2020-07-16 2024-03-05 トヨタ自動車株式会社 衝突回避支援装置
CN111814746A (zh) * 2020-08-07 2020-10-23 平安科技(深圳)有限公司 一种识别车道线的方法、装置、设备及存储介质
CN112036285B (zh) * 2020-08-25 2024-04-09 安徽江淮汽车集团股份有限公司 视觉目标检测方法、装置、设备及存储介质
WO2022051951A1 (zh) * 2020-09-09 2022-03-17 华为技术有限公司 车道线检测方法、相关设备及计算机可读存储介质
CN114264310B (zh) * 2020-09-14 2024-06-21 阿里巴巴集团控股有限公司 定位及导航方法、装置、电子设备、计算机存储介质
CN112163475B (zh) * 2020-09-15 2024-07-26 北京三快在线科技有限公司 一种确定车道线方向的方法及装置
CN114283570B (zh) * 2020-09-25 2023-07-14 阿波罗智联(北京)科技有限公司 控制车辆的方法、装置、车辆、电子设备和介质
CN112233447A (zh) * 2020-09-30 2021-01-15 上海博泰悦臻电子设备制造有限公司 变道提醒方法及相关设备
WO2022099525A1 (zh) * 2020-11-12 2022-05-19 深圳元戎启行科技有限公司 车辆定位方法、装置、计算机设备和存储介质
CN112530160A (zh) * 2020-11-18 2021-03-19 合肥湛达智能科技有限公司 一种基于深度学习的目标距离检测方法
CN112729187B (zh) * 2020-12-22 2023-02-17 阿波罗智联(北京)科技有限公司 用于生成车辆长度信息的方法、装置、路侧设备和云控平台
CN112785844B (zh) * 2020-12-28 2022-03-15 东软睿驰汽车技术(沈阳)有限公司 曲线坐标系的建立方法、装置和电子设备
WO2022185644A1 (ja) * 2021-03-03 2022-09-09 富士フイルム株式会社 画像処理装置、画像処理装置の作動方法、画像処理装置の作動プログラム、並びに学習方法
CN112883948B (zh) * 2021-05-06 2021-09-03 深圳市城市交通规划设计研究中心股份有限公司 一种语义分割与边缘检测模型建立及护栏异常监测方法
US11830187B2 (en) * 2021-05-26 2023-11-28 International Business Machines Corporation Automatic condition diagnosis using a segmentation-guided framework
US11875898B2 (en) 2021-05-26 2024-01-16 Merative Us L.P. Automatic condition diagnosis using an attention-guided framework
US11891060B2 (en) * 2021-07-13 2024-02-06 Canoo Technologies Inc. System and method in lane departure warning with full nonlinear kinematics and curvature
US11845428B2 (en) 2021-07-13 2023-12-19 Canoo Technologies Inc. System and method for lane departure warning with ego motion and vision
US11840147B2 (en) 2021-07-13 2023-12-12 Canoo Technologies Inc. System and method in data-driven vehicle dynamic modeling for path-planning and control
US12017661B2 (en) 2021-07-13 2024-06-25 Canoo Technologies Inc. System and method in vehicle path prediction based on full nonlinear kinematics
US11908200B2 (en) 2021-07-13 2024-02-20 Canoo Technologies Inc. System and method in the prediction of target vehicle behavior based on image frame and normalization
US11891059B2 (en) 2021-07-13 2024-02-06 Canoo Technologies Inc. System and methods of integrating vehicle kinematics and dynamics for lateral control feature at autonomous driving
CN113673438A (zh) * 2021-08-23 2021-11-19 上海商汤临港智能科技有限公司 一种碰撞预警的方法、装置、电子设备及存储介质
CN115222779B (zh) * 2021-09-17 2023-09-22 广州汽车集团股份有限公司 一种车辆切入检测方法、装置及存储介质
CN113932796B (zh) * 2021-10-15 2024-09-10 北京百度网讯科技有限公司 高精地图车道线生成方法、装置和电子设备
CN114368287A (zh) * 2021-11-29 2022-04-19 武汉未来幻影科技有限公司 一种驾考车身自动显示方法、装置及存储介质
CN114743395B (zh) * 2022-03-21 2024-03-08 中汽创智科技有限公司 一种信号灯检测方法、装置、设备及介质
CN114475641B (zh) * 2022-04-15 2022-06-28 天津所托瑞安汽车科技有限公司 车道偏离预警方法、装置、控制装置及存储介质
CN114863707A (zh) * 2022-05-07 2022-08-05 中国第一汽车股份有限公司 车辆信息的处理方法、装置、存储介质和车辆
CN115063766B (zh) * 2022-06-17 2024-05-24 公安部交通管理科学研究所 一种自动驾驶汽车运行安全评估及预警方法
CN116823958B (zh) * 2023-04-20 2024-09-17 阿波罗智联(北京)科技有限公司 车载相机的偏航角估计方法、装置、设备、车辆及介质
CN116834729B (zh) * 2023-08-28 2023-11-17 常州星宇车灯股份有限公司 车辆辅助驾驶的横纵向联合控制系统及控制方法
CN117575920B (zh) * 2023-12-01 2024-08-13 昆易电子科技(上海)有限公司 车道线优化方法、装置及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003337998A (ja) 2002-05-21 2003-11-28 Aisin Seiki Co Ltd 車線逸脱判定装置
JP2009043227A (ja) 2007-07-19 2009-02-26 Nissan Motor Co Ltd 車線内走行支援装置、自動車および車線内走行支援方法
JP2010198119A (ja) 2009-02-23 2010-09-09 Nissan Motor Co Ltd 道路白線認識装置及び道路白線認識方法
JP2016193683A (ja) 2015-04-01 2016-11-17 トヨタ自動車株式会社 車両制御装置
JP2017162160A (ja) 2016-03-09 2017-09-14 トヨタ自動車株式会社 車両用情報提供装置

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09223218A (ja) * 1996-02-15 1997-08-26 Toyota Motor Corp 走路検出方法及び装置
CN101470801B (zh) * 2007-12-24 2011-06-01 财团法人车辆研究测试中心 车辆偏移的检知方法
CN101894271B (zh) * 2010-07-28 2012-11-07 重庆大学 汽车偏离车道线角度和距离的视觉计算及预警方法
CN101914890B (zh) * 2010-08-31 2011-11-16 中交第二公路勘察设计研究院有限公司 一种基于机载激光测量的公路改扩建勘测方法
CN102156979B (zh) * 2010-12-31 2012-07-04 上海电机学院 基于GrowCut的车道线快速检测方法及系统
CN102303609B (zh) * 2011-06-16 2013-11-06 广东铁将军防盗设备有限公司 车道偏离预警系统及方法
JP2016536703A (ja) * 2013-09-05 2016-11-24 ローベルト ボッシュ ゲゼルシャフト ミット ベシュレンクテル ハフツング 後方レーダセンサからのデータに基づく高度車線逸脱警告
CN103738243B (zh) * 2013-10-29 2015-12-30 惠州华阳通用电子有限公司 一种车道偏离预警方法
CN103605977B (zh) * 2013-11-05 2017-01-18 奇瑞汽车股份有限公司 一种车道线的提取方法及装置
KR20150144125A (ko) * 2014-06-16 2015-12-24 현대모비스 주식회사 안전 운전 유도 시스템 및 이의 방법
CN106256606B (zh) * 2016-08-09 2017-11-03 浙江零跑科技有限公司 一种基于车载双目相机的车道偏离预警方法
CN106274483A (zh) * 2016-11-10 2017-01-04 合肥工业大学 基于分心驾驶行为判别的车辆自动驾驶切换装置及方法
KR102585219B1 (ko) * 2016-11-29 2023-10-05 삼성전자주식회사 차량 속도 제어 방법 및 장치
CN106585629B (zh) * 2016-12-06 2019-07-12 广东泓睿科技有限公司 一种车辆控制方法和装置
CN108242168A (zh) * 2016-12-24 2018-07-03 钱浙滨 一种监控车辆行驶的方法及装置
JP6601437B2 (ja) * 2017-02-16 2019-11-06 トヨタ自動車株式会社 車線逸脱抑制装置
CN108216229B (zh) * 2017-09-08 2020-01-10 北京市商汤科技开发有限公司 交通工具、道路线检测和驾驶控制方法及装置
CN108196546A (zh) * 2018-01-03 2018-06-22 驭势(上海)汽车科技有限公司 智能驾驶车辆的安全性监控系统及方法
CN108327717B (zh) * 2018-02-06 2019-07-02 合肥工业大学 一种人机共驾的车道偏离辅助系统及其车道偏离辅助方法
CN108875603B (zh) * 2018-05-31 2021-06-04 上海商汤智能科技有限公司 基于车道线的智能驾驶控制方法和装置、电子设备
CN109147368A (zh) * 2018-08-22 2019-01-04 北京市商汤科技开发有限公司 基于车道线的智能驾驶控制方法装置与电子设备

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003337998A (ja) 2002-05-21 2003-11-28 Aisin Seiki Co Ltd 車線逸脱判定装置
JP2009043227A (ja) 2007-07-19 2009-02-26 Nissan Motor Co Ltd 車線内走行支援装置、自動車および車線内走行支援方法
JP2010198119A (ja) 2009-02-23 2010-09-09 Nissan Motor Co Ltd 道路白線認識装置及び道路白線認識方法
JP2016193683A (ja) 2015-04-01 2016-11-17 トヨタ自動車株式会社 車両制御装置
JP2017162160A (ja) 2016-03-09 2017-09-14 トヨタ自動車株式会社 車両用情報提供装置

Also Published As

Publication number Publication date
SG11202004313XA (en) 2020-06-29
US20200272835A1 (en) 2020-08-27
JP2021503414A (ja) 2021-02-12
CN109147368A (zh) 2019-01-04
WO2020038091A1 (zh) 2020-02-27

Similar Documents

Publication Publication Date Title
JP7106664B2 (ja) 知的運転制御方法および装置、電子機器、プログラムならびに媒体
JP7024115B2 (ja) 区画線に基づくインテリジェントドライブ制御方法および装置、ならびに電子機器
KR102605807B1 (ko) 시계열 요소들로부터 머신 러닝을 위한 그라운드 트루스 생성
EP4152204A1 (en) Lane line detection method, and related apparatus
CN108725440B (zh) 前向碰撞控制方法和装置、电子设备、程序和介质
CN110660254B (zh) 交通信号灯检测及智能驾驶方法和装置、车辆、电子设备
JP2020052694A (ja) 物体検出装置、物体検出方法及び物体検出用コンピュータプログラム
JP7266627B2 (ja) 早期警報方法、装置、電子機器、記録媒体及びコンピュータプログラム製品
Jung et al. A lane departure warning system using lateral offset with uncalibrated camera
Wu et al. Applying a functional neurofuzzy network to real-time lane detection and front-vehicle distance measurement
KR20190014908A (ko) 관심 객체를 검출하는 방법 및 장치
KR20210080459A (ko) 차선 검출방법, 장치, 전자장치 및 가독 저장 매체
KR102633140B1 (ko) 주행 정보를 결정하는 방법 및 장치
JP2019099138A (ja) 車線維持補助方法及び装置
CN111091038A (zh) 训练方法、计算机可读介质和检测消失点的方法及装置
JP7454685B2 (ja) 車両走行路内のデブリの検出
Odeh Management of an intelligent traffic light system by using genetic algorithm
CN112101272A (zh) 交通灯检测的方法、装置、计算机存储介质和路侧设备
JP2004265432A (ja) 走行環境認識装置
Premachandra et al. Road intersection moving object detection by 360-degree view camera
TWI743637B (zh) 號誌辨識系統及其方法
CN116434156A (zh) 目标检测方法、存储介质、路侧设备及自动驾驶系统
JP5125214B2 (ja) 障害物検出方法および障害物検出装置
Dai et al. A driving assistance system with vision based vehicle detection techniques
JP6253175B2 (ja) 車両の外部環境認識装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200520

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200520

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210727

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220308

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220628

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220713

R150 Certificate of patent or registration of utility model

Ref document number: 7106664

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150