JP2019519851A - 車両を制御する方法及びシステム - Google Patents

車両を制御する方法及びシステム Download PDF

Info

Publication number
JP2019519851A
JP2019519851A JP2018564859A JP2018564859A JP2019519851A JP 2019519851 A JP2019519851 A JP 2019519851A JP 2018564859 A JP2018564859 A JP 2018564859A JP 2018564859 A JP2018564859 A JP 2018564859A JP 2019519851 A JP2019519851 A JP 2019519851A
Authority
JP
Japan
Prior art keywords
vehicle
motion
time
neural network
trajectory
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018564859A
Other languages
English (en)
Other versions
JP6712088B2 (ja
Inventor
バーントープ、カール
リウ、ミン−ユ
ワイス、アビシャイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JP2019519851A publication Critical patent/JP2019519851A/ja
Application granted granted Critical
Publication of JP6712088B2 publication Critical patent/JP6712088B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0015Planning or execution of driving tasks specially adapted for safety
    • B60W60/0016Planning or execution of driving tasks specially adapted for safety of the vehicle or its occupants
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • B60W30/0956Predicting travel path or likelihood of collision the prediction being responsive to traffic or environmental parameters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/18Propelling the vehicle
    • B60W30/18009Propelling the vehicle related to particular drive situations
    • B60W30/18163Lane change; Overtaking manoeuvres
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • G05B13/027Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion using neural networks only
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133Distances to prototypes
    • G06F18/24143Distances to neighbourhood prototypes, e.g. restricted Coulomb energy networks [RCEN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/049Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • B60W2420/408
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/54Audio sensitive means, e.g. ultrasound

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Automation & Control Theory (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Human Computer Interaction (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Traffic Control Systems (AREA)
  • Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)

Abstract

方法及びシステムは、車両の運動に対する車両の近辺の環境の変動を示す時系列信号を生成し、時系列信号をニューラルネットワークにサブミットして、時間の関数として、車両の位置についての時間制約及び空間制約を満たす基準軌道を生成する。ニューラルネットワークは、時系列信号を車両の基準軌道に変換するようにトレーニングされる。車両の運動についての制約を満たしながら基準軌道を追跡する運動軌道が求められ、この運動軌道を辿るように車両の運動が制御される。

Description

本発明は、包括的には車両を制御することに関し、より詳細には、ニューラルネットワークを用いて自律車両又は半自律車両を制御することに関する。
自律車両又は自律走行モードを実行する車両のいずれかの車両によって利用されるいくつかの制御システムは、他の車両又は歩行者等の障害物を回避するためのみではなく、車両の操作に関連付けられたいくつかの基準を最適化するためも含む双方で、未来を予測し、車両の安全運動又は経路を予測する。目標状態は、固定ロケーション、移動ロケーション、速度ベクトル、領域、又はそれらの組み合わせのいずれかとすることができる。道路縁、歩行者、及び他の車両等の周囲環境は、車両のセンサーによって検知される、及び/又は、事前に与えられた情報によって少なくとも部分的に既知である。
車両の周囲環境を理解するための1つの重要な情報源は、カメラ、ステレオカメラ、LIDAR、超音波センサー、及びレーダー等の車載認識センサーによって検知される情報である。車両の周囲のオブジェクトは、例えば、特許文献1に記載されているように、車載認識センサーの測定値から直接検出及び認識することができる。認識されたオブジェクトを用いて、車両の環境の動的マップを求めることができる。そのような動的マップは、車両の運動を予測するのに用いることができる。しかしながら、オブジェクトを検出及び/又は認識するとともに動的マップを構築する方法は、時間及び計算リソースを要する。
したがって、車両の運動を求めるとともに制御するプロセスを能率化することが望まれている。
米国特許第9195904号
いくつかの実施形態の目的は、ニューラルネットワークを用いて車両の運動を制御するシステム及び方法を提供することである。これらの実施形態は、ニューラルネットワークを事前に、例えば、オフラインでトレーニングするとともに、車両の運動のオンライン制御のために繰り返し用いることができるという認識に基づいている。
いくつかの実施形態の別の目的は、車両運動制御応用におけるオブジェクトの検出及び認識の必要性を低減することができるようなニューラルネットワークを提供することである。例えば、1つの実施形態の目的は、車両の運動制御を容易にするために動的マップを使用することのないニューラルネットワークを提供することである。
いくつかの実施形態は、車両が経験する可能性がある環境の数は無限であるという認識に基づいている。そのために、全ての起こり得る環境を用いてニューラルネットワークをトレーニングすることは不可能であるか、又は少なくとも非実用的である。例えば、異なる国における運転間の違い、すなわち、異なる自動車が異なる色を有する可能性があり、車線幅についての異なる規制、異なる数の車線、並びに、ローカルの運転規制、例えば、速度制限、異なる車線表示、及び徐行規則(rules for yielding)が存在することが、非常に多くの環境をカバーすることを検討する。しかしながら、環境に依存せず、或る国、例えばスウェーデンにおける運転からの経験は、例えば米国においても運転可能であるための確固たる基盤を提供する。
いくつかの実施形態は、走行中の車両を取り囲む可能性がある環境の数は無限であり、それにより多量の処理されるべき情報がもたらされるものの、運転中の判断を行うために、これらの環境から限られた、すなわち有限又は有限に近い情報のサブセットのみが用いられるという認識に基づいている。例えば、人間の五感が外界に関して経験するもののうちの多くの部分は、運転中の判断を行うのには冗長である。例えば、運転中の車両の正面の自動車が黒色であるのか、黄色であるのか、又は白色であるのかは重要ではなく、重要であるのは、この自動車が或る速度を有する自動車であることである。同様に、路側上の木々における葉が緑色であるのか又は黄色であるのかは重要ではない。実際に、木々は道路上ではなく路側上に配置されているので、道路からの逸脱を回避することができる限り、木々は、いずれの経路を取るかについて、十分な情報を得た上での判断を行うことに無関係である。
そのために、いくつかの実施形態は、環境内で検知された情報のうちのサブセットのみが運転中の判断を行うのに関係があるという理解に基づいている。その上、異なる環境において、車両に近接して走行する自動車の位置及び速度を示す情報等の類似のタイプの情報を考慮することができる。そのような情報を用いてニューラルネットワークをトレーニングすることができ、このことは、ニューラルネットワークのトレーニングの設計を単純化するとともに、車両の運動制御を容易にするために動的マップを用いることを回避するのに役立つことができる。例えば、1つの実施形態は、運転中の判断を行うのに関係する情報を、車両の運動についての制約として取り扱う。
異なる環境の数に加えて、起こる可能性があるとともに自律車両が反応する必要がある状況の数も無限であり得る。しかしながら、起こる可能性がある状況は各種様々であるにもかかわらず、特定の状況に対処するために取られるアクションの数はごく限られている。一例として、2車線道路上を走行中に、検討対象の車両の正面で或る自動車が突然減速することを検討する。正面の運転者が制動する方法にかかわらず、衝突を回避するための異なるアクションの数は限られており、このアクションは、例えば、正面の自動車よりも急速に減速するか、又は可能な場合には車線を変更するかのいずれかである。
そのために、いくつかの実施形態は、ニューラルネットワークは、環境を示す時系列信号を、車両の運動の目的を指定する車両の基準軌道に変換するように設計することができるという理解に基づいている。例えば、1つの実施形態において、ニューラルネットワークは、同時にトレーニングされる符号化サブネットワーク及び復号化サブネットワークを含む。符号化サブネットワークは、時系列信号を、車両の運動についての制約を示す情報に変換するようにトレーニングされ、これは、運転中の判断を行うのに関係する情報を選択することに類似する。復号化サブネットワークは、車両の運動についての制約を示す情報から基準軌道を生成するようにトレーニングされる。サブネットワークは、所与の時点の特定の状況において、いずれのアクションを取るか、又はいずれの目的を有するかに関する判断を行うようにトレーニングされる。そのようにして、複数の潜在的な基準軌道、及びこの基準軌道を求めるのに必要な情報のうちの最終的なものが、ニューラルネットワークによって考慮に入れられる。
しかしながら、任意の所与の時点において自律自動車が実行に移すことができるアクション又は目的の数が限られている場合でさえ、所望の目的に到達するために選択することができる制御コマンドの数は無限にある。例えば、車線変更を行うと判断したとき、異なる操舵トルクの連続セットの中から操舵コマンドを選ぶことができる。さらに、スロットルコマンド及びブレーキコマンドは全て、フル加速とフル減速との間の連続セットの中から選ぶことができ、特定の時点、特定のシナリオ、及び特定の環境においていずれのコマンドを出力するのかを厳密に学習することには、無限の計算リソースを必要とする可能性がある。いくつかの実施形態は、可能性が制御アクションの多大な数の組み合わせの中から選ばれるにもかかわらず、車両が辿るべき所望の将来の軌道又は将来の経路は、制御アクションの厳密な値に関係なく同じままに留まり得るという認識に基づいている。
そのために、いくつかの実施形態は、基準軌道が求められた後に、例えば制御コマンドを指定する運動軌道を後処理ステップとして後の時点で求めることができるという認識に基づいている。そのようにして、基準軌道を辿る多量の異なる組み合わせの制御アクションは、ニューラルネットワークの外部で対処される。また、ニューラルネットワークは、異なるタイプの車両の特定の動態からは切り離されており、異なるタイプ及びモデルの車両が同じニューラルネットワークを繰り返し用いることができる。
したがって、1つの実施形態は、車両を制御する方法を開示する。該方法は、少なくとも1つのセンサーを用いて、前記車両の運動に対する前記車両の近辺の環境の変動を示す時系列信号を生成することと、メモリから、時系列信号を前記車両の基準軌道に変換するようにトレーニングされたニューラルネットワークを選択することと、前記時系列信号を前記ニューラルネットワークにサブミットして、時間の関数として、前記車両の位置についての時間制約及び空間制約を満たす基準軌道を生成することと、前記車両の前記運動についての制約を満たしながら前記基準軌道を追跡する運動軌道を求めることと、前記運動軌道を辿るように前記車両の前記運動を制御することとを含む。該方法の少なくともいくつかのステップは、前記メモリ及び前記センサーに動作的に接続されたプロセッサによって実行される。
別の実施形態は、車両を制御するシステムを開示する。該システムは、前記車両の近辺の環境を検知して、前記車両の運動に対する前記環境の変動を示す時系列信号を生成する少なくとも1つのセンサーと、時系列信号を前記車両の基準軌道に変換するようにトレーニングされたニューラルネットワークを記憶するメモリと、前記時系列信号を前記メモリから選択された前記ニューラルネットワークにサブミットして、時間の関数として、前記車両の位置についての時間制約及び空間制約を満たす基準軌道を生成し、前記車両の前記運動についての制約を満たしながら前記基準軌道を追跡する運動軌道を求めるように構成された少なくとも1つのプロセッサと、前記運動軌道を辿るように前記車両の前記運動を制御するコントローラーとを備える。
更に別の実施形態は、方法を実行する、プロセッサによって実行可能なプログラムを具現化した非一時的コンピューター可読記憶媒体を開示する。前記方法は、車両の運動に対する前記車両の近辺の環境の変動を示す時系列信号を生成することと、時系列信号を前記車両の基準軌道に変換するようにトレーニングされたニューラルネットワークを選択することと、前記時系列信号を前記ニューラルネットワークにサブミットして、時間の関数として、前記車両の位置についての時間制約及び空間制約を満たす基準軌道を生成することと、前記車両の前記運動についての制約を満たしながら前記基準軌道を追跡する運動軌道を求めることと、前記運動軌道を辿るように前記車両の前記運動を制御することとを含む。
車両を運転するための一例示のセットアップの図である。 車両を運転するための一例示のセットアップの図である。 車両運動制御における計算を削減するニューラルネットワークの1つの実施形態の概略図である。 いくつかの実施形態による、車両を制御するシステムのブロック図である。 いくつかの実施形態による、車両の運動を制御する方法のフローチャートである。 1つの実施形態による経路計画システムの全体構造の図である。 道路境界を有する道路上を走行する車両の概略図である。 いくつかの実施形態から得た直観的知識を示す概略図である。 いくつかの実施形態による、経路計画システムと車両コントローラーとの間のインタラクションの概略図である。 いくつかの実施形態によって利用される、可能なセンサー構成及びセンサーから基準軌道へのマッピングの一例示の概略図である。 いくつかの実施形態による、車両のセンサーのリストの測定値から構築された時系列信号の一例の図である。 いくつかの実施形態による、半自律車両の関係する内部空間の一例示のセットアップの図である。 いくつかの実施形態による、センサーデータをフィルタリング及び編成して、時系列信号にする方法の一例示のブロック図である。 ニューラルネットワークをトレーニングするときに考慮に入れられる、車両の運動についての一例示の指定事項である。 いくつかの実施形態によって用いられる深層ニューラルネットワークのブロック図である。 いくつかの実施形態による、ニューラルネットワークをトレーニングすることの概略図である。
いくつかの実施形態の目的は、ニューラルネットワークを用いて車両の運動を制御するシステム及び方法を提供することである。これらの実施形態は、ニューラルネットワークを事前に、例えば、オフラインでトレーニングするとともに、車両の運動のオンライン制御のために繰り返し用いることができるという認識に基づいている。
いくつかの実施形態の別の目的は、車両運動制御応用におけるオブジェクトの検出及び認識の必要性を低減することができるようなニューラルネットワークを提供することである。例えば、1つの実施形態の目的は、車両の運動制御を容易にするために動的マップを使用することのないニューラルネットワークを提供することである。
本明細書において用いられる場合、車両は、その環境を検知し、人間による入力を必要とせずにナビゲートすることが可能である任意の車両とすることができる。そのような車両の例として、自律自動車及び半自律自動車が挙げられる。例えば、いくつかの実施形態は、まずセンサーデータから動的マップを求めてその後このマップを経路計画コンポーネントにおいて用いるのではなく、センサーデータを通じて直接、車両が辿る将来の基準軌道を求めることができるという理解に基づいている。本明細書において用いられる場合、基準軌道は、時間情報を有し、したがって速度情報を暗示的又は明示的に含む経路とすることができるが、しかしまた、基準軌道は、時間情報を有しない経路を指すこともできる。いくつかの実施形態は、運転者が生涯の過程で遭遇するシナリオ及び環境の数は無限であるものの、運転者がそれらのシナリオに反応するために実行に移す、結果としてのアクション及びそれ以降の経路の数は有限であるという認識に基づいている。
図1A及び図1Bは、例示のセットアップを示しており、これらのセットアップにおいて、自律自動車010が道路境界060を有する2車線道路の右車線内を走行している。道路上には、車両020及び車両030が存在している。人間の五感が連携して、環境の完全な描写を与える。全てのシナリオは、センサー出力の僅かに異なる組み合わせを与えており、図1Aを図1Bと比較すると、ここで、木々050の僅かに異なる配置並びに他の車両020及び030の異なる配色が、僅かに異なる環境を与えている。したがって、これを外挿する場合、周囲環境内の些細な変動ごとに、全ての異なる組み合わせに対して反応する方法を個々に学習することは、過大な負担である。一方で、車両をナビゲートすることに関係する、異なる環境における類似の要素が存在しており、人間の脳は、種々の条件、状況、及び環境下で車両を運転することに関係するセンサー出力はいずれの部分であるのかを学習する。
例えば、図1Aを図1Bと比較すると、木の位置050は無関係であることが明白である。何故ならば、木々は、越えられてはならない道路境界060の外側にあるためである。さらに、好適な運動を求めるときに自律車両にとって重要なことは、車両020及び030の異なる配色ではない。一方で、必須なのは、他の車両が取る将来の経路040がどのようなものであるかであり、これは何故なら、自律車両が走行する経路がこれに依存するためである。すなわち、図1A及び図1Bにおいて、車両の将来の経路がどのようなものであるべきかを判断する際に重要なのは、道路上の他の車両の運動である。
車線変更を行うとき、異なる操舵トルクの連続セットの中から操舵コマンドを選ぶことができる。さらに、スロットルコマンド及びブレーキコマンドは全て、フル加速とフル減速との間の連続セットの中から選ぶことができ、特定の時点、特定のシナリオ、及び特定の環境において、いずれのコマンドを出力するのかを厳密に学習することは、無限の計算リソースを必要とする。しかしながら、意図した経路を達成するための制御コマンドは運転スタイルによって異なるものの、所与の状況において車両が辿るべき所望の経路は異なる運転者間で類似する。
周囲環境を理解するための1つの情報源は、カメラ、ステレオカメラ、LIDAR、超音波センサー、及びレーダー等の車載認識センサーからの未加工入力データである。この入力データを用いることで、オブジェクトを認識及び検出することができる。これに続いて、オブジェクトに関する情報を経路計画器に送信することができ、この経路計画器は、車両の将来の安全経路を予測するときにこの情報を利用する。しかしながら、この手法は、多大な計算が、オブジェクトを検出すること、及び冗長であるか又は経路計画器に関係しない情報を提供することに費やされるという欠点を有する。
したがって、いくつかの実施形態は、画像のシーケンス等の入力データのシーケンスを車両の予測経路にマッピングすることによって、障害物を回避する車両の将来の円滑な経路を達成することができるという理解に基づいており、ここで、車両は、乗用車、モバイルロボット、又はローバー(rover:探査車)を含む任意のタイプの移動輸送システムとすることができる。例えば、或る乗用車が低速の先行車両とともに道路上を移動する場合、車両に搭載された少なくとも1つのカメラからの画像フレームのシーケンスを解析することによって、本発明のいくつかの実施形態は、シーン内に存在すると画像から特定されたオブジェクトを回避する車両経路を求め、ここで、障害物を回避する経路は、車両の車線を変更すること、又は、同一車線を維持するが、先行車両の速度に対して減速することを含む。入力データは、画像フレームの導出物、LIDARデータ、全地球測位情報(GPS)、若しくは慣性センサー等の他のセンサーからのセンサーデータ、又は該入力データの組み合わせを含むことができる。
図1Cは、車両運動制御における計算を削減するニューラルネットワークの1つの実施形態の概略図を示している。ニューラルネットワーク080は、車両の近辺の環境の変動を示す所定のサイズの時系列信号070を受け取るようにトレーニングされ、この時系列信号070を、車両の基準軌道090、すなわち、擾乱を検知及びモデル化することなく、車両が理想的に辿るべき軌道に変換する。ニューラルネットワークのこの定義を用いて、車両の運動の円滑性を保証することができる。何故ならば、ニューラルネットワークに符号化された軌道の予測が存在するためである。
図1Dは、本発明のいくつかの実施形態による、車両を制御するシステム99のブロック図を示している。車両は、自律的又は半自律的に実行することを意図した任意のタイプのシステムとすることができる。システムは、人間の操縦者110を含むことができ、このシステムが半自律である場合には、運転者のアクション110をそれぞれ無効化及び許可する能力を含む。1つの例として、システム100は、4輪乗用車とすることができる。可能なシステムの別の例は、差動駆動移動ロボットである。第3の例は、産業用ロボットマニピュレーターである。この詳細な説明内では、本発明を例示するのに自動車がこの説明全体を通して用いられる。
車両100は、車両の近辺の環境を検知する少なくとも1つのセンサー120を備える。センサーは、いくつかのタイプのものとすることができる。例えば、センサーは、環境のカメラ画像のシーケンスを与えるビデオカメラとすることもできるし、LIDARスキャナーによって捕捉された環境の3次元点を与えるLIDARとすることもできる。センサーセットアップは、異なるセンサーの組み合わせとすることもできる。例えば、ビデオカメラは、カメラの位置、及び/又は、カメラによって取得された画像のシーケンスの起点の情報を与える全地球測位システム(GPS)と組み合わせることができる。
付加的又は代替的に、カメラ及びGPSは、加速度計と組み合わせることができ、この加速度計は、2つのセンサーと組み合わせて、画像シーケンスに関連付けられた速度情報及び加速度情報を与えることができる。1つのセンサーは、慣性測定ユニット(IMU)とすることができる。例えば、IMUは、3軸加速度計(複数の場合もある)、3軸ジャイロスコープ(複数の場合もある)、及び/又は磁力計(複数の場合もある)を含むことができる。IMUは、速度、方位、及び/又は他の位置関連情報を提供することができる。時間の経過とともに、センサーは、センサー信号121を経路計画システム130に提供する。
システム99は、少なくとも1つのニューラルネットワークを記憶するメモリ140も備える。メモリ140に記憶されたニューラルネットワークは、時系列信号131を、車両の将来の予測される軌道にマッピングするためにトレーニングされる。付加的又は代替的に、1つの実施形態において、メモリ140は、ニューラルネットワークのセットを記憶し、このセット内の各ニューラルネットワークは、時系列信号を、車両の基準軌道にマッピングするために異なる運転スタイルを考慮するようにトレーニングされる。
例えば、システム99は、車両を制御する運転スタイルを特定し、この特定された運転スタイルに対応するニューラルネットワークをメモリから選択する(141)ことができる。例えば、運転スタイルは、車両のユーザーからの入力に基づいて特定することができる。付加的又は代替的に、車両が半自律車両である場合、車両の運転者の運転スタイルは、車両が手動モードで運転されている間に学習することができる。付加的又は代替的に、システム99は、ニューラルネットワークを、時系列信号131それ自体に基づいて選択することができる。例えば、例として外部入力110によって与えられる異なる運転状況について、異なるニューラルネットワークが選択される(141)。
経路計画システム130は、センサー信号121のシーケンスを取得して、時系列信号131を生成する。メモリ140は、経路計画システム130にニューラルネットワーク141を提供し、この経路計画システムは、基準軌道132を求める。加えて、所望の通過点(waypoint)、すなわち、中間所望位置も、センサー入力に加えてニューラルネットワークに与えることができる。この通過点は、選ばれる軌道を所望の経路にガイドするという目的を有する。別の実施形態において、通過点は、ネットワークをトレーニングするという目的も与えられる。種々の実施形態において、基準軌道132は、各座標に時間が関連付けられたデカルト座標のシーケンス、車両の位置及び速度のシーケンス、並びに車両の進行方向のシーケンスのうちの1つ又は組み合わせとして表すことができる。
システム99は、基準軌道132を追跡するための制御基準151のセットを求めるためのコントローラー150のセットも備えることができる。制御基準のセットは、実行のために車両のアクチュエーター160に送信される。例えば、例として環境170又はセンサー120における不確実性、又はニューラルネットワーク141の有限の精度に起因して、予見されない及び/又はモデル化されない効果がある場合、車両の運動軌道101は、基準軌道132とは僅かに異なる可能性がある。しかしながら、コントローラー150は、運動軌道101が、限られた誤差を有しながらも基準軌道132に近接していることを確実にする。例えば、コントローラー150は、軌道132又は150内の他のコントローラーのうちのいずれかがフェールした場合のためのセキュリティ層として機能する、フェールモードコントローラー(failure-mode controller)を含むことができる。
図1Eは、本発明のいくつかの実施形態による、車両の運動を制御する方法のフローチャートを示している。この方法は、車両の運動に対する、車両の近辺の環境の変動を示す時系列信号171を生成する(170)。時系列信号171を生成する(170)のに、少なくとも1つのセンサーの測定値のシーケンスが用いられる。時系列信号171は、車両の種々のセンサーの測定値から生成することができ、オブジェクトと、車両を取り囲む環境とに関する情報を含むことができる。時系列信号は、車両の位置及び速度を用いて精緻化することもできる。
方法は、例えば、メモリ140から、時系列信号を車両の基準軌道に変換するようにトレーニングされたニューラルネットワーク172を選択し(175)、この時系列信号をニューラルネットワークにサブミットして基準軌道176を求める(175)。ニューラルネットワークは、時間の関数として、車両の位置についての時間制約及び空間制約を満たす基準軌道176を生成するようにトレーニングされる。本明細書において参照される場合、車両の位置についての時間制約及び空間制約は、車両が他の車両又は歩行者等の他の障害物と衝突しないことを保証すること、車両が道路から逸れて走行しないのを確実にすること、並びに、検知及びニューラルネットワークのトレーニングにおける不完全性に対してロバスト性を提供することのために、車両が満たすべき特定の将来の時点における車両の位置についての要件である。時間制約及び空間制約の例として、車両のロケーションの、道路の中央からの逸脱についての限度、所与の時間ステップにおける所望のロケーションからの逸脱の限度、所望のロケーションに到達する時間の逸脱についての限度、道路上の障害物までの最小距離、及び、車線変更を完了するのに要するはずの時間が挙げられる。
方法は、車両の運動についての制約173を満たしながら基準軌道176を追跡する運動軌道181を求める(180)。本明細書において参照される場合、車両の運動についての制約は、車両及び環境のユーザーの安全かつ円滑な乗車体験を提供するために車両の運動が満たすべき要件である。車両についての空間制約は、車両が時間及び場所の或る特定の組み合わせにおいて望まれるように挙動するのを確実にする一方で、車両の運動についての制約は、車両の異なる位置に到達するように用いられる運動に関わる。車両の運動についての制約の例として、車両の現在の加速度及び進行方向角及び進行方向変化率(heading rate)からの変化についての限度、車両の所望の速度プロファイルからの逸脱についての限度、車両の横速度についての限度、周囲の車両からの速度の逸脱についての限度、並びに、車線変更を完了したとき又は別の車両を追い越したときの速度及び進行方向のプロファイルが挙げられる。
運動軌道は、いくつかの方法において求めることができるが、その一般原理は、基準軌道を運動軌道にマッピングすることであり、ここで、運動軌道は、必ずしもそうである必要はないが、基準軌道のより低レベルの表現とすることができる。例えば、基準軌道は、車両の位置プロファイルを含むことができるが、車両の作動の役割を担うコントローラーは、位置プロファイルを入力として取り込むことはできず、むしろ、車輪スリップ、速度プロファイル、車輪の操舵角、又は他の何らかの表現等の他のエンティティを入力として取り込む。運動軌道を求めることは、ニューラルネットワーク172によって捕捉されない残りの不確実性の影響を取り除く、又は少なくとも抑制するという目的も満たす。例えば、ニューラルネットワークは、車両の動態を明示的には学習しない。何故ならば、これは、ニューラルネットワークにとって計算負荷が法外に高いためである。一方で、自動制御業界における当業者は、この制御工学業界からの技法によって車両の動態を考慮に入れることができる。
いくつかの実施形態において、運動軌道は、車両の運動についての測定値を考慮しながら、基準軌道を、車両の車輪の操舵軌道の運動と、車両の車輪の速度軌道の運動とにマッピングするモデル予測コントローラーを用いて求められる。すなわち、コントローラーは、フィードバックコントローラーとすることができる。別の実施形態において、上述のモデル予測コントローラーは、その代わりに、基準軌道を、車両の所望の車輪スリップ軌道と、車両の車輪の所望の操舵軌道とにマッピングする。ルックアップテーブル、リアプノフ制御(Lyapunov control)、学習ベース制御等の、基準軌道を車両の運動軌道にマッピングする任意の技法をこの目的のために用いることができるが、モデル予測制御が一例として用いられており、これは何故なら、モデル予測制御は車両の運動についての制御を明示的に考慮することができ、基準軌道を与えるニューラルネットワークによるのと、運動軌道を求めるときとの双方で同じ制約が考慮されることを確実にするためであることに留意されたい。運動軌道は、2つの部分に分割することができ、その一方が上記で説明したフィードバック部分であり、もう一方が、外乱を考慮しない場合に生じるであろう運動軌道を求めるフィードフォワード部分であることにも留意されたい。
方法は、運動軌道を辿るように車両の運動を制御する。例えば、方法は、運動軌道181を制御コマンド182にマッピングし(185)、この制御コマンドに従って車両の運動を制御する(190)。方法のステップは、メモリ140及び少なくとも1つのセンサー120に動作的に接続された、車両のプロセッサによって実行される。さらに、求めること(180)は、目的に従って車両を運動させるための、車両のアクチュエーターへのコマンドのセットを含む運動軌道181を求めることと考えることができる。
図1Fは、本発明の1つの実施形態による、経路計画システム130及びメモリ140の全体構造を示している。経路計画システム130は、この経路計画システム130のモジュールを実行する少なくとも1つのプロセッサ180を備える。プロセッサ180は、ニューラルネットワーク142を記憶するメモリ140に接続される(131、141)。メモリ140は、好ましい運転スタイルのためにトレーニングされたニューラルネットワーク142を選ぶロジックも記憶する(143)。メモリ140は、プロセッサ180が時系列信号を構築するために用いる、所与の期間についてのセンサーデータ121も記憶する(144)。
本発明の種々の実施形態において、多くの理由で、センサーデータから経路を学習することがセンサーデータから制御コマンドを学習することよりも遥かに効率的であることが理解される。例えば、データから将来の軌道を学習するために1つ又はいくつかのニューラルネットワークをトレーニングすることによって、本発明は、自動車内の乗員に対する円滑な乗車体験、燃費の向上、突発的な運動の削減を提供する。
図2Aは、道路境界210を有する道路200上を走行する車両250の概略図を示している。道路は、障害物220を含む。車両の目的は、道路上に留まるとともに障害物220を回避しながら、好ましくは何らかの規定の経路230に近接しながら、240に到達することである。センサーデータから、少なくとも1つのニューラルネットワークが、時系列信号を軌道270にマッピングするためにオフラインでトレーニングされている。その代わりに、センサーデータから制御コマンドへのマッピングが行われる場合、予測は関与しない。したがって、当業者であれば理解されるように、モデル誤差及びセンサー誤差に対するロバスト性が侵害される。障害物220は、依然として回避されるが、円滑性が大幅に失われる。
効率性の別の例は、時系列信号を制御コマンドではなく基準軌道にマッピングするニューラルネットワークを用いることにより、トレーニングされたニューラルネットワークを異なる車両に適用することが可能になるということである。制御コマンドへのマッピングが行われる場合、特定のマッピング、及びまたトレーニングは、利用される特定の車両に依存している。何故ならば、異なる車両は、車両を所与の位置に導く異なるシステム、パラメーター、例えば、トランスミッション比、操舵ギア比等を有するためである。その代わりに、時系列信号から基準軌道へのマッピングが用いられる場合、特定の車両動態がマッピングにおいて暗示されることはなく、したがって、システム及び方法の双方は車両に依存しない。
図2Bは、いくつかの実施形態から得た、人間がどのように学習及び挙動するかに関係を有する直観的知識を示す概略図を示している。例えば、図2Bに示すように、障害物220が存在している場所を、一人の人間が点Aから点Bに歩行することを意図する場合を検討する。人間は、或る期間の間環境を知覚し、ゴールBまで歩行する(290)方法を決定し、計画を実行する。人間ごとに経路は異なる場合があるが、この差異の理由は、各人間の四肢の筋肉の強度又は大きさが異なるためというよりも、各人間の選好及び決定過程が僅かに異なるためというものであるので、したがって、計画の実行が行われる方法は、あまり重要ではない。したがって、図1Dに戻って関係付けると、環境の知覚はセンサー120による検知に対応し、歩行する方法の決定は経路計画130に対応し、計画の実行はコントローラー150に対応する。
図3は、いくつかの実施形態による、経路計画システムと車両コントローラーとの間のインタラクションの概略図を示している。例えば、本発明のいくつかの実施形態において、車両のコントローラー150は、車両の運動に関連付けられた異なるエンティティを制御する、操舵コントローラー351及びブレーキ/スロットルコントローラー352である。例えば、操舵コントロール351は、経路計画システム330からの基準軌道を車両の運動軌道にマッピングすることができ、この運動軌道は、車両のハンドルの角度のシーケンスを含む。例えば、ブレーキ制御モジュール352は、速度の基準軌道を、車両のブレーキ圧及びエンジンスロットルコマンド軌道にマッピングすることができる。
図4Aは、いくつかの実施形態によって利用される、可能なセンサー構成及びセンサーから基準軌道へのマッピングの一例示の概略図を示している。例示の概略図において、センサー構成400は、全地球測位システム(GPS)407と、慣性測定ユニット(IMU)406と、通過点、又は通過点のセット(目的地)405と、J個のカメラ408と、K個のレーダー404と、L個のLIDAR409と、M個の超音波センサー403とからなる。センサー測定値は、時系列信号にマッピングされる(410)。時系列信号は、多くの方法において表すことができる。
図4Bは、いくつかの実施形態による、車両のセンサーのリストの測定値から構築された時系列信号の一例を示している。この例において、センサーのリスト内の1つのアイテムは、固定の所定サイズの入力ベクトルを形成する、所与の時間ステップにおける全てのセンサーの測定値に対応する。例えば、3つの時点のセンサーデータが用いられるシナリオを検討する。ボックス411は、時刻t=−2におけるセンサーデータに対応し、ボックス412は、時刻=t_1におけるセンサーデータに対応し、ボックス413は、時刻t=0(現在時刻)におけるセンサーデータに対応し、以下同様である。いくつかのニューラルネットワークをトレーニングすることができる。通過点のセット、すなわち、車両の中間所望目的地が、例えば、カーナビゲーションシステムから与えられ、この通過点のセットを用いて、異なるシナリオに対処するためにニューラルネットワークをトレーニングすることができる。
いくつかの実施形態によれば、異なる運転スタイルのために異なるニューラルネットワークをトレーニングすることができる。例えば、或るニューラルネットワークをアグレッシブな運転のためにトレーニングすることができ、別のニューラルネットワークを通常の運転のためにトレーニングすることができ、更に別のニューラルネットワークを慎重な運転のためにトレーニングすることができる。例えば、それぞれのネットワークをトレーニングするときに異なる収集データを異なる運転スタイルとしてラベル付けすることができ、その後、特定のネットワークは、異なる運転スタイルを対象とする。
図4Cは、半自律車両、すなわち、車両の人間の操縦者が、車両のハンドル又はダッシュボード440cに関連付けられたボタン450cを通じて手動モードにおいて運転するのか又は自律モードにおいて運転するのかを決定することができる車両の関係する内部空間、又はユーザーインターフェースの一例示のセットアップを示している。ダッシュボード400cは、人間の操縦者が用いて車両を運転することができるハンドル410cと、車両の速度及びセンサー出力等の異なるモードを示すディスプレイ420cとを備える。手動モードの場合、学習モード460cをオンにすることによって、人間の操縦者の運転スタイルが学習され、その後、人間の操縦者の運転スタイルに類似するニューラルネットワークを用いて識別される。人間の操縦者、又は車両の別のユーザーは、動作モードを手動で入力することを選ぶこともできる(440c)。また、車両の計画経路及び周囲環境を示す視覚化モジュール430cと、新たな運転スタイル、又は車両の既に含められた運転スタイルの改良点を、利用可能になると無線で追加するためのボタン470cとが含まれる。また、440c内には、人間の操縦者が車両の最終目的地を挿入するのに用いることができるカーナビゲーションシステム又は同等のシステムが含まれ、その場合、カーナビゲーションシステムは、車両の通過点、又は中間ターゲット位置を提供する。
図4Dは、いくつかの実施形態による、センサーデータ409dをフィルタリング及び編成して、時系列信号にする方法の一例示のブロック図400dを示している。例えば、入力信号フィルター410dが、IMUを処理することによって前処理して新たな信号を求めることができ、これにより、車両の速度の導出物、及び車両の位置を提供するGPS情報411dが状態推定器420dに提供され、信号を個々に用いる場合に可能であるよりも正確な位置及び速度情報421dが提供される。フィルター410dは、LIDARデータ及びカメラデータ等の異なるセンサーデータ412dを処理することによって新たな信号431dを求めることもでき、これにより、異なるセンサーをマージする(430d)ことによって車両の運動についての空間制約を示す情報が与えられ、新たなセンサー信号431dが提供される。入力信号フィルター410dを用いて、例えば、カーナビゲーションシステムから与えられた通過点のセット又はターゲット位置を精緻化することもできる。この通過点のセットは、他のセンサーデータ412dとマージすることもできる。ブロック450dは、精緻化された状態データ421dを、マージされたデータ431dと同期し、これらが同じ時点に対応することを確実にする。代替的に、ブロック450dは、精緻化された状態データ421dを、マージされていないデータ413dと同期するが、精緻化された通過点のセットとは同期しないようにすることができる。最後に、同期されたセンサーデータ451dを用いて時系列信号が生成され(460d)、この時系列信号は、ニューラルネットワーク470dに送信される(461d)。
図5は、ニューラルネットワークをトレーニングするときに考慮に入れられる、道路上を走行する車両の運動についての可能な指定事項の一例示のリストを示している。基準軌道は、車両の運動の複数の指定事項を暗示的に規定し、この指定事項は、理想的には、車両の運動を制御するときに満たすべきものである。運動についての指定事項は、車両の運動についての制約にマッピングすることができる。例えば、車両の運動についての指定事項は、車両に道路上に留まることを指令することができる(500)。可能な追加の指定事項は、車両が公称速度520で車線の中央において走行する(510)べきであることを指令することができる。公称速度は、道路の速度制限によって与えることもできるし、車両の運転者又は乗員によって与えることもできる。例えば、指定事項は、車両に、周囲の障害物に対する安全マージンを維持することを指令することもできる。加えて、別の可能な指定事項は、同じ車線内の車両に対して安全距離を維持する(540)ことであり、これは、一般的にはそうではないが、530と同じである可能性がある。乗員の快適性、燃費、摩損の理由、又は他の理由で、指定事項は、車両の円滑な運転550を指令することができる。トレーニングされる特定のネットワークの所望の運転スタイルに依存して、異なる指定事項は、他のものに対する異なる相対重要度を有することができる。
図6は、いくつかの実施形態によって用いられる深層ニューラルネットワークのブロック図を示している。例えば、1つの実施形態において、深層ニューラルネットワークは、2つの部分を含む。第1の部分は、時系列信号611を、車両の運動についての制約を示す表現601に符号化する、符号化器サブネットワーク610であり、これにより、効率的な経路計画が可能になる。第2の部分は、車両の運動についての制約を示す情報601から基準軌道621を生成するようにトレーニングされる復号化器サブネットワーク620を含む。符号化器ネットワーク及び復号化器ネットワークの双方は、再帰型ニューラルネットワーク611として実現される。意図された目的のために、任意に与えられる数の再帰型ニューラルネットワークを利用することができることが理解される。符号化器ネットワーク610の目標は、基準軌道を生成するのに必要な情報を抽出することである。例えば、或る人間が車両の近辺に障害物を有する高速道路上を運転する場合、木々にとまっている鳥又は数百メートル先の障害物に関する情報は、重要度が低い。
各時点において、例えば、図4Dとの関連で記載されるようなセンサー測定値612、又はカメラからの画像若しくはLIDARからの3次元点座標、若しくはこれらの2つのうちの一方が、機器内に装備された検知デバイスによって捕捉されたGPS情報及びカーナビゲーションシステムによって与えられた目的地と、位置情報とともに組み合わされたものが、符号化器ネットワークに入力される。符号化器ネットワークは、内積及び正規化線形ユニットの非線形演算からなるニューラル計算の層を通してデータを処理する。各時点における符号化器ネットワークの出力は、基準軌跡を生成するのに復号化器ネットワークによって用いることができる周囲環境の抽象表現である。
各時点において、復号化器ネットワーク620は、符号化器ネットワーク610によって計算された表現601を入力として取り、基準軌道を出力する。軌道は、いくつかの方法において、例えば、点座標のシーケンス621、又は速度情報を有する点座標のシーケンス、又は他の組み合わせとして規定することができる。復号化器ネットワーク620は、点座標621を1つずつ生成する。復号化器ネットワーク620は、非因果的であり、将来の軌道を生成することができることに留意されたい。
いくつかの実施形態において、符号化器ネットワーク及び復号化器ネットワークの双方は、結果としてのネットワークの動的な経時的挙動を可能にする再帰型ニューラルネットワークである。長期短期記憶再帰型ニューラルネットワーク、又は積層再帰型ニューラルネットワーク等の、種々のバージョンの再帰型ニューラルネットワークを利用することができる。再帰型ニューラルネットワークは、いくつかの層を有することができる。各層は、全結合型又は畳み込み型とすることができる。
図7は、いくつかの実施形態による、ニューラルネットワークのトレーニングの概略図を示している。トレーニング710は、センサー入力701のシーケンスのトレーニングセットと対応する所望の軌道702とを用いて、RNNの重み720を生成する。一般的に、人工ニューラルネットワークをトレーニングすることは、時として「学習」アルゴリズムと称されるトレーニングアルゴリズムを適用することを含む。トレーニングセットは、入力の1つ以上のセットと、出力の1つ以上のセットとを含むことができ、各入力のセットは、出力のセットに対応する。トレーニングセット内の出力のセットは、対応する入力のセットがニューラルネットワークに入力されると、ニューラルネットワークが生成することを望まれる出力のセットを含む。
例えば、1つの実施形態は、エンドツーエンド形式で、ネットワーク080等のニューラルネットワークをトレーニングする。トレーニング710は、センサーデータ701のシーケンスを、報酬を用いて車両の経路703及び速度704等の将来の軌道702にマッピングすることを伴い、ここで、深層ニューラルネットワークの報酬は、事前に規定されている。報酬は、例えば、所望の運転スタイルに基づいて、及び/又は車両の運動についての指定事項に対して選択することができる。そのような指定事項の例は、図5に関連して記載されている。
トレーニングデータは、例えば、必ずしもそうではないが、車両に対するデカルト座標のシーケンスとして与えられる、搭載センサーからの入力時系列信号と、所望の出力車両軌道とを含むことができる。加えて、トレーニングデータは、例えば車両の乗員によって与えられる所望の速度プロファイルを含むことができ、入力データは、トレーニングされている現在の運転スタイルに従ってラベル付けすることができる。好ましい運転スタイルの数に従っていくつかのニューラルネットワークをトレーニングすることができ、対応するラベル付けされたデータは、運転スタイルごとにニューラルネットワークを適合させる。
例えば、車両の操縦者又は別のユーザーは、用いられる運転スタイルを選ぶことができ、又は、操縦者は、車両の現在のユーザーにとって好適な運転スタイルを車両に決定させることを選ぶことができ、この運転スタイルは、その場合、車両のメモリから選択される。出力軌道は、速度情報を含むことができるか、又は時間情報を伴うことなく記述することができる。車両の運動についての制約を示す情報を計算するために、時系列信号が符号化器ネットワークに送信される。その後、この情報は、所望の軌道に一致する出力軌道を生成するために復号化器ネットワークに渡される。生成された軌道と所望の軌道との間の不一致により、ニューラルネットワーク重みを更新するための教師信号(supervised signal)が提供される。トレーニングは、モーメンタム付与確率的勾配降下アルゴリズム(stochastic gradient descent with momentum algorithm)等の、既存のフィードフォワードニューラルネットワークトレーニングアルゴリズムを介して達成することができる。復号化器ネットワーク及び符号化器ネットワークはともにトレーニングされる。何故ならば、これら2つのネットワークが別個にトレーニングされた場合、符号化器ネットワークのための出力ターゲットが存在しないとともに復号化器ネットワークのための入力信号が存在しないことになるためである。さらに、再帰型ニューラルネットワークの構造により、過去の軌道を観測することによって将来の軌道を学習することができることが確実になる。
また、ネットワークのトレーニングは、異なる運転スタイルを模倣する模擬データを用いて行うこともできる。そのような手法を用いると、現実の運転者に完全には相当しないものの、トレーニング段階及びデータ収集の量は、大幅に削減することができる。
本発明の上記の実施形態は、数多くの方法のいずれにおいても実現することができる。例えば、それらの実施形態は、ハードウェア、ソフトウェア又はその組み合わせを用いて実現することができる。ソフトウェアにおいて実現されるとき、そのソフトウェアコードは、単一のコンピューター内に設けられるにしても、複数のコンピューター間に分散されるにしても、任意の適切なプロセッサ、又はプロセッサの集合体において実行することができる。そのようなプロセッサは集積回路として実現することができ、集積回路構成要素内に1つ以上のプロセッサが含まれる。一方、プロセッサは、任意の適切な構成における回路を用いて実現することができる。
付加的又は代替的に、上述の実施形態は、種々の実施形態の方法を実行するプロセッサによって実行可能なプログラムを具現化した非一時的コンピューター可読記憶媒体として実現することができる。
また、本明細書において概説される種々の方法又はプロセスは、種々のオペレーティングシステム又はプラットフォームのいずれか1つを利用する1つ以上のプロセッサ上で実行可能であるソフトウェアとしてコード化することができる。さらに、そのようなソフトウェアは、いくつかの適切なプログラミング言語及び/又はプログラミングツール若しくはスクリプト記述ツールのいずれかを用いて書くことができ、フレームワーク又は仮想機械上で実行される実行可能機械語コード又は中間コードとしてコンパイルすることもできる。通常、プログラムモジュールの機能は、種々の実施形態において望ましいように、組み合わせることもできるし、分散させることもできる。
また、本発明の実施形態は方法として具現することができ、その一例が提供されてきた。その方法の一部として実行される動作は、任意の適切な方法において順序化することができる。したがって、例示的な実施形態において順次の動作として示される場合であっても、例示されるのとは異なる順序において動作が実行される実施形態を構成することもでき、異なる順序は、いくつかの動作を同時に実行することを含むことができる。

Claims (18)

  1. 車両を制御する方法であって、
    少なくとも1つのセンサーを用いて、前記車両の運動に対する前記車両の近辺の環境の変動を示す時系列信号を生成することと、
    メモリから、時系列信号を前記車両の基準軌道に変換するようにトレーニングされたニューラルネットワークを選択することと、
    前記時系列信号を前記ニューラルネットワークにサブミットして、時間の関数として、前記車両の位置についての時間制約及び空間制約を満たす基準軌道を生成することと、
    前記車両の前記運動についての制約を満たしながら前記基準軌道を追跡する運動軌道を求めることと、
    前記運動軌道を辿るように前記車両の前記運動を制御することと、
    を含み、
    該方法の少なくともいくつかのステップは、前記メモリ及び前記センサーに動作的に接続されたプロセッサによって実行される、
    方法。
  2. 前記時系列信号は、前記センサーの測定値の導出物を含む、
    請求項1に記載の方法。
  3. 前記ニューラルネットワークは、所定のサイズのベクトルを入力として受け取るようにトレーニングされ、該入力ベクトルは、第1の情報が前記車両の現在位置を示し、第2の情報が前記車両のターゲット位置を示し、第3の情報が前記車両の前記現在位置についての前記空間制約を示す、前記時系列信号の組み合わせを表す要素を含み、
    前記方法は、
    前記車両の前記現在位置を求めることと、
    前記メモリから、前記車両の前記ターゲット位置と、前記車両の前記現在位置についての前記空間制約を示す情報とを索出することと、
    前記第1の情報、前記第2の情報、及び前記第3の情報を有する前記時系列信号の前記組み合わせの結果として、前記所定のサイズの前記ベクトルがもたらされるように、前記センサーの前記測定値をフィルタリングして前記時系列信号を生成することと、
    前記第1の情報、前記第2の情報、及び前記第3の情報を有する前記時系列信号を組み合わせて、前記所定のサイズの入力ベクトルを生成することと、
    前記入力ベクトルを前記ニューラルネットワークに入力して、前記基準軌道を生成することと、
    を更に含む、請求項2に記載の方法。
  4. 前記フィルタリングすることは、前記車両の異なるセンサーの測定値をマージ及び同期することを含む、
    請求項3に記載の方法。
  5. 前記メモリは、ニューラルネットワークのセットを記憶し、該セット内の各ニューラルネットワークは、前記時系列信号を前記車両の基準軌道にマッピングするために異なる運転スタイルを考慮するようにトレーニングされ、
    前記方法は、
    前記車両を制御するための運転スタイルを特定することと、
    前記メモリから、前記特定された運転スタイルに対応する前記ニューラルネットワークを選択することと、
    を更に含む、請求項1に記載の方法。
  6. 前記運転スタイルは、前記車両のユーザーからの入力に基づいて特定される、
    請求項5に記載の方法。
  7. 前記車両は、半自律車両であり、
    前記方法は、
    前記車両が手動モードにおいて運転される間、前記車両の運転者の前記運転スタイルを学習すること、
    を更に含む、請求項5に記載の方法。
  8. 前記ニューラルネットワークは、符号化サブネットワークと、該符号化サブネットワークと同時にトレーニングされる復号化サブネットワークとを含み、
    前記符号化サブネットワークは、前記時系列信号を、前記車両の前記運動についての前記制約を示す情報に変換するようにトレーニングされ、
    前記復号化サブネットワークは、前記車両の前記運動についての前記制約を示す前記情報から前記基準軌道を生成するようにトレーニングされる、
    請求項1に記載の方法。
  9. 前記符号化サブネットワーク及び前記復号化サブネットワークは、再帰型ニューラルネットワークである、
    請求項8に記載の方法。
  10. 前記符号化サブネットワーク及び前記復号化サブネットワークは、異なる運転パターンのための模擬データを用いてトレーニングされる、
    請求項8に記載の方法。
  11. 前記基準軌道は、前記車両の前記運動の目的を規定し、前記運動軌道は、前記目的に従って前記車両を運動させる、前記車両のアクチュエーターのためのコマンドのセットを含む、
    請求項1に記載の方法。
  12. 車両を制御するシステムであって、
    前記車両の近辺の環境を検知して、前記車両の運動に対する前記環境の変動を示す時系列信号を生成する少なくとも1つのセンサーと、
    時系列信号を前記車両の基準軌道に変換するようにトレーニングされたニューラルネットワークを記憶するメモリと、
    前記時系列信号を前記メモリから選択された前記ニューラルネットワークにサブミットして、時間の関数として、前記車両の位置についての時間制約及び空間制約を満たす基準軌道を生成し、前記車両の前記運動についての制約を満たしながら前記基準軌道を追跡する運動軌道を求めるように構成された少なくとも1つのプロセッサと、
    前記運動軌道を辿るように前記車両の前記運動を制御するコントローラーと、
    を備える、システム。
  13. 前記メモリは、ニューラルネットワークのセットを記憶し、該セット内の各ニューラルネットワークは、前記時系列信号を前記車両の基準軌道にマッピングするために異なる運転スタイルを考慮するようにトレーニングされ、
    前記プロセッサは、前記メモリから、特定された運転に対応する前記ニューラルネットワークを選択し、
    前記システムは、
    前記車両のユーザーから前記運転スタイルの選択を受け取る入力インターフェース、
    を更に備える、請求項12に記載のシステム。
  14. 前記ニューラルネットワークは、符号化サブネットワークと、該符号化サブネットワークと同時にトレーニングされる復号化サブネットワークとを含み、
    前記符号化サブネットワークは、前記時系列信号を、前記車両の前記運動についての前記制約を示す情報に変換するようにトレーニングされ、
    前記復号化サブネットワークは、前記車両の前記運動についての前記制約を示す前記情報から前記基準軌道を生成するようにトレーニングされる、
    請求項12に記載のシステム。
  15. 前記符号化サブネットワーク及び前記復号化サブネットワークは、再帰型ニューラルネットワークである、
    請求項14に記載のシステム。
  16. 前記符号化サブネットワーク及び前記復号化サブネットワークは、異なる運転パターンのための模擬データを用いてトレーニングされる、
    請求項14に記載のシステム。
  17. 前記基準軌道は、前記車両の前記運動の目的を規定し、前記運動軌道は、前記目的に従って前記車両を運動させる、前記車両のアクチュエーターのためのコマンドのセットを含む、
    請求項12に記載のシステム。
  18. 方法を実行する、プロセッサによって実行可能なプログラムを具現化した非一時的コンピューター可読記憶媒体であって、
    前記方法は、
    車両の運動に対する前記車両の近辺の環境の変動を示す時系列信号を生成することと、
    時系列信号を前記車両の基準軌道に変換するようにトレーニングされたニューラルネットワークを選択することと、
    前記時系列信号を前記ニューラルネットワークにサブミットして、時間の関数として、前記車両の位置についての時間制約及び空間制約を満たす基準軌道を生成することと、
    前記車両の前記運動についての制約を満たしながら前記基準軌道を追跡する運動軌道を求めることと、
    前記運動軌道を辿るように前記車両の前記運動を制御することと、
    を含む、非一時的コンピューター可読記憶媒体。
JP2018564859A 2016-11-03 2017-11-01 車両を制御する方法、システム及び非一時的コンピューター可読記憶媒体 Active JP6712088B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US15/342,216 US9989964B2 (en) 2016-11-03 2016-11-03 System and method for controlling vehicle using neural network
US15/342,216 2016-11-03
PCT/JP2017/040343 WO2018084324A1 (en) 2016-11-03 2017-11-01 Method and system for controlling vehicle

Publications (2)

Publication Number Publication Date
JP2019519851A true JP2019519851A (ja) 2019-07-11
JP6712088B2 JP6712088B2 (ja) 2020-06-17

Family

ID=60574674

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018564859A Active JP6712088B2 (ja) 2016-11-03 2017-11-01 車両を制御する方法、システム及び非一時的コンピューター可読記憶媒体

Country Status (5)

Country Link
US (1) US9989964B2 (ja)
EP (1) EP3535636B1 (ja)
JP (1) JP6712088B2 (ja)
CN (1) CN109964188B (ja)
WO (1) WO2018084324A1 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021046193A (ja) * 2019-09-18 2021-03-25 本田技研工業株式会社 混雑した道路における協働認識車線変更制御を提供するためのシステム及び方法
CN112682184A (zh) * 2019-10-18 2021-04-20 丰田自动车株式会社 车辆用控制装置、车辆用控制系统以及车辆控制方法
CN112682197A (zh) * 2019-10-18 2021-04-20 丰田自动车株式会社 车辆用控制数据的生成方法、车辆用控制装置和控制系统
CN113006951A (zh) * 2019-12-20 2021-06-22 丰田自动车株式会社 车辆用控制数据的生成方法、车辆用控制装置、车辆用控制系统以及车辆用学习装置
US11248553B2 (en) 2019-10-18 2022-02-15 Toyota Jidosha Kabushiki Kaisha Vehicle control device, vehicle control system, and vehicle control method
JP2022523319A (ja) * 2019-02-01 2022-04-22 テスラ,インコーポレイテッド 時系列要素からの機械学習のためのグラウンドトゥルースの生成
US11530662B2 (en) 2019-10-18 2022-12-20 Toyota Jidosha Kabushiki Kaisha Method of generating vehicle control data, vehicle control device, and vehicle control system
US11679784B2 (en) 2020-01-09 2023-06-20 Toyota Jidosha Kabushiki Kaisha Vehicle control data generation method, vehicle controller, vehicle control system, vehicle learning device, vehicle control data generation device, and memory medium
US11840245B2 (en) 2020-01-09 2023-12-12 Toyota Jidosha Kabushiki Kaisha Vehicle control data generation method, vehicle controller, vehicle control system, vehicle learning device, vehicle control data generation device, and memory medium

Families Citing this family (105)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170297586A1 (en) * 2016-04-13 2017-10-19 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for driver preferences for autonomous vehicles
WO2018083667A1 (en) * 2016-11-04 2018-05-11 Deepmind Technologies Limited Reinforcement learning systems
US11210939B2 (en) 2016-12-02 2021-12-28 Verizon Connect Development Limited System and method for determining a vehicle classification from GPS tracks
US10345449B2 (en) * 2016-12-02 2019-07-09 Verizon Connect Ireland Limited Vehicle classification using a recurrent neural network (RNN)
US11093819B1 (en) 2016-12-16 2021-08-17 Waymo Llc Classifying objects using recurrent neural network and classifier neural network subsystems
US10829149B1 (en) * 2017-03-01 2020-11-10 Zoox, Inc. Steering control for vehicles
EP3566106B1 (en) 2017-03-20 2024-03-06 Mobileye Vision Technologies Ltd. Trajectory selection for an autonomous vehicle
DE102017205093A1 (de) * 2017-03-27 2018-09-27 Conti Temic Microelectronic Gmbh Verfahren und System zur Vorhersage von Sensorsignalen eines Fahrzeugs
US10252659B2 (en) 2017-03-31 2019-04-09 Intel Corporation Autonomous mobile goods transfer
CN115855022A (zh) * 2017-04-07 2023-03-28 辉达公司 使用深度神经网络执行自主路径导航
US10710592B2 (en) * 2017-04-07 2020-07-14 Tusimple, Inc. System and method for path planning of autonomous vehicles based on gradient
JP6951659B2 (ja) * 2017-05-09 2021-10-20 オムロン株式会社 タスク実行システム、タスク実行方法、並びにその学習装置及び学習方法
WO2018212538A1 (en) * 2017-05-16 2018-11-22 Samsung Electronics Co., Ltd. Electronic device and method of detecting driving event of vehicle
US11537134B1 (en) * 2017-05-25 2022-12-27 Apple Inc. Generating environmental input encoding for training neural networks
US10883844B2 (en) 2017-07-27 2021-01-05 Waymo Llc Neural networks for vehicle trajectory planning
US11256983B2 (en) * 2017-07-27 2022-02-22 Waymo Llc Neural networks for vehicle trajectory planning
US10678241B2 (en) * 2017-09-06 2020-06-09 GM Global Technology Operations LLC Unsupervised learning agents for autonomous driving applications
DE102017120729A1 (de) * 2017-09-08 2019-03-14 Connaught Electronics Ltd. Freiraumdetektion in einem Fahrerassistenzsystem eines Kraftfahrzeugs mit einem neuralen Netzwerk
US11079497B2 (en) * 2017-09-25 2021-08-03 Continental Automotive Systems, Inc. Vehicle localization based on neural network
US11243532B1 (en) 2017-09-27 2022-02-08 Apple Inc. Evaluating varying-sized action spaces using reinforcement learning
US11555706B1 (en) * 2017-09-27 2023-01-17 Apple Inc. Processing graph representations of tactical maps using neural networks
US11657266B2 (en) 2018-11-16 2023-05-23 Honda Motor Co., Ltd. Cooperative multi-goal, multi-agent, multi-stage reinforcement learning
US11093829B2 (en) * 2017-10-12 2021-08-17 Honda Motor Co., Ltd. Interaction-aware decision making
US10739775B2 (en) * 2017-10-28 2020-08-11 Tusimple, Inc. System and method for real world autonomous vehicle trajectory simulation
EP3495220B1 (en) * 2017-12-11 2024-04-03 Volvo Car Corporation Path prediction for a vehicle
US11273836B2 (en) 2017-12-18 2022-03-15 Plusai, Inc. Method and system for human-like driving lane planning in autonomous driving vehicles
US11130497B2 (en) * 2017-12-18 2021-09-28 Plusai Limited Method and system for ensemble vehicle control prediction in autonomous driving vehicles
US20190185012A1 (en) 2017-12-18 2019-06-20 PlusAI Corp Method and system for personalized motion planning in autonomous driving vehicles
US10737717B2 (en) * 2018-02-14 2020-08-11 GM Global Technology Operations LLC Trajectory tracking for vehicle lateral control using neural network
US11514371B2 (en) * 2018-03-13 2022-11-29 Woven Planet North America, Inc. Low latency image processing using byproduct decompressed images
US20190370638A1 (en) * 2018-06-01 2019-12-05 Thales Canada Inc System for and method of data encoding and/or decoding using neural networks
US11493927B2 (en) 2018-06-01 2022-11-08 Thales Canada, Inc. Self learning vehicle control system
US10878276B2 (en) * 2018-06-05 2020-12-29 Hrl Laboratories, Llc Method and system for detecting change of context in video streams
EP3588226B1 (en) * 2018-06-29 2020-06-24 Zenuity AB Method and arrangement for generating control commands for an autonomous road vehicle
US10685282B2 (en) * 2018-07-25 2020-06-16 WaveOne Inc. Machine-learning based video compression
WO2020019237A1 (en) * 2018-07-26 2020-01-30 Beijing Didi Infinity Technology And Development Co., Ltd. Systems and methods for dispatching service providers
US10739768B2 (en) * 2018-08-08 2020-08-11 Toyota Motor Engineering & Manufacturing North America, Inc. Smoothed and regularized Fischer-Burmeister solver for embedded real-time constrained optimal control problems in autonomous systems
US10782691B2 (en) 2018-08-10 2020-09-22 Buffalo Automation Group Inc. Deep learning and intelligent sensing system integration
WO2020033967A1 (en) 2018-08-10 2020-02-13 Buffalo Automation Group Inc. Training a deep learning system for maritime applications
US10839230B2 (en) 2018-09-06 2020-11-17 Ford Global Technologies, Llc Multi-tier network for task-oriented deep neural network
EP3853812A4 (en) * 2018-09-17 2022-05-11 Nokia Solutions and Networks Oy OBJECT TRACKING
US11040714B2 (en) * 2018-09-28 2021-06-22 Intel Corporation Vehicle controller and method for controlling a vehicle
US11079495B2 (en) * 2018-10-31 2021-08-03 Mitsubishi Electric Research Laboratories, Inc. Position estimation under multipath transmission
US11110922B2 (en) 2018-11-05 2021-09-07 Zoox, Inc. Vehicle trajectory modification for following
US10739777B2 (en) * 2018-11-20 2020-08-11 Waymo Llc Trajectory representation in behavior prediction systems
US11137762B2 (en) 2018-11-30 2021-10-05 Baidu Usa Llc Real time decision making for autonomous driving vehicles
CN111275225B (zh) * 2018-12-04 2022-07-19 北京嘀嘀无限科技发展有限公司 空车轨迹预测方法、预测装置、服务器和可读存储介质
US11782158B2 (en) 2018-12-21 2023-10-10 Waymo Llc Multi-stage object heading estimation
US10977501B2 (en) 2018-12-21 2021-04-13 Waymo Llc Object classification using extra-regional context
US10867210B2 (en) 2018-12-21 2020-12-15 Waymo Llc Neural networks for coarse- and fine-object classifications
CN109711054B (zh) * 2018-12-27 2022-12-23 沈阳航空航天大学 一种基于学习的用于车辆通信的车辆轨迹生成方法
EP3696734A1 (en) * 2019-02-15 2020-08-19 Siemens Aktiengesellschaft Tensor-train recurrent neural network supported autonomous and assisted driving
US11718300B2 (en) * 2019-02-27 2023-08-08 Zf Automotive Germany Gmbh Method and control unit for a system for controlling a motor vehicle
CN109857118B (zh) * 2019-03-12 2022-08-16 百度在线网络技术(北京)有限公司 无人车规划驾驶策略的方法、装置、设备及存储介质
EP3712802A1 (en) * 2019-03-19 2020-09-23 Robert Bosch GmbH Method for representing an environment of a mobile platform
JP7469850B2 (ja) * 2019-03-25 2024-04-17 本田技研工業株式会社 経路決定装置、ロボット及び経路決定方法
CN111830949B (zh) * 2019-03-27 2024-01-16 广州汽车集团股份有限公司 自动驾驶车辆控制方法、装置、计算机设备和存储介质
US11169513B2 (en) * 2019-03-29 2021-11-09 Tusimple, Inc. Operational testing of autonomous vehicles
CN109866752B (zh) * 2019-03-29 2020-06-05 合肥工业大学 基于预测控制的双模式并行车辆轨迹跟踪行驶系统的方法
EP3745310A1 (en) * 2019-05-28 2020-12-02 Robert Bosch GmbH Method for calibrating a multi-sensor system using an artificial neural network
EP3800521B1 (en) * 2019-10-01 2023-07-26 Elektrobit Automotive GmbH Deep learning based motion control of a vehicle
US11386670B2 (en) * 2019-10-03 2022-07-12 Toyota Motor Engineering & Manufacturing North America, Inc. Methods and systems for tracking non-connected vehicles
US11548520B2 (en) * 2019-10-11 2023-01-10 Mitsubishi Electric Research Laboratories, Inc. Control of autonomous vehicles adaptive to user driving preferences
CN110733506B (zh) * 2019-10-17 2021-03-02 上海舵敏智能科技有限公司 无人驾驶车辆的车道变更方法及设备
US11586931B2 (en) * 2019-10-31 2023-02-21 Waymo Llc Training trajectory scoring neural networks to accurately assign scores
CN111027461B (zh) * 2019-12-06 2022-04-29 长安大学 基于多维单步lstm网络的车辆轨迹预测方法
CN111027146B (zh) * 2019-12-30 2023-11-24 行蜂科技(深圳)有限责任公司 一种车辆载荷动态实时计算方法
JP7331704B2 (ja) 2020-01-09 2023-08-23 トヨタ自動車株式会社 車両用制御データの生成方法、車両用制御装置、および車両用制御システム
CN111291786B (zh) * 2020-01-17 2022-10-25 清华大学 一种车载视觉实时多目标航向角估计方法及装置
US20230049613A1 (en) * 2020-02-03 2023-02-16 BAE Systems Hägglunds Aktiebolag Embedded target tracking training
WO2021160273A1 (en) * 2020-02-13 2021-08-19 Automotive Artificial Intelligence (Aai) Gmbh Computing system and method using end-to-end modeling for a simulated traffic agent in a simulation environment
EP3872710A1 (en) * 2020-02-27 2021-09-01 Aptiv Technologies Limited Method and system for determining information on an expected trajectory of an object
US20210295171A1 (en) * 2020-03-19 2021-09-23 Nvidia Corporation Future trajectory predictions in multi-actor environments for autonomous machine applications
CN111523643B (zh) * 2020-04-10 2024-01-05 商汤集团有限公司 轨迹预测方法、装置、设备及存储介质
CN111552294B (zh) * 2020-05-14 2024-03-26 山东师范大学 基于时间依赖的室外机器人寻路仿真系统及方法
CN112805199A (zh) * 2020-06-09 2021-05-14 华为技术有限公司 自动驾驶系统的自学习方法、装置、设备及存储介质
US11807272B2 (en) 2020-07-28 2023-11-07 Toyota Research Institute, Inc. Systems and methods for multiple algorithm selection
EP3951673A1 (en) * 2020-08-04 2022-02-09 Aptiv Technologies Limited Method and system of collecting training data suitable for training an autonomous driving system of a vehicle
CN112034865B (zh) * 2020-08-12 2021-10-08 浙江大学 基于优化算法的全驱动水下航行器航迹跟踪控制方法
EP3955080B1 (en) * 2020-08-12 2024-01-17 Robert Bosch GmbH Method and device for socially aware model predictive control of a robotic device using machine learning
US11958498B2 (en) 2020-08-24 2024-04-16 Toyota Research Institute, Inc. Data-driven warm start selection for optimization-based trajectory planning
US11873006B2 (en) * 2020-09-21 2024-01-16 GM Global Technology Operations LLC Virtual lane estimation using a recursive self-organizing map
US11912300B2 (en) 2020-09-30 2024-02-27 GM Global Technology Operations LLC Behavioral planning in autonomus vehicle
DE102020127216A1 (de) 2020-10-15 2022-04-21 Valeo Schalter Und Sensoren Gmbh Verfahren zum Ermitteln einer Trajektorie für ein Fahrzeug, Computerprogrammprodukt, Parkassistenzsystem und Fahrzeug
CN112255918B (zh) * 2020-10-21 2022-04-08 东南大学 汽车队列优化控制的方法及系统
US11753041B2 (en) 2020-11-23 2023-09-12 Waymo Llc Predicting behaviors of road agents using intermediate intention signals
US20220161820A1 (en) * 2020-11-25 2022-05-26 Sensible 4 Oy Autonomous vehicle route deployment systems and methods
CN112429044B (zh) * 2020-11-27 2023-02-28 株洲中车时代软件技术有限公司 一种基于非线性补偿的运行列车位置定位方法及其系统
US11851081B2 (en) 2020-12-01 2023-12-26 Waymo Llc Predictability-based autonomous vehicle trajectory assessments
CN112687121A (zh) * 2020-12-21 2021-04-20 苏州挚途科技有限公司 行驶轨迹的预测方法、装置及自动驾驶车辆
US11834066B2 (en) * 2020-12-29 2023-12-05 GM Global Technology Operations LLC Vehicle control using neural network controller in combination with model-based controller
EP4285082A1 (en) * 2021-01-26 2023-12-06 Ground Transportation Systems Canada Inc. Vehicle positioning system
US11733369B2 (en) * 2021-02-11 2023-08-22 Waymo Llc Methods and systems for three dimensional object detection and localization
CN112762932B (zh) * 2021-04-07 2021-07-13 智道网联科技(北京)有限公司 基于神经网络模型的轨迹推算方法及装置
CN113253684B (zh) * 2021-05-31 2021-09-21 杭州蓝芯科技有限公司 基于图卷积神经网络的多agv调度方法及装置、电子设备
CN113894843A (zh) * 2021-07-22 2022-01-07 深兰科技(上海)有限公司 移动机器人的打滑检测方法及相关装置
CN113778082B (zh) * 2021-08-23 2023-08-22 北京科技大学 一种基于自触发机制的无人车轨迹跟踪控制方法及系统
CN113815679B (zh) * 2021-08-27 2023-01-13 北京交通大学 一种高速列车自主驾驶控制的实现方法
US20230081726A1 (en) * 2021-09-15 2023-03-16 International Business Machines Corporation Measuring driving styles and calibrating driving models
CN114418159B (zh) * 2021-10-29 2023-01-03 中国科学院宁波材料技术与工程研究所 肢体运动轨迹及其预测误差的预测方法、系统和电子装置
CN113954876B (zh) * 2021-11-17 2023-09-29 山东理工大学 智能汽车纵横向整体反馈线性化控制方法
US20230242142A1 (en) * 2022-02-01 2023-08-03 Weize Zhang Systems, methods, and computer-readable media for spatio-temporal motion planning
CN114859712B (zh) * 2022-04-17 2023-08-01 西北工业大学 面向油门约束的飞行器制导控制一体化方法
CN115195743B (zh) * 2022-09-16 2022-12-23 毫末智行科技有限公司 基于无人驾驶的车辆自动变道方法、装置、设备及介质
US20240103522A1 (en) * 2022-09-27 2024-03-28 Aurora Operations, Inc. Perception system for an autonomous vehicle

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06262963A (ja) * 1993-03-15 1994-09-20 Toshiba Corp 運転制御方法および運転制御装置
JP2004322962A (ja) * 2003-04-28 2004-11-18 Honda Motor Co Ltd 車両用走行制御装置
JP2007230454A (ja) * 2006-03-02 2007-09-13 Toyota Motor Corp 進路設定方法、装置、プログラム、および自動運転システム
JP2015057688A (ja) * 2013-08-12 2015-03-26 株式会社日本自動車部品総合研究所 走行経路生成装置
WO2016130719A2 (en) * 2015-02-10 2016-08-18 Amnon Shashua Sparse map for autonomous vehicle navigation

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2974440B2 (ja) * 1991-03-22 1999-11-10 株式会社日立製作所 自動車総合制御装置
US7783403B2 (en) 1994-05-23 2010-08-24 Automotive Technologies International, Inc. System and method for preventing vehicular accidents
US6526352B1 (en) * 2001-07-19 2003-02-25 Intelligent Technologies International, Inc. Method and arrangement for mapping a road
US7202776B2 (en) * 1997-10-22 2007-04-10 Intelligent Technologies International, Inc. Method and system for detecting objects external to a vehicle
US7085637B2 (en) * 1997-10-22 2006-08-01 Intelligent Technologies International, Inc. Method and system for controlling a vehicle
DE19926559A1 (de) 1999-06-11 2000-12-21 Daimler Chrysler Ag Verfahren und Vorrichtung zur Detektion von Objekten im Umfeld eines Straßenfahrzeugs bis in große Entfernung
AUPS123702A0 (en) * 2002-03-22 2002-04-18 Nahla, Ibrahim S. Mr The train navigtion and control system (TNCS) for multiple tracks
US9428186B2 (en) * 2002-04-09 2016-08-30 Intelligent Technologies International, Inc. Exterior monitoring for vehicles
US7447593B2 (en) 2004-03-26 2008-11-04 Raytheon Company System and method for adaptive path planning
JP2007299366A (ja) * 2006-01-31 2007-11-15 Sony Corp 学習装置および学習方法、認識装置および認識方法、生成装置および生成方法、認識生成装置および認識生成方法、並びにプログラム
JP5774361B2 (ja) 2011-04-28 2015-09-09 本田技研工業株式会社 軌道計画方法、軌道計画システム及び軌道計画・制御システム
US9195904B1 (en) 2014-05-08 2015-11-24 Mitsubishi Electric Research Laboratories, Inc. Method for detecting objects in stereo images
GB2534884B (en) 2015-02-03 2019-04-17 Jaguar Land Rover Ltd A system for use in a vehicle

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06262963A (ja) * 1993-03-15 1994-09-20 Toshiba Corp 運転制御方法および運転制御装置
JP2004322962A (ja) * 2003-04-28 2004-11-18 Honda Motor Co Ltd 車両用走行制御装置
JP2007230454A (ja) * 2006-03-02 2007-09-13 Toyota Motor Corp 進路設定方法、装置、プログラム、および自動運転システム
JP2015057688A (ja) * 2013-08-12 2015-03-26 株式会社日本自動車部品総合研究所 走行経路生成装置
WO2016130719A2 (en) * 2015-02-10 2016-08-18 Amnon Shashua Sparse map for autonomous vehicle navigation

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王 維恩 WEIEN WANG: "車両追従モデル構築に利用する簡易模擬データの提案 Proposal of Simple Hypothesis Data Utilized in Pro", 情報処理学会論文誌 第48巻 NO.SIG15(TOM18) IPSJ, vol. 第48巻, JPN6020006472, 15 October 2007 (2007-10-15), JP, pages 47 - 54, ISSN: 0004217454 *

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022523319A (ja) * 2019-02-01 2022-04-22 テスラ,インコーポレイテッド 時系列要素からの機械学習のためのグラウンドトゥルースの生成
JP7467485B2 (ja) 2019-02-01 2024-04-15 テスラ,インコーポレイテッド 時系列要素からの機械学習のためのグラウンドトゥルースの生成
US11608083B2 (en) 2019-09-18 2023-03-21 Honda Motor Co., Ltd. System and method for providing cooperation-aware lane change control in dense traffic
JP2021046193A (ja) * 2019-09-18 2021-03-25 本田技研工業株式会社 混雑した道路における協働認識車線変更制御を提供するためのシステム及び方法
JP7113048B2 (ja) 2019-09-18 2022-08-04 本田技研工業株式会社 混雑した道路における協働認識車線変更制御を提供するためのシステム及び方法
JP2021067192A (ja) * 2019-10-18 2021-04-30 トヨタ自動車株式会社 車両用制御データの生成方法、車両用制御装置、車両用制御システム、および車両用学習装置
US11248553B2 (en) 2019-10-18 2022-02-15 Toyota Jidosha Kabushiki Kaisha Vehicle control device, vehicle control system, and vehicle control method
US11313309B2 (en) 2019-10-18 2022-04-26 Toyota Jidosha Kabushiki Kaisha Vehicle control device, vehicle control system, and method for controlling vehicle
US11530662B2 (en) 2019-10-18 2022-12-20 Toyota Jidosha Kabushiki Kaisha Method of generating vehicle control data, vehicle control device, and vehicle control system
CN112682197A (zh) * 2019-10-18 2021-04-20 丰田自动车株式会社 车辆用控制数据的生成方法、车辆用控制装置和控制系统
US11654915B2 (en) 2019-10-18 2023-05-23 Toyota Jidosha Kabushiki Kaisha Method of generating vehicle control data, vehicle control device, and vehicle control system
CN112682184A (zh) * 2019-10-18 2021-04-20 丰田自动车株式会社 车辆用控制装置、车辆用控制系统以及车辆控制方法
CN113006951A (zh) * 2019-12-20 2021-06-22 丰田自动车株式会社 车辆用控制数据的生成方法、车辆用控制装置、车辆用控制系统以及车辆用学习装置
US11679784B2 (en) 2020-01-09 2023-06-20 Toyota Jidosha Kabushiki Kaisha Vehicle control data generation method, vehicle controller, vehicle control system, vehicle learning device, vehicle control data generation device, and memory medium
US11840245B2 (en) 2020-01-09 2023-12-12 Toyota Jidosha Kabushiki Kaisha Vehicle control data generation method, vehicle controller, vehicle control system, vehicle learning device, vehicle control data generation device, and memory medium

Also Published As

Publication number Publication date
EP3535636A1 (en) 2019-09-11
US9989964B2 (en) 2018-06-05
CN109964188A (zh) 2019-07-02
CN109964188B (zh) 2022-02-25
WO2018084324A1 (en) 2018-05-11
JP6712088B2 (ja) 2020-06-17
EP3535636B1 (en) 2020-09-23
US20180120843A1 (en) 2018-05-03

Similar Documents

Publication Publication Date Title
JP6712088B2 (ja) 車両を制御する方法、システム及び非一時的コンピューター可読記憶媒体
JP7444874B2 (ja) 方法、非一時的コンピュータ可読媒体、および、車両
US11636375B2 (en) Adversarial learning of driving behavior
US11780472B2 (en) Systems and methods for generating motion forecast data for a plurality of actors with respect to an autonomous vehicle
US11740624B2 (en) Advanced control system with multiple control paradigms
JP2022512359A (ja) 自律車両における運動挙動推定および動的挙動推定のための技術
EP3588226B1 (en) Method and arrangement for generating control commands for an autonomous road vehicle
US20190018412A1 (en) Control Method for Autonomous Vehicles
CN112698645A (zh) 具有基于学习的定位校正系统的动态模型
US11353877B2 (en) Blocked region guidance
CN111868641A (zh) 用于产生用于训练车辆控制设备的人工智能模块的训练数据组的方法
Resende et al. Real-time dynamic trajectory planning for highly automated driving in highways
CN110901656A (zh) 用于自动驾驶车辆控制的实验设计方法和系统
CN116547495A (zh) 协作车辆路径生成
CN112829769A (zh) 自动驾驶车辆的混合规划系统
Huy et al. A practical and optimal path planning for autonomous parking using fast marching algorithm and support vector machine
Bruno et al. Advanced driver assistance system based on automated routines for the benefit of human faults correction in robotics vehicles
CN117813227A (zh) 用于自主交通工具的互补控制系统
JP2023522844A (ja) 協調的車両ガイダンスのための遠隔操作
JP7256812B2 (ja) 自動運転車両の動的コスト関数の実現方法
Ventura Safe and flexible hybrid control architecture for the navigation in formation of a group of vehicles
CN113525510B (zh) 自动将自主驾驶车辆的转向返回至中心位置的系统和方法
Ginerica et al. A vision-dynamics learning approach to prediction-based control in autonomous vehicles
US20230415736A1 (en) Systems and methods for controlling longitudinal acceleration based on lateral objects
US20230415781A1 (en) Systems and methods for controlling longitudinal acceleration based on lateral objects

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181213

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200325

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200428

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200526

R150 Certificate of patent or registration of utility model

Ref document number: 6712088

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250