JP6839067B2 - 移動体制御方法及び移動体制御装置 - Google Patents
移動体制御方法及び移動体制御装置 Download PDFInfo
- Publication number
- JP6839067B2 JP6839067B2 JP2017224130A JP2017224130A JP6839067B2 JP 6839067 B2 JP6839067 B2 JP 6839067B2 JP 2017224130 A JP2017224130 A JP 2017224130A JP 2017224130 A JP2017224130 A JP 2017224130A JP 6839067 B2 JP6839067 B2 JP 6839067B2
- Authority
- JP
- Japan
- Prior art keywords
- moving body
- distance
- self
- road traffic
- vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 26
- 230000002787 reinforcement Effects 0.000 claims description 14
- 230000001133 acceleration Effects 0.000 claims description 12
- 238000000605 extraction Methods 0.000 claims description 11
- 238000005516 engineering process Methods 0.000 description 11
- 238000011156 evaluation Methods 0.000 description 5
- 230000006399 behavior Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
Images
Landscapes
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Traffic Control Systems (AREA)
Description
移動体の位置、前記移動体に対する複数の停止指令が出されるまでの発報時間、前記移動体とそれぞれの前記停止指令までの距離、及び他の移動体との距離を取得する状態把握手順と、
前記移動体の位置から前記移動体の現在の速度を、及び前記発報時間と前記停止指令までの距離とから前記停止指令の数の時空間距離を算出し、現在の前記速度、前記時空間距離及び前記他の移動体との距離で構成される特徴量ベクトルを取得する特徴量抽出手順と、
前記特徴量ベクトルに対する、前記移動体に加減速と方向転換の少なくとも一つをさせる制御指針を行った結果得られる、前記停止指令の回避及び前記他の移動体との接触の回避を表す報酬値を用いて強化学習を行い、新たな制御指針を算出して前記移動体の制御を行う学習制御手順と、
を行う。
移動体の位置、前記移動体に対する複数の停止指令が出されるまでの発報時間、前記移動体とそれぞれの前記停止指令までの距離、及び他の移動体との距離を取得する状態把握部と、
前記移動体の位置から前記移動体の現在の速度を、及び前記発報時間と前記停止指令までの距離とから前記停止指令の数の時空間距離を算出し、現在の前記速度、前記時空間距離及び前記他の移動体との距離で構成される特徴量ベクトルを取得する特徴量抽出部と、
前記特徴量ベクトルに対する、前記移動体に加減速と方向転換の少なくとも一つをさせる制御指針を行った結果得られる、前記停止指令の回避及び前記他の移動体との接触の回避を表す報酬値を用いて強化学習を行い、新たな制御指針を算出して前記移動体の制御を行う学習制御部と、
を備える。
移動体の位置、前記移動体に対する複数の停止指令が出されるまでの発報時間、前記移動体とそれぞれの前記停止指令までの距離、及び他の移動体との距離を取得する状態把握部11と、
前記移動体の位置から前記移動体の現在の速度を、及び前記発報時間と前記停止指令までの距離とから前記停止指令の数の時空間距離を算出し、現在の前記速度、前記時空間距離及び前記他の移動体との距離で構成される特徴量ベクトルを取得する特徴量抽出部12と、
前記特徴量ベクトルに対する、前記移動体に加減速と方向転換の少なくとも一つをさせる制御指針を行った結果得られる、前記停止指令の回避及び前記他の移動体との接触の回避を表す報酬値を用いて強化学習を行い、新たな制御指針を算出して前記移動体の制御を行う学習制御部13と、
を備える。
状態把握部11が、移動体の位置、前記移動体に対する複数の停止指令が出されるまでの発報時間、前記移動体とそれぞれの前記停止指令までの距離、及び他の移動体との距離を取得するS11と、
特徴量抽出部12が、前記移動体の位置から前記移動体の現在の速度を、及び前記発報時間と前記停止指令までの距離とから前記停止指令の数の時空間距離を算出し、現在の前記速度、前記時空間距離及び前記他の移動体との距離で構成される特徴量ベクトルを取得する特徴量抽出手順S12と、
学習制御部13が、前記特徴量ベクトルに対する、前記移動体に加減速と方向転換の少なくとも一つをさせる制御指針を行った結果得られる、前記停止指令の回避及び前記他の移動体との接触の回避を表す報酬値を用いて強化学習を行い、新たな制御指針を算出して前記移動体の制御を行う学習制御手順S13と、
を行う。
状態把握部11は、現在の移動体の位置、光ビーコンから得られた信号のランプ周期、移動体の前後方との車の距離、両隣の車線における前後方の車との距離を取得できるものとする。なお、取得方法については、車載センサー・カメラ等を用いることができる。
特徴量抽出部12は、状態把握部11から得られた情報から、強化学習で用いる特徴量ベクトルを作成して学習制御部13に渡す。数1は当該特徴量ベクトルstの例である。
学習制御部13は、得られた特徴量ベクトルに対して、図2で示す赤信号区間を避けつつ、他車との衝突を回避するための最適な制御指針(例えば、加減速の程度、車線変更等)を決定し、実行する。この制御指針により信号状態と他車の挙動を加味した運転支援が達成できる。学習制御部13は強化学習を用いる。強化学習では、現在(時刻t)、観測している特徴量ベクトルstに対して、制御指針atを実行した際に得られる数2の報酬値を用いて、stにおける制御指針aの価値Q(st,at)を数3のように更新する。
総和Tは、数5の通りである。
12:特徴量抽出部
13:学習制御部
Claims (2)
- 対象とする自移動体の位置、目的地までの経路上における複数の道路交通用信号機がそれぞれ移動体に対する停止信号を発報するまでの発報時間、前記自移動体からそれぞれの前記道路交通用信号機までの距離、及び前記自移動体と他の移動体との距離を取得する状態把握手順と、
複数の前記道路交通用信号機のそれぞれについて、前記発報時間と前記道路交通用信号機までの距離とを含む時空間距離ベクトルを算出し、前記自移動体の現在の速度、前記時空間距離ベクトル、及び前記他の移動体との距離で構成される特徴量ベクトルを取得する特徴量抽出手順と、
前記特徴量ベクトルに対する、前記自移動体に加減速と方向転換の少なくとも一つをさせる制御指針を行った結果得られる、停止信号を発報中の前記道路交通用信号機の回避及び前記他の移動体との接触の回避を表す報酬値を用いて強化学習を行い、新たな制御指針を算出して前記自移動体の制御を行う学習制御手順と、
を行う移動体制御方法。 - 対象とする自移動体の位置、目的地までの経路上における複数の道路交通用信号機がそれぞれ移動体に対する停止信号を発報するまでの発報時間、前記自移動体からそれぞれの前記道路交通用信号機までの距離、及び前記自移動体と他の移動体との距離を取得する状態把握部と、
複数の前記道路交通用信号機のそれぞれについて、前記発報時間と前記道路交通用信号機までの距離とを含む時空間距離ベクトルを算出し、前記自移動体の現在の速度、前記時空間距離ベクトル、及び前記他の移動体との距離で構成される特徴量ベクトルを取得する特徴量抽出部と、
前記特徴量ベクトルに対する、前記自移動体に加減速と方向転換の少なくとも一つをさせる制御指針を行った結果得られる、停止信号を発報中の前記道路交通用信号機の回避及び前記他の移動体との接触の回避を表す報酬値を用いて強化学習を行い、新たな制御指針を算出して前記自移動体の制御を行う学習制御部と、
を備える移動体制御装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017224130A JP6839067B2 (ja) | 2017-11-22 | 2017-11-22 | 移動体制御方法及び移動体制御装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017224130A JP6839067B2 (ja) | 2017-11-22 | 2017-11-22 | 移動体制御方法及び移動体制御装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019096012A JP2019096012A (ja) | 2019-06-20 |
JP6839067B2 true JP6839067B2 (ja) | 2021-03-03 |
Family
ID=66971762
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017224130A Active JP6839067B2 (ja) | 2017-11-22 | 2017-11-22 | 移動体制御方法及び移動体制御装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6839067B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110554707B (zh) * | 2019-10-17 | 2022-09-30 | 陕西师范大学 | 一种飞行器姿态控制回路的q学习自动调参方法 |
JP7400371B2 (ja) * | 2019-11-13 | 2023-12-19 | オムロン株式会社 | ロボット制御モデル学習方法、ロボット制御モデル学習装置、ロボット制御モデル学習プログラム、ロボット制御方法、ロボット制御装置、ロボット制御プログラム、及びロボット |
WO2023132092A1 (ja) * | 2022-01-05 | 2023-07-13 | 日立Astemo株式会社 | 車両制御システム |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10254505A (ja) * | 1997-03-14 | 1998-09-25 | Toyota Motor Corp | 自動制御装置 |
JP2009181187A (ja) * | 2008-01-29 | 2009-08-13 | Toyota Central R&D Labs Inc | 行動モデル作成装置及びプログラム |
US8478500B1 (en) * | 2009-09-01 | 2013-07-02 | Clemson University | System and method for utilizing traffic signal information for improving fuel economy and reducing trip time |
JP5445371B2 (ja) * | 2010-07-15 | 2014-03-19 | 株式会社デンソー | 運転支援車載装置及び路車間通信システム |
JP5893481B2 (ja) * | 2012-04-04 | 2016-03-23 | 株式会社 ミックウェア | ナビゲーション装置、ナビゲーション方法、およびプログラム |
-
2017
- 2017-11-22 JP JP2017224130A patent/JP6839067B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019096012A (ja) | 2019-06-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11567514B2 (en) | Autonomous and user controlled vehicle summon to a target | |
US10023230B2 (en) | Drive assist device, and drive assist method | |
US10782683B2 (en) | Vehicle control device | |
CN110050301B (zh) | 车辆控制装置 | |
US9415775B2 (en) | Drive assist apparatus, and drive assist method | |
WO2022057630A1 (zh) | 数据处理方法、装置、设备以及存储介质 | |
CN103935361B (zh) | 用于自主的车道变换、经过和超越行为的有效数据流算法 | |
EP3696789B1 (en) | Driving control method and driving control apparatus | |
JP6839067B2 (ja) | 移動体制御方法及び移動体制御装置 | |
JPWO2018029758A1 (ja) | 自動運転車両の制御方法及び制御装置 | |
US11247677B2 (en) | Vehicle control device for maintaining inter-vehicle spacing including during merging | |
JP7293635B2 (ja) | 自動運転システム | |
WO2020157533A1 (ja) | 車両の走行制御方法及び走行制御装置 | |
JP2018025977A (ja) | 自動運転システム | |
EP3895947A1 (en) | Parking control method and parking control device | |
JP7196766B2 (ja) | 運転支援システム | |
CN110678372A (zh) | 车辆控制装置 | |
CN110654380B (zh) | 用于控制车辆的方法和装置 | |
CN111788616A (zh) | 用于运行至少一个自动化车辆的方法 | |
JP2909106B2 (ja) | 移動車の走行制御装置 | |
JP6253175B2 (ja) | 車両の外部環境認識装置 | |
CN112236352A (zh) | 用于确定车辆的经更新的轨迹的方法 | |
CN105711568B (zh) | 车辆控制方法和装置 | |
JP7393260B2 (ja) | 推定装置 | |
CN112644485A (zh) | 自主车辆的控制 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191211 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200923 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201006 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201126 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210209 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210212 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6839067 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |