JP2021128349A - 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム - Google Patents

情報処理装置、情報処理システム、および情報処理方法、並びにプログラム Download PDF

Info

Publication number
JP2021128349A
JP2021128349A JP2018085234A JP2018085234A JP2021128349A JP 2021128349 A JP2021128349 A JP 2021128349A JP 2018085234 A JP2018085234 A JP 2018085234A JP 2018085234 A JP2018085234 A JP 2018085234A JP 2021128349 A JP2021128349 A JP 2021128349A
Authority
JP
Japan
Prior art keywords
information
section
information processing
driver
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018085234A
Other languages
English (en)
Inventor
英史 大場
Hidefumi Oba
英史 大場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2018085234A priority Critical patent/JP2021128349A/ja
Priority to US17/047,033 priority patent/US11866073B2/en
Priority to PCT/JP2019/010777 priority patent/WO2019208014A1/ja
Publication of JP2021128349A publication Critical patent/JP2021128349A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/005Handover processes
    • B60W60/0053Handover processes from vehicle to occupant
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Arrangement of adaptations of instruments
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W40/09Driving style or behaviour
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0025Planning or execution of driving tasks specially adapted for specific operations
    • B60W60/00256Delivery operations
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/005Handover processes
    • B60W60/0057Estimation of the time available or required for the handover
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0872Driver physiology
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0062Adapting control system settings
    • B60W2050/0063Manual parameter input, manual setting means, manual initialising or calibrating means
    • B60W2050/0064Manual parameter input, manual setting means, manual initialising or calibrating means using a remote, e.g. cordless, transmitter or receiver unit, e.g. remote keypad or mobile phone
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146Display means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/221Physiology, e.g. weight, heartbeat, health or special needs
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/229Attention level, e.g. attentive to driving, reading or sleeping
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention

Abstract

【課題】ウェアラブル端末に自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する構成を実現する。
【解決手段】移動装置が走行ルート上の自動運転区間と手動運転区間の区間情報を取得するとともに、各区間に到達するまでの時間を推定して情報端末に送信する。情報端末は移動装置からの送信データを受信して、自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する。さらに移動装置は、運転者の覚醒度、または位置等の情報に基づいて、手動運転復帰要求通知の通知タイミングを決定し、情報端末に送信し、情報端末は、通知タイミングにおいて手動運転復帰要求通知を適切なタイミングで実行する。
【選択図】図6

Description

本開示は、情報処理装置、情報処理システム、および情報処理方法、並びにプログラムに関する。さらに詳細には、自動運転車両の運転者に対して自動運転と手動運転の切り替えタイミング等の情報提供処理を実行する情報処理装置、情報処理システム、および情報処理方法、並びにプログラムに関する。
近年、車両走行の安全性の向上やドライバの負荷軽減等を目的として、ドライバの操作によらず自動的に車両の走行の制御や支援を行うシステムの開発が進められている。自動運転中の車両で将来的には2次タスクの実行の許容が期待される。しかし、当面の道路インフラとしては運転者介在必要区間、いわゆる手動運転が求められる区間と自動運転可能区間が斑に入り混じった走行ルートとしての環境インフラ導入が進むと想定される。そのため、運転者が2次タスクの実行を良好に行うためには、当該運転者に走行ルート上の手動・自動などの区間情報を適切に提供することが必要となり、それら走行中の進行区間毎の最新情報は時々刻々と変わる状況変化に対応している必要がある。そしてこれら自動運転の区間終了地点は必ずしも固定されているとは限らない。
例えば、特許文献1(特開2016−139204号公報)には、自車両の走行予定道路における複数の危険に対して、その危険度を表示する技術が開示されている。また、例えば、特許文献2(特開2016−090274号公報)には、自動運転中において運転者に手動運転を開始させる場合に、携帯端末に意識を集中させている運転者に対して、手動運転の開始をしなければならない状況にあることを携帯端末の画面に表示して知らせる技術が開示されている。
特開2016−139204号公報 特開2016−090274号公報
現在自動運転を行うための車両周辺環境認識技術の成熟と道路走行環境の地図情報の発達などにより、車両の自動運転を実世界空間で利用する機運が高まっている。しかし、実際には車両が走行し得るあらゆる連続区間で、地下鉄の様な閉鎖した軌道を完備させた環境と同等の環境を実用的なコストで実現するのは難しい。従って、実際にはあらゆる自動運転が可能な運転レベルの道路である自動運転許容区間と、一切の自動運転が許容されない道路である手動運転区間がランダムに連なった走行区間となることが想定される。このように自動運転が可能な区間から運転者監視下または手動運転介在が必須となる手動運転区間の異なる区間が混在する道路環境が構成されることが予想される。そしてそれら混在道路区間を走行する場合、運転者が区間を跨ぐ場合に求められる手動運転への復帰が的確に実施されないと、車両は区間を跨ぐルートでのスムーズな走行を持続できない。
そのため、完全な自動運転が可能な閉鎖環境を利用する提案や、自動運転から手動運転へ適切な引継ぎが出来ない場合には、車両を緊急停車させるなどの提案などがされている。しかし、道路に緊急停車車両があふれると渋滞を誘発し、また緊急停車車両の増加で従来は無かった事故を誘発する可能性がある。このような事態は、正常な社会活動を阻害するものであり、自動運転の普及のために解決すべき問題点である。
例えば、現在、広く議論がされている自動運転のレベル3の運転を一般道や専用道路に広く普及させるためには、自動運転区間においてレベル3の自動運転車両をスムーズに走行させる環境を整備、維持することが必要である。さらに、自動運転区間の終了地点、すなわち手動運転開始区間の侵入地点で、運転者が正常な手動運転を即座に開始させることが必要である。
手動運転開始区間の侵入地点で運転者が正常な手動運転を即座に開始可能とするためには、自動運転区間であっても運転者は常に区間を監視し、緊張した状態にいることが求められる。このような負荷を運転者に科すことは、人間工学的・心理学側面を考慮すると好ましいことではない。また、現実的には、自動運転中、運転者は居眠りをする等、注意力が低下した状態になることは、十分予測されることである。また、荷物配送車等においては運転者が自動運転中に運転席を離れ、荷物室で荷物の仕分け等の作業を行うといった場合がある。このような作業の実行中に運転者は、手動運転区間の接近について忘れてしまうことも想定される。
本開示は、このような現実的な状況に鑑みでなされたものであり、自動運転車両の運転者に対して手動運転開始区間の接近等の情報を提供し、手動運転開始区間の侵入時に運転者がスムーズに手動運転を開始することを可能とする情報処理装置、情報処理システム、および情報処理方法、並びにプログラムを提供することを目的とする。
本開示の第1の側面は、
人体に装着可能なウェアラブル端末であり、
移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する表示部を有する情報処理装置にある。
さらに、本開示の第2の側面は、
移動装置と、前記移動装置の運転者に装着可能なウェアラブル仕様の情報端末を有する情報処理システムであり、
前記移動装置は、
移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報を取得するとともに、各区間に到達するまでの時間を推定し、前記情報端末に送信する処理を実行し、
前記情報端末は、
前記移動装置からの送信データを受信して、
移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを表示部に出力する情報処理システムにある。
さらに、本開示の第3の側面は、
情報処理装置において実行する情報処理方法であり、
前記情報処理装置は、人体に装着可能なウェアラブル端末であり、
データ処理部が、移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを表示部に出力する情報処理方法にある。
さらに、本開示の第4の側面は、
移動装置と、前記移動装置の運転者に装着可能なウェアラブル仕様の情報端末を有する情報処理システムにおいて実行される情報処理方法であり、
前記移動装置が、
移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報を取得するとともに、各区間に到達するまでの時間を推定し、前記情報端末に送信する処理を実行し、
前記情報端末が、
前記移動装置からの送信データを受信して、
移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを表示部に出力する情報処理方法にある。
さらに、本開示の第5の側面は、
情報処理装置において情報処理を実行させるプログラムであり、
前記情報処理装置は、人体に装着可能なウェアラブル端末であり、
前記プログラムは、データ処理部に、移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを表示部に出力させるプログラムにある。
なお、本開示のプログラムは、例えば、様々なプログラム・コードを実行可能な情報処理装置やコンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、情報処理装置やコンピュータ・システム上でプログラムに応じた処理が実現される。
本開示のさらに他の目的、特徴や利点は、後述する本開示の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
本開示の一実施例の構成によれば、ウェアラブル端末に自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する構成を実現する。
具体的には、例えば、移動装置が走行ルート上の自動運転区間と手動運転区間の区間情報を取得するとともに、各区間に到達するまでの時間を推定して情報端末に送信する。情報端末は移動装置からの送信データを受信して、自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する。さらに移動装置は、運転者の覚醒度、または位置等の情報に基づいて、手動運転復帰要求通知の通知タイミングを決定し、情報端末に送信し、情報端末は、通知タイミングにおいて手動運転復帰要求通知を実行する。
本構成により、ウェアラブル端末に自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する構成が実現される。
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
本開示の移動装置の一構成例について説明する図である。 本開示の移動装置の表示部に表示されるデータの一例について説明する図である。 本開示の移動装置の実行する処理について説明する図である。 本開示の情報端末の利用構成例について説明する図である。 本開示の情報端末の利用構成例について説明する図である。 本開示の情報端末の利用構成例について説明する図である。 本開示の情報端末の利用構成例について説明する図である。 本開示の移動装置の構成例について説明する図である。 本開示の移動装置の構成例について説明する図である。 本開示の移動装置、情報端末のセンサ構成例について説明する図である。 本開示の移動装置の実行する自動運転モードから手動運転モードへのモード切り替えシーケンスの一例を示す図である。 本開示の移動装置の実行する自動運転モードから手動運転モードへのモード切り替えシーケンスの一例を示す図である。 自動運転の動作シーケンスの一例について説明するフローチャートを示す図である。 運転者により目的地が設定されることで決定された自動運転可否区間が斑に設定され、または発生した走行ルートの一例を示す図である。 本開示の情報端末の表示データの一例について説明する図である。 本開示の情報端末の表示データの一例について説明する図である。 本開示の情報端末の表示データの一例について説明する図である。 本開示の情報端末の表示データの一例について説明する図である。 自動運転モードから手動運転モードへ切り替える際に実行する処理のシーケンスの一例を説明するフローチャートを示す図である。 観測値に相当する可観測評価値と復帰遅延時間(=手動運転復帰可能時間)の複数の関係情報(観測プロット)の分布例と復帰成功率について説明する図である。 自動運転モードにおいて運転者が実行している処理(2次タスク)の種類に応じた手動運転復帰可能時間について説明する図である。 情報処理装置のハードウェア構成例について説明する図である。
以下、図面を参照しながら本開示の情報処理装置、情報処理システム、および情報処理方法、並びにプログラムの詳細について説明する。なお、説明は以下の項目に従って行なう。
1.移動装置と情報処理装置(情報端末)の構成と処理の概要について
2.移動装置の具体的な構成と処理例について
3.自動運転モードから手動運転モードへのモード切り替えシーケンスについて
4.自動運転の動作シーケンス例について
5.本開示の移動装置、情報処理装置(情報端末)の実行する処理のシーケンスについて
6.情報処理装置の構成例について
7.本開示の構成のまとめ
[1.移動装置と情報処理装置(情報端末)の構成と処理の概要について]
図1以下を参照して、移動装置と情報処理装置(情報端末)の構成と処理の概要について説明する。
移動装置は、例えば、自動運転と手動運転を切り替えて走行することが可能な自動車である。このような自動車において、自動運転モードから手動運転モードに切り替える必要が発生した場合、運転車(ドライバ)に手動運転を開始させることが必要となる。
しかし、自動運転実行中に運転者が行う処理(2次タスク)は様々である。例えば、ハンドルから手を放しているのみで、運転時と同様、自動車の前方を注視している場合もあり、本を読んでいる場合もあり、また、居眠りをしている場合もある。これらの処理の違いにより、運転者の覚醒度(意識レベル)は異なるものとなる。
例えば、居眠りをすると、運転者の覚醒度が低下する。すなわち意識レベルが低下した状態となる。このような覚醒度が低下した状態では、正常な手動運転を行うことができず、その状態で手動運転モードに切り替えてしまうと、最悪の場合、事故を起こす可能性がある。
運転の安全性を確保するためには、運転者の覚醒度が高い状態、すなわちはっきりした意識のある状態で手動運転を開始させることが必要となる。このためには、自動運転実行中の運転者の覚醒度に応じて、自動運転から手動運転への切り替え要求を行う通知タイミングを変更することが必要である。
例えば、自動運転実行中に運転者が前を向いて道路を見ているような場合は、運転者の覚醒度は高い状態、すなわち、いつでも手動運転を開始できる状態にある。このような場合は、手動運転への切り替え通知は、手動運転が必要となる時間の直前のタイミングに行えばよい。運転者は、すぐに安全な手動運転を開始することができるからである。
しかし、運転者が自動運転実行中に居眠りをしているような場合、運転者の覚醒度は極めて低い状態にある。このような場合、手動運転への切り替え通知を手動運転が必要となる時間の直前のタイミングに行うと、運転者は、意識がはっきりしない状態で手動運転を開始せざる得ない。その結果、事故を発生させる可能性が高まる。従って、このように覚醒度が低い場合は、より早い段階で手動運転への切り替え通知を行うことが必要となる。
また、図1に示す自動車10は、荷物配送用のワゴン車であり、運転者20は、自動運転中に運転席を離れ、荷物室21に移動して配送用の荷物の仕分け等の作業をする場合もある。このように、運転者20が運転席を離れている場合には、運転席に戻る時間を考慮して、手動運転切り替え通知のタイミングを制御することが必要である。
前述したように、現状は、全ての走行区間を自動運転可能とするためのインフラの整備が実現されておらず、手動運転が求められる区間が存在する。従って運転者は、様々なタイミングや地点で自動運転から手動運転への復帰が求められる。本開示の構成では、自動運転車の運転者に対して手動運転開始区間の接近情報等を、運転者に提供し、手動運転開始区間の侵入時に運転者がスムーズに手動運転を開始することを可能とする。
図1以下を参照して移動装置と、情報処理装置(図1に示す情報端末50)の構成と処理の概要について説明する。
図1には、移動装置の一例である自動車10の一構成例を示している。
また、図1に示す自動車10に乗車している運転者(ドライバ)20の腕には本開示の情報端末50が装着されている。
情報端末50は人の体に装着可能なウェアラブル端末である。ここではウェアラブル端末の一例として、腕時計型の端末の例を示している。本開示の情報処理装置は、このような腕時計型に限らず、例えば頭に装着する端末や、腰に装着する端末、あるいは指輪型端末等、人の様々な部位に装着可能なウェアラブル端末であればよい。
図1に示す自動車10は、手動運転モードと、自動運転モードの2つの運転モードによる運転が可能な自動車である。
手動運転モードは、運転者(ドライバ)20の操作、すなわちハンドル(ステアリング)操作や、アクセル、ブレーキ等の操作に基づく走行が行われる。
一方、自動運転モードでは、運転者(ドライバ)20による操作が不要であり、例えば位置センサや、その他の周囲情報検出センサ等のセンサ情報に基づく運転が行われる。
位置センサは、例えばGPS受信機等であり、周囲情報検出センサは、例えば、カメラ、超音波センサ、レーダ、LiDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)、ソナー等である。
なお、図1は、本開示の概要を説明する図であり、主要な構成要素を概略的に示している。詳細構成については後段で説明する。
図1に示すように、自動車10は、データ処理部11、運転者情報取得部12、環境情報取得部13、通信部14、通知部15を有する。
運転者情報取得部12は、例えば、運転者の覚醒度を判定するための情報、例えば、運転者の生体情報や、運転者の操作情報等を取得する。具体的には、例えば、運転者の顔画像を撮影するカメラ、眼球や瞳孔の動き等を取得するセンサ、体温等の測定センサ、さらに、各操作部(ハンドル、アクセル、ブレーキ等)の操作情報取得部等によって構成される。
環境情報取得部13は、自動車10の走行環境情報を取得する。例えば、自動車の前後左右の画像情報、GPSによる位置情報、LiDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)、ソナー等からの周囲の障害物情報等である。
データ処理部11は、運転者情報取得部12の取得した運転者情報や、環境情報取得部13の取得した環境情報を入力し、自動運転中の車内の運転者が安全な手動運転が実行可能な状態にあるか否か、さらに手動運転中の運転者が安全な運転を実行しているか否か等を示す安全性指標値を算出する。
さらに、例えば、自動運転モードから手動運転モードへの切り替えの必要が発生した場合に、手動運転モードへの切り替えを行うように、通知部15を介して通知する処理を実行する。
この通知処理のタイミングは、例えば運転者情報取得部12、環境情報取得部13を入力して算出した最適なタイミングとする。
すなわち、運転者20が、安全な手動運転を開始できるようなタイミングとする。
具体的には、運転者の覚醒度が高い場合は、手動運転開始時間の直前、例えば5秒前に通知を行い、運転者の覚醒度が低い場合は、余裕をもって手動運転開始時間の20秒前に行う等の処理を行う。具体的な通知に最適なタイミングの算出は後述する。
通知部15は、この通知を行う表示部、音声出力部、あるいはハンドルやシートのバイブレータによって構成される、
通知部15を構成する表示部に対する警告表示の例を図2に示す。
図2に示すように、通知部(表示部)15には、以下の各表示がなされる。
運転モード情報=「自動運転中」、
警告表示=「手動運転に切り替えてください」
運転モード情報の表示領域には、自動運転モードの実行時は「自動運転中」の表示が行われ、手動運転モードの実行時は「手動運転中」の表示が行われる。
警告表示情報の表示領域には、自動運転モードで自動運転を実行している間に、以下の表示を行う表示領域である。
「手動運転に切り替えてください」
なお、図1に示すように、自動車10は通信部14を介してサーバ30と通信可能な構成を持つ。
例えば、データ処理部11における通知出力の適正時間を算出する処理の一部、具体的には学習処理をサーバ30において行うことが可能である。
この具体例については後述する。
図3は、本開示の移動装置や情報処理装置が実行する処理の具体例を示す図である。
図3には、自動運転モードで自動運転を実行している間に、手動運転への切り替え要求を行う通知の適正タイミングの設定例を示す図であり、以下の2つの例の通知処理例を示している。
(a)自動運転実行中の運転者の覚醒度が高い場合の通知処理
(b)自動運転実行中の運転者の覚醒度が低い場合の通知処理
(c)自動運転実行中の運転者が運転席から離れている場合の通知処理
(a)の例は、自動運転実行中に運転者が前を向いて道路を見ている例である。この場合は、運転者の覚醒度は高い状態、すなわち、いつでも手動運転を開始できる状態にある。
このような場合は、手動運転への切り替え通知は、手動運転が必要となる時間の直前タイミングに行っても、運転者は、すぐに安全な手動運転を開始することができる。
(b)の例は、運転者が自動運転実行中に居眠りをしているような場合の例であり、この場合、運転者の覚醒度は極めて低い状態にある。
このような場合、手動運転への切り替え通知を、手動運転が必要となる時間の直前タイミングに行うと、運転者は、意識がはっきりしない状態子で手動運転を開始してしまい、事故を発生させる可能性が高まる。従って、このように覚醒度が低い場合は、より早い段階で、手動運転への切り替え通知を行うことが必要となる。
(c)の例は、運転者が自動運転実行中に運転席を離れて作業をしているような場合の例であり、このような場合、運転者は運転席に戻るまでに時間を要することになる。
このような場合、手動運転への切り替え通知を、手動運転が必要となる時間の直前タイミングに行うと、運転者が運転席に戻る前に手動運転区間に差し掛かってしまう可能性がある。従って、このように運転者が運転席を離れている場合には、より早い段階で、手動運転への切り替え通知を行うことが必要となる。
また、図1に示す自動車10に乗車している運転者(ドライバ)20が、運転席を離れている場合には、運転席の通知部(表示部)15に先に図2を参照して説明したような表示を行っても運転者20は気づくことができない。
これを解決するため、運転者(ドライバ)20が腕に装着した情報端末50を介した通知、情報提供を行う。情報端末50は、図2を参照して説明した表示データの表示処理を行うとともに、さらに、自動車10が走行中の道路の区間(自動運転区間、手動運転区間)の接近情報等を表示する。さらに、アラーム出力、音声出力、バイブレーション機能を有し、様々な通知、警告を運転者20に知らせる。
図4は、情報端末50の利用例を示す図である。自動車10に乗車している運転者(ドライバ)20は、自動車10が自動運転実行中に、図4(a)に示すように運転席にいる場合もあるが、図4(b)に示すように、運転席を離れ、荷物室で作業を行っている場合もある。しかし、運転者20は、常時、情報端末50を腕に装着しており、情報端末50に表示される表示情報や、出力される音声、アラーム、バイブレーション等に気づくことが可能となる。
図5は、情報端末50の表示情報の一例を示す図である。図5に示す例は、先に図2を参照して説明した通知部(表示部)15の表示例と同様の表示例を示している。情報端末50に、以下の各表示がなされる。
運転モード情報=「自動運転中」、
警告表示=「手動運転に切り替えてください」
運転者20は、どこにいてもこの表示を確認することが可能となる。
さらに、図6には、情報端末50の表示情報の別の例を示している。図6に示す例は、運転者により目的地が設定されることで決定された走行ルートに従った道路の自動運転区間、手動運転区間等の各区間の情報を表示した例である。表示部の周囲の0〜9の数値は、現在時間からの経過時間0〜9分を示している。表示領域全体で、現在時間(0)から10分後までの自動車の走行予定の区間情報を示している。
走行ルートには、自動運転区間Saと、手動運転区間Sbが設けられ、さらに、自動運転から手動運転への引継ぎ区間Scや、自動運転区間Sa内に設定される注意走行区間Sd等が存在する。なお、これらの区間設定の具体例については後段で説明する。
図6に示す表示例は、情報端末50の表示部に、以下の3つの異なる表示領域が設定されている。
(Sa)自動運転区間Sa(=緑色表示)
(Sc)引き継ぎ運転区間Sc(=黄色表示)
(Sb)手動運転区間Sb(=赤色表示)
図6に示す表示例は、自動車のこれから10分間の走行予定を示している。すなわち、
(Sa)自動運転区間Sa(=緑色表示)を、現時点から0〜6分10秒後まで走行する予定であり、その後、
(Sc)引き継ぎ運転区間Sc(=黄色表示)を、現時点から6分10秒後〜8分40秒後まで走行する予定であり、さらに、その後、
(Sb)手動運転区間Sb(=赤色表示)を、現時点から8分40秒後に走行する予定であることを示している。
なお、情報端末50は、自動車10内のデータ処理部11が自動車10の走行速度、あるいは自動車10の走行ルートにおける車両の平均速度情報に基づいて算出した各区間の走行予定時間情報を、通信部を介して受信して、表示を行う。
運転者20は、情報端末50の表示情報を見ることで、手動運転区間に侵入するまでの残り時間を確認することが可能となり、その時間に間に合うように荷物室21での作業を終えて、運転席に戻ることが可能となる。
なお、図6に示す例では、運転者20は、情報端末50の表示に基づいて、今から約8分40秒後に手動運転区間に侵入することを把握することが可能であり、それまでに運転席に戻るように作業を進行させることができる。
また、図6に示す情報端末50には、さらに矢印が表示される。この矢印は、手動運転復帰要求の通知、例えば、図5に示す表示への切り替え、あるいは、アラーム出力や、バイブレーション起動を行い、運転者20に警告を通知する時間に設定される。この通知タイミングは、例えば、移動装置(自動車10)側において、運転者の覚醒度、または位置の少なくともいずれかの情報に基づいて決定する。決定した通知タイミング情報は情報端末50に送信される。矢印による通知の時刻表示は一例に過ぎず、色区分やメシュ表示、点滅フラッシュ等で視覚注意誘引機能を持たせるなど、時間間隔を視覚的提示出来れば手段を矢印に限定する必要はない。なお、移動装置において実行する最適な通知タイミングの算出処理については後述する。
情報端末50は、移動装置から受信した通知タイミングにおいて手動運転復帰要求通知を実行する。すなわち、情報端末50は、移動装置が決定した通知タイミングにおいて、先に図5を参照して説明した表示処理、あるいはアラーム出力、またはバイブレーション起動の少なくともいずれかの処理を実行する。なお、通知設定はユーザーによって変更や停止が可能である。
なお、本実施例では、情報端末50の表示部を円形状の表示部として示しているが、これは一例であり、表示部の形状は円形に限らず、楕円型、矩形型等、様々な設定が可能である。
図7は、時間経過に伴う情報端末の表示データの変化例を示す図である。図7には時間t1における情報端末50の表示情報と、その後の時間t2における情報端末50の表示情報の例を示している。
時間t2は、時間t1の約4分後の表示データの例を示している。
時間t2の表示データでは、手動運転区間Sb(=赤色表示)が現時点から約3分50秒後に走行する予定であることを示している。
運転者20は、時間t2の時点で、情報端末50の表示に基づいて、手動運転区間Sb(=赤色表示)が近づいていることを把握し、急いで作業を終えて、運転席に戻る準備を開始することができる。
なお、情報端末50にはアラーム出力機能や、バイブレーション機能を有しており、例えば、手動運転区間Sb(=赤色表示)までの残り時間が、予め規定した時間(例えば1分)になると、アラーム出力や、バイブレーション起動を行い、運転者20に警告を通知する。なおアラームやバイブレーションの起動時間は、ユーザーの設定によって変更や停止が可能である。
[2.移動装置の具体的な構成と処理例について]
次に、図8以下を参照して、本開示の自動車10に相当する移動装置の具体的な構成と処理例について説明する。
図8は、移動装置100の構成例を示している。なお、以下、移動装置100が設けられている車両を他の車両と区別する場合、自車または自車両と称する。
移動装置100は、入力部101、データ取得部102、通信部103、車内機器104、出力制御部105、出力部106、駆動系制御部107、駆動系システム108、ボディ系制御部109、ボディ系システム110、記憶部111、および、自動運転制御部112を備える。
入力部101、データ取得部102、通信部103、出力制御部105、駆動系制御部107、ボディ系制御部109、記憶部111、および、自動運転制御部112は、通信ネットワーク121を介して、相互に接続されている。通信ネットワーク121は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)、または、FlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークやバス等からなる。なお、移動装置100の各部は、通信ネットワーク121を介さずに、直接接続される場合もある。
なお、以下、移動装置100の各部が、通信ネットワーク121を介して通信を行う場合、通信ネットワーク121の記載を省略するものとする。例えば、入力部101と自動運転制御部112が、通信ネットワーク121を介して通信を行う場合、単に入力部101と自動運転制御部112が通信を行うと記載する。
入力部101は、搭乗者が各種のデータや指示等の入力に用いる装置を備える。例えば、入力部101は、タッチパネル、ボタン、マイクロフォン、スイッチ、および、レバー等の操作デバイス、並びに、音声やジェスチャ等により手動操作以外の方法で入力可能な操作デバイス等を備える。また、例えば、入力部101は、赤外線もしくはその他の電波を利用したリモートコントロール装置、または、移動装置100の操作に対応したモバイル機器もしくはウェアラブル機器等の外部接続機器であってもよい。入力部101は、搭乗者により入力されたデータや指示等に基づいて入力信号を生成し、移動装置100の各部に供給する。
データ取得部102は、移動装置100の処理に用いるデータを取得する各種のセンサ等を備え、取得したデータを、移動装置100の各部に供給する。
例えば、データ取得部102は、自車の状態等を検出するための各種のセンサを備える。具体的には、例えば、データ取得部102は、ジャイロセンサ、加速度センサ、慣性計測装置(IMU)、および、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数、モータ回転数、もしくは、車輪の回転速度等を検出するためのセンサ等を備える。
また、例えば、データ取得部102は、自車の外部の情報を検出するための各種のセンサを備える。具体的には、例えば、データ取得部102は、ToF(Time Of Flight)カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ、および、その他のカメラ等の撮像装置を備える。また、例えば、データ取得部102は、天候または気象等を検出するための環境センサ、および、自車の周囲の物体を検出するための周囲情報検出センサを備える。環境センサは、例えば、雨滴センサ、霧センサ、日照センサ、雪センサ等からなる。周囲情報検出センサは、例えば、超音波センサ、レーダ、LiDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)、ソナー等からなる。
例えば、図9は、自車の外部情報を検出するための各種のセンサの設置例を示している。撮像装置7910,7912,7914,7916,7918は、例えば、車両7900のフロントノーズ、サイドミラー、リアバンパ、バックドアおよび車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。
フロントノーズに備えられる撮像装置7910および車室内のフロントガラスの上部に備えられる撮像装置7918は、主として車両7900の前方の画像を取得する。サイドミラーに備えられる撮像装置7912,7914は、主として車両7900の側方の画像を取得する。リアバンパまたはバックドアに備えられる撮像装置7916は、主として車両7900の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像装置7918は、主として先行車両または、歩行者、障害物、信号機、交通標識または車線等の検出に用いられる。また、今後自動運転においては車両の右左折の際により広域範囲にある右左折先道路の横断歩行者やさらには横断路接近物範囲まで拡張利用をしてもよい。
なお、図9には、それぞれの撮像装置7910,7912,7914,7916の撮影範囲の一例が示されている。撮像範囲aは、フロントノーズに設けられた撮像装置7910の撮像範囲を示し、撮像範囲b,cは、それぞれサイドミラーに設けられた撮像装置7912,7914の撮像範囲を示し、撮像範囲dは、リアバンパまたはバックドアに設けられた撮像装置7916の撮像範囲を示す。例えば、撮像装置7910,7912,7914,7916で撮像された画像データが重ね合わせられることにより、車両7900を上方から見た俯瞰画像、さらには車両周辺部を湾曲平面で囲う全周囲立体表示画像などが得られる。
車両7900のフロント、リア、サイド、コーナおよび車室内のフロントガラスの上部に設けられるセンサ7920,7922,7924,7926,7928,7930は、例えば超音波センサまたはレーダであってよい。車両7900のフロントノーズ、リアバンパ、バックドアおよび車室内のフロントガラスの上部に設けられるセンサ7920,7926,7930は、例えばLiDARであってよい。これらのセンサ7920〜7930は、主として先行車両、歩行者または障害物等の検出に用いられる。これら検出結果は、さらに前記俯瞰表示や全周囲立体表示の立体物表示改善に適用をしてもよい。
図8に戻って各構成要素の説明を続ける。データ取得部102は、自車の現在位置を検出するための各種のセンサを備える。具体的には、例えば、データ取得部102は、GNSS(Global Navigation Satellite System)衛星からのGNSS信号を受信するGNSS受信機等を備える。
また、例えば、データ取得部102は、車内の情報を検出するための各種のセンサを備える。具体的には、例えば、データ取得部102は、運転者を撮像する撮像装置、運転者の生体情報を検出する生体センサ、および、車室内の音声を集音するマイクロフォン等を備える。生体センサは、例えば、座面またはステアリングホイール等に設けられ、座席に座っている搭乗者の着座状態またはステアリングホイールを握っている運転者の生体情報を検出する。生体信号としては心拍数、脈拍数、血流、呼吸、心身相関、視覚刺激、脳波、発汗状態、頭部姿勢挙動、眼、注視、瞬き、サッカード、マイクロサッカード、固視、ドリフト、凝視、虹彩の瞳孔反応など多様化可観測データが利用可能である。これら、可観測の運転状態を反映した生体活動可観測情報は、観測から推定される可観測評価値として集約し評価値のログと紐付けたられた復帰遅延時間特性から該当運転者の復帰遅延事案の固有特性として後述する安全性判別部(学習処理部)155で復帰通知タイミングの算出に用いる。
図10は、データ取得部102に含まれる車内の運転者の情報を得るための各種センサの例を示している。なお、データ取得部102は、図1に示す自動車10の運転者情報取得部12に相当する。
図10には、さらに、情報端末50に構成されるセンサの例も併せて示している。
例えば、データ取得部102は、運転者の位置、姿勢を検出するための検出器として、ToFカメラ、ステレオカメラ、シート・ストレイン・ゲージ(Seat Strain Gauge)等を備える。また、データ取得部102は、運転者の生体活動可観測情報を得るための検出器として、顔認識器(Face(Head) Recognition)、ドライバ・アイ・トラッカー(Driver Eye Tracker)、ドライバー・ヘッド・トラッカー(Driver Head Tracker)等を備える。
また、データ取得部102は、運転者の生体活動可観測情報を得るための検出器としての生体信号(Vital Signal)検出器を備えている。また、データ取得部102は、運転者認証(Driver Identification)部を備えている。なお、認証方式としては、パスワードや暗証番号などによる知識認証他、顔、指紋、瞳の虹彩、声紋などによる生体認証も考えらえる。
情報端末50は、運転者の位置を検出するための検出器として、例えばGPSセンサ等の位置センサを備えている。さらに、運転者の生体活動可観測情報を得るための検出器として、生体信号(Vital Signal)検出器、すなわち生体センサや活動量計測センサを備えている。これらのセンサは、情報端末50を装着した運転者20の状態、例えば、運転者20の動き、位置、活動量や活動履歴等を検出する。また、運転者認証(Driver Identification)部を備えている。なお、認証方式としては、パスワードや暗証番号などによる知識認証他、顔、指紋、瞳の虹彩、声紋などによる生体認証等が利用される。
なお、データ取得部102は情報端末50であるウェアラブル端末から、運転者の生体信号と活動状況等を取得することができる。また、自動車側のシステムから情報端末50に対する通知等に対する運転者の反射応答を取り込むことで、運転者のパッシブ状態モニタリングとアクティブ応答反応を取得できる。また、運転者が情報端末50を車両乗車前から装着している場合には、情報端末50が取得した乗車前の運転者状態を示すログデータを情報端末50内の記憶部に格納し、乗車後に記憶部に格納されたログデータを車両側のシステムに出力する。車両側のシステムは、情報端末50から入力する乗車前の運転者状態を示すログデータを用いて運転者の覚醒状態や機能状態を推定することが可能となる。
なお、情報端末50の検出情報は通信部を介して自動車10に送信され自動車10の記憶部に格納される。あるいはサーバ30に送信されサーバ30の記憶部に格納される。これらのデータは、運転者20の手動運転復帰に必要となる時間推定処理に摘要するための学習データとして利用される。
通信部103は、車内機器104、並びに、車外の様々な機器、サーバ、基地局等と通信を行い、移動装置100の各部から供給されるデータを送信したり、受信したデータを移動装置100の各部に供給したりする。なお、通信部103がサポートする通信プロトコルは、特に限定されるものではなく、また、通信部103が、複数の種類の通信プロトコルをサポートすることも可能である
例えば、通信部103は、無線LAN、Bluetooth(登録商標)、NFC(Near Field Communication)、または、WUSB(Wireless USB)等により、車内機器104と無線通信を行う。また、例えば、通信部103は、図示しない接続端子(および、必要であればケーブル)を介して、USB(Universal Serial Bus)、HDMI(登録商標)(High−Definition Multimedia Interface)、または、MHL(Mobile High−definition Link)等により、車内機器104と有線通信を行う。
さらに、例えば、通信部103は、基地局またはアクセスポイントを介して、外部ネットワーク(例えば、インターネット、クラウドネットワークまたは事業者固有のネットワーク)上に存在する機器(例えば、アプリケーションサーバまたは制御サーバ)との通信を行う。また、例えば、通信部103は、P2P(Peer To Peer)技術を用いて、自車の近傍に存在する端末(例えば、歩行者もしくは店舗の端末、または、MTC(Machine Type Communication)端末)との通信を行う。
さらに、例えば、通信部103は、車車間(Vehicle to Vehicle)通信、路車間(Vehicle to Infrastructure)通信、自車と家との間(Vehicle to Home)の通信、および、歩車間(Vehicle to Pedestrian)通信等のV2X通信を行う。また、例えば、通信部103は、ビーコン受信部を備え、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行規制または所要時間等の情報を取得する。なお、通信部を通して先導車両となり得る区間走行中前方走行車両とペアリングを行い、前方車搭載のデータ取得部より取得された情報を事前走行間情報として取得し、自車のデータ取得部102のデータと補完利用をしてもよく、特に先導車による隊列走行などで後続隊列のより安全性を確保する手段となる。
車内機器104は、例えば、搭乗者が有するモバイル機器(タブレット、スマートフォンなど)もしくはウェアラブル機器、自車に搬入され、もしくは取り付けられる情報機器、および、任意の目的地までの経路探索を行うナビゲーション装置等を含む。なお、自動運転の普及でかならずしも乗員は着座固定位置に固定されないことを考慮すれば、将来的にはビデオ再生器やゲーム機器やその他車両設置から着脱利用が可能な機器に拡張利用してもよい。本実施例では、運転者の介在必要地点の情報呈示を該当する運転者に限定した例をして記述をしているが、情報提供はさらに隊列走行等で後続車への情報提供をしてもよいし、更には旅客輸送相乗りバスや長距離物流商用車の運行管理センターに常時情報を上げる事で、適宜遠隔での走行支援と組み合せ利用をしてもよい。
出力制御部105は、自車の搭乗者または車外に対する各種の情報の出力を制御する。例えば、出力制御部105は、視覚情報(例えば、画像データ)および聴覚情報(例えば、音声データ)のうちの少なくとも1つを含む出力信号を生成し、出力部106に供給することにより、出力部106からの視覚情報および聴覚情報の出力を制御する。具体的には、例えば、出力制御部105は、データ取得部102の異なる撮像装置により撮像された画像データを合成して、俯瞰画像またはパノラマ画像等を生成し、生成した画像を含む出力信号を出力部106に供給する。また、例えば、出力制御部105は、衝突、接触、危険地帯への進入等の危険に対する警告音または警告メッセージ等を含む音声データを生成し、生成した音声データを含む出力信号を出力部106に供給する。
出力部106は、自車の搭乗者または車外に対して、視覚情報または聴覚情報を出力することが可能な装置を備える。例えば、出力部106は、表示装置、インストルメントパネル、オーディオスピーカ、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ、ランプ等を備える。出力部106が備える表示装置は、通常のディスプレイを有する装置以外にも、例えば、ヘッドアップディスプレイ、透過型ディスプレイ、AR(Augmented Reality)表示機能を有する装置等の運転者の視野内に視覚情報を表示する装置であってもよい。
駆動系制御部107は、各種の制御信号を生成し、駆動系システム108に供給することにより、駆動系システム108の制御を行う。また、駆動系制御部107は、必要に応じて、駆動系システム108以外の各部に制御信号を供給し、駆動系システム108の制御状態の通知等を行う。
駆動系システム108は、自車の駆動系に関わる各種の装置を備える。例えば、駆動系システム108は、内燃機関または駆動用モータ等の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、舵角を調節するステアリング機構、制動力を発生させる制動装置、ABS(Antilock Brake System)、ESC(Electronic Stability Control)、並びに、電動パワーステアリング装置等を備える。
ボディ系制御部109は、各種の制御信号を生成し、ボディ系システム110に供給することにより、ボディ系システム110の制御を行う。また、ボディ系制御部109は、必要に応じて、ボディ系システム110以外の各部に制御信号を供給し、ボディ系システム110の制御状態の通知等を行う。
ボディ系システム110は、車体に装備されたボディ系の各種の装置を備える。例えば、ボディ系システム110は、キーレスエントリシステム、スマートキーシステム、パワーウインドウ装置、パワーシート、ステアリングホイール、空調装置、および、各種ランプ(例えば、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー、フォグランプ等)等を備える。
記憶部111は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disc Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、および、光磁気記憶デバイス等を備える。記憶部111は、移動装置100の各部が用いる各種プログラムやデータ等を記憶する。例えば、記憶部111は、ダイナミックマップ等の3次元の高精度地図、高精度地図より精度が低く、広いエリアをカバーするグローバルマップ、および、自車の周囲の情報を含むローカルマップ等の地図データを記憶する。
自動運転制御部112は、自律走行または運転支援等の自動運転に関する制御を行う。具体的には、例えば、自動運転制御部112は、自車の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、自車の衝突警告、または、自車のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行う。また、例えば、自動運転制御部112は、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行う。自動運転制御部112は、検出部131、自己位置推定部132、状況分析部133、計画部134、および、動作制御部135を備える。
検出部131は、自動運転の制御に必要な各種の情報の検出を行う。検出部131は、車外情報検出部141、車内情報検出部142、および、車両状態検出部143を備える。
車外情報検出部141は、移動装置100の各部からのデータまたは信号に基づいて、自車の外部の情報の検出処理を行う。例えば、車外情報検出部141は、自車の周囲の物体の検出処理、認識処理、および、追跡処理、並びに、物体までの距離、相対速度の検出処理を行う。検出対象となる物体には、例えば、車両、人、障害物、構造物、道路、信号機、交通標識、道路標示等が含まれる。
また、例えば、車外情報検出部141は、自車の周囲の環境の検出処理を行う。検出対象となる周囲の環境には、例えば、天候、気温、湿度、明るさ、および、路面の状態等が含まれる。車外情報検出部141は、検出処理の結果を示すデータを自己位置推定部132、状況分析部133のマップ解析部151、交通ルール認識部152、および、状況認識部153、並びに、動作制御部135の緊急事態回避部171等に供給する。
車外情報検出部141が取得する情報は、走行区間が重点的に自動運転の走行が可能な区間として常時更新されたローカルダイナミックマップがインフラより供給された区間であれば、主にインフラによる情報供給を受ける事が可能となり、または該当区間を先行走行する車両や車両群より区間侵入に先立ち事前に常に情報更新を受けて走行をすることがあってもよい。また、インフラより常時最新のローカルダイナミックマップの更新が行われていない場合など、取り分け隊列走行などでより安全な侵入区間直前での道路情報を得る目的で、区間侵入先導車両から得られる道路環境情報を補完的にさらに利用しても良い。自動運転が可能である区間であるかは多くの場合、これらインフラより提供される事前情報の有無により決まる。インフラより提供されるルート上の自動運転走行可否情報はいわゆる「情報」としてあたかも見えない軌道を提供していることに等しい。なお、便宜上車外情報検出部141は自車両に搭載した前提で図示をしているが、前走車が「情報」としてとらえた情報を利用する事で、走行時の事前予測性を更に高めても良い。
車内情報検出部142は、移動装置100の各部からのデータまたは信号に基づいて、車内の情報の検出処理を行う。例えば、車内情報検出部142は、運転者の認証処理および認識処理、運転者の状態の検出処理、搭乗者の検出処理、および、車内の環境の検出処理等を行う。検出対象となる運転者の状態には、例えば、体調、覚醒度、集中度、疲労度、視線方向、眼球詳細挙動等が含まれる。
さらに、自動運転において運転者は運転操舵作業から完全に離脱した利用が将来的に想定され、運転者は一時的な居眠りや他の作業に取り掛かり、運転復帰に必要な意識の覚醒復帰がどこまで進んでいるかシステムが把握する必要が出てくる。つまり、従来考えられていたドライバモニタリングシステムでは眠気などの意識低下を見る検出手段が主であったが、今後は運転者が運転操舵に全く介在していない状態となるため、システムは運転者の運転介在度合いを操舵機器の操舵安定性等から直接的に観測する手段がなくなり、運転者の正確な意識状態が未知の状態から、運転に必要は意識復帰推移を観測し、その正確な運転者の内部覚醒状態を把握した上で操舵の自動運転から手動運転への介入譲渡を進める必要がある。
そこで、車内情報検出部142には主に大きな2段階の役割があり、一つ目の役割は自動運転中の運転者の状態のパッシブ監視であり、二つ目の役割はいざシステムより復帰の要請が出された以降、注意下運転の区間到達までに手動運転が可能なレベルまで、運転者の周辺認知、知覚、判断とさらには操舵機器の作動能力の検出判断である。制御として更に車両全体の故障自己診断を行い、その自動運転の一部機能故障で自動運転の機能低下が発生した場合も同様に運転者による早期手動運転への復帰をうながしても良い。ここでいうパッシブモニタリングとは、運転者に意識上の応答反応を求めない種類の検出手段をさし、物理的な電波や光等を機器から発信して応答信号を検出する物を除外するものではない。つまり、仮眠中など無意識下の運転者の状態モニタリングを指し、運転者の認知応答反応でない分類をパッシブ方式としている。電波や赤外線等を照射した反射や拡散信号を解析して評価するアクティブ応答デバイスを除外するものではない。反して、運転者に応答反応を求める意識的応答を求める物はアクティブとしている。
検出対象となる車内の環境には、例えば、気温、湿度、明るさ、臭い等が含まれる。車内情報検出部142は、検出処理の結果を示すデータを状況分析部133の状況認識部153、および、動作制御部135に供給する。なお、システムによる運転者へ運転復帰指示が出た後に運転者が的確な期限時間内に手動運転が達成できない事が判明し、自運転のまま減速制御を行って時間猶予をおこなっても引継ぎが間に合わないと判断された場合は、システムの緊急事態回避部171等に指示を出し、車両を退避の為に減速、退避・停車手順を開始する。つまり、初期状態として同じ間に合わない状況でも、車両を早期に減速を開始する事で引継ぎ限界に到達する到達時間を稼ぎだすことができる。
車両状態検出部143は、移動装置100の各部からのデータまたは信号に基づいて、自車の状態の検出処理を行う。検出対象となる自車の状態には、例えば、速度、加速度、舵角、異常の有無および内容、運転操作の状態、パワーシートの位置および傾き、ドアロックの状態、並びに、その他の車載機器の状態等が含まれる。車両状態検出部143は、検出処理の結果を示すデータを状況分析部133の状況認識部153、および、動作制御部135の緊急事態回避部171等に供給する。
自己位置推定部132は、車外情報検出部141、および、状況分析部133の状況認識部153等の移動装置100の各部からのデータまたは信号に基づいて、自車の位置および姿勢等の推定処理を行う。また、自己位置推定部132は、必要に応じて、自己位置の推定に用いるローカルマップ(以下、自己位置推定用マップと称する)を生成する。
自己位置推定用マップは、例えば、SLAM(Simultaneous Localization and Mapping)等の技術を用いた高精度なマップとされる。自己位置推定部132は、推定処理の結果を示すデータを状況分析部133のマップ解析部151、交通ルール認識部152、および、状況認識部153等に供給する。また、自己位置推定部132は、自己位置推定用マップを記憶部111に記憶させる。
状況分析部133は、自車および周囲の状況の分析処理を行う。状況分析部133は、マップ解析部151、交通ルール認識部152、状況認識部153、状況予測部154および安全性判別部(学習処理部)155を備える。
マップ解析部151は、自己位置推定部132および車外情報検出部141等の移動装置100の各部からのデータまたは信号を必要に応じて用いながら、記憶部111に記憶されている各種のマップの解析処理を行い、自動運転の処理に必要な情報を含むマップを構築する。マップ解析部151は、構築したマップを、交通ルール認識部152、状況認識部153、状況予測部154、並びに、計画部134のルート計画部161、行動計画部162、および、動作計画部163等に供給する。
交通ルール認識部152は、自己位置推定部132、車外情報検出部141、および、マップ解析部151等の移動装置100の各部からのデータまたは信号に基づいて、自車の周囲の交通ルールの認識処理を行う。この認識処理により、例えば、自車の周囲の信号の位置および状態、自車の周囲の交通規制の内容、並びに、走行可能な車線等が認識される。交通ルール認識部152は、認識処理の結果を示すデータを状況予測部154等に供給する。
状況認識部153は、自己位置推定部132、車外情報検出部141、車内情報検出部142、車両状態検出部143、および、マップ解析部151等の移動装置100の各部からのデータまたは信号に基づいて、自車に関する状況の認識処理を行う。例えば、状況認識部153は、自車の状況、自車の周囲の状況、および、自車の運転者の状況等の認識処理を行う。また、状況認識部153は、必要に応じて、自車の周囲の状況の認識に用いるローカルマップ(以下、状況認識用マップと称する)を生成する。状況認識用マップは、例えば、占有格子地図(Occupancy Grid Map)とされる。
認識対象となる自車の状況には、例えば、自車の位置、姿勢、動き(例えば、速度、加速度、移動方向等)、並びに、自車の運動特性を決定付ける貨物積載量や貨物積載に伴う車体の重心移動、タイヤ圧、ブレーキ制動パッド摩耗状況に伴う制動距離移動、積載物制動に引き起こす貨物移動防止の許容最大減速制動、液体搭載物に伴うカーブ走行時の遠心緩和限界速度など車両特有、更には積載貨物特有条件とさらには路面の摩擦係数や道路カーブや勾配など、全く同じ道路環境であっても車両自体の特性、さらには積載物等によっても制御に求められる復帰開始タイミングは異なるため、それら多様な条件の収集を行い学習して制御を行う最適タイミングに反映する必要がある。車両の種類や積載物によって制御タイミングを決定する上で単純に自車両の異常の有無および内容等を観測モニタリングすれば良い内容ではない。運送輸送業などで、積載物固有の特性に応じて一定の安全性を確保する為に望ましい復帰の猶予時間の加算を決めるパラメータを予め固定値として設定をしてもよく、必ずしも全ての通知タイミング決定条件を自己累積学習より一律に定める方法をとらなくともよい。
認識対象となる自車の周囲の状況には、例えば、周囲の静止物体の種類および位置、周囲の動物体の種類、位置および動き(例えば、速度、加速度、移動方向等)、周囲の道路の構成および路面の状態、並びに、周囲の天候、気温、湿度、および、明るさ等が含まれる。認識対象となる運転者の状態には、例えば、体調、覚醒度、集中度、疲労度、視線の動き、並びに、運転操作等が含まれる。車両を安全に走行させるという事は、その車両の固有の状態で搭載している積載量や搭載部の車台固定状態、重心の偏重状態、最大減速可能加速値、最大負荷可能遠心力、運転者の状態に応じて復帰応答遅延量などに応じて、対処が求められる制御開始ポイントが大きく異なってくる。
状況認識部153は、認識処理の結果を示すデータ(必要に応じて、状況認識用マップを含む)を自己位置推定部132および状況予測部154等に供給する。また、状況認識部153は、状況認識用マップを記憶部111に記憶させる。
状況予測部154は、マップ解析部151、交通ルール認識部152および状況認識部153等の移動装置100の各部からのデータまたは信号に基づいて、自車に関する状況の予測処理を行う。例えば、状況予測部154は、自車の状況、自車の周囲の状況、および、運転者の状況等の予測処理を行う。
予測対象となる自車の状況には、例えば、自車の挙動、異常の発生、および、走行可能距離等が含まれる。予測対象となる自車の周囲の状況には、例えば、自車の周囲の動物体の挙動、信号の状態の変化、および、天候等の環境の変化とその結果として発生する路面の凍結や積雪や濡れ、砂の堆積等が含まれる。予測対象となる運転者の状況には、例えば、運転者の挙動および運転操舵特性に影響を及ぼし得る体調等が含まれる。
状況予測部154は、予測処理の結果を示すデータを、交通ルール認識部152および状況認識部153からのデータとともに、計画部134のルート計画部161、行動計画部162、および、動作計画部163等に供給する。
安全性判別部(学習処理部)155は、運転者の復帰行動パターンや車両特性等に応じた最適復帰タイミングを学習する学習処理部としての機能を有し、学習情報を状況認識部153等に提供する。これにより、例えば、既定された一定以上の割合で運転者が正常に自動運転から手動運転に復帰するのに要する統計的に求められた最適タイミングを運転者へ提示することが可能となる。
ルート計画部161は、マップ解析部151および状況予測部154等の移動装置100の各部からのデータまたは信号に基づいて、目的地までのルートを計画する。例えば、ルート計画部161は、グローバルマップに基づいて、現在位置から指定された目的地までのルートを設定する。また、例えば、ルート計画部161は、渋滞、事故、通行規制、工事等の状況、および、運転者の体調等に基づいて、適宜ルートを変更する。ルート計画部161は、計画したルートを示すデータを行動計画部162等に供給する。
行動計画部162は、マップ解析部151および状況予測部154等の移動装置100の各部からのデータまたは信号に基づいて、ルート計画部161により計画されたルートを計画された時間内で安全に走行するための自車の行動を計画する。例えば、行動計画部162は、発進、停止、進行方向(例えば、前進、後退、左折、右折、方向転換等)、走行車線、走行速度、および、追い越し等の計画を行う。行動計画部162は、計画した自車の行動を示すデータを動作計画部163等に供給する
動作計画部163は、マップ解析部151および状況予測部154等の移動装置100の各部からのデータまたは信号に基づいて、行動計画部162により計画された行動を実現するための自車の動作を計画する。例えば、動作計画部163は、加速、減速、および、走行軌道等の計画を行う。動作計画部163は、計画した自車の動作を示すデータを、動作制御部135の加減速制御部172および方向制御部173等に供給する。
動作制御部135は、自車の動作の制御を行う。動作制御部135は、緊急事態回避部171、加減速制御部172、および、方向制御部173を備える。
緊急事態回避部171は、車外情報検出部141、車内情報検出部142、および、車両状態検出部143の検出結果に基づいて、衝突、接触、危険地帯への進入、運転者の異常、車両の異常等の緊急事態の検出処理を行う。緊急事態回避部171は、緊急事態の発生を検出した場合、急停車や急旋回等の緊急事態を回避するための自車の動作を計画する。緊急事態回避部171は、計画した自車の動作を示すデータを加減速制御部172および方向制御部173等に供給する。
加減速制御部172は、動作計画部163または緊急事態回避部171により計画された自車の動作を実現するための加減速制御を行う。例えば、加減速制御部172は、計画された加速、減速、または、急停車を実現するための駆動力発生装置または制動装置の制御目標値を演算し、演算した制御目標値を示す制御指令を駆動系制御部107に供給する。なお、緊急事態が発生し得るケースは主に2つある。つまり、自動運転中の走行ルートで本来ならインフラより取得したローカルダイナミックマップ等で安全とされていた道路を自動運転中に突発的な理由で予想外の事故が発生し、緊急復帰が間に合わないケースと、自動運転から手動運転に運転者が的確に復帰することが困難になるケースがある。
方向制御部173は、動作計画部163または緊急事態回避部171により計画された自車の動作を実現するための方向制御を行う。例えば、方向制御部173は、動作計画部163または緊急事態回避部171により計画された走行軌道または急旋回を実現するためのステアリング機構の制御目標値を演算し、演算した制御目標値を示す制御指令を駆動系制御部107に供給する。
[3.自動運転モードから手動運転モードへのモード切り替えシーケンスについて]
次に、自動運転モードから手動運転モードへの引継ぎシーケンスについて説明する。
図11は、自動運転制御部112における自動運転モードから手動運転モードへのモード切り替えシーケンスの一例を概略的に示している。
ステップS1は、運転者が運転操舵から完全離脱の状態にある。この状態で、運転者は、例えば、仮眠、あるいはビデオ鑑賞、ゲームに集中、タブレット、スマートフォン等の視覚ツールを用いた作業などの2次タスクを実行できる。タブレット、スマートフォン等の視覚ツールを用いた作業は、例えば、運転席をずらした状態で、あるいは運転席とは別の席で行うことも考えられる。
これら運転者の状態次第では、ルート上の手動運転復帰が求められる区間に接近した際に、運転者が復帰するまでの時間はその時々の作業内容により大きく変動する事が想定され、事象接近の直前の通知では復帰までに時間が不足したり、事象接近に対して余裕をみたあまりにも早めに通知をした場合、実際に復帰に必要なタイミングまでの時間が長く空き過ぎたりすることが発生する。その結果、的確なタイミングで通知が行われない状況が繰り返し起こると、運転者はシステムの通知タイミングに対するタイミングの信頼性が失われ、通知に対する意識が低下して、結果的に運転者の的確な対処がおろそかになる、その結果、引き継が上手く行われないリスクが高まると同時に、安心した2次タスク実行の阻害要因にもなる。そこで、運転者が通知に対する的確な運転復帰の対処を開始するには、通知タイミングの最適化をシステムが行う必要がある。
ステップS2は、先に図2や図5〜図7を参照して説明したような手動運転復帰要求通知のタイミングである。運転者に対して、振動などの動的なパプティックスや視覚的あるいは聴覚的に運転復帰が通知される。自動運転制御部112では、例えば、運転者の定常状態がモニタリングされて、通知を出すタイミングを把握され、適宜なタイミングで通知がなされる。つまり、前段のパッシブモニタリング期間で運転者の2次タスクの実行状態が常時パッシブにモニタリングされ、通知の最適タイミングをシステムは算出する事ができ、ステップS1の期間のパッシブモニタリングを常時継続的に行って、復帰タイミングと復帰通知は、運転者の固有復帰特性に合わせ行うのが望ましい。
つまり、運転者の復帰行動パターンや車両特性等に応じた最適復帰タイミング学習して、既定された一定以上の割合で運転者が正常に自動運転から手動運転に復帰するのに要する統計的に求めた最適タイミングを運転者へ提示するのが望ましい。この場合、通知に対して運転者が一定時間の間に応答しなかった場合には、アラームの鳴動などによる警告がなされる。
ステップS3では、運転者が、着座復帰したか確認される。ステップS4では、顔やサッケード等の眼球挙動解析により、運転者の内部覚醒度状態が確認される。ステップS5では、運転者の実操舵状況の安定度がモニタリングされる。そして、ステップS6では、自動運転から手動運転への引継ぎが完了した状態となる。
図12は、自動運転から手動運転への引継ぎシーケンスのさらに詳細な例を示している。ステップS11では、先に説明した情報端末50、あるいはタブレット、スマートフォン等の視覚ツールへ復帰ポイントの予測が視覚的に提示される。ただし、表示はこれら視覚ツールに限定をする必要はなく例えば車両のセンターインフォメーションディスプレイなど、運転から離脱運転者の2次タスク実行中の視野に入る表示形態が望ましいい。詳細は、後述するが、前方予定と接近情報の提示がなされ、復帰ポイントは時間経過とともに自車に迫ってくるように表示される。
ステップS12では、道路環境情報、例えば車両が走行する道路の走行地図情報を高密度で且つ常時更新するいわゆるローカルダイナミックマップ(LDM:Local Dynamic Map)の更新等によって、前方予定と接近情報の提示内容が適宜変更される。また、このステップS12では、運転者の状態が定期的にモニタリングされる。
ステップS13では、運転者の装着した情報端末50に、現在地点から一定時間内に入った復帰ポイント(自動運転から手動運転への復帰ポイント)までの時間が確認可能な表示がなされる。例えば、図6、図7を参照して説明した例である。さらに、手動運転開始位置までの時間が所定時間内になったときには、図5を参照して説明した手動運転復帰を要求する通知表示がなされる。この通知の発行タイミングは、この前段で定期的モニタリングしていた検出結果に応じて、つまり運転者が仮眠や2次タスクによる運転からの離脱の深さに応じて早く実行する事で復帰が間に合うように調整される。
ステップS14では、運転者が通知に対して無反応であれば、目覚め用のアラームを鳴らすようにされる。ステップS15では、運転席に不着座であれば、運転者に対して、視覚的あるいは聴覚的に復帰するように通知される。ステップS16では、着座の復帰遅れがある場合、警報用のアラームが鳴動される。ステップS17では、例えば、運転者が、前方確認の指差し合図が、復帰開始としてモニタリングされる。
ステップS18では、着座姿勢が確認される。ステップS19では、例えば視線詳細解析等の手段を用いて運転者の脳内内部知覚状態の回復を検出するためにサッケードや固視と言った知覚反射等による運転者の内部覚醒度が判定される。ステップS20では、運転者に運転操舵権限を順次委ね、その実操舵反応の応答操舵状況を観測しながら操舵を委ね、その操舵安定度がモニタリングされる。
この安定度をモニタリング観測した結果、万が一運転者が期待される程度に主体的運転操舵復帰が検出されない場合は、まだ夢見状態の延長であったりするリスクをはらむ事を意味する。そこでステップS21では、正常復帰不可能と見込まれたら、緊急引き継ぎが失敗したものとされ、減速徐行退避シーケンスが開始される。なお、各ステップでの詳細の説明は割愛しているが、一旦通知を運転者に行い、その後の復帰推移をモニタリング継続的に大なっている途中の各工程で、運転者の復帰推移が想定復帰時間より時間を要し、復帰猶予時間の枯渇リスクがあると推定される場合には、減速を段階的に開始してもよい。実際の減速量は、自車両の減速に伴う影響も考慮して影響の最適化判断の元で決定する。
これら復帰に掛る時間的推移は、運転者の年齢や経験、疲労度など様々な要因で変わるため、個人に応じた復帰タイミングで定まる。運転者が自動運転から手動運転に復帰を求められた場合、ほぼ確実に手動運転に復帰出来るには少なくとも一定の時間を要する。車両特性や道路特性、更には個人の運転復帰特性に応じた最適タイミング通知を行う構成がもっとも望ましく、引き継ぎ点の接近状況が連動して表示される事で運転者は安心をして2次タスクを許容状況に応じて利用できる利便性を得ると同時に、緊張とリラックス状態の一方が交互に出現する事から人間工学的にみて利用者は適宜必要な区間毎に注意復帰が実現して好適な利用に繋がる。言い換えれば、不必要な連続的な注意緊張状態から解放されるため、従来の一定の高い注意下での走行を長期間継続的に求める自動運転から、中程度の注意下での走行を許容することで、運転者の眠気や注意散漫の誘発を低減することが可能となる。
これら手順の最大の効果は、利用者における緊張と緩和状態での2次タスクのバランスを取り得ることにある。従来の位置に基づく一律の通知を行う通知方法では、実際の引き継ぎタイミングは運転者の感覚で予測するしかなく、運転者は、いつ引き継ぎ要請があるかを気にしながら常に緊張状態を持続する必要があり、神経が疲れて結果的に途中から眠気などで注意散漫状態に推移してしまうリスクがあった。それに対し、本開示方法による状況適用した引き継ぎタイミング通知では、運転者の継続的な緊張・注意状態を適宜、区間に応じて低減できるという効果がある。なお、その効果を最大化するには、長距離に跨り運転者介在を要しない区間であっても、旅程の途中でダミーの復帰要請イベントを適宜発生することが好ましい。運転者によるダミーイベントへの復帰度合いに応じて運手者の復帰レベル評価と運転者の適性反応評価を行い、その都度発生する復帰度合い評価値の記録保存を更に行ってもよい。このダミーイベントによる運転者のアクティブ応答評価は、特に運転者が深い睡眠まで行くと対応が困難となるルート区間の事象発生率が高い区間を通過する際に行うことが好ましい。また、数十秒程度の比較的短期の復帰が可能な状態の2次タスクであれば支障がない区間の通過時や、運転者が荷台などでの離席作業の際に運転者の状態モニタリングを正確に行う時に実行してもよい。または単にパッシブ部信号の検出時に、システムが運転者状態を見失った際に補完的に運転者状態を観測する為に実行してもよい。
[4.自動運転の動作シーケンス例について]
次に、図13に示すフローチャートを参照して、自動運転の動作シーケンスの一例について説明する。
図13に示すフローチャートは、移動装置100の実行する自動運転の動作シーケンスを説明するフローチャートである。
まず、ステップS21において、運転者認証が行われる。この運転者認証は、パスワードや暗証番号などによる知識認証、あるいは顔、指紋、瞳の虹彩、声紋などによる生体認証、さらには知識認証と生体認証が併用されて行われる。このように運転者認証が行われることで、複数の運転者が同一の車両を運転する場合であっても、各運転者に対応付けて通知タイミングを決定するための情報選定とその蓄積を行うことが可能となる。
次に、ステップS22において、運転者により入力部101が操作されて、目的地が設定される。この場合、インスツルメンツパネルの表示に基づいて運転者の入力操作が行われる。
なお、本実施例としては車両に乗車して旅程設定を想定した場合の事例を説明しているが、車両に乗車する前に事前にスマートフォンや自宅や配送センターを出る前にパソコンや専用端末等より遠隔事前予約設定などを行ってもよく、さらにはスケジュール表に則って車のシステムが運転者の想定したスケジュールに沿ってプリプラニング設定を行い、道路環境のLDM情報、すなわち車両が走行する道路の走行地図情報を高密度で且つ常時更新するいわゆるローカルダイナミックマップ(LDM)情報などを更新取得して乗車時やその前にでもコンシエルジュ的に実際の走行アドバイス表示などをさらに行ってもよい。
次に、ステップS23において、走行ルート上の走行区間表示が開始される。この走行区間表示は、インスツルメンツパネルに表示される他、例えば、運転者が2次タスクを行うタブレット等にも作業ウインドウと並べて表示される。これにより、作業ウインドウで作業を行っている運転者は、走行ルートの運転者介在必要区間および自動運転可能区間を現在地点からの到達予測時間軸で容易に認識可能となる。
この走行区間表示では、前方予定と各地点への接近情報の提示がなされる。この走行区間表示においては、走行ルートの運転者介在必要区間および自動運転可能区間が、現在地点からの到達予測時間軸で表示される。そして、運転者介在必要区間には、手動運転区間、自動運転から手動運転への引継ぎ区間および自動運転からの注意走行区間が含まれる。この走行区間表示の詳細については、後述する。
次に、ステップS24において、LDM更新情報の取得が開始される。このLDM更新情報の取得に伴って、走行区間表示の内容を最新の状態に変更可能となる。次に、ステップS25において、走行が開始される。次に、ステップS26において、自車の位置情報と取得LDM更新情報に基づいて、走行区間表示の表示が更新されていく。例えば情報端末50に対して先に図6、図7を参照して説明した区間情報表示がなされる。
次に、ステップS27において、運転者状態のモニタリングがされる。次に、ステップS28において、事象変化対応処理が行われる。この事象変化対応処理には、走行ルート中に既に存在している自動運転モードと手動運転モードとの切り替え地点あるいは注意走行区間が迫ってきた場合に対応するためのモード切り替え処理、走行ルート中にモード切り替え地点あるいは注意走行区間の運転者介在必要区間が新たに発生した場合に対応するための事象発生処理などが含まれる。以降、ステップS26からステップS28の処理が適宜繰り返される。事象変化がある場合は、ステップS28にて対処が行える為、詳細は後述する。
「走行区間表示の詳細」
図14は、運転者により目的地が設定されることで決定された走行ルートの一例を示している。走行ルートには、少なくとも、自動運転区間Saと、手動運転区間Sbが設定される。さらに、図14に示す例は反時計回りの走行をルートを想定した場合の、自動運転から手動運転への引継ぎ区間Scと、自動運転からの注意走行区間Sdが設定された構成を示している。これらの走行区間情報は、ローカルダイナミックマップ(LDM)に記録された情報に基づき自車両の運行特性に合わせて運転車両に提示される引き継ぎ地点当の情報である。
ここで、引継ぎ区間Scは手動運転区間Sbの直前に存在し、運転者は手動運転への復帰体勢にあることが必要となる。また、注意走行区間Sdは、手動運転への復帰体勢にある運転者の注意監視下において自動運転のまま減速して走行が可能な区間である。比較的、広範囲の地図情報の提示では必ずしも復帰通知地点の表示は適切でなく、選択的な表示を行うようにしてもよい。理由は、通知タイミングがその時々の運転で取り得る2次タスクで変動するためである。
図示の例において、自動運転区間Saは緑色で示され、手動運転区間Sbは赤色で示され、引継ぎ区間Scおよび注意走行区間Sdは黄色で示されている。なお、便宜上、各色は別々の模様で表している。
図6、図7を参照して説明したように、情報端末50、あるいは自動車10のディスプレイや、タブレットには、この区間情報が表示される。先に図6、図7を参照して説明したように、情報端末50等の表示デバイスには、走行ルート上の各区間を現在地点からの到達予測時間軸に併せて表示される。図1に示す自動車10のデータ処理部11、具体的には、図8に示す移動装置100の自動運転制御部112は、走行ルート情報および交通情報に基づいて走行ルートにおける走行区間表示のための各区間の到達推定時間の算出を行う。この算出データは通信部を介して情報端末50に送信される。情報端末50は受信データに基づいて、例えば、先に図6、図7を参照して説明したデータ表示を行う。
情報端末50に表示されるデータの詳細について、図15を参照して説明する。図15には、自動車の走行ルートを直線状に変換して示している。
図15(a)は、走行ルートの各区間を現在地点からの移動距離軸で一定のスケールで表している。図15(b)は、各地点における平均的な車両の流れ速度v(t)を表している。この図15(b)のデータはローカルダイナミックマップ(LDM)配信サーバの配信するLDMを自動車10が受信することで取得できる。図15(c)は、移動距離軸で表されている各区間を、速度v(t)を用いて時間軸に変換したものである。図1に示す自動車10のデータ処理部11は図15に示す(a),(b)のデータから(c)のデータを生成する。これにより、走行ルートの各区間は、現在地点からの到達予測時間軸で表されるものとなる。つまり、走行ルートの物理的距離を該当区間毎の平均速度で除算した時間軸で表す事が出来る。自動車10のデータ処理部11は、この生成データを、通信部を介して情報端末50に送信する。情報端末50は受信データに基づいて、例えば、先に図6、図7を参照して説明したデータ表示を行う。
先に図6、図7を参照して説明した情報端末50の表示データは、図15(c)に示すデータを、円グラフにデータ変換して情報端末50の時間軸(360度=10分)に対応させて表示したデータとなる。
図15(c)のデータと、情報端末50の表示データとの対応関係例を図16に示す。図16に示すようにデータ(c)の時間軸上の0〜10(分)のデータを円グラフにデータ変換して情報端末50の時間軸(360度=10分)に対応させて表示したデータが図16に示す情報端末50の表示データとなる。
運転者20は、この情報端末50の表示データを見ることで、手動運転区間までの残り時間を把握することができる。情報端末50は運転者20の腕に装着されるウェアラブル端末であるので、運転者20が運転席を離れて作業中であっても、常に手動運転区間までの残り時間を確認することができる。また、先に説明したように、情報端末50にはアラーム出力機能や、バイブレーション機能を有しており、例えば、手動運転区間Sb(=赤色表示)までの残り時間が、予め規定した時間(例えば1分)になると、アラーム出力や、バイブレーション起動を行い、運転者20に警告を通知する。アラームや通知の最適な実施時間については後述する。まず、固定値で行う場合について説明する。なお、警告出力時には、情報端末50の表示を先に図5を参照して説明した手動運転への切り替え通知画面に切り替えてもよい。ただし切り替えを行うと、手動運転区間までの残り時間の確認ができなくなるので、切り替え通知の半透明表示や、一部の表示領域に残り時間の表示を残して表示する等の処理を行うのが好ましい。なおアラームやバイブレーション、表示切り替え処理や、タイミングは、ユーザーの設定によって変更、停止も可能である。
情報端末50の表示部は、図16に示す表示の他、例えば図17に示す表示を行う構成としてもよい。図17に示す情報端末50の表示例は、情報端末50の表示部の内周に現時点から0〜10分の道路区間情報(自動運転区間、手動運転区間等)を表示し、外周部に現時点またはその後に続く時点から0〜60分の道路区間情報(自動運転区間、手動運転区間等)を表示した表示構成である。この表示を行うことで、運転者20は、現時点から0〜10分の道路区間情報に加えて、現時点から0〜60分の道路区間情報を視覚的にかつ直感的に知ることが可能となる。
さらに、図18に示す表示を行う構成としてもよい。図18に示す情報端末50の表示例は、情報端末50の表示部の最内周に現時点から0〜10分の道路区間情報(自動運転区間、手動運転区間等)を表示し、その外側の第2内周部に現時点から0〜60分の道路区間情報(自動運転区間、手動運転区間等)を表示し、さらにその外側の外周部に現時点から0〜240分の道路区間情報(自動運転区間、手動運転区間等)を表示した表示構成である。この表示を行うことで、運転者20は、現時点から0〜10分の道路区間情報に加えて、0〜60分、0〜240分の道路区間情報を知ることが可能となる。これらの複数の時間軸を利用した表示処理により、運転者は俯瞰的に復帰すべきタイミングを知る事ができ、行動計画が容易になる。また、脳が理解する情報が多次元的となり、各区間の到達時刻や、介在重要性、介在期間、介在地点の途中分布などの多次元的な情報の理解が容易となる。
[5.本開示の移動装置、情報処理装置(情報端末)の実行する処理のシーケンスについて]
次に、本開示の移動装置、情報処理装置(情報端末)の実行する処理のシーケンスについて説明する。
図19に示すフローチャートは、本開示の移動装置である自動車が、自動運転モードから手動運転モードへ切り替える際に実行する処理のシーケンスの一例を説明するフローチャートである。
ステップS41において、移動装置は、自動運転モードから手動運転モードへの切り替え要求の発生事象を観測する。
この観測情報は、ローカルダイナミックマップ(LDM)配信サーバが自動車に配信する道路環境情報等を保持するローカルダイナミックマップ(LDM)から取得される情報である。すなわち車両が走行する道路の走行地図情報を高密度で且つ常時更新するいわゆるローカルダイナミックマップ(LDM)情報に基づいて取得される。
具体例として、例えば、LDMに基づいて、高速道路から一般道への侵入が開始される予定が取得された場合、自動運転モードから手動運転モードへの切り替え要求の発生事象であると判定する。
次に、ステップS42において、観測値を取得する。この観測値取得処理は、例えば、図1に示す自動車10の運転者情報取得部12、環境情報取得部13、さらに、情報端末50の生体センサ(図10参照)等を用いて行われる。なお、自動車10の情報端末50は、常時、あるいは間欠的に通信を実行し、双方の装置において必要となる情報の送受信を行っている。
自動車10の運転者情報取得部12は、カメラや様々なセンサによって構成され、運転者の情報、例えば運転者の覚醒度を判定するための情報を取得する。例えば眼球領域を含む画像から取得した視線方向、眼球挙動、瞳孔径、顔領域を含む画像から取得した顔の表情などである。運転者情報取得部12は、さらに、運転者の各操作部(ハンドル、アクセル、ブレーキ等)の操作情報も取得する。
環境情報取得部13は、例えば移動装置に設置された撮像部による画像、奥行き情報、3次元構造情報、移動体に設置されたLiDAR等のセンサによる地形情報、GPSによる位置情報、さらに、信号器の状態、標識の情報など、道路等のインフラストラクチャーに設置された通信機器からの情報などを取得する。
次に、ステップS43において、取得された観測値に基づいて、手動運転復帰可能時間を算出する。
この処理は、図1に示すデータ処理部11の実行する処理である。
図1に示すデータ処理部11は、運転者情報取得部12の取得した運転者情報と、環境情報取得部13の取得した環境情報、さらに、情報端末50の取得した運転者の位置、生体情報等を入力する。さらに、データ処理部11(図8に示す安全性判別部(学習処理部)155における運転者対応の学習結果、あるいは外部サーバ30から取得した運転者対応の学習結果を利用し、現在の運転者情報と環境情報に基づいて、安全な手動運転復帰までに必要となる時間(=手動運転復帰可能時間)を推定する。
なお、安全な手動運転復帰までに必要となる時間(=手動運転復帰可能時間)の推定処理に際しては、情報端末50の取得した運転者の位置も考慮する。すなわち運転者20が運転席から離れた位置、例えば荷物室21にいる場合は、運転席に戻るまでの時間を考慮して時間算出を行う。
図1に示す自動車10のデータ処理部11(図8に示す安全性判別部(学習処理部)155)における運転者対応の学習結果、あるいは外部サーバ30から取得した運転者対応の学習結果は、過去の運転者の運転時のデータに基づく学習データであり、自動車10の記憶部、またはサーバ30の記憶部に格納されている。適用する学習の手法としては、例えばSupport Vector Machine, Boosting, Convolutional Neural Network, Deep Belief Network, Long Short-Term Memory などが考えられる。
図1に示す自動車10のデータ処理部11(図8に示す安全性判別部(学習処理部)155)は、学習データと、入力データ(運転者情報、環境情報)を用いて、安全な手動運転復帰までに必要となる時間(=手動運転復帰可能時間)を推定する。
なお、手動運転復帰可能時間の推定処理に際して利用する学習器は、運転者毎、あるいは自動運転実行中の2次タスクの種類を観測情報に含めた設定とすることも可能である。
この場合、現在運転している運転者の個人識別情報と、現在実行中の2次タスクの種類の情報を観測情報として利用した処理(手動運転復帰可能時間推定処理)が行われる。
図20(a)は、観測値に相当する可観測評価値と復帰遅延時間(=手動運転復帰可能時間)の複数の関係情報(観測プロット)の分布の一例を示している。この例は、ある運転者のある2次タスクの種類に対応したものである。この複数の関係情報(観測プロット)から復帰遅延時間を算出するために、取得された観測値に対応した評価値方向に一定の幅を持つ領域(破線矩形枠で示している)内の関係情報(観測プロット)を抽出する。図中の点線cは、後述の図20(b)の復帰成功率が0.95となる復帰遅延時間を、運転者の異なる観測値で観測した際の境界線を表している。
点線cより長い、つまり早い猶予時間で運転者に自動から手動の復帰通知や警報を出す事により、運転者の自動から手動復帰が、0.95以上の割合で成功する事が担保される領域となる。なお、該当する区間毎に自動運転から手動運転に運転者が正常に復帰する目標値(Request for Recovery Ratio)は、例えば、道路側によりインフラの必要性から定められ、個別の区間通過車両に提供される。
なお、走行道路に車両が停車しても周囲へ阻害要因とならないケースであれば、車両を停車してシステムが対処できる速度まで減速して対処をすればよい。通常なら走行道路での停車は必ずしも好ましいケースは多くないため、デフォルト設定として高い復帰率が望ましく、特に首都高速道路などの特定ルートでは敢えてインフラより更新情報が与えられなくとも極めて高い復帰成功率がデフォルトで求められるケースもある。
図20(b)は、抽出された複数の関係情報(観測プロット)で得られる復帰遅延時間と復帰成功率との関係を示している。ここで、曲線aは各復帰遅延時間における単独成功率を示し、曲線bは各復帰遅延時間における累積成功率を示している。この場合、曲線bに基づいて、所定の割合の成功率、図示の例においては成功率が0.95となるように、復帰遅延時間t1が算出される。
この算出処理は、図1に示す自動車10のデータ処理部11(図8に示す安全性判別部(学習処理部)155)において実行される。例えば、記憶部に格納されている過去に取得された可観測評価値と復帰遅延時間の複数の関係情報(観測プロット)の分布情報を利用して算出される。
図21は、自動運転モードにおいて運転者が、運転操舵作業から離脱状態にある時に実行している処理(2次タスク)の種類に応じた手動運転復帰可能時間について説明する図である。
個々の分布プロファイルが、図20(b)で示す、観測値、すなわち運転者状態に基づいて予測される曲線aに相当する。つまり、必要な復帰確率で自動運転から手動運転に引き継ぎ点で完了するためには、各段階で検出される運転者の覚醒度合いを評価可能な観測値から、運転者が復帰に要する過去の特性を参照してそのプロファイル(図20(b)の復帰成功率プロファイル)が所望の値となる時刻t1を元に実際に復帰に必要な状態に各復帰段階で達しているかを引き継ぎが完了するまでモニタリングして行く。
例えば、仮眠している場合の初期曲線は、自動運転で仮眠期間中にパッシブモニタリングしていた呼吸や脈波等の観測情報から睡眠レベルを推測し、覚醒警報発報後に該当運転者の復帰遅延特性を見た累計の平均的分布となる。目が覚めてその後の移動復帰手順中で観測された運転者状態に応じて、途中の各分布は決まっていく。図に示す「6.仮眠している場合」を観測して覚醒警報が間に合う右のタイミングが決定し、その後の途中行程は予測中間点の可観測運転者状態評価値から予測される復帰バジェットの中での復帰時間分布となる。
途中途中で、引き継まで順次減っていく残存引き継ぎ限界タイムリミットに違反しない事を観測し続け、違反リスクがある場合は、減速して時間猶予生成などを行う。なお、例えば「6.仮眠している場合」、「5.着座」のステップが無い中で、「4.非運転姿勢イレギュラー回転着座」からスタートする復帰の際の分布は、初めの状況認知把握から復帰のプロセスが開始されるので、同じ項目でも「6.仮眠している場合」から始めた途中経過としての状態「4.非運転姿勢イレギュラー回転着座」姿勢は同じになっても思考過程が復帰意識過程にあり、初めから「4.非運転姿勢イレギュラー回転着座」姿勢で状況認知から開始する場合には、状況認知の時間を要するために長くなる。
なお、現在運転している運転者の可観測評価値と復帰遅延時間との関係情報が記憶部に十分に蓄積されていない場合もある。その場合には、記憶部には例えば同年代の運転者人口から収集された情報に基づき生成された復帰特性情報として、予め備えた復帰の想定分布情報として利用して、復帰遅延時間t1の算出を行うことができる。この復帰情報は、運転者固有特性がまだ十分に学習されていないため、その情報を元に同一の復帰確率で利用しても良く、またはより高い復帰成功率を設定しても良い。なお、人間工学的に見て不慣れな利用者はより慎重になる事から利用初期に早期の復帰が見込まれ、利用に慣れるに従いシステムの通知に合わせた行動に運転者自身が適合していく。なお、多数の車両を運行する物流業、バスやタクシーなどの運行業、更にはシェアリングカーやレンタル自動車で異なる車両を利用する場合、運転者の個人認証を行い遠隔サーバ等で運転の可観測情報と復帰特性を集中または分散して管理や学習し、個別車両に必ずしも復帰特性のデータを保持せず、遠隔学習処理や保持をしても良い。
また、通知タイミングが重要となる事から、復帰成功率は一律の成否までの時間として説明をしているが、自動運転から手動運転の成否を2値的な成否に限定せず、復帰引き継ぎ品質に拡張した判別を更に行っても良い。つまり、実際の復帰確認に至る
復帰手順推移の遅延時間、通知に対する復帰開始遅延、途中復帰動作における停滞など、許された時間内での復帰であって復帰品質評価値として学習器へ更に入力をしてもよい。
図19に戻ってフローの説明を続ける。ステップS44において、ステップS43で算出された復帰遅延時間で決まる通知タイミング、つまり引継ぎ対象事象(自動運転から手動運転への引継ぎ区間や自動運転からの注意走行区間)が復帰遅延時間に迫ってきたタイミングで、運転者に運転復帰するように促すための通知を実行する。この通知は、例えば先に図2を参照して説明したような表示処理、また図5を参照して説明した情報端末50に対する表示処理として実行される。さらに音声やアラーム出力、さらにハンドルやシート、情報他端末50等のバイブレーションとして実行してもよい。例えば、運転者が仮眠している場合には、運転者が寝ている状態から起こすための通知方法が選択される。
上述したように、移動装置(自動車10)は、運転者の覚醒度、または位置の少なくともいずれかの情報に基づいて、手動運転復帰要求通知の通知タイミングを決定して、決定した通知タイミング情報を情報端末50に送信する。なお、車両の状態や積載物等により影響される安全性係数も考慮して通知タイミングを決定してもよい。情報端末50は、移動装置から受信した通知タイミングにおいて手動運転復帰要求通知を実行する。すなわち、情報端末50は、移動装置が決定した通知タイミングにおいて、先に図5を参照して説明した表示処理、あるいはアラーム出力、またはバイブレーション起動の少なくともいずれかの処理を実行する。
次に、ステップS45において、運転者の復帰推移をモニタリングする。そして、ステップS46において、ステップS45におけるモニタリング結果に基づいて、復帰遅延時間内に運転復帰可能か否かが判断される。運転復帰が可能であると判断されるとき、ステップS47において、運転者の運転復帰が行われる。その後、ステップS48において、学習データの更新が行われる。つまり、上述の運転復帰がなされたときの初期の運転者の2次タスクの種類に関して可観測評価値と実際の復帰遅延時間の関係情報(観測プロット)のサンプル値が1つ追加される。その後、処理が終了される。なお、本実施例では学習はこのイベント都度に発生するプロットデータに限定して記載しているが、実際には事象発生までに前の状態(履歴)に大きく依存して決まるため、多次元的学習を行う事で運転者状態観測値からの復帰遅延所要時間の推定精度の向上をさらに行ってもよい。
また、ステップS46で運転復帰が不可能であると判断されるとき、ステップS51で減速徐行退避シーケンスの始動から停車までが実行される。次に、ステップS52において、引継の不備事象の発生に対するペナルティの記録が発行され、処理が終了される。なお、このペナルティの記録は記憶部に残される。
以上、説明した通り例えば腕時計型の装置にすると、運手者は装置を常に装着可能となり、装置に運転者状態入力機能を備えることで様々な利点が発生する。例えば、運転者の車両搭乗前のアクティビティや生体情報の履歴情報の取得が可能となる。例えば、疲労状況や休憩取得履歴、体調など、搭乗後の運転特性に影響を及ぼし得る様々な事前情報の取得が可能となる。また、利用者認証において、脈の波形等を用いることも可能となる。また、装着型端末の利点として、車両側システムからの通知情報に対する運転者の認知を確認することが可能となる点がある。通知に対する運転者の認知やその後の対象行動のシステムによる検出は極めて重要であり、復帰するべき事象通知に対して運転者の対処行動が伴っていない場合、システムは対処遅延の対策処置として警報を出したり、猶予時間を稼ぐために減速や緊急対処実行したりする必要があるが、その判断を行わなければいけないからである。また、装着型装置に運転者の応答入力の検出機能に加え、加速度計やGyroセンサ、位置検出器等、運転者の行動検出機能を備えることで、運転者の行動、状態観測が可能となり、システム通知に対して、運転者が適切な応答や対応が行われたか否かを検出することが可能となる。
[6.情報処理装置の構成例について]
上述した処理は、図8を参照して説明した構成を持つ移動装置100と、情報端末50の構成を適用して実行することが可能である。なお、これらの処理の一部は、例えば移動装置に着脱可能な情報処理装置と情報端末50の構成を適用して実行することが可能である。
図22を参照して、情報端末50、および移動装置に着脱可能な情報処理装置のハードウェア構成例について説明する。
図22は、情報端末50、および移動装置に着脱可能な情報処理装置として適用可能なハードウェア構成の一例を示す図である。
CPU(Central Processing Unit)501は、ROM(Read Only Memory)502、または記憶部508に記憶されているプログラムに従って各種の処理を実行するデータ処理部として機能する。例えば、上述した実施例において説明したシーケンスに従った処理を実行する。
RAM(Random Access Memory)503には、CPU501が実行するプログラムやデータなどが記憶される。これらのCPU501、ROM502、およびRAM503は、バス504により相互に接続されている。
CPU501はバス504を介して入出力インタフェース505に接続され、入出力インタフェース505には、各種スイッチ、キーボード、タッチパネル、マウス、マイクロフォン、さらに、センサ、カメラ、GPS等の状況データ取得部などよりなる入力部506、ディスプレイ、スピーカなどよりなる出力部507が接続されている。
なお、入力部506には、センサ521からの入力情報も入力される。
また、出力部507は、移動装置の駆動部522に対する駆動情報も出力する。
CPU501は、入力部506から入力される指令や状況データ等を入力し、各種の処理を実行し、処理結果を例えば出力部507に出力する。
入出力インタフェース505に接続されている記憶部508は、例えばハードディスク等からなり、CPU501が実行するプログラムや各種のデータを記憶する。通信部509は、インターネットやローカルエリアネットワークなどのネットワークを介したデータ通信の送受信部として機能し、外部の装置と通信する。
入出力インタフェース505に接続されているドライブ510は、磁気ディスク、光ディスク、光磁気ディスク、あるいはメモリカード等の半導体メモリなどのリムーバブルメディア511を駆動し、データの記録あるいは読み取りを実行する。
[7.本開示の構成のまとめ]
以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
なお、本明細書において開示した技術は、以下のような構成をとることができる。
(1) 人体に装着可能なウェアラブル端末であり、
移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する表示部を有する情報処理装置。
(2) 前記表示部は、さらに、
手動運転への復帰要求通知の出力時間を確認可能な表示データを出力する(1)に記載の情報処理装置。
(3) 前記表示部は、
内周部と外周部に個別の時間軸に従った異なる区間情報の表示を行う(1)または(2)に記載の情報処理装置。
(4) 前記表示部は、
内周部から外周部に3以上の個別の時間軸に従った異なる区間情報の表示を行う(1)〜(3)いずれかに記載の情報処理装置。
(5) 前記情報処理装置は、
端末装着者の状態を検出するセンサと、
前記センサの検出情報を前記移動装置に送信する通信部と、
を備える(1)〜(4)いずれかに記載の情報処理装置。
(6) 前記情報処理装置は、
端末装着者の動きを検出する生体センサと、
前記生体センサの検出情報を前記移動装置に送信する通信部と、
を備える(1)〜(5)いずれかに記載の情報処理装置。
(7) 前記情報処理装置は、
端末装着者の位置を検出する位置センサと、
前記位置センサの検出情報を前記移動装置に送信する通信部と、
を備える(1)〜(6)いずれかに記載の情報処理装置。
(8) 前記情報処理装置は、
端末装着者の活動量を検出する活動量計測センサと、
前記活動量計測センサの検出情報を前記移動装置に送信する通信部と、
を備える(1)〜(7)いずれかに記載の情報処理装置。
(9) 前記情報処理装置は、
端末装着者の状態を検出するセンサと、
前記センサの取得情報をログデータとして格納する記憶部と、
前記センサの検出情報を前記移動装置に送信する通信部を備え、
前記移動装置に乗車する前の前記端末装着者の状態を示すログデータを前記移動装置に出力する(1)〜(8)いずれかに記載の情報処理装置。
(10) 前記情報処理装置は、
移動装置の走行ルート上の自動運転区間と手動運転区間と、前記自動運転区間と前記手動運転区間との間に設定される引き継ぎ区間の各区間を示す区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する(1)〜(9)いずれかに記載の情報処理装置。
(11) 前記情報処理装置は、
アラーム出力機能を有し、手動運転への復帰要求通知の出力時間にアラーム出力を行う構成である(1)〜(10)いずれかに記載の情報処理装置。
(12) 前記情報処理装置は、
バイブレーション機能を有し、手動運転への復帰要求通知の出力時間にバイブレーション起動処理を行う構成である(1)〜(11)いずれかに記載の情報処理装置。
(13) 前記情報処理装置は、
腕時計型の端末である(1)〜(12)いずれかに記載の情報処理装置。
(14) 移動装置と、前記移動装置の運転者に装着可能なウェアラブル仕様の情報端末を有する情報処理システムであり、
前記移動装置は、
移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報を取得するとともに、各区間に到達するまでの時間を推定し、前記情報端末に送信する処理を実行し、
前記情報端末は、
前記移動装置からの送信データを受信して、
移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを表示部に出力する情報処理システム。
(15) 前記移動装置は、
自動運転区間と手動運転区間の区間情報をローカルダイナミックマップ(LDM)から取得する(14)に記載の情報処理システム。
(16) 前記移動装置は、
前記移動装置の走行ルートにおける車両の平均速度情報に基づいて、各区間に到達するまでの時間を推定する(14)または(15)に記載の情報処理システム。
(17) 前記移動装置は、
運転者の覚醒度、または位置の少なくともいずれかの情報に基づいて、手動運転復帰要求通知の通知タイミングを決定して、決定した通知タイミング情報を前記情報端末に送信し、
前記情報端末は、前記通知タイミングにおいて手動運転復帰要求通知を実行する(14)〜(16)いずれかに記載の情報処理システム。
(18) 前記情報端末は、前記通知タイミングにおいてアラーム出力またはバイブレーション起動の少なくともいずれかの処理を実行する(17)に記載の情報処理システム。
(19) 情報処理装置において実行する情報処理方法であり、
前記情報処理装置は、人体に装着可能なウェアラブル端末であり、
データ処理部が、移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを表示部に出力する情報処理方法。
(20) 移動装置と、前記移動装置の運転者に装着可能なウェアラブル仕様の情報端末を有する情報処理システムにおいて実行される情報処理方法であり、
前記移動装置が、
移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報を取得するとともに、各区間に到達するまでの時間を推定し、前記情報端末に送信する処理を実行し、
前記情報端末が、
前記移動装置からの送信データを受信して、
移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを表示部に出力する情報処理方法。
(21) 情報処理装置において情報処理を実行させるプログラムであり、
前記情報処理装置は、人体に装着可能なウェアラブル端末であり、
前記プログラムは、データ処理部に、移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを表示部に出力させるプログラム。
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
以上、説明したように、本開示の一実施例の構成によれば、ウェアラブル端末に自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する構成を実現する。
具体的には、例えば、移動装置が走行ルート上の自動運転区間と手動運転区間の区間情報を取得するとともに、各区間に到達するまでの時間を推定して情報端末に送信する。情報端末は移動装置からの送信データを受信して、自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する。さらに移動装置は、運転者の覚醒度、または位置等の情報に基づいて、手動運転復帰要求通知の通知タイミングを決定し、情報端末に送信し、情報端末は、通知タイミングにおいて手動運転復帰要求通知を実行する。常時装着型の情報端末の場合、さらには運転者の血流など乗車前後の運転者履歴ログも取得可能であり、睡眠時間などの健康履歴を移動装置に受けたす機能を搭載する事でより精度の高い覚醒度判定が可能となる。
本構成により、ウェアラブル端末に自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する構成が実現される。
10・・自動車,11・・データ処理部,12・・運転者情報取得部,13・・環境情報取得部,14・・通信部,15・・通知部,20・・運転者,30・・サーバ,50・・情報端末,100・・移動装置,101・・入力部,102・・データ取得部,103・・通信部,104・・車内機器,105・・出力制御部,106・・出力部,107・・駆動系制御部,108・・駆動系システム,109・・ボディ系制御部,110・・ボディ系システム,111・・記憶部,112・・自動運転制御部,121・・通信ネットワーク,131・・検出部,132・・自己位置推定部,133・・状況分析部,134・・計画部,135・・動作制御部,141・・車外情報検出部,142・・車内情報検出部,143・・車両状態検出部,151・・マップ解析部,152・・交通ルール認識部,153・・状況認識部,154・・状況予測部,155・・安全性判別部(学習処理部),161・・ルート計画部,162・・行動計画部,163・・動作計画部,171・・緊急事態回避部,172・・加減速制御部,173・・方向制御部,501・・CPU,502・・ROM,503・・RAM,504・・バス,505・・入出力インタフェース,506・・入力部,507・・出力部,508・・記憶部,509・・通信部,510・・ドライブ,511・・リムーバブルメディア,521・・センサ,522・・駆動部

Claims (21)

  1. 人体に装着可能なウェアラブル端末であり、
    移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する表示部を有する情報処理装置。
  2. 前記表示部は、さらに、
    手動運転への復帰要求通知の出力時間を確認可能な表示データを出力する請求項1に記載の情報処理装置。
  3. 前記表示部は、
    内周部と外周部に個別の時間軸に従った異なる区間情報の表示を行う請求項1に記載の情報処理装置。
  4. 前記表示部は、
    内周部から外周部に3以上の個別の時間軸に従った異なる区間情報の表示を行う請求項1に記載の情報処理装置。
  5. 前記情報処理装置は、
    端末装着者の状態を検出するセンサと、
    前記センサの検出情報を前記移動装置に送信する通信部と、
    を備える請求項1に記載の情報処理装置。
  6. 前記情報処理装置は、
    端末装着者の動きを検出する生体センサと、
    前記生体センサの検出情報を前記移動装置に送信する通信部と、
    を備える請求項1に記載の情報処理装置。
  7. 前記情報処理装置は、
    端末装着者の位置を検出する位置センサと、
    前記位置センサの検出情報を前記移動装置に送信する通信部と、
    を備える請求項1に記載の情報処理装置。
  8. 前記情報処理装置は、
    端末装着者の活動量を検出する活動量計測センサと、
    前記活動量計測センサの検出情報を前記移動装置に送信する通信部と、
    を備える請求項1に記載の情報処理装置。
  9. 前記情報処理装置は、
    端末装着者の状態を検出するセンサと、
    前記センサの取得情報をログデータとして格納する記憶部と、
    前記センサの検出情報を前記移動装置に送信する通信部を備え、
    前記移動装置に乗車する前の前記端末装着者の状態を示すログデータを前記移動装置に出力する請求項1に記載の情報処理装置。
  10. 前記情報処理装置は、
    移動装置の走行ルート上の自動運転区間と手動運転区間と、前記自動運転区間と前記手動運転区間との間に設定される引き継ぎ区間の各区間を示す区間情報と、各区間に到達するまでの時間を確認可能な表示データを出力する請求項1に記載の情報処理装置。
  11. 前記情報処理装置は、
    アラーム出力機能を有し、手動運転への復帰要求通知の出力時間にアラーム出力を行う構成である請求項1に記載の情報処理装置。
  12. 前記情報処理装置は、
    バイブレーション機能を有し、手動運転への復帰要求通知の出力時間にバイブレーション起動処理を行う構成である請求項1に記載の情報処理装置。
  13. 前記情報処理装置は、
    腕時計型の端末である請求項1に記載の情報処理装置。
  14. 移動装置と、前記移動装置の運転者に装着可能なウェアラブル仕様の情報端末を有する情報処理システムであり、
    前記移動装置は、
    移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報を取得するとともに、各区間に到達するまでの時間を推定し、前記情報端末に送信する処理を実行し、
    前記情報端末は、
    前記移動装置からの送信データを受信して、
    移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを表示部に出力する情報処理システム。
  15. 前記移動装置は、
    自動運転区間と手動運転区間の区間情報をローカルダイナミックマップ(LDM)から取得する請求項14に記載の情報処理システム。
  16. 前記移動装置は、
    前記移動装置の走行ルートにおける車両の平均速度情報に基づいて、各区間に到達するまでの時間を推定する請求項14に記載の情報処理システム。
  17. 前記移動装置は、
    運転者の覚醒度、または位置の少なくともいずれかの情報に基づいて、手動運転復帰要求通知の通知タイミングを決定して、決定した通知タイミング情報を前記情報端末に送信し、
    前記情報端末は、前記通知タイミングにおいて手動運転復帰要求通知を実行する請求項14に記載の情報処理システム。
  18. 前記情報端末は、前記通知タイミングにおいてアラーム出力またはバイブレーション起動の少なくともいずれかの処理を実行する請求項17に記載の情報処理システム。
  19. 情報処理装置において実行する情報処理方法であり、
    前記情報処理装置は、人体に装着可能なウェアラブル端末であり、
    データ処理部が、移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを表示部に出力する情報処理方法。
  20. 移動装置と、前記移動装置の運転者に装着可能なウェアラブル仕様の情報端末を有する情報処理システムにおいて実行される情報処理方法であり、
    前記移動装置が、
    移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報を取得するとともに、各区間に到達するまでの時間を推定し、前記情報端末に送信する処理を実行し、
    前記情報端末が、
    前記移動装置からの送信データを受信して、
    移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを表示部に出力する情報処理方法。
  21. 情報処理装置において情報処理を実行させるプログラムであり、
    前記情報処理装置は、人体に装着可能なウェアラブル端末であり、
    前記プログラムは、データ処理部に、移動装置の走行ルート上の自動運転区間と手動運転区間の区間情報と、各区間に到達するまでの時間を確認可能な表示データを表示部に出力させるプログラム。
JP2018085234A 2018-04-26 2018-04-26 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム Pending JP2021128349A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018085234A JP2021128349A (ja) 2018-04-26 2018-04-26 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム
US17/047,033 US11866073B2 (en) 2018-04-26 2019-03-15 Information processing device, information processing system, and information processing method for wearable information terminal for a driver of an automatic driving vehicle
PCT/JP2019/010777 WO2019208014A1 (ja) 2018-04-26 2019-03-15 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018085234A JP2021128349A (ja) 2018-04-26 2018-04-26 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム

Publications (1)

Publication Number Publication Date
JP2021128349A true JP2021128349A (ja) 2021-09-02

Family

ID=68294432

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018085234A Pending JP2021128349A (ja) 2018-04-26 2018-04-26 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム

Country Status (3)

Country Link
US (1) US11866073B2 (ja)
JP (1) JP2021128349A (ja)
WO (1) WO2019208014A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023162063A1 (ja) * 2022-02-24 2023-08-31 日本電気株式会社 車両進入制御装置、車両進入制御方法及び記録媒体

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021149617A (ja) * 2020-03-19 2021-09-27 本田技研工業株式会社 レコメンド案内装置、レコメンド案内方法、および、レコメンド案内プログラム
DE102020214999A1 (de) * 2020-11-27 2022-06-02 Ford Global Technologies, Llc Verfahren und System zum Trainieren einer manuellen Übernahme einer Fahrzeugsteuerung, Fahrzeug, Computerprogramm und computerlesbarer Datenträger
US20230036945A1 (en) * 2021-07-23 2023-02-02 GM Global Technology Operations LLC Allocation of non-monitoring periods during automated control of a device

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3239727B2 (ja) 1995-12-05 2001-12-17 トヨタ自動車株式会社 車両の自動運転制御装置
US20110218765A1 (en) * 2010-03-02 2011-09-08 Rogers Janice L Illustrating and Displaying Time and The Expiration Thereof
US9751534B2 (en) * 2013-03-15 2017-09-05 Honda Motor Co., Ltd. System and method for responding to driver state
US20150025917A1 (en) * 2013-07-15 2015-01-22 Advanced Insurance Products & Services, Inc. System and method for determining an underwriting risk, risk score, or price of insurance using cognitive information
JP6330550B2 (ja) 2014-07-29 2018-05-30 アイシン・エィ・ダブリュ株式会社 自動運転支援システム、自動運転支援方法及びコンピュータプログラム
JP2016090274A (ja) * 2014-10-30 2016-05-23 トヨタ自動車株式会社 警報装置、警報システム及び携帯端末
JP2016139204A (ja) 2015-01-26 2016-08-04 株式会社デンソー 危険度表示装置
JP2016192028A (ja) 2015-03-31 2016-11-10 株式会社デンソー 自動走行制御装置および自動走行制御システム
JP6773046B2 (ja) 2015-11-19 2020-10-21 ソニー株式会社 運転支援装置及び運転支援方法、並びに移動体
JP6641916B2 (ja) * 2015-11-20 2020-02-05 オムロン株式会社 自動運転支援装置、自動運転支援システム、自動運転支援方法および自動運転支援プログラム
JP6520737B2 (ja) * 2016-01-28 2019-05-29 株式会社デンソー 生体情報計測装置、車載器、及び生体情報計測システム
WO2017187759A1 (ja) 2016-04-27 2017-11-02 株式会社デンソー 支援システム、携帯端末、及び車載装置
JP6508177B2 (ja) 2016-04-27 2019-05-08 株式会社デンソー 支援システム、携帯端末、及び車載装置
JP6597475B2 (ja) 2016-05-19 2019-10-30 株式会社デンソー 自動運転システム及び自動運転切替判定プログラム
CN109476322B (zh) 2016-08-05 2022-02-18 三菱电机株式会社 操作权限管理装置及操作权限管理方法
JP6665748B2 (ja) 2016-09-29 2020-03-13 トヨタ自動車株式会社 車両用覚醒システム
CN109791054B (zh) * 2016-10-03 2022-05-27 三菱电机株式会社 信息输出控制装置及信息输出控制方法
JP2018062308A (ja) 2016-10-14 2018-04-19 オムロン株式会社 運転モード切替制御装置、方法およびプログラム
US11392129B2 (en) * 2016-12-27 2022-07-19 Honda Motor Co., Ltd. Vehicle control system, vehicle control method, and storage medium
US20190370580A1 (en) * 2017-03-14 2019-12-05 Omron Corporation Driver monitoring apparatus, driver monitoring method, learning apparatus, and learning method

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023162063A1 (ja) * 2022-02-24 2023-08-31 日本電気株式会社 車両進入制御装置、車両進入制御方法及び記録媒体

Also Published As

Publication number Publication date
US11866073B2 (en) 2024-01-09
WO2019208014A1 (ja) 2019-10-31
US20210155268A1 (en) 2021-05-27

Similar Documents

Publication Publication Date Title
US11738757B2 (en) Information processing device, moving apparatus, method, and program
JP7324716B2 (ja) 情報処理装置、移動装置、および方法、並びにプログラム
WO2019188398A1 (ja) 情報処理装置、移動装置、および方法、並びにプログラム
US20230211810A1 (en) Information processing device, mobile device, information processing system, and method
JP7352566B2 (ja) 情報処理装置、移動装置、および方法、並びにプログラム
US20210155269A1 (en) Information processing device, mobile device, information processing system, method, and program
JP7431223B2 (ja) 情報処理装置、移動装置、および方法、並びにプログラム
WO2021145131A1 (ja) 情報処理装置、情報処理システム、情報処理方法及び情報処理プログラム
US11866073B2 (en) Information processing device, information processing system, and information processing method for wearable information terminal for a driver of an automatic driving vehicle
US20220289250A1 (en) Information processing device, mobile device, information processing system, method, and program
WO2021131474A1 (ja) 情報処理装置、移動装置、情報処理システム、および方法、並びにプログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20181213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20181214