JP2017138687A - 注意喚起プログラム、注意喚起装置、注意喚起方法及び注意喚起システム - Google Patents

注意喚起プログラム、注意喚起装置、注意喚起方法及び注意喚起システム Download PDF

Info

Publication number
JP2017138687A
JP2017138687A JP2016017567A JP2016017567A JP2017138687A JP 2017138687 A JP2017138687 A JP 2017138687A JP 2016017567 A JP2016017567 A JP 2016017567A JP 2016017567 A JP2016017567 A JP 2016017567A JP 2017138687 A JP2017138687 A JP 2017138687A
Authority
JP
Japan
Prior art keywords
driver
information
output
vehicle
virtual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016017567A
Other languages
English (en)
Other versions
JP6786807B2 (ja
Inventor
佐野 聡
Satoshi Sano
聡 佐野
泰彦 中野
Yasuhiko Nakano
泰彦 中野
宏次 小栗
Koji Oguri
宏次 小栗
治樹 河中
Haruki Kawanaka
治樹 河中
百合絵 入部
Yurie Iribe
百合絵 入部
稚佳 岸
Chika Kishi
稚佳 岸
洋佑 藤澤
Yosuke Fujisawa
洋佑 藤澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2016017567A priority Critical patent/JP6786807B2/ja
Publication of JP2017138687A publication Critical patent/JP2017138687A/ja
Application granted granted Critical
Publication of JP6786807B2 publication Critical patent/JP6786807B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】 運転者による迅速な安全確認を支援する。【解決手段】 注意喚起プログラムは、コンピュータに、運転者が操作する乗り物の状況を判定し、乗り物の状況と方向とを対応付けた情報を参照し、判定された前記乗り物の状況と対応する方向を特定し、方向と、該方向への前記運転者の注意を促す注意喚起情報を音声出力装置に出力させる制御情報と、が対応付けられた情報を参照し、特定された方向と対応する制御情報に基づいて、特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させる、処理を実行させる。【選択図】図1

Description

本発明は、注意喚起プログラム、注意喚起装置、注意喚起方法及び注意喚起システムに関する。
従来より、車両等の乗り物において、運転者に対して、状況に応じたメッセージ(例えば、障害物が接近していることを知らせるメッセージ等)を適宜出力し、運転者に注意を促すことで、事故の発生を未然に防止する注意喚起装置が知られている。
注意喚起装置では、注意喚起のメッセージを出力したことに応じて、運転者が適切な確認動作を行ったか否かを、運転者の視線の動きや、指差し動作、復唱の有無等を検出することにより判定し、判定結果を運転者に報知する。これにより、注意喚起装置は、運転者に、注意喚起のメッセージに応じた適切な安全確認を行わせる。
特開平11−250395号公報 特開2006−219077号公報 特開2014−167703号公報
しかしながら、運転者に対して出力される注意喚起のメッセージは様々であり、運転者が運転操作中にそれら全てを即座に把握して確認動作を行うことは必ずしも容易ではない。このため、運転者がメッセージの内容を把握できなかったり、把握するまでに一定程度の時間がかかったりすることで、適切な確認動作を行うことができない場合がある。
一つの側面では、運転者による迅速な安全確認を支援することを目的としている。
一態様によれば、注意喚起プログラムは、コンピュータに、運転者が操作する乗り物の状況を判定し、乗り物の状況と方向とを対応付けた情報を参照し、判定された前記乗り物の状況と対応する方向を特定し、方向と、該方向への前記運転者の注意を促す注意喚起情報を音声出力装置に出力させる制御情報と、が対応付けられた情報を参照し、特定された方向と対応する制御情報に基づいて、特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させる、処理を実行させる。
運転者による迅速な安全確認を支援することが可能になる。
注意喚起システムの構成例を示す第1の図である。 注意喚起用ECUのハードウェア構成の一例を示す図である。 車両における複数の音声出力部の配置例と、仮想出力者の配置例とを示す図である。 仮想同乗者の視野範囲の一例を示す図である。 仮想出力者と運転者とのコミュニケーションの一例を示す図である。 動作情報の一例を示す第1の図である。 動作情報の一例を示す第2の図である。 判定結果出力情報の一例を示す図である。 音声属性情報の一例を示す図である。 車両の様々な状況において運転者が行うべき確認動作と、注意喚起メッセージと、仮想出力者との関係を具体的に説明するための第1の図である。 車両の様々な状況において運転者が行うべき確認動作と、注意喚起メッセージと、仮想出力者との関係を具体的に説明するための第2の図である。 車両の様々な状況において運転者が行うべき確認動作と、注意喚起メッセージと、仮想出力者との関係を具体的に説明するための第3の図である。 運転補助処理の第1のフローチャートである。 状況判定処理のフローチャートである。 注意喚起メッセージ出力処理のフローチャートである。 確認動作判定処理の第1のフローチャートである。 所定の状況における仮想出力者と運転者とのコミュニケーションの一例を示す第1の図である。 所定の状況における仮想出力者と運転者とのコミュニケーションの一例を示す第2の図である。 確認動作判定処理の第2のフローチャートである。 所定の状況における仮想出力者と運転者とのコミュニケーションの一例を示す第3の図である。 所定の状況における仮想出力者と運転者とのコミュニケーションの一例を示す第4の図である。 注意喚起システムの構成例を示す第2の図である。 動作情報更新部の機能構成の詳細を示す図である。 運転補助処理の第2のフローチャートである。
以下、各実施形態について添付の図面を参照しながら説明する。なお、以下の各実施形態において、「注意喚起メッセージ」とは、車両等の乗り物において、運転者に対して、運転操作に関する注意を促すための注意喚起情報を指す。
また、「運転者」とは、注意喚起メッセージを音声出力して注意を促す対象者を指し、以下の各実施形態では、対象者が、車両等の乗り物を運転操作するための運転席の位置にいる場合について説明する。ただし、運転席の位置にいない場合であっても、運転操作できる位置にいる者も運転者に含まれるものとする。
また、「仮想出力者」とは、注意喚起メッセージを含む各種音声情報を音声出力する仮想音源を指す。仮想音源は、運転操作中の運転者の周囲に配された複数の音声出力部(スピーカ等の音声出力装置)を介して音声情報を出力する際に、制御情報に基づいて音量(音圧)及び位相を制御することで、運転者の周囲の任意の方向に配置することができる。更に、以下の各実施形態では、仮想音源ごとに声色を変えることで、仮想音源が配置されたそれぞれの方向に、所定の属性を有する人物がいるかのように、運転者に認識させている。
なお、仮想出力者のうち、運転者の周囲の座席の位置に対応する位置に配置された仮想音源を、「仮想同乗者」と称する。
また、「確認動作」とは、注意喚起メッセージが音声出力された場合に、運転者が確認のために行う動作をいう。
また、「呼称」とは、運転者の確認動作のうち、発声により行う確認動作をいう。なお、確認動作には、呼称のほか、指差し動作や視線の動き等が含まれるものとする。
また、「復唱」とは、呼称の後に、呼称の内容に対応する情報(復唱情報)を、仮想同乗者が一斉に音声出力することをいう(ただし、完全に同時でなくてもよく、仮想同乗者間で音声出力のタイミングに多少のずれがあってもよい)。更に、「連呼」とは、呼称の後に、呼称の内容に対応する情報を、仮想同乗者が順次音声出力することをいう。なお、以下の実施形態では、主に「復唱」する場合について説明するが、「連呼」する場合も同様の処理となる。
以下、各実施形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省く。
[第1の実施形態]
はじめに、第1の実施形態における注意喚起システムのシステム構成について説明する。図1は、注意喚起システムの構成例を示す第1の図である。
図1に示すように、注意喚起システム100は、ナビゲーション装置111、車両制御ECU(Electronic Control Unit)112、ジェスチャ検出部113、音声検出部114、視線検出部115、周辺環境検出部116を有する。また、注意喚起システム100は、注意喚起用ECU120、第1の音声出力部131〜第6の音声出力部136を有する。
ナビゲーション装置111は、走行中の車両の現在位置をGPS(Global Positioning System)を用いて検出し、位置情報として注意喚起用ECU120に送信する。また、ナビゲーション装置111は、車両の現在位置が、交差点や分岐点、合流点等の特定の位置に到達したことを検出し、検出結果(位置検出結果)を位置情報に含めて注意喚起用ECU120に送信する。
更に、ナビゲーション装置111は、目的地までの経路検索結果に基づいて、交差点に到達した際に自車両が直進するのか、右折するのか、左折するのかを検出する。同様に、ナビゲーション装置111は、目的地までの経路検索結果に基づいて、分岐点に到達した際に、左側に分岐するのか、右側に分岐するのかを検出する。更に、ナビゲーション装置111は、目的地までの経路検索結果に基づいて、合流点に到達した際に、右側から合流するのか、左側から合流するのかを検出する。ナビゲーション装置111は、これらの検出結果(進路検出結果)を位置情報に含めて注意喚起用ECU120に送信する。
車両制御ECU112は、運転者が車両に対して行った運転操作を示す運転操作情報(例えば、ステアリングの操舵角、アクセルペダルの開度、ブレーキペダルの踏み込み量等)や、車両の状態を示す車両情報(例えば、車速)等を取得する。車両制御ECU112は、取得した運転操作情報及び車両情報を、注意喚起用ECUに送信する。
ジェスチャ検出部113は、運転者のジェスチャを検出する。また、ジェスチャ検出部113は、運転者が指差し動作を行っていたことを検出すると、指差し方向を判定して、指差し方向情報を注意喚起用ECU120に送信する。
音声検出部114は、運転者の呼称を検出して、呼称情報を注意喚起用ECU120に送信する。
視線検出部115は、運転者の視線方向を検出して、視線方向情報を注意喚起用ECU120に送信する。
周辺環境検出部116は、歩行者や他車両等の障害物を検出して、周辺環境情報を注意喚起用ECU120に送信する。なお、図1の例では、周辺環境検出部116は、歩行者や他車両等の障害物を検出した場合に、検出結果を、直接、注意喚起用ECU120に送信するものとしているが、検出結果をナビゲーション装置111や車両制御ECU112に入力するようにしてもよい。この場合、ナビゲーション装置111または車両制御ECU112が検出結果を解析し、周辺環境情報を注意喚起用ECU120に送信する。
また、周辺環境情報は、路車間通信や車々通信を介して取得して注意喚起用ECU120に送信するようにしてもよい。この場合、周辺環境検出部116は、通信手段として機能することになる。
注意喚起用ECU120は、注意喚起メッセージを音声出力するための制御を行う注意喚起装置の一例である。注意喚起用ECU120には、状況判定プログラム、情報特定プログラム、動作判定プログラム、音声出力制御プログラムが格納されている。注意喚起用ECU120は、これらのプログラムを実行することで、状況判定部121、情報特定部122、動作判定部123、音声出力制御部124として機能する。
状況判定部121は、ナビゲーション装置111より受信した位置情報と、動作情報格納部125に格納された動作情報とに基づいて、現在の車両の状況が、車両の運転者に対して注意喚起メッセージを音声出力すべき状況にあるか否かを判定する。状況判定部121は、車両の運転者に対して注意喚起メッセージを音声出力すべき状況にあると判定した場合に、現在の車両の状況に関する情報を情報特定部122に通知する。
なお、状況判定部121は、更に、周辺環境検出部116より受信した周辺環境情報に応じて、現在の車両の状況を判定するようにしてもよい。ただし、第1の実施形態では、説明を簡略化するために、位置情報と動作情報とに基づいて、現在の車両の状況を判定するものとして説明する。
情報特定部122は、状況判定部121より、現在の車両の状況に関する情報を取得すると、動作情報格納部125の動作情報を参照し、運転者に対して注意喚起メッセージを音声出力する際に用いる情報を特定し、音声出力制御部124に通知する。
具体的には、情報特定部122は、現在の車両の状況に関する情報に基づいて、注意喚起メッセージとそのIDを取得する。また、情報特定部122は、取得した注意喚起メッセージに基づいて、運転者が確認すべき方向を特定し、特定した方向に関連付けて規定された仮想出力者を特定する。また、情報特定部122は、取得した注意喚起メッセージに関連付けて規定された、音声出力するタイミング、順序を特定する。更に、情報特定部122は、これらの情報を注意喚起メッセージを音声出力する際に用いる情報として、音声出力制御部124に通知する。
また、情報特定部122は、状況判定部121より、現在の車両の状況に関する情報を取得すると、動作情報格納部125の動作情報を参照し、運転者の確認動作の適否を判定する際に用いる情報を特定し、動作判定部123に通知する。
具体的には、情報特定部122は、現在の車両の状況に関する情報に基づいて、注意喚起メッセージとそのIDを取得する。また、情報特定部122は、取得した注意喚起メッセージに関連付けて規定された、順序、指差し方向、呼称内容、視線方向を特定する。そして、情報特定部122は、これらの情報を運転者の確認動作の適否を判定する際に用いる情報として、動作判定部123に通知する。
動作判定部123は、情報特定部122より、運転者の確認動作の適否を判定する際に用いる情報を取得すると、ジェスチャ検出部113より指差し方向情報を受信し、音声検出部114より呼称情報を受信し、視線検出部115より視線方向情報を受信する。
また、動作判定部123は、受信した指差し方向情報、呼称情報、視線方向情報のうち、少なくともいずれか1つが、情報特定部122より取得した、運転者の確認動作の適否を判定する際に用いる情報に該当するか否かを判定する。動作判定部123は、該当すると判定した場合に、車両の運転者が適切な確認動作を行ったと判定する。
また、動作判定部123は、車両の運転者が適切な確認動作を行ったか否かの判定結果に基づいて、判定結果情報格納部126の判定結果情報を参照する。更に、動作判定部123は、判定結果に応じた判定結果メッセージと、判定結果メッセージの仮想出力者とを取得し、音声出力制御部124に通知する。
音声出力制御部124は、情報特定部122より通知された、注意喚起メッセージとそのID、仮想出力者、タイミング、順序を取得する。音声出力制御部124は、取得した仮想出力者に基づいて、音声属性情報格納部127の音声属性情報を参照し、注意喚起メッセージを音声出力する際の第1の音声出力部131〜第6の音声出力部136の制御情報を取得する。また、音声出力制御部124は、取得した注意喚起メッセージを、第1の音声出力部131〜第6の音声出力部136を介して音声出力する。なお、音声出力制御部124は、取得した制御情報に基づいて、取得したタイミングで音声出力する。
また、音声出力制御部124は、動作判定部123より通知された、判定結果メッセージと判定結果メッセージの仮想出力者とを取得する。音声出力制御部124は、取得した判定結果メッセージの仮想出力者に基づいて、音声属性情報格納部127の音声属性情報を参照し、第1の音声出力部131〜第6の音声出力部136の制御情報を取得する。また、音声出力制御部124は、取得した判定結果メッセージを、取得した制御情報に基づいて、第1の音声出力部131〜第6の音声出力部136を介して音声出力する。
第1の音声出力部131〜第6の音声出力部136は、スピーカ等の音声出力装置であり、注意喚起用ECUから送信された音声情報(注意喚起メッセージ、判定結果メッセージ)を音声出力する。
次に、注意喚起用ECU120のハードウェア構成について説明する。図2は、注意喚起用ECUのハードウェア構成の一例を示す図である。
図2に示すように、注意喚起用ECU120は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、接続装置204を有する。なお、注意喚起用ECU120の各部は、バス205を介して相互に接続されている。
CPU201は、ROM202に格納された各種プログラム(例えば、状況判定プログラム、情報特定プログラム、動作判定プログラム、音声出力制御プログラム)を実行するコンピュータである。
ROM202は不揮発性メモリであり、CPU201により実行される各種プログラムや各種プログラムを実行する際に用いる情報(動作情報、判定結果情報、音声属性情報等)を格納する。
RAM203は揮発性メモリであり、ROM202に格納された各種プログラムがCPU201によって実行される際に展開される、作業領域を提供する。
接続装置204は、注意喚起用ECU120と外部機器(ナビゲーション装置111〜視線検出部115、第1の音声出力部131〜第6の音声出力部136)とを接続し、外部機器との間で各種情報を送受信する。
次に、第1の音声出力部131〜第6の音声出力部136の車両内での配置と、仮想出力者の配置とについて説明する。図3は、車両における複数の音声出力部の配置例と、仮想出力者の配置例とを示す図である。このうち、図3(a)は、車両300の室内空間を上方から見た様子を示しており、第1の音声出力部131〜第6の音声出力部136の車両300内での配置を示している。
図3(a)に示すように、車両300において、第1の音声出力部131は、運転者310が座る運転席321の正面位置に配置され、第2の音声出力部132は、助手席322の正面位置に配置される。また、第3の音声出力部133は、運転席321の右側位置に配置され、第4の音声出力部134は、助手席322の左側位置に配置される。
更に、第5の音声出力部135は、後部座席323の後方右側位置に配置され、第6の音声出力部136は、後部座席323の後方左側位置に配置される。
図3(b)は、車両300の室内空間及び車両300外の空間を上方から見た様子を示しており、車両300内及び車両300外における仮想出力者の配置を示している。第1の音声出力部131〜第6の音声出力部136を図3(a)に示す配置のもとで音場制御することで、図3(b)に示すように、助手席322の位置に仮想同乗者311を配置することができる。また、後部座席323の右側の位置に仮想同乗者312を、中央の位置に仮想同乗者313を、左側の位置に仮想同乗者314を配置することができる。
また、第1の音声出力部131〜第6の音声出力部136を図3(a)に示す配置のもとで音場制御することで、車外前方の位置に仮想出力者331を、車外右前方の位置に仮想出力者332を配置することができる。更に、第1の音声出力部131〜第6の音声出力部136を図3(a)に示す配置のもとで音場制御することで、車外右側の位置に仮想出力者333を、車外左前方の位置に仮想出力者334を配置することができる。
なお、第1の実施形態では、更に、仮想同乗者311〜314を擬人化し、それぞれが、予め定められた視野範囲を有しているものとして説明する。図4は、仮想同乗者の視野範囲の一例を示す図である。
図4(a)に示すように、助手席322の位置に配置される仮想同乗者311は、視野範囲401を有しており、車両300の前方から左側方までを視認できるものとする。このため、仮想同乗者311は、主に車両300の前方から左側方の視野範囲に関連する注意喚起メッセージや判定結果メッセージを音声出力する。
また、図4(b)に示すように、後部座席323右側の位置に配置される仮想同乗者312は、視野範囲412を有し、後部座席323左側の位置に配置される仮想同乗者314は、視野範囲414を有しているものとする。つまり、後部座席323位置に配置される仮想同乗者312、314は、それぞれ、車両300の前方から右後方まで、または、車両300の前方から左後方までを視認できるものとする。このため、仮想同乗者312は、主に車両300の前方から右後方までの視野範囲に関連する注意喚起メッセージや判定結果メッセージを音声出力する。また、仮想同乗者314は、主に車両300の前方から左後方までの視野範囲に関連する注意喚起メッセージや判定結果メッセージを音声出力する。
更に、図4(c)に示すように、後部座席323の中央の位置に配置される仮想同乗者313は、視野範囲413を有しており、車両300の後方を視認できるものとする。このため、仮想同乗者313は、主に車両300の後方の視野範囲に関連する注意喚起メッセージや判定結果メッセージを音声出力する。
次に、車両300の運転者310と仮想出力者(仮想同乗者311〜314または仮想同乗者以外の仮想出力者331〜324)との間のコミュニケーションについて説明する。図5は、仮想出力者と運転者とのコミュニケーションの一例を示す図である。
現在の車両300の状況が、車両300の運転者310に対して注意喚起メッセージを音声出力すべき状況にあるとする。この場合、図5に示すように、仮想同乗者311〜314または仮想同乗者以外の仮想出力者331〜324のいずれかが、注意喚起メッセージを音声出力する(ステップS501)。
このとき、音声出力制御部124は、注意喚起メッセージに基づいて特定される、運転者が確認すべき方向と関連付けて規定されている仮想同乗者等が、注意喚起メッセージを音声出力するように制御する。例えば、注意喚起メッセージが、運転者310に左側の確認を促すメッセージであった場合、音声出力制御部124は、運転者310の左側から注意喚起メッセージが音声出力されたと認識されるように制御する。具体的には、音声出力制御部124は、当該注意喚起メッセージが、助手席322の位置に配置された仮想同乗者311から音声出力されるように制御する。また、注意喚起メッセージが、運転者310の左後方の確認を促すメッセージであった場合、音声出力制御部124は、運転者310の左後方から注意喚起メッセージが音声出力されたと認識されるように制御する。具体的には、音声出力制御部124は、当該注意喚起メッセージが、後部座席323の位置に配置された仮想同乗者314から音声出力されるように制御する。
このように、注意喚起メッセージに基づいて特定される方向の仮想同乗者または仮想同乗者以外の仮想出力者が、注意喚起メッセージを音声出力することで、運転者310は、確認(注意)すべき方向を直感的に把握することができる。この結果、運転操作中に運転者310に対して注意喚起メッセージが音声出力された場合であっても、運転者310は注意喚起メッセージの内容を容易に把握し、迅速に確認動作を行うことができる。
また、図5に示すように、把握した注意喚起メッセージに基づいて、運転者310が確認動作を行い(ステップS502)、かつ運転者310が行った確認動作が適切であった場合には、ステップS503に進む。この場合、仮想同乗者311〜314は、運転者310が行った確認動作が適切であることを示す判定結果メッセージを復唱または連呼する(ステップS503)。
このように、運転者310が行った確認動作が適切であることを示す判定結果メッセージが復唱または連呼されることで、運転者310は、自身の確認動作が適切であったことを認識することができる。
また、仮想同乗者311〜314のうちのいずれかが、運転者310により適切な確認動作が行われたことを評価する旨の評価メッセージを音声出力する(ステップS504)。
このように、評価メッセージが音声出力されることで、運転者310は確認動作を行うことに対する実行意欲を向上させることができる。
一方、現在の車両300の状況が、車両300の運転者310に対して注意喚起メッセージを音声出力すべき状況にあり、ステップS511において仮想出力者のいずれかにより、注意喚起メッセージが音声出力されたとする。ここで、ステップS512では、運転者310が適切な確認動作を行わなかったとする。
この場合、図5に示すように、仮想同乗者311〜314または仮想同乗者以外の仮想出力者331〜324のいずれかが、運転者310が適切な確認動作を行わなかったことを示す判定結果メッセージを音声出力する。このように、運転者310が適切な確認動作を行わなかった場合に、直ちに、運転者310に対して判定結果メッセージを音声出力して改善を促すことで、運転者310は適切な確認動作を習熟することができる。
次に、動作情報格納部125に格納される動作情報について説明する。図6、図7は、動作情報の一例を示す第1及び第2の図である。
図6、図7に示すように、動作情報600及び動作情報700は、情報の項目として、"位置"、"状況"、"ID"、"注意喚起メッセージ"、"確認すべき方向"、"仮想出力者"、"タイミング"、"順序"、"指差し方向"、"呼称内容"、"視線方向"を有する。
"位置"には、運転者310に対して注意喚起メッセージを音声出力すべき位置が定義されている。図6、図7の例は、車両300が、交差点、分岐点、合流点のいずれかの位置に到達した場合に、注意喚起メッセージが音声出力されることを示している。
"状況"には、車両300が、交差点、分岐点、合流点のいずれかの位置に到達した際の状況が定義されている。状況によって、運転者310に確認させるべき方向が異なってくるからである。例えば、交差点に到達した際の状況が"直進"であった場合、注意喚起システム100は、運転者に対して、左側と右側とを確認させ、交差点に到達した際の状況が"右折"であった場合、運転者に対して、右前方と右折先とを確認させる。また、交差点に到達した際の状況が"左折"であった場合、注意喚起システム100は、運転者に対して、左折先と左後方とを確認させる。
"ID"には、"位置"及び"状況"に応じて音声出力される"注意喚起メッセージ"それぞれを識別するための識別子が格納される。
"注意喚起メッセージ"には、"位置"及び"状況"に応じて音声出力すべきメッセージが格納される。例えば、位置="交差点"、状況="直進"の場合、"交差点です。一時停止してください。"、"左側を確認してください。"、"右側を確認してください。"が音声出力すべきメッセージとして格納されている。
"確認すべき方向"には、"注意喚起メッセージ"を音声出力することで、運転者310が確認すべき方向が規定される。例えば、注意喚起メッセージ="交差点です。一時停止してください。"の場合、運転者310が確認すべき方向は前方である。このため、"確認すべき方向"には、"前方"が規定されている。注意喚起メッセージ="左側を確認してください。"の場合、運転者310が確認すべき方向は左方向である。このため、"確認すべき方向"には、"左側"が規定されている。更に、注意喚起メッセージ="右側を確認してください。"の場合、運転者310が確認すべき方向は右方向である。このため、"確認すべき方向"には、"右側"が規定されている。
"仮想出力者"には、注意喚起メッセージを音声出力することで、運転者310が確認すべき方向に対応する位置に配置された仮想出力者が規定される。例えば、確認すべき方向="前方"の場合、"仮想出力者"には、車外前方の位置に配置された仮想出力者331が規定されている。また、確認すべき方向="左側"の場合、"仮想出力者"には、助手席322の位置に配置された仮想同乗者311が規定されている。更に、確認すべき方向="右側"の場合、"仮想出力者"には、車両300の車外右側の位置に配置された仮想出力者333が規定されている。
"タイミング"には、注意喚起メッセージを音声出力するタイミングが規定され、"順序"には、注意喚起メッセージを音声出力する順序が規定される。
なお、"タイミング"に格納された式のうち、「L」は、車両300の現在の位置から"位置"(例えば、交差点)までの距離を表しており、「V」は、車両300の現在の車速を示している。
例えば、位置="交差点"、状況="直進"の場合、"交差点です。一時停止してください。"との注意喚起メッセージは、交差点に到達する(L/V)秒前に音声出力される。また、"左側を確認してください。"との注意喚起メッセージは、交差点に到達する(L/V−1)秒前に音声出力される。更に、"右側を確認してください。"との注意喚起メッセージは、交差点に到達する(L/V−2)秒前に音声出力される。つまり、動作情報600の場合、注意喚起メッセージの音声出力のタイミングは、車両300の現在の車速に基づいて決定され、それぞれの注意喚起メッセージは、1秒おきに規定された順序で音声出力される。
"指差し方向"には、注意喚起メッセージが音声出力されたことに応じて、運転者が行うべき指差し動作の方向が格納される。"呼称内容"には、注意喚起メッセージが音声出力されたことに応じて、運転者が行うべき呼称内容が格納される。"視線方向"には、注意喚起メッセージが音声出力されたことに応じて運転者が向けるべき視線の方向が格納される。
次に、判定結果情報格納部126に格納される判定結果出力情報について説明する。判定結果情報格納部126に格納される判定結果出力情報には、注意喚起メッセージの音声出力に応じて運転者が行った確認動作の適否を動作判定部123が判定した際の、判定結果に応じた判定結果メッセージが格納される。
図8は、判定結果出力情報の一例を示す図である。図8に示すように、判定結果出力情報800は、情報の項目として、"ID"、"適切な確認動作が行われた場合"、"適切な確認動作が行われなかった場合"が含まれる。また、"適切な確認動作が行われた場合"及び"適切な確認動作が行われなかった場合"のそれぞれには、更に、情報の項目として、"判定結果メッセージ"、"仮想出力者"が含まれる。
"ID"には、動作情報600、700において"注意喚起メッセージ"ごとに定義された識別子が格納される。
"適切な確認動作が行われた場合"の"判定結果メッセージ"には、IDにより識別される注意喚起メッセージに対応する判定結果メッセージが格納される。例えば、ID="1"の場合、注意喚起メッセージとして、"交差点です。一時停止してください。"が音声出力されるため、運転者が適切な確認動作(例えば、「一時停止よし」の呼称)を行った場合には、判定結果メッセージとして"一時停止よし"が音声出力される。このため、"判定結果メッセージ"には、"一時停止よし"が格納されている。
"適切な確認動作が行われた場合"の"仮想出力者"には、対応する判定結果メッセージを音声出力する仮想出力者が規定される。例えば、ID="1"の注意喚起メッセージに対応して音声出力される判定結果メッセージは、車両300の仮想同乗者311〜314全員で復唱または連呼される。このため、"仮想出力者"には、"仮想同乗者全員"が規定されている。
"適切な確認動作が行われなかった場合"の"判定結果メッセージ"には、IDにより識別される注意喚起メッセージに対応する判定結果メッセージが格納される。例えば、ID="1"の場合、注意喚起メッセージとして"交差点です。一時停止してください。"が音声出力されるため、運転者が適切な確認動作を行わなかった場合には、判定結果メッセージとして"一時停止の確認を怠っています。"が音声出力される。このため、"判定結果メッセージ"には、"一時停止の確認を怠っています。"が格納されている。
"適切な確認動作が行われなかった場合"の"仮想出力者"には、対応する判定結果メッセージを音声出力する仮想出力者が規定される。例えば、ID="1"の注意喚起メッセージに対応して音声出力される判定結果メッセージは、車両300の車外前方の位置に配置された仮想出力者331から音声出力される。このため、"仮想出力者"には、"車外前方の仮想出力者"が規定されている。
次に、音声属性情報格納部127に格納される音声属性情報について説明する。図9は、音声属性情報の一例を示す図である。
図9に示すように、音声属性情報900は、情報の項目として、"仮想出力者の属性"、"第1の音声出力部"〜"第6の音声出力部"が含まれる。また、"仮想出力者の属性"には、更に、詳細な情報の項目として、"配置"、"声色"、"役割"が含まれる。また、"第1の音声出力部"〜"第6の音声出力部"には、更に、詳細な情報の項目として、"音量"、"位相ずれ"が含まれる。
"仮想出力者の属性"の"配置"には、いずれの位置に配置された仮想出力者であるかを示す情報が格納される。図3を用いて説明したとおり、仮想出力者には、助手席322の位置に配置された仮想同乗者311、後部座席323の右側の位置に配置された仮想同乗者312、中央の位置に配置された仮想同乗者313、左側の位置に配置された仮想同乗者314が含まれる。また、仮想出力者には、車外前方の位置に配置された仮想出力者331、車外右前方の位置に配置された仮想出力者332、車外右側の位置に配置された仮想出力者333、車外左前方の位置に配置された仮想出力者334が含まれる。
"仮想出力者の属性"の"声色"には、音声情報を音声出力する際の声色が規定される。音声属性情報900の例は、仮想出力者それぞれから音声情報を音声出力するにあたり、"M1"〜"M5"(男性)の声と、"F1"〜"F3"(女性)の声とが含まれることを示している。なお、"M1"〜"M5"は、異なる男性の声であることを表している。同様に、"F1"〜"F3"は、異なる女性の声であることを表している。
"仮想出力者の属性"の"役割"には、仮想同乗者の役割が規定される。音声属性情報900の例は、仮想同乗者311〜314の役割として、"管理者"と"被管理者"とが含まれることを示している。
このように、"仮想出力者の属性"として、"配置"に加え、"声色"及び"役割"を規定しておくことで、例えば、特定の注意喚起メッセージや特定の判定結果メッセージを、特定の声色を有する仮想出力者から音声出力するように規定することが可能となる。また、例えば、特定の注意喚起メッセージや特定の判定結果メッセージを、特定の役割を有する仮想出力者から音声出力するように規定することが可能となる。このため、"声色"や"役割"には、様々な声色や役割を規定することができる。例えば、"役割"には、"上司"や"教官"といった役割を規定することができる。また、"声色"には、それぞれの"役割"に応じた声色を規定することができる。
"第1の音声出力部"〜"第6の音声出力部"の"音量"には、第1の音声出力部131〜第6の音声出力部136が音声情報を音声出力する際の音量が規定される。また、"第1の音声出力部"〜"第6の音声出力部"の"位相ずれ"には、第1の音声出力部131〜第6の音声出力部136が音声情報を音声出力する際の位相ずれが規定される。
このように、第1の音声出力部131〜第6の音声出力部136が音声情報を出力する際の音量及び位相ずれを規定しておくことで、音声出力制御部124は、対応する仮想出力者から音声情報を音声出力することができる。つまり、運転者310は、それぞれの"配置"の仮想出力者から音声情報が音声出力されているものと認識することができる。
次に、車両300の様々な状況における注意喚起メッセージと仮想出力者との関係を、具体的に説明する。
図10乃至図12は、注意喚起メッセージと、仮想出力者との関係を具体的に説明するための図である。なお、図10乃至図12では、判定結果メッセージの音声出力についての記載は省略している。
図10(a)は、車両300が交差点を直進する状況における注意喚起メッセージと仮想出力者との関係を示している。図10(a)に示すように、車両300が交差点に進入する手前の所定のタイミング(L/V秒前)に到達すると、注意喚起システム100は、"交差点です。一時停止してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが車外前方の位置に配置された仮想出力者331から音声出力されたものと認識するため、仮想出力者331が配置された車外前方を見ることになる(視線方向1001参照)。つまり、運転者310は、直感的に車外前方方向を見ながら一時停止確認動作を行うことになる。
続いて、注意喚起システム100は、"左側を確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、助手席322の位置に配置された仮想同乗者311から音声出力されたものと認識するため、仮想同乗者311が配置された助手席側を見ることになる(視線方向1002参照)。つまり、運転者310は、直感的に左側確認動作を行うことになる。
続いて、注意喚起システム100は、"右側を確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、車外右側の位置に配置された仮想出力者333から音声出力されたものと認識するため、仮想出力者333が配置された車外右側を見ることになる(視線方向1003参照)。つまり、運転者310は、直感的に右側確認動作を行うことになる。
図10(b)は、車両300が交差点を右折する状況における注意喚起メッセージと仮想出力者との関係を示している。図10(b)に示すように、車両300が交差点に進入する手前の所定のタイミング(L/V秒前)に到達すると、注意喚起システム100は、"交差点です。一時停止してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、車外前方の位置に配置された仮想出力者331から音声出力されたものと認識するため、仮想出力者331が配置された車外前方を見ることになる(視線方向1011参照)。つまり、運転者310は、直感的に車外前方を見ながら一時停止確認動作を行うことになる。
続いて、注意喚起システム100は、"右前方を確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、車外右前方の位置に配置された仮想出力者332から音声出力されたものと認識するため、仮想出力者332が配置された車外右前方を見ることになる(視線方向1012参照)。つまり、運転者310は、直感的に右前方確認動作を行うことになる。
続いて、注意喚起システム100は、"歩行者を確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、車外右側の位置に配置された仮想出力者333から音声出力されたものと認識するため、仮想出力者333が配置された車外右側を見ることになる(視線方向1013参照)。つまり、運転者310は、直感的に右折先確認動作を行い、歩行者を確認することになる。
図10(c)は、車両300が交差点を左折する状況における注意喚起メッセージと仮想出力者との関係を示している。図10(c)に示すように、車両300が交差点に進入する手前の所定のタイミング(L/V秒前)に到達すると、注意喚起システム100は、"交差点です。一時停止してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、車外前方の位置に配置された仮想出力者331から音声出力されたものと認識するため、仮想出力者331が配置された車外前方を見ることになる(視線方向1021参照)。つまり、運転者310は、直感的に車外前方を見ながら一時停止確認動作を行うことになる。
続いて、注意喚起システム100は、"左折先を確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、助手席322の位置に配置された仮想同乗者311から音声出力されたものと認識するため、仮想同乗者311が配置された助手席側を見ることになる(視線方向1022参照)。つまり、運転者310は、直感的に左折先確認動作を行うことになる。
続いて、注意喚起システム100は、"二輪車が来ていないか確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、後部座席323左側の位置に配置された仮想同乗者314から音声出力されたものと認識するため、仮想同乗者314が配置された左後方を見ることになる(視線方向1023参照)。つまり、運転者310は、直感的に左後方確認動作を行い、二輪車が来ていないか確認することになる。
図11(a)は、車両300が分岐点にて右側に分岐する状況における注意喚起メッセージと仮想出力者との関係を示している。図11(a)に示すように、車両300が分岐点の手前の所定のタイミング(L/V秒前)に到達すると、注意喚起システム100は、"右前方を確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、車外右前方の位置に配置された仮想出力者332から音声出力されたものと認識するため、仮想出力者332が配置された車外右前方を見ることになる(視線方向1101参照)。つまり、運転者310は、直感的に右前方確認動作を行うことになる。
図11(b)は、車両300が分岐点にて左側に分岐する状況における注意喚起メッセージと仮想出力者との関係を示している。図11(b)に示すように、車両300が分岐点の手前の所定のタイミング(L/V)に到達すると、注意喚起システム100は、"左前方を確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、車外左前方の位置に配置された仮想出力者334から音声出力されたものと認識するため、仮想出力者334が配置された車外左前方を見ることになる(視線方向1111参照)。つまり、運転者310は、直感的に左前方確認動作を行うことになる。
続いて、注意喚起システム100は、"左後方を確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、後部座席323左側の位置に配置された仮想同乗者314から音声出力されたものと認識するため、仮想同乗者314が配置された左後方を見ることになる(視線方向1112参照)。つまり、運転者310は、直感的に左後方確認動作を行うことになる。
図12(a)は、車両300が合流点に右側から合流する状況における注意喚起メッセージと仮想出力者との関係を示している。図12(a)に示すように、車両300が合流点に右側から合流する手前の所定のタイミング(L/V秒前)に到達すると、注意喚起システム100は、"左前方を確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、車外左前方の位置に配置された仮想出力者334から音声出力されたものと認識するため、仮想出力者334が配置された車外左前方を見ることになる(視線方向1201参照)。つまり、運転者310は、直感的に左前方確認動作を行うことになる。
続いて、注意喚起システム100は、"左後方を確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、後部座席323左側の位置に配置された仮想同乗者314から音声出力されたものと認識するため、仮想同乗者314が配置された左後方を見ることになる(視線方向1202参照)。つまり、運転者310は、直感的に左後方確認動作を行うことになる。
図12(b)は、車両300が合流点に左側から合流する状況における注意喚起メッセージと仮想出力者との関係を示している。図12(b)に示すように、車両300が合流点に左側から合流する手前の所定のタイミング(L/V秒前)に到達すると、注意喚起システム100は、"右前方を確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、車外右前方の位置に配置された仮想出力者332から音声出力されたものと認識するため、仮想出力者332が配置された車外右前方を見ることになる(視線方向1211参照)。つまり、運転者310は、直感的に右前方確認動作を行うことになる。
続いて、注意喚起システム100は、"右後方を確認してください。"との注意喚起メッセージを音声出力する。運転者310は、当該注意喚起メッセージが、後部座席323右側の位置に配置された仮想同乗者312から音声出力されたものと認識するため、仮想同乗者312が配置された右後方を見ることになる(視線方向1212参照)。つまり、運転者310は、直感的に右後方確認動作を行うことになる。
次に、注意喚起用ECU120により実行される運転補助処理の流れについて説明する。図13は、運転補助処理の第1のフローチャートである。車両300のイグニッションスイッチがONとなり、注意喚起用ECU120が起動することで、図13に示す運転補助処理が開始される。
ステップS1301において、状況判定部121は、現在の車両300の状況が注意喚起メッセージを音声出力すべき状況にあるか否かを判定する。注意喚起メッセージを音声出力すべき状況にあると判定した場合、情報特定部122は、現在の車両300の状況に基づいて注意喚起メッセージを音声出力する際に用いる情報を特定し、音声出力制御部124に通知する。また、情報特定部122は、現在の車両300の状況に基づいて運転者の確認動作の適否を判定する際に用いる情報を特定し、動作判定部123に通知する。なお、状況判定部121及び動作判定部123によるこれらの処理(状況判定処理)の詳細は後述する。
ステップS1302において、状況判定部121は、カウンタnに1を代入する。ステップS1303において、音声出力制御部124は、情報特定部122より通知された、注意喚起メッセージを音声出力する際に用いる情報のうち、順序="n"に対応する情報を用いて注意喚起メッセージの音声出力を行う。なお、音声出力制御部124による注意喚起メッセージ出力処理の詳細は後述する。
ステップS1304において、動作判定部123は、情報特定部122より通知された、運転者の確認動作の適否を判定する際に用いる情報のうち、順序="n"に対応する情報を用いて、運転者310の確認動作の適否を判定する。更に、音声出力制御部124は、動作判定部123による適否の判定結果に基づいて、判定結果メッセージを音声出力する。なお、動作判定部123及び音声出力制御部124によるこれらの処理(確認動作判定処理)の詳細は後述する。
ステップS1305において、情報特定部122は、現在の車両300の状況に基づいて特定した、注意喚起メッセージを音声出力する際に用いる情報に含まれる全ての注意喚起メッセージが音声出力されたか否かを判定する。ステップS1305において、まだ、音声出力されていない注意喚起メッセージがあると判定した場合には、ステップS1306に進む。
ステップS1306において、情報特定部122は、カウンタnをインクリメントする。その後、ステップS1303に戻る。
一方、ステップS1305において、全ての注意喚起メッセージが音声出力されたと判定した場合には、ステップS1307に進む。ステップS1307において、動作判定部123は、音声出力された全ての注意喚起メッセージに対して、運転者310が適切な確認動作を行ったか否かを判定する。
ステップS1307において、全ての注意喚起メッセージに対して運転者310が適切な確認動作を行ったと判定した場合には、ステップS1308に進む。ステップS1308において、音声出力制御部124は、評価メッセージを音声出力した後、ステップS1309に進む。
一方、ステップS1307において、いずれかの注意喚起メッセージに対して運転者310が適切な確認動作を行わなかったと判定した場合には、直接、ステップS1309に進む。
ステップS1309において、状況判定部121は、運転補助処理を終了するか否かを判定する。終了しないと判定した場合には、ステップS1301に戻る。一方、終了すると判定した場合には、運転補助処理を終了する。
次に、図13の状況判定処理(ステップS1301)の詳細について説明する。図14は、状況判定処理のフローチャートである。ステップS1401において、状況判定部121は、ナビゲーション装置111より車両300の現在の位置情報を受信する。
ステップS1402において、状況判定部121は、受信した位置情報に含まれる、位置検出結果及び進路検出結果を抽出する。なお、位置検出結果には、交差点、分岐点、合流点のいずれかが含まれ、進路検出結果には、直進、右折、左折、右側へ分岐、左側へ分岐、右側から合流、左側から合流のいずれかが含まれる。
状況判定部121は、位置検出結果及び進路検出結果に基づいて、現在の車両300の状況が、動作情報600または700において定義された状況に該当するか否かを判定する。
ステップS1402において、動作情報600または700において定義された状況に該当しないと判定した場合には、ステップS1401に戻る。一方、ステップS1402において、動作情報600または700において定義された状況に該当すると判定した場合には、ステップS1403に進む。
ステップS1403において、情報特定部122は、状況判定部121が判定した状況に対応するIDを動作情報600または700より取得する。例えば、車両300が交差点を直進する状況であると判定された場合、情報特定部122は、動作情報600より、ID="1"、"2"、"3"を取得する。
ステップS1404において、情報特定部122は、取得したIDに対応する注意喚起メッセージを取得する。例えば、取得したIDが"1"、"2"、"3"であった場合、情報特定部122は、対応する注意喚起メッセージとして"交差点です。一時停止してください。"、"左側を確認してください。"、"右側を確認してください。"を取得する。
ステップS1405において、情報特定部122は、動作情報600または700を参照し、取得した注意喚起メッセージに基づいて運転者が確認すべき方向を特定し、特定した方向に関連付けて規定された仮想出力者を特定する。また、情報特定部122は、動作情報600または700を参照し、取得した注意喚起メッセージに関連付けて規定された、タイミング、順序を特定する。例えば、取得した注意喚起メッセージが"交差点です。一時停止してください。"であった場合、情報特定部122は、運転者が確認すべき方向として"前方"を特定し、"前方"に関連付けて規定された仮想出力者="車外前方の仮想出力者"を特定する。また、情報特定部122は、注意喚起メッセージ="交差点です。一時停止してください。"に関連付けて規定されたタイミング="L/V秒前"、順序="1"を特定する。同様に、取得した注意喚起メッセージが"左側を確認してください。"であった場合、情報特定部122は、仮想出力者="助手席の仮想同乗者"、タイミング="(L/V−1)秒前"、順序="2"を特定する。更に、取得した注意喚起メッセージが"右側を確認してください。"であった場合、情報特定部122は、仮想出力者="車外右側の仮想出力者"、タイミング="(L/V−2)秒前"、順序="3"を特定する。
ステップS1406において、情報特定部122は、取得したID及び注意喚起メッセージと、特定した仮想出力者、タイミング、順序とを、注意喚起メッセージを音声出力する際に用いる情報として、音声出力制御部124に通知する。
ステップS1407において、情報特定部122は、動作情報600または700を参照し、取得した注意喚起メッセージと関連付けて規定されている、順序、運転者の指差し方向、呼称内容、視線方向を特定する。例えば、取得した注意喚起メッセージが"交差点です。一時停止してください。"であった場合、情報特定部122は、順序="1"、指差し方向="前方"、呼称内容="一時停止よし"、視線方向="前方"を特定する。また、取得した注意喚起メッセージが"左側を確認してください。"であった場合、情報特定部122は、順序="2"、指差し方向="左側"、呼称内容="左側よし"、視線方向="左側"を特定する。更に、取得した注意喚起メッセージが"右側を確認してください。"であった場合、情報特定部122は、順序="3"、指差し方向="右側"、呼称内容="右側よし"、視線方向="右側"を特定する。
ステップS1408において、情報特定部122は、取得したIDと、特定した順序、指差し方向、呼称内容、視線方向とを、運転者の確認動作の適否を判定する際に用いる情報として、動作判定部123に通知する。その後、状況判定部121は、図13のステップS1302に戻る。
次に、図13の注意喚起メッセージ出力処理(ステップS1303)の詳細について説明する。図15は、注意喚起メッセージ出力処理のフローチャートである。ステップS1501において、音声出力制御部124は、情報特定部122より通知された、注意喚起メッセージを音声出力する際に用いる情報に含まれる各仮想出力者のうち、順序="n"に対応する仮想出力者に基づいて、音声属性情報900を参照する。これにより、音声出力制御部124は、順序="n"に対応する仮想出力者が音声出力を行う際の、第1の音声出力部131〜第6の音声出力部136の制御情報を取得する。例えば、順序="1"の場合、音声出力制御部124は、車外前方の仮想出力者が音声出力を行う際の制御情報(音量、位相ずれ)を取得する。
ステップS1502において、音声出力制御部124は、現在のタイミングが、情報特定部122より通知された、注意喚起メッセージを音声出力する際に用いる情報に含まれる各タイミングのうち、順序="n"に対応するタイミングに該当するか否かを判定する。例えば、順序="1"の場合、音声出力制御部124は、現在のタイミングが、交差点に到達する(L/V)秒前に該当するか否かを判定する。
ステップS1502において、順序="n"に対応するタイミングに該当しないと判定した場合には、順序="n"に対応するタイミングに該当するまで待機する。一方、ステップS1502において、順序="n"に対応するタイミングに該当すると判定した場合には、ステップS1503に進む。
ステップS1503において、音声出力制御部124は、情報特定部122より通知された各注意喚起メッセージのうち、順序="n"に対応する注意喚起メッセージを、第1の音声出力部131〜第6の音声出力部136を介して音声出力する。なお、音声出力制御部124は、ステップS1501において取得した制御情報に基づいて音声出力を行う。その後、音声出力制御部124は、図13のステップS1304に戻る。
次に、図13の確認動作判定処理(ステップS1304)の詳細について説明する。図16は、確認動作判定処理の第1のフローチャートである。ステップS1601において、動作判定部123は、ジェスチャ検出部113より、指差し方向情報を受信する。
ステップS1602において、動作判定部123は、情報特定部122より通知された、運転者の確認動作の適否を判定する際に用いる情報に含まれる各指差し方向のうち、順序="n"に対応する指差し方向を読み出す。例えば、順序="1"の場合、動作判定部123は、指差し方向="前方"を読み出す。
ステップS1603において、動作判定部123は、ステップS1601において取得した指差し方向情報と、ステップS1602において読み出した"指差し方向"とが一致するか否かを判定する。ステップS1603において、一致すると判定した場合、ステップS1610に進む。
一方、ステップS1603において、一致しないと判定した場合、動作判定部123は、運転者310のジェスチャ(指差し動作)が適切でないと判定し、ステップS1604に進む。
ステップS1604において、動作判定部123は、音声検出部114より、呼称情報を受信する。
ステップS1605において、動作判定部123は、情報特定部122より通知された、運転者の確認動作の適否を判定する際に用いる情報に含まれる各呼称内容のうち、順序="n"に対応する呼称内容を読み出す。例えば、順序="1"の場合、動作判定部123は、呼称内容="一時停止よし"を読み出す。
ステップS1606において、動作判定部123は、ステップS1604において受信した呼称情報と、ステップS1605において読み出した"呼称内容"とが一致するか否かを判定する。ステップS1606において、一致すると判定した場合、動作判定部123は、運転者310の呼称が適切であると判定し、ステップS1610に進む。
一方、ステップS1606において、一致しないと判定した場合、動作判定部123は、運転者310の呼称が適切でないと判定し、ステップS1607に進む。
ステップS1607において、動作判定部123は、視線検出部115より、視線方向情報を受信する。
ステップS1608において、動作判定部123は、情報特定部122より通知された、運転者の確認動作の適否を判定する際に用いる情報に含まれる各視線方向のうち、順序="n"に対応する視線方向を読み出す。例えば、順序="1"の場合、動作判定部123は、視線方向="前方"を読み出す。
ステップS1609において、動作判定部123は、ステップS1607において受信した視線方向情報と、ステップS1608において読み出した"視線方向"とが一致するか否かを判定する。ステップS1609において、一致すると判定した場合、動作判定部123は、運転者310の視線方向が適切であると判定し、ステップS1610に進む。
一方、ステップS1609において、一致しないと判定した場合、動作判定部123は、運転者310の視線方向が適切でないと判定し、ステップS1621に進む。
ステップS1610において、動作判定部123は、運転者310によって適切な確認動作が行われたと判定する。また、ステップS1611において、動作判定部123は、順序="n"に対応するIDに基づいて、判定結果出力情報800の"適切な確認動作が行われた場合"を参照し、対応する判定結果メッセージ及び仮想出力者を読み出し、音声出力制御部124に通知する。例えば、順序="1"の場合、ID="1"に基づいて判定結果出力情報800の"適切な確認動作が行われた場合"を参照し、判定結果メッセージとして"一時停止よし"を読み出し、仮想出力者として"仮想同乗者全員"を読み出す。
ステップS1612において、音声出力制御部124は、動作判定部123より通知された仮想出力者に基づいて音声属性情報900を参照することで制御情報(音量、位相ずれ)を取得する。
ステップS1613において、音声出力制御部124は、動作判定部123より通知された判定結果メッセージを、ステップS1612において取得した制御情報に基づいて、第1の音声出力部131〜第6の音声出力部136を介して音声出力する。その後、音声出力制御部124は、図13のステップS1305に戻る。
一方、ステップS1621において、動作判定部123は、運転者310によって適切な確認動作が行われなかったと判定する。また、ステップS1622において、動作判定部123は、順序="n"に対応するIDに基づいて、判定結果出力情報800の"適切な確認動作が行われなかった場合"を参照する。そして、動作判定部123は、対応する判定結果メッセージ及び仮想出力者を読み出し、音声出力制御部124に通知する。例えば、順序="1"の場合、動作判定部123は、ID="1"に基づいて判定結果出力情報800の"適切な確認動作が行われなかった場合"を参照し、判定結果メッセージとして"一時停止の確認を怠っています"を読み出す。また、動作判定部123は、仮想出力者として"車外前方の仮想出力者"を読み出す。
ステップS1623において、音声出力制御部124は、動作判定部123より通知された仮想出力者に基づいて音声属性情報900を参照することで制御情報(音量、位相ずれ)を取得する。
ステップS1624において、音声出力制御部124は、動作判定部123より通知された判定結果メッセージを、ステップS1623において取得した制御情報に基づいて、第1の音声出力部131〜第6の音声出力部136を介して音声出力する。その後、音声出力制御部124は、図13のステップS1305に戻る。
次に、車両300の所定の状況における仮想同乗者311〜314または仮想同乗者以外の仮想出力者331〜334と運転者310とのコミュニケーションの流れについて説明する。図17及び図18は、所定の状況における仮想出力者と運転者とのコミュニケーションの一例を示す第1及び第2の図である。
このうち、図17は、車両300が交差点を直進する際に、運転者310が適切な確認動作を行った場合のコミュニケーションの流れを示している。図17に示すように、車両300が交差点に進入する前に、車外前方の位置に配置された仮想出力者331は、"交差点です。一時停止してください。"との注意喚起メッセージを音声出力する。
運転者310は、車外前方の位置に配置された仮想出力者331から音声出力された注意喚起メッセージを認識して車外前方を視認し、「一時停止よし」と呼称したとする。運転者310の当該確認動作は適切である。このため、運転者310の呼称は、車両300の仮想同乗者311〜314全員によって復唱される。つまり、仮想同乗者311〜314は、判定結果メッセージとして"一時停止よし"を音声出力する。
続いて、助手席322の位置に配置された仮想同乗者311は、"左側を確認してください。"との注意喚起メッセージを音声出力する。
運転者310は、助手席322の位置に配置された仮想同乗者311から音声出力された注意喚起メッセージを認識して左側を視認し、「左側よし」と呼称したとする。運転者310の当該確認動作は適切である。このため、運転者310の呼称は、車両300の仮想同乗者311〜314全員によって復唱される。つまり、仮想同乗者311〜314は判定結果メッセージとして"左側よし"を音声出力する。
続いて、車外右側の位置に配置された仮想出力者333は、"右側を確認してください。"との注意喚起メッセージを音声出力する。
運転者310は、車外右側の位置に配置された仮想出力者333から音声出力された注意喚起メッセージを認識して右側を視認し、「右側よし」と呼称したとする。運転者310の当該確認動作は適切である。このため、運転者310の呼称は、車両300の仮想同乗者311〜314全員によって復唱される。つまり、仮想同乗者311〜314は判定結果メッセージとして"右側よし"を音声出力する。
更に、交差点を直進する際に音声出力すべき注意喚起メッセージが全て音声出力され、音声出力された全ての注意喚起メッセージに対して運転者310が適切な確認動作を行ったため、評価メッセージとして"適切な運転です。"が音声出力される。なお、評価メッセージは、助手席322の位置に配置された仮想同乗者311により音声出力される。
一方、図18は、車両300が交差点に直進する際に、運転者310が、確認動作の一部を適切に行わなかった場合のコミュニケーションの流れを示している。図18に示すように、車両300が交差点に進入する前に、車外前方の位置に配置された仮想出力者331は、"交差点です。一時停止してください。"との注意喚起メッセージを音声出力する。
運転者310は、車外前方の位置に配置された仮想出力者331から音声出力された注意喚起メッセージを認識して車外前方を視認し、「一時停止よし」と呼称したとする。運転者310の当該確認動作は適切である。このため、運転者310の呼称は、車両300の仮想同乗者311〜314全員によって復唱される。つまり、仮想同乗者311〜314は判定結果メッセージとして"一時停止よし"を音声出力する。
続いて、助手席322の位置に配置された仮想同乗者311は、"左側を確認してください。"との注意喚起メッセージを音声出力する。
ここで、運転者310は、助手席322の位置に配置された仮想同乗者311から音声出力された注意喚起メッセージを認識したにも関わらず、左側を視認せず、「左側よし」の呼称も指差し動作も行わなかったとする。
この場合、助手席322の位置に配置された仮想同乗者311は、判定結果メッセージとして"左側の確認を怠っています。"を音声出力する。
ここでも、運転者310が、左側を視認せず、「左側よし」の呼称も指差し動作も行わなかった場合には、車外右側の位置に配置された仮想出力者333は、次の注意喚起メッセージとして"右側を確認してください。"を音声出力する。
ここで、運転者310は、車外右側の位置に配置された仮想出力者333から音声出力された注意喚起メッセージを認識したにも関わらず、右側を視認せず、「右側よし」の呼称も指差し動作も行わなかったとする。
この場合、助手席322の位置に配置された仮想同乗者311は、判定結果メッセージとして"右側の確認を怠っています。"を音声出力する。
このように、注意喚起システム100によれば、仮想出力者と運転者310との間のコミュニケーションを、運転者310の確認動作の適否に応じて変更することができる。
以上の説明から明らかなように、第1の実施形態における注意喚起システムは、運転者に対して注意喚起メッセージを音声出力すべき状況になった場合に、注意喚起メッセージに基づいて運転者が確認(注意)すべき方向を特定する。また、第1の実施形態における注意喚起システムは、特定した方向に関連付けて規定されている仮想出力者を特定する。更に、第1の実施形態における注意喚起システムは、特定した仮想出力者が注意喚起メッセージを音声出力するよう、特定した仮想出力者に関連付けて格納された制御情報に基づいて、複数の音声出力部を介して注意喚起メッセージを音声出力する。
これにより、運転者は、運転操作中に注意喚起メッセージが音声出力された場合であっても、確認すべき方向を直感的に把握することができる。この結果、第1の実施形態における注意喚起システムによれば、運転操作中に運転者に対して行う注意喚起を運転者が容易に把握し、迅速に確認動作を行うことができるようになる。
つまり、第1の実施形態における注意喚起システムによれば、運転者による迅速な安全確認を支援することが可能になる。
また、第1の実施形態における注意喚起システムは、運転者の確認動作の適否を判定し、判定結果に応じて異なる判定結果メッセージを音声出力する。
これにより、運転者は、自身の確認動作が適切であったか否かを認識することができるため、確認動作を行うことに対する実行意欲を向上させるとともに、運転操作を通じて適切な確認動作を習熟することができる。
[第2の実施形態]
上記第1の実施形態では、運転者が適切な確認動作を行った後に、仮想同乗者が復唱を行うものとして説明した。これに対して、第2の実施形態では、先に仮想同乗者(または仮想同乗者以外の仮想出力者)が注意喚起メッセージに応じた呼称を行い、運転者が復唱しながら確認動作を行う。以下、第2の実施形態について、第1の実施形態との相違点を中心に説明する。
はじめに、第2の実施形態における確認動作判定処理の流れについて説明する。図19は、確認動作判定処理の第2のフローチャートである。図16に示した、確認動作判定処理の第1のフローチャートとの相違点は、図19の場合、ステップS1611〜S1614の代わりに、ステップS1901〜S1903が含まれている点である。
ステップS1901において、動作判定部123は、情報特定部122より通知された、運転者の確認動作の適否を判定する際に用いる情報に含まれる各呼称内容及び各仮想出力者のうち、順序="n"に対応する呼称内容及び仮想出力者を読み出す。例えば、順序="1"の場合、動作判定部123は、呼称内容として"一時停止よし"を読み出し、仮想出力者として"車外前方の仮想出力者"を読み出す。
ステップS1902において、動作判定部123は、音声属性情報900を参照し、ステップS1901において読み出した仮想出力者に対応する制御情報(音量及び位相ずれ)を取得する。
ステップS1903において、動作判定部123は、ステップS1901において読み出した呼称内容を、ステップS1902において取得した制御情報に基づいて、第1の音声出力部131〜第6の音声出力部136を介して音声出力する。以降、ステップS1601からの処理は、図16を用いて説明済みであるため、ここでは説明を省略する。
なお、図19では、ステップS1603において、運転者のジェスチャが適切であると判定した場合に、直接、図13のステップS1306に戻る。同様に、ステップS1606において、運転者の呼称が適切であると判定した場合、及び、ステップS1609において、運転者の視線方向が適切であると判定した場合に、直接、図13のステップS1306に戻る。
次に、車両300の所定の状況における、仮想同乗者311〜314または仮想同乗者以外の仮想出力者331〜334と運転者310とのコミュニケーションの流れについて説明する。図20及び図21は、所定の状況における仮想出力者と運転者とのコミュニケーションの一例を示す第3及び第4の図である。
このうち、図20は、車両300が交差点を直進する際に、運転者310が適切な確認動作を行った場合のコミュニケーションの流れを示している。図20に示すように、車両300が交差点に進入する前に、車外前方の位置に配置された仮想出力者331は、"交差点です。一時停止してください。"との注意喚起メッセージを音声出力する。続いて、車外前方の位置に配置された仮想出力者331は、呼称として、"一時停止よし"を音声出力する。
運転者310は、車外前方の位置に配置された仮想出力者331から注意喚起メッセージが音声出力されたことに応じて前方を視認する。また、運転者310は、車外前方の位置に配置された仮想出力者331から呼称内容が音声出力されたことに応じて、「一時停止よし」を復唱する。
続いて、助手席322の位置に配置された仮想同乗者311は、"左側を確認してください。"との注意喚起メッセージを音声出力する。更に、助手席322の位置に配置された仮想同乗者311は、呼称として、"左側よし"を音声出力する。
運転者310は、助手席322の位置に配置された仮想同乗者311から注意喚起メッセージが音声出力されたことに応じて左側を視認する。また、運転者310は、助手席322の位置に配置された仮想同乗者311から呼称内容が音声出力されたことに応じて、「左側よし」を復唱する。
続いて、車外右側の位置に配置された仮想出力者333は、"右側を確認してください。"との注意喚起メッセージを音声出力する。更に、車外右側の位置に配置された仮想出力者333は、呼称として、"右側よし"を音声出力する。
運転者310は、車外右側の位置に配置された仮想出力者333から注意喚起メッセージが音声出力されたことに応じて右側を視認する。また、運転者310は、車外右側の位置に配置された仮想出力者333から呼称内容が音声出力されたことに応じて、「右側よし」を復唱する。
更に、交差点を直進する際に音声出力すべき注意喚起メッセージが全て音声出力され、音声出力された全ての注意喚起メッセージに対して運転者310が適切な確認動作を行ったため、評価メッセージとして、"適切な運転です。"が音声出力される。なお、評価メッセージは、助手席322の位置に配置された仮想同乗者311より音声出力される。
一方、図21は、車両300が交差点を直進する際に、運転者310が確認動作の一部を適切に行わなかった場合のコミュニケーションの流れを示している。図21に示すように、車両300が交差点に進入する前に、車外前方の位置に配置された仮想出力者331は、"交差点です。一時停止してください。"との注意喚起メッセージを音声出力する。続いて、車外前方の位置に配置された仮想出力者331は、呼称として、"一時停止よし"を音声出力する。
運転者310は、車外前方の位置に配置された仮想出力者331から注意喚起メッセージが音声出力されたことに応じて前方を視認する。また、運転者310は、車外前方の位置に配置された仮想出力者331から呼称内容が音声出力されたことに応じて、「一時停止よし」を復唱する。
続いて、助手席322の位置に配置された仮想同乗者311は、"左側を確認してください。"との注意喚起メッセージを音声出力する。更に、助手席322の位置に配置された仮想同乗者311は、呼称として、"左側よし"を音声出力する。
ここで、運転者310は、助手席322の位置に配置された仮想同乗者311から呼称が行われたことを認識したが、左側を視認せず、「左側よし」を復唱することもなかったとする。また、運転者310は、左方向に指差し動作をすることもなかったとする。
この場合、助手席322の位置に配置された仮想同乗者311は、判定結果メッセージとして"左側の確認を怠っています。"を音声出力する。
ここでも、運転者310が、左側を視認せず、「左側よし」の呼称も指差し動作も行わなかった場合、車外右側の位置に配置された仮想出力者333は、次の注意喚起メッセージとして"右側を確認してください。"を音声出力する。更に、車外右側の位置に配置された仮想出力者333は、呼称として、"右側よし"を音声出力する。
ここで、運転者310は、車外右側の位置に配置された仮想出力者333から呼称が行われたことを認識したが、右側を視認せず、「右側よし」を復唱することもなかったとする。また、運転者310は、右方向に指差し動作をすることもなかったとする。
この場合、助手席322の位置に配置された仮想同乗者311は、判定結果メッセージとして、"右側の確認を怠っています。"を音声出力する。
以上の説明から明らかなように、第2の実施形態における注意喚起システムは、運転者に対して注意喚起メッセージを音声出力すべき状況になった場合に、注意喚起メッセージに基づいて、運転者が確認(注意)すべき方向を特定する。また、第2の実施形態における注意喚起システムは、特定した方向に関連付けて規定されている仮想出力者を特定する。また、第2の実施形態における注意喚起システムは、特定した仮想出力者が注意喚起メッセージを音声出力するよう、特定した仮想出力者に関連付けて格納された制御情報に基づいて、複数の音声出力部を介して注意喚起メッセージを音声出力する。更に、第2の実施形態における注意喚起システムは、注意喚起メッセージに続いて、確認動作のための呼称を音声出力する。
これにより、運転者は、運転操作中に注意喚起メッセージが音声出力された場合であっても、確認すべき方向を直感的に把握することができるうえ、仮想出力者の呼称内容を復唱することができるため、呼称すべき内容を運転者自身が改めて考える必要もなくなる。この結果、第2の実施形態における注意喚起システムによれば、運転操作中に運転者に対して行う注意喚起を運転者は容易に把握し、呼称による確認動作を迅速に行うことができるようになる。
つまり、第2の実施形態における注意喚起システムによれば、運転者による迅速な安全確認を支援することが可能になる。
[第3の実施形態]
上記第1及び第2の実施形態では、動作情報600及び700が予め定義されており、状況判定部121及び情報特定部122が、予め定義された動作情報600及び700に基づいて状況判定処理を実行するものとして説明した。これに対して、第3の実施形態では、運転者310の確認動作に関する情報をフィードバックし、動作情報更新部が動作情報600及び700を更新する。そして、状況判定部121及び情報特定部122は、更新された動作情報600及び700に基づいて状況判定処理を実行する。以下、第3の実施形態について、上記第1の実施形態との相違点を中心に説明する。
はじめに、第3の実施形態における注意喚起システムのシステム構成について説明する。図22は、注意喚起システムの構成例を示す第2の図である。図1に示した注意喚起システム100との相違点は、図22の注意喚起システム2200の場合、注意喚起用ECU120が、動作情報更新部2201を有している点である。
動作情報更新部2201は、動作判定部123が運転者310の確認動作の適否を判定した場合に、動作判定部123より適否の判定結果を取得する。
また、動作情報更新部2201は、動作判定部123より運転者310の確認動作が適切であったとの判定結果を取得した場合に、注意喚起メッセージが音声出力されたタイミングと、運転者310の確認動作が行われたタイミングとの間の時間差を算出する。
更に、動作情報更新部2201は、算出した時間差に基づいて、注意喚起メッセージを音声出力するタイミングと、運転者310が確認動作を行うタイミングとの調和度を算出し、算出した調和度に基づいて、動作情報600及び700を更新する。
図23は、動作情報更新部の機能構成の詳細を示す図である。図23に示すように、動作情報更新部2201は、調和度算出部2301、メッセージ内容更新部2302、メッセージ個数更新部2303、タイミング更新部2304を有する。
調和度算出部2301は、注意喚起メッセージを音声出力するタイミングと、運転者310の確認動作が行われたタイミングとの間の時間差に基づいて、調和度を算出する。調和度算出部2301は、例えば、注意喚起メッセージを音声出力するタイミングと、運転者310の確認動作が行われたタイミングとの間の時間差の逆数に、所定の係数をかけ合わせることで、調和度を算出する。
メッセージ内容更新部2302は、調和度算出部2301において算出された調和度に基づいて、動作情報600及び700に格納された"注意喚起メッセージ"の内容を更新する。メッセージ内容更新部2302は、例えば、調和度の経時変化を監視しておき、調和度が上がる傾向にあった場合に、"注意喚起メッセージ"の内容を更新する。
なお、メッセージ内容更新部2302による更新方法は任意である。例えば、動作情報600において、交差点直進時の注意喚起メッセージとして、ID="1"〜"3"の3つの注意喚起メッセージが格納されているが、このうち、ID="2"、"3"をまとめた注意喚起メッセージに更新してもよい。具体的には、"左側を確認してください。"と"右側を確認してください。"とを、"左右を確認してください。"にまとめてもよい。あるいは、ID="1"〜"3"をすべてまとめた注意喚起メッセージに更新してもよい。具体的には、"一時停止をして、左右を確認してください。"にまとめてもよい。
メッセージ個数更新部2303は、調和度算出部2301において算出された調和度に基づいて、動作情報600及び700に格納された"注意喚起メッセージの"一部を、削除し、注意喚起メッセージの数を減らす。メッセージ個数更新部2303は、例えば、IDごとに調和度を判定し、調和度が所定の閾値を超えていると判定した場合に、対応する注意喚起メッセージを削除する。調和度が所定の閾値を超えているということは、運転者310は適切な確認動作を習熟しているといえるからである。
例えば、動作情報600において、交差点直進時の注意喚起メッセージとして、ID="1"〜"3"の3つの注意喚起メッセージが格納されているが、このうち、ID="2"、"3"の調和度が所定の閾値を超えていると判定されたとする。この場合、メッセージ個数更新部2303は、交差点直進時の適切な左右確認動作を運転者310が習熟していると判定し、ID="2"、"3"を動作情報600から削除する。
タイミング更新部2304は、調和度算出部2301において調和度を算出する際に算出した時間差に基づいて、動作情報600及び700に規定された"タイミング"を変更する。タイミング更新部2304は、例えば、注意喚起メッセージを音声出力するタイミングと、運転者310の確認動作が行われたタイミングとの時間差が小さくなるように、"タイミング"に規定された"L"の値を調整する。
これにより、注意喚起システム2200は、運転者310の運転操作の癖に見合ったタイミングで、注意喚起メッセージを音声出力することが可能となる。
次に、第3の実施形態における注意喚起用ECU120により実行される運転補助処理の流れについて説明する。図24は、運転補助処理の第2のフローチャートである。なお、図13に示す運転補助処理との相違点は、ステップS2401、ステップS2402である。
ステップS2401において、動作情報更新部2201の調和度算出部2301は、注意喚起メッセージそれぞれが音声出力されたタイミングと、注意喚起メッセージの音声出力に応じて運転者310により行われた確認動作のタイミングとの時間差を算出する。また、調和度算出部2301は、算出した時間差に基づいて、それぞれの注意喚起メッセージの調和度を算出する。
ステップS2402において、動作情報更新部2201のメッセージ内容更新部2302は、ステップS2401において算出されたそれぞれの調和度の経時変化を判定する。判定の結果、調和度が上昇傾向にあると判定された注意喚起メッセージについて、メッセージ内容更新部2302は、メッセージの内容を更新する。
また、メッセージ個数更新部2303は、ステップS2401において算出されたそれぞれの調和度が、所定の閾値を超えているか否かを判定する。所定の閾値を超えていると判定した場合、メッセージ個数更新部2303は、対応する注意喚起メッセージを動作情報600または700から削除する。
更に、タイミング更新部2304は、ステップS2401において調和度を算出する際に算出された時間差に基づいて、動作情報600及び700の"タイミング"に規定された"L"の値を更新する。
このように、注意喚起メッセージの調和度に基づいて、動作情報600及び700を更新することで、運転者310の運転操作の癖を考慮した動作情報に更新していくことが可能となる。
以上の説明から明らかなように、第3の実施形態における注意喚起システムは、注意喚起メッセージが音声出力されたタイミングと、運転者の確認動作が行われたタイミングとに基づいて、調和度を算出する。また、第3の実施形態における注意喚起システムは、算出した調和度に基づいて、動作情報の注意喚起メッセージの内容、個数、タイミングを更新する。これにより、第3の実施形態における注意喚起システムによれば、運転者の運転操作に見合った動作情報に更新することが可能となる。
[第4の実施形態]
上記第1及び第2の実施形態において情報特定部122は、現在の車両300の状況に基づいて、注意喚起メッセージを取得し、取得した注意喚起メッセージに基づいて、運転者310が確認すべき方向を特定した。これに対して、第4の実施形態では、現在の車両300の状況に基づいて、運転者310が確認すべき方向を特定する。
このように注意喚起メッセージを介さずに運転者310が確認すべき方向を特定することで、注意喚起システム100は、運転補助処理(図13)において、注意喚起メッセージ出力処理を実行することなく、確認動作判定処理を実行することが可能となる。
この場合、注意喚起システム100では、現在の車両300の状況が動作情報600または700の"状況"に定義された状況になったと判定すると、確認動作判定処理(ステップS1304)を実行する。そして、運転者310の確認動作の適否に応じた判定結果メッセージを、運転者310の確認動作の適否に応じた仮想出力者が音声出力する。
具体例(交差点直進時)を挙げて説明する。第4の実施形態における注意喚起システム100の場合、車両300が交差点に進入する場合であっても、注意喚起メッセージが音声出力されることはない。
一方で、運転者310が、自発的に、前方の指差し動作と左側の指差し動作とを行ったとする。また、運転者310が右側の指差し動作を怠ったとする。この場合、第4の実施形態における注意喚起システム100は、仮想同乗者全員が"一時停止よし"及び"左側よし"との判定結果メッセージを音声出力する。また、車外右側の仮想出力者333が、"右側の確認を怠っています。"との判定結果メッセージを音声出力する。
このように、第4の実施形態における注意喚起システムによれば、運転補助処理において、注意喚起メッセージ出力処理を実行することなく、確認動作判定処理を実行することが可能となる。
[第5の実施形態]
上記第1乃至第3の実施形態において、情報特定部122は、動作情報格納部125の動作情報を参照して、運転者に対して音声出力する注意喚起メッセージを特定した。しかしながら、情報特定部122が特定する注意喚起メッセージは、動作情報格納部125の動作情報に規定された注意喚起メッセージに限定されない。例えば、情報特定部122は、周辺環境検出部116より送信された周辺環境情報に基づいて、注意喚起メッセージを特定するようにしてもよい。
具体的には、交差点直進時に周辺環境検出部116が歩行者を検出した場合、情報特定部122は、"歩行者を確認してください"を注意喚起メッセージして特定するようにしてもよい。
また、上記第1乃至第3の実施形態において、情報特定部122は、動作情報格納部125の動作情報を参照して、注意喚起メッセージを音声出力するタイミング及び順序を特定した。しかしながら、情報特定部122が特定するタイミング及び順序は、動作情報格納部125の動作情報に規定されたタイミング及び順序に限定されない。例えば、情報特定部122は、周辺環境検出部116より送信された周辺環境情報に基づいて、注意喚起メッセージを音声出力するタイミング及び順序を変更するようにしてもよい。
具体的には、交差点右折時に周辺環境検出部116が歩行者を検出した場合、情報特定部122は、注意喚起メッセージを音声出力する順序として、"右前方を確認してください。"と"歩行者を確認してください。"とを入れ替えるようにしてもよい。
また、交差点左折時に周辺環境検出部116が歩行者を検出した場合、情報特定部122は、"二輪車が来ていないか確認してください"を音声出力するタイミングを、歩行者がいなくなったタイミングに変更するようにしてもよい。
また、上記第1乃至第4の実施形態において、動作判定部123は、動作情報600、700の"確認動作"に規定された動作を運転者310が行ったか否かを判定するものとして説明した。しかしながら、動作情報600、700に規定された確認動作を運転者310が行ったか否かを判定することに加えて、あるいは判定する代わりに、運転者310が行った確認動作の動作内容が正しいか否かを周辺環境情報に基づいて判定するようにしてもよい。更に、動作内容が正しいか否かの判定結果に基づいて、音声出力制御部124が、判定結果メッセージを音声出力するようにしてもよい。
例えば、交差点右折時に、注意喚起メッセージとして"歩行者を確認してください。"が音声出力され、運転者310が「歩行者なし」と呼称したとする。この場合、動作判定部123は、周辺環境情報に基づいて右折先の歩行者の有無を判定し、歩行者がいると判定した場合には、判定結果出力情報800に規定された判定結果メッセージを音声出力するようにしてもよい。
このように、運転者310が確認動作を行ったか否かを判定するだけでなく、運転者310が行った確認動作が正しいか否かまで判定することで、事故の発生可能性をより低減させることが可能となる。
[第6の実施形態]
上記第1乃至第5の実施形態では、音声出力制御部124が、現在の車両300の状況において音声出力すべき注意喚起メッセージを全て音声出力すると、評価メッセージを音声出力するものとして説明した。しかしながら、評価メッセージは、所定時間が経過するごとに音声出力するようにしてもよい。所定時間が経過するまでの間に、複数の状況に該当した場合には、それぞれの状況における運転者310の確認動作を評価し、評価結果を加算していくようにしてもよい。そして、所定時間が経過した場合に、加算した評価結果を総合評価として、音声出力制御部124がまとめて音声出力するようにしてもよい。
なお、所定時間が経過するまでの間のそれぞれの状況における評価結果の加算値は、例えば、レベルメータとして表示するようにしてもよい。
また、上記第1乃至第5の実施形態では、音声出力制御部124が、評価メッセージを音声出力するものとして説明したが、評価メッセージに加えて、種々の効果音(称賛をイメージする音や、拍手音等)を出力するようにしてもよい。
[その他の実施形態]
上記第1乃至第6の実施形態では、運転者310が確認すべき方向に配置された仮想出力者から、注意喚起メッセージを音声出力するように制御するものとして説明した。しかしながら、注意喚起メッセージを音声出力する仮想出力者は、運転者310が確認すべき方向に配置された仮想出力者に限定されない。例えば、運転者310が確認すべき方向と声色または役割とを関連付け、運転者310が確認すべき方向に関連付けられた声色または役割を有する仮想出力者が、注意喚起メッセージを音声出力するようにしてもよい。
また、上記第1乃至第6の実施形態では、車両が交差点、分岐点、合流点に到達した場合の運転補助処理に説明したが、例えば、踏切や駐車場に到達した場合についても、同様に運転補助処理を実行することが可能である。
また、上記第1乃至第6の実施形態では、注意喚起メッセージを音声出力するための制御を行う注意喚起装置を、注意喚起用ECU120を用いて実現したが、例えば、ナビゲーション装置111を用いて実現するようにしてもよい。
また、上記第1乃至第6の実施形態では、注意喚起システムを、車両に適用する場合について説明したが、注意喚起システムを適用する対象は、車両に限定されない。例えば、列車や船舶等、運転者が運転操作する乗り物であれば任意の乗り物に適用することが可能である。
また、上記第1乃至第6の実施形態では、注意喚起システムが、注意喚起用ECU120に各種プログラムを格納したうえで、車両等に搭載されるものとして説明した。しかしながら、注意喚起用ECU120に格納される各種プログラムは、注意喚起システムが車両等に搭載された後に、ネットワークからダウンロードして格納するようにしてもよい。
また、上記第1乃至第6の実施形態では、動作情報格納部125に、運転者310の動作情報600及び700を格納するものとして説明した。しかしながら、動作情報格納部125には、運転者310以外の他の運転者の動作情報を格納するようにしてもよい。つまり、動作情報は、運転者ごとにわけて動作情報格納部125に格納しておき、運転補助処理実行時に、対応する動作情報を読み出すようにしてもよい。
また、上記第1乃至第6の実施形態では、動作情報600及び700を動作情報格納部125に格納するものとして説明したが、動作情報600及び700は、例えば、ネットワーク上のサーバに格納するようにしてもよい。この場合、注意喚起用ECU120は、運転補助処理の実行に際して、ネットワーク上のサーバにアクセスし、サーバに格納された動作情報600及び700を参照する。
また、上記第1乃至第6の実施形態において、状況判定部121は、ナビゲーション装置111より受信した位置情報と、動作情報格納部125に格納された動作情報とに基づいて、現在の車両の状況を判定するものとして説明した。しかしながら、状況判定部121は、例えば、車両制御ECU112から送信された運転操作情報や車両情報に基づいて、注意喚起メッセージを音声出力すべき状況にあるか否かを判定するようにしてもよい。
具体的には、車両300が所定の法定速度を超えて走行しているような場合には、交差点や分岐点、合流点でなくても、注意喚起メッセージを音声出力するようにしてもよい。
また、上記第1乃至第3の実施形態において、情報特定部122は、動作情報格納部125の動作情報を参照して、運転者に対して音声出力する注意喚起メッセージを特定した。しかしながら、情報特定部122が特定する注意喚起メッセージは、動作情報格納部125の動作情報に規定された注意喚起メッセージに限定されない。例えば、情報特定部122は、運転者310の状態(例えば、眠気)を検出する検出部を別途設け、運転者310の状態に応じて予備的な注意喚起メッセージを特定するようにしてもよい。
具体的には、車両300の運転者310の判断力が低下している状態においては、情報特定部122が予備的な注意喚起メッセージを特定するようにしてもよい。これにより、動作情報600及び700に予め規定されている注意喚起メッセージを音声出力する前に、予備的な注意喚起メッセージを音声出力することができる。この結果、例えば、交差点に到達した時点で、運転者310の判断力を回復させることが可能となる。
また、上記第1乃至第6の実施形態では、判定結果メッセージとして、判定結果出力情報800に予め規定されたメッセージを音声出力するものとして説明した。しかしながら、判定結果メッセージは、運転者310の呼称内容に合わせて変化させるようにしてもよい。例えば、運転者310の呼称内容を真似た判定結果メッセージを音声出力するようにしてもよい。
なお、開示の技術では、以下に記載する付記のような形態が考えられる。
(付記1)
コンピュータに、
運転者が操作する乗り物の状況を判定し、
乗り物の状況と方向とを対応付けた情報を参照し、判定された前記乗り物の状況と対応する方向を特定し、
方向と、該方向への前記運転者の注意を促す注意喚起情報を音声出力装置に出力させる制御情報と、が対応付けられた情報を参照し、特定された方向と対応する制御情報に基づいて、特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させる、
処理を実行させる注意喚起プログラム。
(付記2)
前記コンピュータに、更に、
特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させた場合に、乗り物の状況と方向と前記運転者が行うべき確認動作とを対応付けた情報を参照し、判定された前記乗り物の状況と対応する確認動作を前記運転者が行ったか否かを判定し、
判定された前記乗り物の状況と対応する確認動作を前記運転者が行わなかったと判定した場合、判定された前記乗り物の状況と対応する確認動作を前記運転者が行わなかったことを示す判定結果情報を、特定された方向と対応する制御情報に基づいて前記音声出力装置に出力させる、
処理を実行させる付記1に記載の注意喚起プログラム。
(付記3)
前記コンピュータに、更に、
特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させた場合に、乗り物の状況と方向と前記運転者が復唱すべき復唱情報とを対応付けた情報を参照し、判定された前記乗り物の状況と対応する復唱情報を、特定された方向と対応する制御情報に基づいて前記音声出力装置に出力させる、
処理を実行させる付記1に記載の注意喚起プログラム。
(付記4)
運転者が操作する乗り物の状況を判定する判定手段と、
乗り物の状況と方向とを対応付けた情報を参照し、前記判定手段により判定された前記乗り物の状況と対応する方向を特定する特定手段と、
方向と、該方向への前記運転者の注意を促す注意喚起情報を音声出力装置に出力させる制御情報と、が対応付けられた情報を参照し、前記特定手段により特定された方向と対応する制御情報に基づいて、前記特定手段により特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させる制御手段と
を有する注意喚起装置。
(付記5)
コンピュータによる注意喚起方法であって、該コンピュータが、
運転者が操作する乗り物の状況を判定し、
乗り物の状況と方向とを対応付けた情報を参照し、判定された前記乗り物の状況と対応する方向を特定し、
方向と、該方向への前記運転者の注意を促す注意喚起情報を音声出力装置に出力させる制御情報と、が対応付けられた情報を参照し、特定された方向と対応する制御情報に基づいて、特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させる、
処理を実行する注意喚起方法。
(付記6)
運転者が操作する乗り物の状況を検出する状況検出装置と、
複数の音声出力装置と、
注意喚起装置と、を有する注意喚起システムであって、
前記注意喚起装置は、
前記状況検出装置により検出された状況に基づいて、該乗り物の状況を判定する判定手段と、
乗り物の状況と方向とを対応付けた情報を参照し、前記状況検出装置により検出された状況と対応する方向を特定する特定手段と、
方向と、該方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させる制御情報と、が対応付けられた情報を参照し、前記特定手段により特定された方向と対応する制御情報に基づいて、前記特定手段により特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させる制御手段と
を有する注意喚起システム。
なお、上記実施形態に挙げた構成等に、その他の要素との組み合わせ等、ここで示した構成に本発明が限定されるものではない。これらの点に関しては、本発明の趣旨を逸脱しない範囲で変更することが可能であり、その応用形態に応じて適切に定めることができる。
100 :注意喚起システム
111 :ナビゲーション装置
112 :車両制御ECU
113 :ジェスチャ検出部
114 :音声検出部
115 :視線検出部
120 :注意喚起用ECU
121 :状況判定部
122 :情報特定部
123 :動作判定部
124 :音声出力制御部
131〜136 :第1乃至第6の音声出力部
300 :車両
310 :運転者
311〜314 :仮想同乗者
600、700 :動作情報
800 :判定結果出力情報
900 :音声属性情報
2200 :注意喚起システム
2201 :動作情報更新部
2301 :調和度算出部
2302 :メッセージ内容更新部
2303 :メッセージ個数更新部
2304 :タイミング更新部

Claims (6)

  1. コンピュータに、
    運転者が操作する乗り物の状況を判定し、
    乗り物の状況と方向とを対応付けた情報を参照し、判定された前記乗り物の状況と対応する方向を特定し、
    方向と、該方向への前記運転者の注意を促す注意喚起情報を音声出力装置に出力させる制御情報と、が対応付けられた情報を参照し、特定された方向と対応する制御情報に基づいて、特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させる、
    処理を実行させる注意喚起プログラム。
  2. 前記コンピュータに、更に、
    特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させた場合に、乗り物の状況と方向と前記運転者が行うべき確認動作とを対応付けた情報を参照し、判定された前記乗り物の状況と対応する確認動作を前記運転者が行ったか否かを判定し、
    判定された前記乗り物の状況と対応する確認動作を前記運転者が行わなかったと判定した場合、判定された前記乗り物の状況と対応する確認動作を前記運転者が行わなかったことを示す判定結果情報を、特定された方向と対応する制御情報に基づいて前記音声出力装置に出力させる、
    処理を実行させる請求項1に記載の注意喚起プログラム。
  3. 前記コンピュータに、更に、
    特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させた場合に、乗り物の状況と方向と前記運転者が復唱すべき復唱情報とを対応付けた情報を参照し、判定された前記乗り物の状況と対応する復唱情報を、特定された方向と対応する制御情報に基づいて前記音声出力装置に出力させる、
    処理を実行させる請求項1に記載の注意喚起プログラム。
  4. 運転者が操作する乗り物の状況を判定する判定手段と、
    乗り物の状況と方向とを対応付けた情報を参照し、前記判定手段により判定された前記乗り物の状況と対応する方向を特定する特定手段と、
    方向と、該方向への前記運転者の注意を促す注意喚起情報を音声出力装置に出力させる制御情報と、が対応付けられた情報を参照し、前記特定手段により特定された方向と対応する制御情報に基づいて、前記特定手段により特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させる制御手段と
    を有する注意喚起装置。
  5. コンピュータによる注意喚起方法であって、該コンピュータが、
    運転者が操作する乗り物の状況を判定し、
    乗り物の状況と方向とを対応付けた情報を参照し、判定された前記乗り物の状況と対応する方向を特定し、
    方向と、該方向への前記運転者の注意を促す注意喚起情報を音声出力装置に出力させる制御情報と、が対応付けられた情報を参照し、特定された方向と対応する制御情報に基づいて、特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させる、
    処理を実行する注意喚起方法。
  6. 運転者が操作する乗り物の状況を検出する状況検出装置と、
    複数の音声出力装置と、
    注意喚起装置と、を有する注意喚起システムであって、
    前記注意喚起装置は、
    前記状況検出装置により検出された状況に基づいて、該乗り物の状況を判定する判定手段と、
    乗り物の状況と方向とを対応付けた情報を参照し、前記状況検出装置により検出された状況と対応する方向を特定する特定手段と、
    方向と、該方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させる制御情報と、が対応付けられた情報を参照し、前記特定手段により特定された方向と対応する制御情報に基づいて、前記特定手段により特定された方向への前記運転者の注意を促す注意喚起情報を前記音声出力装置に出力させる制御手段と
    を有する注意喚起システム。
JP2016017567A 2016-02-01 2016-02-01 注意喚起プログラム、注意喚起装置、注意喚起方法及び注意喚起システム Active JP6786807B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016017567A JP6786807B2 (ja) 2016-02-01 2016-02-01 注意喚起プログラム、注意喚起装置、注意喚起方法及び注意喚起システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016017567A JP6786807B2 (ja) 2016-02-01 2016-02-01 注意喚起プログラム、注意喚起装置、注意喚起方法及び注意喚起システム

Publications (2)

Publication Number Publication Date
JP2017138687A true JP2017138687A (ja) 2017-08-10
JP6786807B2 JP6786807B2 (ja) 2020-11-18

Family

ID=59564961

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016017567A Active JP6786807B2 (ja) 2016-02-01 2016-02-01 注意喚起プログラム、注意喚起装置、注意喚起方法及び注意喚起システム

Country Status (1)

Country Link
JP (1) JP6786807B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019167285A1 (ja) * 2018-03-02 2019-09-06 三菱電機株式会社 運転支援装置及び運転支援方法
JP2020145526A (ja) * 2019-03-05 2020-09-10 住友重機械工業株式会社 作業機械用情報処理装置、情報管理システム、作業機械用情報処理プログラム
WO2021157312A1 (ja) * 2020-02-07 2021-08-12 パイオニア株式会社 情報処理装置、制御方法、プログラム及び記憶媒体
US11276313B2 (en) 2017-05-31 2022-03-15 Fujitsu Limited Information processing device, drive assist system, and drive assist method

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005063398A (ja) * 2003-06-16 2005-03-10 Fujitsu Ten Ltd 車両制御装置
JP2006219077A (ja) * 2005-02-14 2006-08-24 Denso Corp 危険個所、障害物等の呼称運転支援装置
JP2009211628A (ja) * 2008-03-06 2009-09-17 Aisin Aw Co Ltd 障害物警告装置、障害物警告方法及びコンピュータプログラム
JP2013024753A (ja) * 2011-07-21 2013-02-04 Kochi Univ Of Technology 運転支援システム
JP2015079299A (ja) * 2013-10-15 2015-04-23 株式会社デンソー 運転支援装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005063398A (ja) * 2003-06-16 2005-03-10 Fujitsu Ten Ltd 車両制御装置
JP2006219077A (ja) * 2005-02-14 2006-08-24 Denso Corp 危険個所、障害物等の呼称運転支援装置
JP2009211628A (ja) * 2008-03-06 2009-09-17 Aisin Aw Co Ltd 障害物警告装置、障害物警告方法及びコンピュータプログラム
JP2013024753A (ja) * 2011-07-21 2013-02-04 Kochi Univ Of Technology 運転支援システム
JP2015079299A (ja) * 2013-10-15 2015-04-23 株式会社デンソー 運転支援装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11276313B2 (en) 2017-05-31 2022-03-15 Fujitsu Limited Information processing device, drive assist system, and drive assist method
WO2019167285A1 (ja) * 2018-03-02 2019-09-06 三菱電機株式会社 運転支援装置及び運転支援方法
CN111788618A (zh) * 2018-03-02 2020-10-16 三菱电机株式会社 驾驶辅助装置以及驾驶辅助方法
JP2020145526A (ja) * 2019-03-05 2020-09-10 住友重機械工業株式会社 作業機械用情報処理装置、情報管理システム、作業機械用情報処理プログラム
JP7203640B2 (ja) 2019-03-05 2023-01-13 住友重機械工業株式会社 作業機械用情報処理装置、情報管理システム、作業機械用情報処理プログラム
WO2021157312A1 (ja) * 2020-02-07 2021-08-12 パイオニア株式会社 情報処理装置、制御方法、プログラム及び記憶媒体

Also Published As

Publication number Publication date
JP6786807B2 (ja) 2020-11-18

Similar Documents

Publication Publication Date Title
US10074274B2 (en) Emergency signal detection and response
US10712745B2 (en) Systems and methods for communicating autonomous vehicle scenario evaluation and intended vehicle actions
US10607485B2 (en) System and method for communicating a message to a vehicle
JP6361618B2 (ja) 運転支援装置
JP6872861B2 (ja) 車両運転者から追加情報を取得するコミュニケーション・モジュールを備えた車両を自律的又は半自律的に運転するためのシステム及び方法
JP6353383B2 (ja) ドライバ支援システムの制御方法
KR20190083317A (ko) 차량의 차선 변경에 관련된 알림을 제공하는 인공 지능 장치 및 그 방법
WO2015156146A1 (ja) 走行制御装置、車載用表示装置、及び走行制御システム
JP6786807B2 (ja) 注意喚起プログラム、注意喚起装置、注意喚起方法及び注意喚起システム
US10205428B1 (en) Variable audible-alert device
JP2017174355A (ja) 運転支援方法およびそれを利用した運転支援装置、自動運転制御装置、車両、運転支援システム、プログラム
US20180290590A1 (en) Systems for outputting an alert from a vehicle to warn nearby entities
JP2023058521A (ja) 車載装置
JP2017133893A (ja) 報知制御装置及び報知制御方法
CN113287074A (zh) 使用语音交互增加自主运载工具安全性和灵活性的方法和系统
JP2017058867A (ja) 運転支援装置
JP2012212351A (ja) 車両用情報提供装置
JP2017097846A (ja) 交通参加者の注意度を改善する方法及びシステム
US10118612B2 (en) Vehicles, electronic control units, and methods for effecting vehicle changes based on predicted actions of target vehicles
US11475773B2 (en) Alert of occurrence of pre-dangerous state of vehicle
CN107014394A (zh) 用于车辆的策略性的威胁评估
US11276313B2 (en) Information processing device, drive assist system, and drive assist method
JP2017142621A (ja) 運転教示装置
JP2020059401A (ja) 車両制御装置、車両制御方法、プログラム
CN111762192A (zh) 用于自动驾驶车辆的可听通信

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190903

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191023

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200317

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200417

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200929

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201012

R150 Certificate of patent or registration of utility model

Ref document number: 6786807

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150