JP6332072B2 - 対話装置 - Google Patents
対話装置 Download PDFInfo
- Publication number
- JP6332072B2 JP6332072B2 JP2015025681A JP2015025681A JP6332072B2 JP 6332072 B2 JP6332072 B2 JP 6332072B2 JP 2015025681 A JP2015025681 A JP 2015025681A JP 2015025681 A JP2015025681 A JP 2015025681A JP 6332072 B2 JP6332072 B2 JP 6332072B2
- Authority
- JP
- Japan
- Prior art keywords
- utterance
- driver
- occupant
- driving load
- message
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Traffic Control Systems (AREA)
Description
本発明は、車両の乗員にメッセージを発声する対話装置に関する。
従来、車両のドライバに対して挨拶等のメッセージを発声する対話装置が提案されている。また、そのような対話装置において、対話を行うエージェント像を表示し、乗員がドライバ1人であるか乗員が複数人であるかに応じて、表示されるエージェント像の数や動作を変化させることも提案されている(例えば、特許文献1参照。)。
ところが、ドライバの運転負荷が大きく、そのドライバが運転に集中しなければならない状態であるにも拘わらず、ドライバ以外の乗員(以下、他の乗員という)がドライバに向けて発話を行った場合に、ドライバが運転に集中できるように何らかの対策を施す装置はこれまで提案されていない。
本発明は、こうした問題に鑑みてなされたものであり、車両の乗員にメッセージを発声する対話装置において、ドライバの運転負荷が大きいにも拘わらず他の乗員がドライバに向けて発話を行った場合に対する対策を実行可能とすることを目的としている。
前記目的を達するためになされた本発明の対話装置は、車両の運転に係るドライバの運転負荷を検出する運転負荷検出手段と、前記車両の乗員のうち前記ドライバ以外の乗員を他の乗員として、前記他の乗員から前記ドライバに向けての発話を検出する乗員発話検出手段と、前記乗員発話検出手段が前記発話を検出したとき、前記運転負荷検出手段が検出した運転負荷に応じて、前記発話に応答するメッセージを発声するメッセージ発声手段と、を備える。
このように構成された本発明では、運転負荷検出手段は、車両の運転に係るドライバの運転負荷を検出する。メッセージ発声手段は、乗員発話検出手段が他の乗員からドライバに向けての発話を検出したとき、前記運転負荷検出手段が検出した運転負荷に応じて、前記発話に応答するメッセージを発声する。このため、ドライバの運転負荷が大きいにも拘わらず他の乗員がドライバに向けて発話を行った場合には、メッセージ発声手段は、当該大きい運転負荷に応じて、前記発話に応答するメッセージを発声することができる。
以下、本発明が適用された実施形態について、図面を用いて説明する。
[1.第1実施形態]
[1−1.構成]
図1に示すように、第1実施形態の対話装置を構成するMPU(マイクロプロセッサユニット)1には、音声入力デバイス3,音声出力デバイス5,各種車載装置7が接続されている。このMPU1、音声入力デバイス3、音声出力デバイス5、及び、各種車載装置7は、いずれも、図示省略した車両に搭載されている。
[1.第1実施形態]
[1−1.構成]
図1に示すように、第1実施形態の対話装置を構成するMPU(マイクロプロセッサユニット)1には、音声入力デバイス3,音声出力デバイス5,各種車載装置7が接続されている。このMPU1、音声入力デバイス3、音声出力デバイス5、及び、各種車載装置7は、いずれも、図示省略した車両に搭載されている。
音声入力デバイス3は、例えば前記車両のダッシュボード等に設けられたマイクロフォン等によって構成される。この音声入力デバイス3は、車両の乗員が発話した音声、少なくとも、車両のドライバが発話した音声と助手席に同乗している他の乗員が発話した音声とを検出することができる。
音声出力デバイス5は、車両の乗員に向けて後述のメッセージ等を発声するためのスピーカ等によって構成される。この音声出力デバイス5は、既存のカーステレオ用スピーカ等を利用して構成されてもよく、特別に用意されてもよい。
各種車載装置7は、後述するドライバの運転負荷推定に用いられる各種装置を含む。この種の装置としては、例えば、カーナビゲーション装置,GNSS(Global Navigation Satellite System:全地球測位システム)等の位置検出装置,車速センサ,操舵角センサ,ミリ波レーダ等が挙げられる。
MPU1は、ソフトウェア上で区分された車載機器インタフェース11(図1ではインタフェースをI/Fと略記。)、音声入力インタフェース12、乗員からドライバへの発話検出部13、ドライバ運転負荷推定部14、対応代行判定部15、及び、応答メッセージ生成部16を備えている。なお、MPU1は、ASICであってもよい。
車載機器インタフェース11は、各種車載装置7から送られた信号をデジタルデータに変換したり、各種車載装置7を制御するための制御信号を出力したりする。音声入力インタフェース12は、音声入力デバイス3を介して入力された音声をデジタルデータに変換する。
乗員からドライバへの発話検出部13は、音声入力デバイス3から音声入力インタフェース12を介して入力された音声の内容(より具体的には意味)を解析することによって、他の乗員からドライバに向けての発話を検出する。この音声の内容解析には、例えばスマートフォン等で一般的に実施されている周知の音声解析技術が応用可能である。
ドライバ運転負荷推定部14は、周知の方法により、ドライバの運転負荷を推定して数値化する。例えば、ドライバ運転負荷推定部14は、カーナビゲーション装置の地図データと位置検出装置が検出した前記車両の現在位置とに基づき、現在走行中の道路と同様の道路を過去に走行した際のドライバの運転負荷を読み出してもよい。また、ドライバ運転負荷推定部14は、車速センサが検出した車速、操舵角センサが検出した操舵角、ミリ波レーダが検出した先行車両との車間距離等の各種パラメータに、それぞれ所定の係数を掛け合わせて合算した値をドライバの運転負荷としてもよい。なお、これらの運転負荷推定方法は、例えば、特開2012−108753号公報や、特開2011−129010号公報に詳しいので、ここでは詳細な説明を割愛する。また、ドライバ運転負荷推定部14が推定して数値化した値は、レベル値等のように単位を有さない数値であってもよく、何らかの単位を有する数値であってもよい。
対応代行判定部15は、乗員からドライバへの発話検出部13による検出結果とドライバ運転負荷推定部14によって推定された運転負荷とに基づき、他の乗員に対する対応をドライバの代わりに行う(すなわち、対応を代行する)必要があるか否かを判定する。応答メッセージ生成部16は、対応代行判定部15が前記代行する必要があると判定した場合、前記他の乗員に向けて発声すべき応答メッセージを生成する。
[1−2.処理]
次に、MPU1が実行する処理について説明する。MPU1は、自身が内蔵したROMに記憶されたプログラムに基づき、図2のフローチャートに示す処理を所定周期で繰り返し実行する。
次に、MPU1が実行する処理について説明する。MPU1は、自身が内蔵したROMに記憶されたプログラムに基づき、図2のフローチャートに示す処理を所定周期で繰り返し実行する。
図2に示すように、この処理では、先ず、S1(Sはステップを表す:以下同様)にて、ドライバ運転負荷推定部14の処理によって、その時点におけるドライバの運転負荷が推定される。続くS3では、乗員からドライバへの発話検出部13の処理によって、他の乗員からドライバに向けての発話が検出されたか否かが判定される。前記発話が検出されていない場合は(S3:N)、処理はそのまま一旦終了し、前記発話が検出されている場合は(S3:Y)、処理はS5へ移行する。
S5では、S1にて推定されたドライバの運転負荷(前述のように数値化されている。)が、予め設定された規定値より大きいか否かが判定される。前記推定されたドライバの運転負荷が規定値以下の場合は(S5:N)、処理はそのまま一旦終了し、当該運転負荷が既定値より大きい場合は(S5:Y)、処理はS7へ移行する。なお、このS3,S5の判定処理が、対応代行判定部15の処理に相当する。
S7では、応答メッセージ生成部16が、他の乗員からドライバに向けての発話として検出された音声の内容に応じた応答メッセージを生成し、その応答メッセージが音声出力デバイス5から出力されて、処理が一旦終了する。
なお、この応答メッセージの具体例としては、例えば次のようなものが想定される。
[例1]ドライバが車両を駐車場から出そうとしていて運転負荷が大きいときに(S5:Y)、助手席の乗員(他の乗員の一例)が「○○の歌を入れて。」とドライバに向けて発話した場合(S3:Y)、「今手が離せないから、ちょっと待っててね。」といった応答メッセージが出力される(S7)。
[例1]ドライバが車両を駐車場から出そうとしていて運転負荷が大きいときに(S5:Y)、助手席の乗員(他の乗員の一例)が「○○の歌を入れて。」とドライバに向けて発話した場合(S3:Y)、「今手が離せないから、ちょっと待っててね。」といった応答メッセージが出力される(S7)。
[例2]ドライバが右折のタイミングを待っていて運転負荷が大きいときに(S5:Y)、後部座席の子供(他の乗員の一例)が「寒いから暖かくして。」とドライバに向けて発話した場合(S3:Y)、「今運転が忙しいから、少しだけ我慢しててね。」といった応答メッセージが出力される(S7)。
等の応答メッセージ例が考えられる。これらの場合、他の乗員からドライバに向けて発話がなされたという判定は、例えば、音声入力デバイス3から入力された音声の内容が、何らかの操作を依頼する内容であった場合になされてもよい。そして、応答メッセージの生成に当たっては、更に前記音声の内容が解析され、その解析結果に基づいて発話者の年齢が推定されることにより、「手が離せない」「運転が忙しい」等の用語選択がなされてもよい。
[1−3.効果]
以上詳述した第1実施形態によれば、次のような効果が生じる。
[1A]本実施形態では、ドライバの運転負荷が大きいにも拘わらず(S5:Y)、他の乗員がドライバに向けて発話を行った場合に(S3:Y)、ドライバの代わりにMPU1が応答メッセージを出力する(S7)。このため、ドライバは、他の乗員からの発話があっても運転に集中することができる。
以上詳述した第1実施形態によれば、次のような効果が生じる。
[1A]本実施形態では、ドライバの運転負荷が大きいにも拘わらず(S5:Y)、他の乗員がドライバに向けて発話を行った場合に(S3:Y)、ドライバの代わりにMPU1が応答メッセージを出力する(S7)。このため、ドライバは、他の乗員からの発話があっても運転に集中することができる。
[1B]本実施形態では、車両に搭載された各種車載装置7の状態に基づいてドライバの運転負荷が検出される。このため、ドライバの運転負荷を検出するための特別な構成を用意する必要がなく、装置の製造コストを低減することができる。
[1C]本実施形態では、音声入力デバイス3から入力された音声の内容に基づいて他の乗員からドライバに向けての発話が検出される。このため、前記発話を検出するための構成(すなわち、音声入力デバイス3)としては、モノラルのマイクロフォンが1つあればよく、当該マイクロフォンは各種車載装置7が予め備えたものであってもよいため、装置の製造コストを低減することができる。
なお、ドライバ運転負荷推定部14が運転負荷検出手段に、乗員からドライバへの発話検出部13が乗員発話検出手段に、応答メッセージ生成部16及び音声出力デバイス5がメッセージ発声手段に、音声入力デバイス3が音声検出手段に、それぞれ相当する。
[2.他の実施形態]
以上、本発明の実施形態について説明したが、本発明は前記実施形態に限定されることなく、種々の形態を採り得る。
以上、本発明の実施形態について説明したが、本発明は前記実施形態に限定されることなく、種々の形態を採り得る。
[2A]前記実施形態では、ドライバの運転負荷は数値化されているが、必ずしも運転負荷は数値化される必要はない。例えば、交差点である、車速が30km/h以上である、等の条件の論理和又は論理積によって、運転負荷が大きい(前記実施形態における規定値より大きい場合に相当)か否かが判定されてもよい。
[2B]前記実施形態では、各種車載装置7の状態に基づいてドライバの運転負荷が検出されたが、これに限るものではない。例えば、ドライバの運転負荷を検出するための特別な構成として設けられた脈拍センサ等の生体センサを用いて、ドライバの運転負荷が検出されてもよい。また、音声入力デバイス3を介して入力された運転者の口調に基づいて、ドライバの運転負荷が検出されてもよい。このように音声入力デバイス3を用いてドライバの運転負荷が検出される場合、各種車載装置7は省略されてもよい。
[2C]前記実施形態では、音声入力デバイス3から入力された音声の内容に基づいて他の乗員からドライバに向けての発話が検出されたが、これに限るものではない。例えば、車室内に複数のマイクロフォンを設けて音声の音量差や入力タイミングを参照することで、発話者の位置を特定することができる。その場合、発話者の位置に基づいて、その発話者がドライバであるか他の乗員であるかが判定され、発話者が他の乗員であればその発話はドライバに向けての発話であるとみなされてもよい。また、音声入力デバイス3から入力された音声の声紋に基づいて、その発話者がドライバであるか他の乗員であるかが判定され、発話者が他の乗員であればその発話はドライバに向けての発話であるとみなされてもよい。
[2D]また、車室内を撮影するカメラ等の撮影手段が設けられている場合、他の乗員がドライバの方を向いて口を動かした場合に、当該乗員からドライバに向けての発話がなされたとみなされてもよい。そして、その場合、前記撮影手段が撮影したドライバの顔画像(より具体的には目つき等)に基づいてドライバの運転負荷が検出されてもよい。
[2E]前記実施形態では、MPU1を単に対話をするための対話装置として説明したが、本発明の対話装置は、音声入力により制御を行う機能も備えてもよい。例えば、各種車載装置7は、ドライバが音声入力デバイス3にコマンド(指令)を音声入力することによって操作可能な各種装置も含んでもよい。この種の装置としては、例えば、カーエアコン,カーオーディオ等が挙げられる。このような装置を音声入力に応じて制御する処理は公知であるので、ここでは説明を割愛する。なお、このような制御を実行する場合、音声入力のコマンド体系によっては、[2C],[2D]に示したように、音声の内容(すなわち意味)を参照せずに発話者を特定した方が好ましい場合がある。
[2F]また、ドライバの運転負荷の大きさに応じてメッセージが変更されてもよい。例えば、ドライバの運転負荷が極めて大きい場合、より強い口調で他の乗員の発話を制止するメッセージが生成・出力されてもよい。
[2G]また、前記実施形態では、他の乗員からドライバに向けての発話が検出されるが、他の乗員同士でなされる会話も前記発話とは別に検出されてもよい。例えば、ドライバに知らせるべき重要な情報が発声されるときに、他の乗員同士が大声で騒いでいる場合に、応答メッセージ生成部16が「ちょっとだけ静かにしてね。」等のメッセージを生成・出力してもよい。その場合、当該メッセージの発声後に、前記重要な情報が発声されるとよい。そうすることによって、当該重要な情報がより良好にドライバに伝達される。
なお、前記重要な情報は、MPU1が生成・出力する情報であってもよく、例えばカーナビゲーション装置等の各種車載装置7が生成・出力する情報であってもよい。後者の場合、MPU1は、各種車載装置7と信号の送受信を行うことによって、前記重要な情報が発声されるタイミングを取得して、前記制御に反映させることができる。後者の場合、重要な情報の例としては、例えば右左折指示や、渋滞若しくは事故の発生情報を挙げることができる。また、MPU1は、カーナビゲーション装置等の各種車載装置7からこのような重要な情報を取得し、当該MPU1の処理として当該重要な情報を生成・出力してもよい。
[2H]前記実施形態では、他の乗員からドライバに向けての発話があったか否かを単純に判定しているが、これに限るものではない。例えば、当該発話の内容を詳細に解析して、ドライバに対して負荷となりそうな発話か否かも判定してもよい。
[2I]また、MPU1は、音声のメッセージの発声に加えて、ディスプレイ等の表示部も制御して、当該表示部を介してメッセージを表示してもよい。その場合、前記表示部は、この処理のために特別に用意されてMPU1によって制御される表示部であってもよく、カーナビゲーション装置等の各種車載装置7が備えた既存の表示部が利用されてもよい。
[2J]前記実施形態では、本発明の対話装置を車載装置として構成しているが、これに限るものではない。例えば、本発明の対話装置は、スマートフォンやタブレットといったいわゆる持込機器によって構成されてもよい。その場合、[2D]に示したように、持込機器のカメラが撮影したドライバの顔画像に基づいてドライバの運転負荷が検出され、かつ、当該カメラが撮影した他の乗員の画像に基づいて他の乗員からドライバに向けての発話が検出されてもよい。
[2K]前記実施形態における1つの構成要素が有する機能を複数の構成要素として分散させたり、複数の構成要素が有する機能を1つの構成要素に統合させたりしてもよい。また、前記実施形態の構成の少なくとも一部を、同様の機能を有する公知の構成に置き換えてもよい。また、前記実施形態の構成の一部を省略してもよい。また、前記実施形態の構成の少なくとも一部を、他の前記実施形態の構成に対して付加又は置換してもよい。なお、特許請求の範囲に記載した文言のみによって特定される技術思想に含まれるあらゆる態様が本発明の実施形態である。
[2L]上述した対話装置の他、当該対話装置を構成要素とするシステム、当該対話装置としてコンピュータを機能させるためのプログラム、このプログラムを記録した媒体、対話制御方法など、種々の形態で本発明を実現することもできる。
1…MPU 3…音声入力デバイス
5…音声出力デバイス 7…各種車載装置
11…車載機器インタフェース 12…音声入力インタフェース
13…乗員からドライバへの発話検出部 14…ドライバ運転負荷推定部
15…対応代行判定部 16…応答メッセージ生成部
5…音声出力デバイス 7…各種車載装置
11…車載機器インタフェース 12…音声入力インタフェース
13…乗員からドライバへの発話検出部 14…ドライバ運転負荷推定部
15…対応代行判定部 16…応答メッセージ生成部
Claims (7)
- 車両の運転に係るドライバの運転負荷を検出する運転負荷検出手段と、
前記車両の乗員のうち前記ドライバ以外の乗員を他の乗員として、前記他の乗員から前記ドライバに向けての発話を検出する乗員発話検出手段と、
前記乗員発話検出手段が前記発話を検出したとき、前記運転負荷検出手段が検出した運転負荷に応じて、前記発話に応答するメッセージを発声するメッセージ発声手段と、
を備えたことを特徴とする対話装置。 - 前記運転負荷検出手段は、前記車両に搭載された車載装置の状態に基づいて、前記ドライバの運転負荷を検出することを特徴とする請求項1に記載の対話装置。
- 前記運転負荷検出手段は、前記ドライバの運転負荷を数値として検出し、
前記メッセージ発声手段は、前記乗員発話検出手段が前記発話を検出し、かつ、前記運転負荷検出手段が検出した運転負荷が規定値を超えている場合に、前記メッセージを発声することを特徴とする請求項1又は2に記載の対話装置。 - 前記車両内部における音声を検出する音声検出手段を、
更に備え、
前記乗員発話検出手段は、前記音声検出手段が検出した音声に基づいて、前記他の乗員から前記ドライバに向けての発話を検出することを特徴とする請求項1〜3のいずれか1項に記載の対話装置。 - 前記乗員発話検出手段は、前記音声検出手段が検出した音声の内容に基づいて、前記他の乗員から前記ドライバに向けての発話を検出することを特徴とする請求項4に記載の対話装置。
- 前記乗員発話検出手段は、前記音声検出手段が検出した音声に基づいて、前記他の乗員による発話であるか前記ドライバによる発話であるかを判定し、前記他の乗員による発話であると判定した場合に、当該発話を前記他の乗員から前記ドライバに向けての発話であるとみなすことによって、前記他の乗員から前記ドライバに向けての発話を検出することを特徴とする請求項4又は5に記載の対話装置。
- 前記乗員発話検出手段は、前記他の乗員同士の間でなされる会話を、前記発話とは別に検出し、
前記メッセージ発声手段は、前記ドライバに知らせるべき情報も発声し、
前記メッセージ発声手段が前記情報を発声する際、前記乗員発話検出手段が前記会話を検出している場合は、静かにすべき旨のメッセージを発声した後に、前記情報を発声することを特徴とする請求項1〜6のいずれか1項に記載の対話装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015025681A JP6332072B2 (ja) | 2015-02-12 | 2015-02-12 | 対話装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015025681A JP6332072B2 (ja) | 2015-02-12 | 2015-02-12 | 対話装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016149014A JP2016149014A (ja) | 2016-08-18 |
JP6332072B2 true JP6332072B2 (ja) | 2018-05-30 |
Family
ID=56691271
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015025681A Expired - Fee Related JP6332072B2 (ja) | 2015-02-12 | 2015-02-12 | 対話装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6332072B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6516805B2 (ja) * | 2017-08-18 | 2019-05-22 | ヤフー株式会社 | 決定装置、決定方法、及び決定プログラム |
JP7318241B2 (ja) * | 2019-03-18 | 2023-08-01 | コニカミノルタ株式会社 | 音声情報処理装置及びプログラム |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10304464A (ja) * | 1997-04-28 | 1998-11-13 | Daihatsu Motor Co Ltd | ハンズフリー装置の制御方法 |
JP2000181500A (ja) * | 1998-12-15 | 2000-06-30 | Equos Research Co Ltd | 音声認識装置及びエ―ジェント装置 |
JP2006194633A (ja) * | 2005-01-11 | 2006-07-27 | Toyota Motor Corp | 車両用音声情報提供装置 |
JP4507996B2 (ja) * | 2005-06-14 | 2010-07-21 | トヨタ自動車株式会社 | 運転者負荷推定装置 |
JP5443141B2 (ja) * | 2009-12-02 | 2014-03-19 | 株式会社デンソーアイティーラボラトリ | ワークロードインジケータ装置、ワークロード表示方法およびプログラム |
JP5265587B2 (ja) * | 2010-01-18 | 2013-08-14 | 株式会社デンソーアイティーラボラトリ | 通話装置及び通話方法 |
-
2015
- 2015-02-12 JP JP2015025681A patent/JP6332072B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2016149014A (ja) | 2016-08-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6515764B2 (ja) | 対話装置及び対話方法 | |
JP4645310B2 (ja) | エージェントキャラクタ表示を利用した表示システム | |
JP4779748B2 (ja) | 車両用音声入出力装置および音声入出力装置用プログラム | |
CN110166896B (zh) | 语音提供方法、语音提供系统和服务器 | |
WO2017081960A1 (ja) | 音声認識制御システム | |
JP6466385B2 (ja) | サービス提供装置、サービス提供方法およびサービス提供プログラム | |
JP6284331B2 (ja) | 会話支援装置、会話支援方法及び会話支援プログラム | |
WO2014083738A1 (ja) | テキスト読み上げ装置およびその方法 | |
JP6604151B2 (ja) | 音声認識制御システム | |
WO2016103710A1 (ja) | 音声処理装置 | |
US10706270B2 (en) | Information provision device, and moving body | |
CN111261154A (zh) | 智能体装置、智能体提示方法及存储介质 | |
JP6075577B2 (ja) | 運転支援装置 | |
JP2008070966A (ja) | 車両制御装置および車両制御方法 | |
JP2017090614A (ja) | 音声認識制御システム | |
CN111007968A (zh) | 智能体装置、智能体提示方法及存储介质 | |
JP6332072B2 (ja) | 対話装置 | |
JP4438583B2 (ja) | 運転支援装置 | |
CN108885867B (zh) | 车用效果声发生装置 | |
JP2019074498A (ja) | 運転支援装置 | |
JP6606921B2 (ja) | 発声方向特定装置 | |
JP2019053785A (ja) | サービス提供装置 | |
JP2009073417A (ja) | 騒音制御装置および方法 | |
JP2022148823A (ja) | エージェント装置 | |
WO2019163060A1 (ja) | 操作制限制御装置及び操作制限制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170619 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180403 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180416 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6332072 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |