JP2018036811A - 車両の情報提供システム - Google Patents

車両の情報提供システム Download PDF

Info

Publication number
JP2018036811A
JP2018036811A JP2016168755A JP2016168755A JP2018036811A JP 2018036811 A JP2018036811 A JP 2018036811A JP 2016168755 A JP2016168755 A JP 2016168755A JP 2016168755 A JP2016168755 A JP 2016168755A JP 2018036811 A JP2018036811 A JP 2018036811A
Authority
JP
Japan
Prior art keywords
information
vehicle
recognition
explanation
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016168755A
Other languages
English (en)
Inventor
志遠 彭
Zhiyuan Peng
志遠 彭
勇 林
Isamu Hayashi
勇 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Motors Corp
Original Assignee
Mitsubishi Motors Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Motors Corp filed Critical Mitsubishi Motors Corp
Priority to JP2016168755A priority Critical patent/JP2018036811A/ja
Priority to EP17188404.2A priority patent/EP3291140A1/en
Priority to US15/690,734 priority patent/US20180061153A1/en
Publication of JP2018036811A publication Critical patent/JP2018036811A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • B60K35/28
    • B60K35/80
    • B60K35/85
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K37/00Dashboards
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/17Image acquisition using hand-held instruments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/08Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/12Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time in graphical form
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • B60K2360/161
    • B60K2360/573
    • B60K2360/592
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C2205/00Indexing scheme relating to group G07C5/00
    • G07C2205/02Indexing scheme relating to group G07C5/00 using a vehicle scan tool

Abstract

【課題】必要な情報を適切に提供することができる車両の情報提供システムを提供する。
【解決手段】車両10Aの機器及び装備の問合せ対象箇所の写真を撮影し、撮影した写真を送信する携帯端末30と、携帯端末30から送信された写真が示す問合せ対象箇所を認識する認識サーバ21と、機器及び装備に関する説明を行う複数の説明情報を有するFAQデータベース24を有し、認識サーバ21で認識した問合せ対象箇所に対応する説明情報をFAQデータベース24から選択して送信する処理サーバ22と、車両10Aに設けられ、処理サーバ22から送信された説明情報を表示する表示装置12とを有する。
【選択図】図1

Description

本発明は、車両が備える機器や装備に関する情報を提供する車両の情報提供システムに関する。
モバイル端末でショット(写真など)を撮影し、ショットを通信システムに送信し、通信システムでショット内のオブジェクト(バーコードなど)を検出し、モバイル端末の位置を考慮して、オブジェクトに関連付けられる場所を選択し、場所及びオブジェクトに関連付けられる情報(クーポンなど)をモバイル端末上に表示する技術が知られている(特許文献1参照)。
特表2015−515669号公報
近年、車両が備える機器や装備の高機能化、多機能化が進んで、益々便利になってきているが、新しい機能に対する知識不足や情報不足のため、その機能を運転者や搭乗者が十分に使いこなせていない可能性がある。例えば、車室内にあるスイッチやアイコンに運転者や搭乗者が興味を持ち、操作しようとしても、該当するスイッチやアイコンがどのようなものか理解していないと、その操作をためらってしまう。また、エンジンルーム内にある部品に運転者や搭乗者が興味を持っても、該当する部品の説明を車両の取扱説明書から見つけ出すのは簡単ではない。
近年、音声認識システムや画像認識システムなどの技術も益々発展してきている。このような技術を用いて、車両の機器や装備に関する情報を提供することができれば、運転者や搭乗者に必要な情報を適切に提供することが可能になる。また、会話が苦手な運転者や搭乗者に対しても、必要な情報を適切に提供することが可能になる。
本発明は上記課題に鑑みなされたもので、必要な情報を適切に提供することができる車両の情報提供システムを提供することを目的とする。
上記課題を解決する第1の発明に係る車両の情報提供システムは、
車両の機器及び装備の問合せ対象箇所の写真を撮影し、撮影した前記写真を送信する携帯端末と、
前記携帯端末から送信された前記写真が示す前記問合せ対象箇所を認識する認識手段と、
前記機器及び前記装備に関する説明を行う複数の説明情報を有し、前記認識手段で認識した前記問合せ対象箇所に対応する前記説明情報を選択して送信する処理手段と、
前記車両に設けられ、前記処理手段から送信された前記説明情報を表示する表示手段とを有する
ことを特徴とする。
上記課題を解決する第2の発明に係る車両の情報提供システムは、
上記第1の発明に記載の車両の情報提供システムにおいて、
前記処理手段は、各々の前記説明情報に優先順位が付けられた優先順位情報を有し、選択された前記説明情報と共に当該説明情報の前記優先順位を送信し、
前記表示手段は、前記処理手段から複数の前記説明情報が選択されて送信された場合、複数の前記説明情報の項目を前記優先順位の高い順にリスト表示する
ことを特徴とする。
上記課題を解決する第3の発明に係る車両の情報提供システムは、
上記第1又は第2の発明に記載の車両の情報提供システムにおいて、
前記説明情報の選択履歴から前記説明情報に対する前記優先順位を学習し、前記優先順位情報を更新する学習手段を有する
ことを特徴とする。
上記課題を解決する第4の発明に係る車両の情報提供システムは、
上記第3の発明に記載の車両の情報提供システムにおいて、
前記認識手段、前記処理手段及び前記学習手段は、クラウド上に設けられた少なくとも1つのサーバコンピュータからなる
ことを特徴とする。
上記課題を解決する第5の発明に係る車両の情報提供システムは、
上記第3の発明に記載の車両の情報提供システムにおいて、
前記認識手段及び前記処理手段は、前記車両に設けられた少なくとも1つのコンピュータからなり、
前記学習手段は、クラウド上に設けられた1つのサーバコンピュータからなる
ことを特徴とする。
本発明によれば、車両の機器や装備に関して、運転者や搭乗者に必要な情報を適切に提供することができる。その結果、車両の利便性を向上させることができる。
本発明に係る車両の情報提供システムの実施形態の一例(実施例1)を示す概略構成図である。 図1に示した車両の情報提供システムにおける情報の送受信の一例を説明するフローチャートである。 図1に示した車両の情報提供システムにおいて、表示装置と携帯端末における情報の送受信の一例を示す図である。 本発明に係る車両の情報提供システムの実施形態の他の一例(実施例2)を示す概略構成図である。 図4に示した車両の情報提供システムにおける情報の送受信の一例を説明するフローチャートである。 図4に示した車両の情報提供システムにおいて、表示装置と携帯端末における情報の送受信の一例を示す図である。
以下、図1〜図6を参照して、本発明に係る車両の情報提供システムの実施形態のいくつかを説明する。
[実施例1]
図1は、本実施例の車両の情報提供システムを示す概略構成図である。また、図2は、図1に示した車両の情報提供システムにおける情報の送受信の一例を説明するフローチャートである。また、図3は、図1に示した車両の情報提供システムにおいて、表示装置と携帯端末における情報の送受信の一例を示す図である。
本実施例の車両の情報提供システムは、図1に示すように、車両10Aに設けられた処理装置11Aと入出力機能付きの表示装置12(表示手段)と通信装置13Aとを有し、また、クラウド20A上に設けられた認識サーバ21(認識手段)と処理サーバ22(処理手段及び学習手段)とを有し、更に、携帯端末30を有している。なお、図1では、1台の車両10A及び1つの携帯端末30を例示しているが、クラウド20A上の認識サーバ21及び処理サーバ22は、複数の車両10A及び複数の携帯端末30に対応するものである。
処理装置11Aは、例えば、コンピュータなどであり、入出力機能付きの表示装置(以降、表示装置)12や通信装置13Aから入力された情報に対する処理を行って、表示装置12や通信装置13Aへ処理後の情報を出力している。
また、表示装置12は、例えば、タッチパネルなどであり、処理装置11Aから出力された情報を画面に表示したり、画面に入力された情報を処理装置11Aへ入力したりしている。また、表示装置12は、マイクやスピーカを備えており、処理装置11Aから出力された音声をスピーカから出力したり、マイクから入力された音声を処理装置11Aへ入力したりしている。なお、表示装置12としては、ナビゲーション・システムのディスプレイなどを利用可能であり、また、このディスプレイとは別に、他のディスプレイを設けても良い。
また、通信装置13Aは、例えば、LTE(登録商標:Long Term Evolution)規格などの移動体通信機やWi−Fi(登録商標:Wireless Fidelity)規格などの無線LAN通信機であり、認識サーバ21や処理サーバ22との通信を無線ネットワーク40で行うものである。
また、認識サーバ21は、例えば、記憶装置を有するサーバコンピュータなどであり、その記憶装置内に認識データベース23を有している。この認識データベース23には、画像や音声の認識のため、車両10Aが備える機器及び装備に関する認識情報(画像情報や音声情報)が記録されている。そして、認識サーバ21は、認識データベース23に基づいて、無線ネットワーク40を介して通信装置13Aや携帯端末30から送信された画像や音声の認識を行って、その認識結果を処理サーバ22へ送信している。
この認識サーバ21は、例えば、ニューラルネットワークなどの人工知能を用いて、画像や音声の認識を行っており、その場合、認識サーバ21は、認識データベース23に記録する認識情報も、人工知能による学習(機械学習)を用いて記録すれば良い。
また、処理サーバ22も、例えば、記憶装置を有するサーバコンピュータなどであり、その記憶装置内にFAQ(frequently asked questions)データベース24を有している。このFAQデータベース24には、認識結果に対応する情報を選択するため、車両10Aが備える機器及び装備に関する説明を行う説明情報(文字情報、音声情報、画像情報、動画情報など)が記録されると共に、各々の説明情報に対する優先順位を付けた優先順位情報が記録されている。各々の説明情報としては、車両10Aの機器及び装備の取扱説明書の各項目の説明内容が利用可能であり、これらを文字情報、音声情報、画像情報として記憶すれば良く、必要な場合には、機器及び装備の操作や動作の動画情報を記憶すれば良い。
そして、処理サーバ22は、FAQデータベース24に基づいて、認識サーバ21から送信された画像や音声の認識結果に対応する説明情報を1つ又は複数選択し、無線ネットワーク40を介して、選択した説明情報を車両10Aの通信装置13Aや携帯端末30へ送信している(処理手段)。
上述した認識サーバ21には、特定の車両10Aの運転者や搭乗者からだけでなく、他の車両10Aの運転者や搭乗者からも、携帯端末30を用いて、問合せ情報となる画像や音声が送信されており、認識サーバ21は、これらの画像や音声を認識した認識結果を処理サーバ22に送信している。そして、処理サーバ22は、例えば、ニューラルネットワークなどの人工知能を用いており、これらの認識結果に対する説明情報の選択履歴に基づいて、換言すると、多数の運転者や搭乗者からの問合せ履歴に基づいて、説明情報に対する優先順位を学習し、優先順位情報を更新している(学習手段)。優先順位は、処理サーバ22での選択頻度が多い説明情報ほど、つまり、多数の運転者や搭乗者からの問合せ頻度が多い説明情報ほど、高くしている。
また、携帯端末30は、例えば、スマートフォンであり、LTE規格やWi−Fi規格などの無線通信機能を有すると共に、カメラ機能を有しており、運転者や搭乗者が携帯している。この携帯端末30には、専用プログラムがインストールされており、この専用プログラムを用いて、運転者や搭乗者が撮影した画像や入力した文字、音声を認識サーバ21へ送信したり、処理サーバ22からの情報を受信したりしている。
認識サーバ21又は処理サーバ22には、予め、携帯端末30の識別情報(例えば、PINコードなど)と車両10Aの通信装置13Aの識別情報(例えば、PINコードなど)とを関連付けて登録している。そのため、携帯端末30から入力された情報に対する処理結果は、携帯端末30だけでなく、関連付けた車両10Aの通信装置13Aへも送信可能になっている。
なお、ここでは、認識サーバ21と処理サーバ22とを独立して設けているが、認識サーバ21と処理サーバ22とを1つのサーバコンピュータから構成しても良く、その場合、認識データベース23やFAQデータベース24も1つの記憶装置に設けても良い。また、処理サーバ22は、上述した処理手段の機能と学習手段の機能を有しているが、機能毎に異なるサーバコンピュータに分けて構成しても良く、その場合、FAQデータベース24も、説明情報からなるデータベースと優先順位情報からなるデータベースに分けて構成しても良い。
次に、上述した構成を有する本実施例の車両の情報提供システムについて、図2及び図3も参照して、表示装置12と携帯端末30における情報の送受信の一例を説明する。
(ステップS1)
運転者や搭乗者は、車両10Aの機器や装備について、操作や機能が分からない場合、例えば、エンジンルーム内の部品が分からなかったり、車室内にあるスイッチやアイコンの操作や意味が分からなかったりした場合、携帯端末30の専用プログラムを用いて、問合せ対象箇所の写真を撮影し、撮影した写真を問合せ情報として、無線ネットワーク40を介して認識サーバ21へ送信する。
例えば、車両10Aのセレクトレバー近くのスイッチの操作や機能が分からない場合は、図3(a)に示すように、この問合せ対象箇所の写真Q1を携帯端末30で撮影して、認識サーバ21へ送信すれば良い。なお、該当箇所の名称が分かっている場合には、写真Q1に代えて、携帯端末30へ音声や文字を入力して、入力した音声や文字を問合せ情報として認識サーバ21へ送信しても良い。
(ステップS2)
認識サーバ21は、無線ネットワーク40を介して携帯端末30から送信された写真Q1について、認識データベース23に基づいて、写真Q1が示す問合せ対象箇所の認識を行い、認識結果を処理サーバ22へ送信する。
例えば、図3(a)中に示す写真Q1については、左側から右側に順に、「バッテリチャージスイッチ」、「セレクタレバー操作アイコン」、「バッテリセーブスイッチ」と認識することができる。このように、写真Q1に複数のスイッチなどが写っているときには、可能なものを全て認識するようにしている。
また、写真Q1に代えて、音声が送信された場合も、認識サーバ21は、認識データベース23に基づいて、音声の認識を行い、認識結果を処理サーバ22へ送信する。一方、文字が送信された場合は、送信された文字を認識結果として処理サーバ22へ送信する。なお、携帯端末30に音声や文字を入力するとき、名称の一部を間違って入力した場合には、入力した音声の認識結果に近いもの、入力した文字に近いものを、認識データベース23から探し出し、認識結果として処理サーバ22へ送信する。
(ステップS3)
処理サーバ22は、認識サーバ21から送信された認識結果に対応する説明情報を、FAQデータベース24から1つ又は複数選択する。なお、認識結果に対応する説明情報を見つけ出せない場合には、認識結果に近いものに対応する説明情報を、FAQデータベース24から1つ又は複数選択する。また、処理サーバ22は、選択された説明情報の選択履歴に基づいて、説明情報に対する優先順位を学習し、優先順位情報を更新する。
(ステップS4)
処理サーバ22は、選択した説明情報を、無線ネットワーク40を介して、通信装置13Aへ送信し、処理サーバ22から通信装置13Aへ送信された説明情報は、処理装置11Aを経由して、表示装置12へ入力される。表示装置12は、処理サーバ22で選択した説明情報が1つであれば、当該説明情報を表示し、処理サーバ22で選択した説明情報が複数であれば、当該複数の説明情報の項目を優先順位の高い順に従ってリスト表示する。また、処理サーバ22は、選択した説明情報を、無線ネットワーク40を介して、携帯端末30へ送信しても良く、その場合、携帯端末30は、表示装置12と同様の表示をすれば良い。
例えば、図3(a)中に示した写真Q1に対しては、図3(b)の表示装置12中の表示欄A1に示すように、優先順位の高い順に従って、「チャージモードの意味が知りたい」、「セーブモードの意味が知りたい」、「Bの意味が知りたい」と上から下へ表示される。この際、各説明情報の項目の左隣には、認識サーバ21で認識した「バッテリチャージスイッチ」、「バッテリセーブスイッチ」、「セレクタレバー操作アイコン」を示す画像が表示され、携帯端末30で撮影した写真Q1との対応関係が分かるようになっている。
表示装置12の画面内に全ての説明情報の項目を表示しきれない場合は、図3(b)に示すように、表示欄A1にスクロールバーC1を設け、表示欄A1を上下方向にスクロール表示するようにして、表示されていない説明情報の項目も表示可能としている。
処理サーバ22からは、操作補助情報(文字情報、音声情報、画像情報など)も送信されており、表示装置12に説明情報の項目を表示する際には、同時に、この操作補助情報も表示装置12から出力されている。ここでは、処理サーバ22は、表示装置12側に音声情報からなる操作補助情報を送信しており、表示装置12のスピーカからは、「知りたいスイッチをタッチしてもらえば、使い方を教えますよ」との音声が出力されている。
処理サーバ22からの操作補助情報は、携帯端末30へ送信しても良く、ここでは、図3(a)中のメッセージM1に示すように、携帯端末30側に文字情報からなる操作補助情報が送信されており、携帯端末30上に、「知りたいスイッチをタッチしてもらえば、使い方を教えますよ」との文字情報が表示されている。特に、車両10Aのバッテリが上がっていたり、何らかの不具合があったりして、処理装置11A、表示装置12及び通信装置13Aが起動できない場合には、表示装置12へ表示する説明情報の項目や操作補助情報を、携帯端末30で表示するようにすれば良い。
(ステップS5〜S6)
表示装置12や携帯端末30は、表示した説明情報の項目や操作補助情報について、運転者や搭乗者からの操作入力(音声入力、タッチ操作による入力など)を待ち、操作入力があれば、その操作入力に対応する説明情報を表示装置12や携帯端末30に提供する。
例えば、図3(b)に示した表示装置12の表示欄A1において、運転者が「チャージモードの意味が知りたい」と表示された領域をタッチすると、その操作入力が、処理装置11A、通信装置13A、認識サーバ21を介して、処理サーバ22へ送信される。処理サーバ22は、「チャージモードの意味が知りたい」に対応する説明情報(文字情報、音声情報、画像情報、動画情報)をFAQデータベース24から取り出して、通信装置13Aや携帯端末30に送信し、処理装置11Aは、通信装置13Aを介して送信された説明情報を表示装置12の画面に表示し、携帯端末30は、送信された説明情報を画面に表示することになる。
また、例えば、図3(b)に示した表示装置12の表示欄A1の表示に対して、運転者が「チャージモード」と発音して、表示装置12のマイクから音声を入力すると、その操作入力が、処理装置11A、通信装置13Aを介して、認識サーバ21へ送信され、入力された音声の認識が認識サーバ21で行われた後、その認識結果が処理サーバ22へ送信される。処理サーバ22は、認識結果に対応する説明情報(文字情報、音声情報、画像情報、動画情報)をFAQデータベース24から取り出して、通信装置13Aや携帯端末30に送信し、処理装置11Aは、通信装置13Aを介して送信された説明情報を表示装置12の画面に表示し、携帯端末30は、送信された説明情報を画面に表示することになる。
(ステップS7)
終了操作があれば、一連の動作を終了し、終了操作がなければ、ステップS5へ戻る。つまり、終了操作があるまで、ステップS5〜S6が繰り返され、対話形式で情報の送受信を行って、表示装置12や携帯端末30に所望の説明情報を表示させている。終了操作としては、例えば、表示装置12上に終了操作用のボタンB1を表示しておき、このボタンB1を運転者や搭乗者がタッチすることで、表示装置12の画面が初期画面に戻り、一連の動作が終了することになる。
本実施例では、以上のようにして、車両の機器や装備に関する運転者や搭乗者からの問合せについて、携帯端末30で写真を撮って問合せをしているので、会話が苦手な運転者や搭乗者に対しても、その意図を汲み取り、必要な情報を適切に提供することができる。その結果、車両の利便性を向上させることができる。
[実施例2]
図4は、本実施例の車両の情報提供システムを示す概略構成図である。また、図5は、図4に示した車両の情報提供システムにおける情報の送受信の一例を説明するフローチャートである。また、図6は、図4に示した車両の情報提供システムにおいて、表示装置と携帯端末における情報の送受信の一例を示す図である。
本実施例の車両の情報提供システムは、図4に示すように、車両10Bに設けられた処理装置11B(認識手段及び処理手段)と表示装置12と通信装置13Bと認識データベース14とFAQデータベース15とを有し、また、クラウド20B上に設けられた処理サーバ22(処理手段及び学習手段)を有し、更に、携帯端末30を有している。なお、図4では、1台の車両10B及び1つの携帯端末30を例示しているが、クラウド20B上の処理サーバ22は、複数の車両10B及び複数の携帯端末30に対応するものである。
実施例1の図1に示した構成と本実施例の図4に示した構成との比較から分かるように、実施例1では、クラウド20A上に認識サーバ21及び処理サーバ22があるのに対して、本実施例では、クラウド20B上には処理サーバ22があるだけであり、車両10B内の処理装置11B、通信装置13B、認識データベース14及びFAQデータベース15が、実施例1における認識サーバ21の機能及び処理サーバ22の一部の機能を担う構成に変更している。
つまり、実施例1では、通信装置13A及び携帯端末30と認識サーバ21及び処理サーバ22とがオンライン状態である必要があるが、本実施例では、通信装置13Bと処理サーバ22とが必ずしもオンライン状態である必要はなく、オフライン状態であっても、運転者や搭乗者に必要な情報を適切に提供することができるようにしている。
本実施例の車両の情報提供システムの具体的な構成を説明する。処理装置11Bは、実施例1で説明した処理装置11Aと同様に、例えば、コンピュータであり、表示装置12や通信装置13Bから入力された情報に対する処理を行って、表示装置12や通信装置13Bへ処理後の情報を出力している。
加えて、処理装置11Bは、認識データベース14に基づいて、通信装置13Bを介して携帯端末30から送信された画像や音声の認識を行い(認識手段)、更に、FAQデータベース15に基づいて、画像や音声の認識結果に対応する説明情報を1つ又は複数選択し、選択した説明情報を表示装置12へ出力したり、通信装置13Bを介して携帯端末30へ送信したりする(処理手段)。この処理装置11Bは、例えば、ニューラルネットワークなどの人工知能を用いて、画像や音声の認識を行っている。
また、通信装置13Bは、例えば、LTE規格やWi−Fi規格などの複数の無線通信機能を有する通信機であり、基本的には、携帯端末30との通信を行うものであり、必要に応じて、無線ネットワーク40を介して、処理サーバ22との通信を行う。
そして、認識データベース14は、実施例1で説明した認識データベース23と同等のものである。具体的には、画像や音声の認識のため、車両10Bが備える機器及び装備に関する認識情報(画像情報や音声情報)が記録されている。この認識データベース14に記録した認識情報は、予め、人工知能により学習した学習済みのものである。
また、FAQデータベース15も、実施例1で説明したFAQデータベース24と同等のものである。具体的には、認識結果に対応する情報を選択するため、車両10Bが備える機器及び装備に関する説明を行う説明情報(文字情報、音声情報、画像情報、動画情報など)が記録されると共に、各々の説明情報に対する優先順位を付けた優先順位情報が記録されている。このFAQデータベース15に記録した優先順位情報も、予め、人工知能により学習した学習済みのものである。
なお、ここでは、処理装置11Bは、上述した認識手段の機能と処理手段の機能を有しているが、機能毎に異なるコンピュータに分けて構成しても良い。また、認識データベース14及びFAQデータベース15も、1つの記憶装置に設けても良いし、互いに異なる記憶装置に分けて設けても良い。
そして、本実施例において、表示装置12については、実施例1で説明した表示装置12と同じもので良い。また、携帯端末30についても、実施例1で説明した携帯端末30と同じもので良いが、本実施例では、通信装置13Bとのみ直接通信しているので、少なくとも、Wi−Fi規格の無線通信機能やカメラ機能などを有する携帯型の端末であれば、他のもの、例えば、タブレット型端末などでも良い。また、携帯端末30が通信装置13Bとのみ直接通信しているので、実施例1のように、携帯端末30の識別情報と通信装置13Bの識別情報とを関連付けて、処理サーバ22に登録しておく必要はない。
本実施例において、処理サーバ22については、少なくとも、実施例1で説明した学習手段の機能を有するものが良い。その場合、処理装置11Bは、適宜なときに、通信装置13Bを用い、無線ネットワーク40を介して、処理装置11Bにおける説明情報の選択履歴を処理サーバ22に送信しており、処理サーバ22は、送信された説明情報の選択履歴に基づく学習を行って、FAQデータベース24内の優先順位情報を更新している(学習手段)。そして、FAQデータベース24において、優先順位情報が更新された場合には、処理サーバ22は、FAQデータベース24で更新された優先順位情報を、無線ネットワーク40を介して、通信装置13Bへ送信しており、処理装置11Bは、FAQデータベース24で更新された優先順位情報を用いて、FAQデータベース15内の優先順位情報を更新している。
また、本実施例において、処理サーバ22は、実施例1で説明した処理手段の機能を更に有しても良い。つまり、実施例1で説明した処理サーバ22と同じもので良い。例えば、処理装置11Bは、FAQデータベース15に必要とする情報がない場合、通信装置13Bを介して、画像や音声の認識結果を処理サーバ22に送信し、処理サーバ22は、通信装置13Bから送信された画像や音声の認識結果に対応する説明情報を、FAQデータベース24の中から1つ又は複数選択し、選択した情報を車両10Bの通信装置13Bへ、無線ネットワーク40を介して送信すれば良い(処理手段)。
つまり、本実施例では、携帯端末30からの問合せ情報に対する認識及び処理が、基本的には、処理装置11Bで行われており、FAQデータベース15に必要とする情報が無い場合に、処理サーバ22(FAQデータベース24)から必要な情報を取得するようにしている。
次に、上述した構成を有する本実施例の車両の情報提供システムについて、図5及び図6も参照して、表示装置12と携帯端末30における情報の送受信の一例を説明する。
(ステップS11)
運転者や搭乗者は、車両10Bの機器や装備について、操作や機能が分からない場合、携帯端末30の専用プログラムを用いて、問合せ対象箇所の写真を撮影し、撮影した写真を問合せ情報として通信装置13Bへ送信する。
例えば、車両10Bのステアリング近くのスイッチの操作や機能が分からない場合は、図6(a)に示すように、問合せ対象箇所の写真Q2を携帯端末30で撮影して、通信装置13Bへ送信すれば良い。なお、該当箇所の名称が分かっている場合には、写真Q2に代えて、携帯端末30へ音声や文字を入力して、入力した音声や文字を問合せ情報として通信装置13Bへ送信しても良い。
(ステップS12)
処理装置11Bは、通信装置13Bを介して携帯端末30から送信された写真Q2について、認識データベース14に基づいて、写真Q2が示す問合せ対象箇所の認識を行う。
例えば、図6(a)中に示す写真Q2については、上側から下側に順に、「CANCELスイッチ」、「RES+スイッチ」、「SET−スイッチ」、「ACC ON/OFFスイッチ」、「ACC車間設定スイッチ」と認識することができる。このように、写真Q2に複数のスイッチなどが写っているときには、可能なものを全て認識するようにしている。
また、写真Q2に代えて、音声が送信された場合も、処理装置11Bは、認識データベース14に基づいて、音声の認識を行う。一方、文字が送信された場合は、送信された文字を認識結果とする。なお、携帯端末30に音声や文字を入力するとき、名称の一部を間違って入力した場合には、入力した音声の認識結果に近いもの、入力した文字に近いものを、認識データベース14から探し出して、認識結果とする。
(ステップS13)
処理装置11Bは、認識結果に対応する説明情報を、FAQデータベース15から1つ又は複数選択する。なお、処理装置11Bは、適宜なときに、通信装置13Bを用いて、処理装置11Bにおける説明情報の選択履歴を処理サーバ22に送信しており、処理サーバ22は、送信された説明情報の選択履歴に基づく学習を行って、FAQデータベース24内の優先順位情報を更新する。
(ステップS14)
認識結果に対応する説明情報がFAQデータベース15にある場合には、ステップS16へ進むが、認識結果に対応する説明情報がFAQデータベース15にない場合には、ステップS15へ進む。つまり、処理装置11BがFAQデータベース15から認識結果に対応する説明情報を見つけ出せない場合には、ステップS15へ進む。
(ステップS15)
認識結果に対応する説明情報をFAQデータベース15から見つけ出せない場合、処理装置11Bは、通信装置13Bを介して、認識結果を処理サーバ22へ送信する。処理サーバ22は、処理装置11Bから送信された認識結果に対応する説明情報を、FAQデータベース24から1つ又は複数選択する。なお、処理サーバ22でも、認識結果に対応する説明情報を見つけ出せない場合には、認識結果に近いものに対応する説明情報を、FAQデータベース24から1つ又は複数選択する。また、処理サーバ22は、選択された説明情報の選択履歴に基づいて、説明情報に対する優先順位を学習し、優先順位情報を更新する。
(ステップS16)
認識結果に対応する説明情報がFAQデータベース15から選択できた場合、処理装置11Bは、選択した説明情報を表示装置12へ出力し、表示装置12は、処理装置11Bで選択した説明情報が1つであれば、当該説明情報を表示し、処理装置11Bで選択した説明情報が複数であれば、当該複数の説明情報の項目を優先順位の高い順に従ってリスト表示する。また、処理装置11Bは、選択した説明情報を、通信装置13Bを介して、携帯端末30へ送信しても良く、その場合、携帯端末30は、表示装置12と同様の表示をすれば良い。
一方、認識結果に対応する説明情報がFAQデータベース15から選択できなかった場合、処理サーバ22は、選択した説明情報を、無線ネットワーク40を介して、通信装置13Bへ送信し、処理サーバ22から通信装置13Bへ送信された説明情報は、処理装置11Bを経由して、表示装置12へ入力される。表示装置12は、処理サーバ22で選択した説明情報が1つであれば、当該説明情報を表示し、処理サーバ22で選択した説明情報が複数であれば、当該複数の説明情報の項目を優先順位の高い順に従ってリスト表示する。また、処理装置11Bは、処理サーバ22から送信された説明情報を、通信装置13Bを介して、携帯端末30へ送信しても良く、その場合、携帯端末30は、表示装置12と同様の表示をすれば良い。
例えば、図6(a)中に示した写真Q2に対しては、図6(b)の表示装置12中の表示欄A2に示すように、優先順位の高い順に従って、「SET−の意味が知りたい」、「RES+の意味が知りたい」、「ACC車間設定の意味が知りたい」と上から下へ表示される。この際、各説明情報の項目の左隣には、処理装置11Bで認識した「SET−スイッチ」、「RES+スイッチ」、「ACC車間設定スイッチ」を示す画像が表示され、携帯端末30で撮影した写真Q2との対応関係が分かるようになっている。
表示装置12の画面内に全ての説明情報の項目を表示しきれない場合は、図6(b)に示すように、表示欄A2にスクロールバーC2を設け、表示欄A2を上下方向にスクロール表示するようにして、表示されていない説明情報の項目も表示可能としている。
処理装置11Bからは、操作補助情報(文字情報、音声情報、画像情報など)も送信されており、表示装置12に説明情報の項目を表示する際には、同時に、この操作補助情報も表示装置12から出力されている。ここでは、処理装置11Bは、表示装置12側に音声情報からなる操作補助情報を送信しており、表示装置12のスピーカからは、「知りたいスイッチをタッチしてもらえば、使い方を教えますよ」との音声が出力されている。
処理装置11Bからの操作補助情報は、携帯端末30へ送信しても良く、ここでは、図6(a)中のメッセージM2に示すように、携帯端末30側に文字情報からなる操作補助情報を送信しており、携帯端末30上に、「知りたいスイッチをタッチしてもらえば、使い方を教えますよ」との文字情報が表示されている。
(ステップS17〜S18)
表示装置12や携帯端末30は、表示した説明情報の項目や操作補助情報について、運転者や搭乗者からの操作入力(音声入力、タッチ操作による入力など)を待ち、操作入力があれば、その操作入力に対応する説明情報を表示装置12や携帯端末30に提供する。
例えば、図6(b)に示した表示装置12の表示欄A2において、運転者が「SET−の意味が知りたい」と表示された領域をタッチすると、その操作入力が処理装置11Bへ入力される。処理装置11Bは、「SET−の意味が知りたい」に対応する説明情報(文字情報、音声情報、画像情報、動画情報)をFAQデータベース15から取り出して、表示装置12や通信装置13Bに出力し、表示装置12は、出力された説明情報を画面に表示し、携帯端末30は、通信装置13Bを介して送信された説明情報を画面に表示することになる。
また、例えば、図6(b)に示した表示装置12の表示欄A2の表示に対して、運転者が「セット」と発音して、表示装置12のマイクから音声を入力すると、その操作入力が処理装置11Bへ入力され、処理装置11Bにおいて、入力された音声の認識が行われた後、その認識結果に対応する説明情報(文字情報、音声情報、画像情報、動画情報)をFAQデータベース15から取り出して、表示装置12や通信装置13Bに出力し、表示装置12は、出力された説明情報を画面に表示し、携帯端末30は、通信装置13Bを介して送信された説明情報を画面に表示することになる。
(ステップS19)
終了操作があれば、一連の動作を終了し、終了操作がなければ、ステップS17へ戻る。つまり、終了操作があるまで、ステップS17〜S18が繰り返され、対話形式で情報の送受信を行って、表示装置12や携帯端末30に所望の説明情報を表示させている。終了操作としては、例えば、表示装置12上に終了操作用のボタンB2を表示しておき、このボタンB2を運転者や搭乗者がタッチすることで、表示装置12の画面が初期画面に戻り、一連の動作が終了することになる。
本実施例でも、以上のようにして、車両の機器や装備に関する運転者や搭乗者からの問合せについて、携帯端末30で写真を撮って問合せをしているので、会話が苦手な運転者や搭乗者に対しても、その意図を汲み取り、必要な情報を適切に提供することができる。その結果、車両の利便性を向上させることができる。
本発明は、車両の機器や装備に対する情報提供システムとして好適なものである。
10A、10B 車両
11A、11B 処理装置
12 表示装置
13A、13B 通信装置
14 認識データベース
15 FAQデータベース
20A、20B クラウド
21 認識サーバ
22 処理サーバ
23 認識データベース
24 FAQデータベース
30 携帯端末
40 無線ネットワーク

Claims (5)

  1. 車両の機器及び装備の問合せ対象箇所の写真を撮影し、撮影した前記写真を送信する携帯端末と、
    前記携帯端末から送信された前記写真が示す前記問合せ対象箇所を認識する認識手段と、
    前記機器及び前記装備に関する説明を行う複数の説明情報を有し、前記認識手段で認識した前記問合せ対象箇所に対応する前記説明情報を選択して送信する処理手段と、
    前記車両に設けられ、前記処理手段から送信された前記説明情報を表示する表示手段とを有する
    ことを特徴とする車両の情報提供システム。
  2. 請求項1に記載の車両の情報提供システムにおいて、
    前記処理手段は、各々の前記説明情報に優先順位が付けられた優先順位情報を有し、選択された前記説明情報と共に当該説明情報の前記優先順位を送信し、
    前記表示手段は、前記処理手段から複数の前記説明情報が選択されて送信された場合、複数の前記説明情報の項目を前記優先順位の高い順にリスト表示する
    ことを特徴とする車両の情報提供システム。
  3. 請求項1又は請求項2に記載の車両の情報提供システムにおいて、
    前記説明情報の選択履歴から前記説明情報に対する前記優先順位を学習し、前記優先順位情報を更新する学習手段を有する
    ことを特徴とする車両の情報提供システム。
  4. 請求項3に記載の車両の情報提供システムにおいて、
    前記認識手段、前記処理手段及び前記学習手段は、クラウド上に設けられた少なくとも1つのサーバコンピュータからなる
    ことを特徴とする車両の情報提供システム。
  5. 請求項3に記載の車両の情報提供システムにおいて、
    前記認識手段及び前記処理手段は、前記車両に設けられた少なくとも1つのコンピュータからなり、
    前記学習手段は、クラウド上に設けられた1つのサーバコンピュータからなる
    ことを特徴とする車両の情報提供システム。
JP2016168755A 2016-08-31 2016-08-31 車両の情報提供システム Pending JP2018036811A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016168755A JP2018036811A (ja) 2016-08-31 2016-08-31 車両の情報提供システム
EP17188404.2A EP3291140A1 (en) 2016-08-31 2017-08-29 Information providing system of vehicle
US15/690,734 US20180061153A1 (en) 2016-08-31 2017-08-30 Information providing system of vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016168755A JP2018036811A (ja) 2016-08-31 2016-08-31 車両の情報提供システム

Publications (1)

Publication Number Publication Date
JP2018036811A true JP2018036811A (ja) 2018-03-08

Family

ID=59887005

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016168755A Pending JP2018036811A (ja) 2016-08-31 2016-08-31 車両の情報提供システム

Country Status (3)

Country Link
US (1) US20180061153A1 (ja)
EP (1) EP3291140A1 (ja)
JP (1) JP2018036811A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019185613A (ja) * 2018-04-16 2019-10-24 トヨタ自動車株式会社 部品情報提供方法
EP3992009A1 (en) 2020-10-28 2022-05-04 Honda Motor Co., Ltd. Information providing method, non-transitory computer readable storage medium storing program, and information providing apparatus

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2019239450A1 (ja) * 2018-06-11 2021-02-12 三菱電機株式会社 入力制御装置、操作装置および入力制御方法
CN111325080A (zh) * 2018-12-17 2020-06-23 上海博泰悦臻电子设备制造有限公司 车辆及其物品信息识别显示方法和系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006125871A (ja) * 2004-10-26 2006-05-18 Equos Research Co Ltd ナビゲーション装置
JP2007011489A (ja) * 2005-06-28 2007-01-18 Denso Wave Inc 携帯情報端末機
JP2009129359A (ja) * 2007-11-27 2009-06-11 Toshiba Corp 情報提供システム、端末及び情報提供サーバ
JP2012018587A (ja) * 2010-07-09 2012-01-26 Toyota Motor Corp 画像表示システム
JP2015087853A (ja) * 2013-10-29 2015-05-07 株式会社安川電機 表示制御システム、表示制御方法、文書抽出装置、携帯情報端末、プログラム、及び情報記憶媒体
JP2015128988A (ja) * 2014-01-06 2015-07-16 ハーマン インターナショナル インダストリーズ インコーポレイテッド 自動の運転手識別
US20150347848A1 (en) * 2014-06-02 2015-12-03 General Motors Llc Providing vehicle owner's manual information using object recognition in a mobile device

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020151297A1 (en) * 2000-10-14 2002-10-17 Donald Remboski Context aware wireless communication device and method
US7680324B2 (en) * 2000-11-06 2010-03-16 Evryx Technologies, Inc. Use of image-derived information as search criteria for internet and other search engines
US20040100505A1 (en) * 2002-11-21 2004-05-27 Cazier Robert Paul System for and method of prioritizing menu information
US20050038573A1 (en) * 2003-08-11 2005-02-17 Goudy Roy Wesley Vehicle information/task manager
EP1885107A1 (en) * 2006-08-04 2008-02-06 Sysopen Digia Oyj Mobile terminal control by vehicle
US9818088B2 (en) * 2011-04-22 2017-11-14 Emerging Automotive, Llc Vehicles and cloud systems for providing recommendations to vehicle users to handle alerts associated with the vehicle
US20130030645A1 (en) * 2011-07-28 2013-01-31 Panasonic Corporation Auto-control of vehicle infotainment system based on extracted characteristics of car occupants
DE102011111213A1 (de) * 2011-08-20 2013-02-21 GM Global Technology Operations LLC (n. d. Gesetzen des Staates Delaware) Vorrichtung und Verfahren zur Ausgabe von Informationen
FR2987921A1 (fr) 2012-03-07 2013-09-13 Alcatel Lucent Procede de communication et d'informations en realite augmentee
US9751534B2 (en) * 2013-03-15 2017-09-05 Honda Motor Co., Ltd. System and method for responding to driver state
US20150178046A1 (en) * 2013-12-19 2015-06-25 BHI Inc. Contact management system learning from message exchange patterns, positional information or calendar
US10209853B2 (en) * 2013-12-20 2019-02-19 Robert Bosch Gmbh System and method for dialog-enabled context-dependent and user-centric content presentation
US9381813B2 (en) * 2014-03-24 2016-07-05 Harman International Industries, Incorporated Selective message presentation by in-vehicle computing system
DE102014017511B4 (de) * 2014-11-27 2023-11-09 Audi Ag Anzeigesystem für einen Kraftwagen, Kraftwagen mit einem Anzeigesystem und Verfahren zum Betreiben eines Anzeigesystems
US10229671B2 (en) * 2015-12-02 2019-03-12 GM Global Technology Operations LLC Prioritized content loading for vehicle automatic speech recognition systems
KR102113816B1 (ko) * 2016-01-05 2020-06-03 한국전자통신연구원 차량 자율주행 서비스 시스템 및 이를 위한 클라우드 서버 및 그 동작 방법
US10033819B2 (en) * 2016-07-28 2018-07-24 GM Global Technology Operations LLC Operating a vehicle wireless access point to selectively connect to wireless vehicle devices

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006125871A (ja) * 2004-10-26 2006-05-18 Equos Research Co Ltd ナビゲーション装置
JP2007011489A (ja) * 2005-06-28 2007-01-18 Denso Wave Inc 携帯情報端末機
JP2009129359A (ja) * 2007-11-27 2009-06-11 Toshiba Corp 情報提供システム、端末及び情報提供サーバ
JP2012018587A (ja) * 2010-07-09 2012-01-26 Toyota Motor Corp 画像表示システム
JP2015087853A (ja) * 2013-10-29 2015-05-07 株式会社安川電機 表示制御システム、表示制御方法、文書抽出装置、携帯情報端末、プログラム、及び情報記憶媒体
JP2015128988A (ja) * 2014-01-06 2015-07-16 ハーマン インターナショナル インダストリーズ インコーポレイテッド 自動の運転手識別
US20150347848A1 (en) * 2014-06-02 2015-12-03 General Motors Llc Providing vehicle owner's manual information using object recognition in a mobile device

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019185613A (ja) * 2018-04-16 2019-10-24 トヨタ自動車株式会社 部品情報提供方法
EP3992009A1 (en) 2020-10-28 2022-05-04 Honda Motor Co., Ltd. Information providing method, non-transitory computer readable storage medium storing program, and information providing apparatus
US11734928B2 (en) 2020-10-28 2023-08-22 Honda Motor Co., Ltd. Vehicle controls and cabin interior devices augmented reality usage guide

Also Published As

Publication number Publication date
US20180061153A1 (en) 2018-03-01
EP3291140A1 (en) 2018-03-07

Similar Documents

Publication Publication Date Title
JP2018036811A (ja) 車両の情報提供システム
JP4508077B2 (ja) 車載マルチカーソルシステム
CN105989841B (zh) 车载语音控制方法及装置
US20170103756A1 (en) Information processing system, and vehicle-mounted device
KR102119404B1 (ko) 복수 챗봇의 협업에 의한 대화형 정보제공 시스템 및 그 방법
CN103034670A (zh) 移动设备中的专集列表管理系统和方法
US10318009B2 (en) Method, non-transitory computer-readable medium, and device for controlling a user-interface
CN103460677A (zh) 无线通信终端及操作系统
CN108446339B (zh) 一种应用图标的分类方法及移动终端
US20160003635A1 (en) Apparatus and method for providing location based multimedia contents
JP6035108B2 (ja) 情報端末、情報システム、情報端末用プログラム
WO2013145672A1 (ja) 携帯端末制御装置
US9883030B2 (en) Method and apparatus for providing interface based on voice recognition
JP2006276961A (ja) 配車管理装置
KR102371513B1 (ko) 대화 시스템 및 대화 처리 방법
CN105827279A (zh) 应用于车辆的蓝牙装置的通信方法、系统及蓝牙装置
EP3563216B1 (en) Method and apparatus for controlling a mobile terminal
US20180018289A1 (en) Method for Recognizing Software Applications and User Inputs
JP7436184B2 (ja) コミュニケーションシステム、コミュニケーション方法及び情報端末
US20220116749A1 (en) Method For Managing Wirelessly Incoming Messages On A Device Or Messages Generated By A Unit Of The Device, And Motor Vehicle
JP2005204057A (ja) 情報端末、情報サーバ及び情報提供システム
US20240036700A1 (en) Method for information display, terminal and storage medium
JP2013190356A (ja) 車載装置、ナビゲーションシステム及び目的地選択方法
JP7058914B2 (ja) 検索装置、検索システム、プログラム
CN112118311B (zh) 信息车载交互方法、装置、设备以及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190322

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190529

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190605

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190530

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200402

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200722