JP7177922B2 - エージェントシステム、エージェントサーバ、エージェントサーバの制御方法、およびプログラム - Google Patents

エージェントシステム、エージェントサーバ、エージェントサーバの制御方法、およびプログラム Download PDF

Info

Publication number
JP7177922B2
JP7177922B2 JP2021518289A JP2021518289A JP7177922B2 JP 7177922 B2 JP7177922 B2 JP 7177922B2 JP 2021518289 A JP2021518289 A JP 2021518289A JP 2021518289 A JP2021518289 A JP 2021518289A JP 7177922 B2 JP7177922 B2 JP 7177922B2
Authority
JP
Japan
Prior art keywords
agent
user
unit
vehicle
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021518289A
Other languages
English (en)
Other versions
JPWO2020225918A1 (ja
Inventor
隆将 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Publication of JPWO2020225918A1 publication Critical patent/JPWO2020225918A1/ja
Application granted granted Critical
Publication of JP7177922B2 publication Critical patent/JP7177922B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0631Item recommendations
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0623Item investigation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0641Shopping interfaces
    • G06Q30/0643Graphical representation of items or shoppers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition

Landscapes

  • Business, Economics & Management (AREA)
  • Engineering & Computer Science (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • Development Economics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Tourism & Hospitality (AREA)
  • Mechanical Engineering (AREA)
  • Human Resources & Organizations (AREA)
  • Primary Health Care (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、エージェントシステム、エージェントサーバ、エージェントサーバの制御方法、およびプログラムに関する。
従来、車両の乗員と対話を行いながら、乗員の要求に応じた運転支援に関する情報や車両の制御、その他のアプリケーション等を提供するエージェント機能に関する技術が開示されている(例えば、特許文献1参照)。
特開2006-335231号公報
しかしながら、従来では、ユーザが所定の販売業者で購入した結果と、エージェント機能とを連携させることについては考慮されていなかった。そのため、ユーザに所定の販売業者での購入意欲を向上させることができない場合があった。
本発明は、このような事情を考慮してなされたものであり、ユーザに所定の販売業者での購入意欲を向上させることができるエージェントシステム、エージェントサーバ、エージェントサーバの制御方法、およびプログラムを提供することを目的の一つとする。
この発明に係るエージェントシステム、エージェントサーバ、エージェントサーバの制御方法、およびプログラムは、以下の構成を採用した。
(1):この発明の一態様に係るエージェントシステムは、ユーザの発話および/またはジェスチャーに応じて、音声による応答を含むサービスを提供するエージェント機能部と、前記ユーザが所定の販売業者から製品またはサービスを購入したことを示す情報を取得する取得部と、を備え、前記エージェント機能部は、前記取得部により取得された情報に基づいて、前記エージェント機能部が実行可能な機能を変更する、エージェントシステムである。
(2):上記(1)の態様において、前記エージェント機能部により提供されるサービスとして前記ユーザとのコミュニケーションを行うエージェントの画像または音声を出力部に出力させる出力制御部を更に備え、前記出力制御部は、前記取得部により取得された前記ユーザの購入履歴に基づいて、前記出力部に出力される前記エージェントの画像または音声の出力態様を変更させるものである。
(3):上記(2)の態様において、前記エージェント機能部は、前記ユーザが購入した製品またはサービスの種別、購入額の総額、購入頻度、或いは利用ポイントのうち少なくとも一つに基づいて、前記エージェントを成長させるものである。
(4):上記(2)の態様において、前記エージェント機能部は、前記ユーザが購入した製品またはサービスが車両に関係する場合に、前記車両に対応付けてエージェントを設定するものである。
(5):上記(4)の態様において、前記エージェント機能部は、前記ユーザが車両を買い替えるまたは買い増す場合、或いは車両に対するサービスを購入する場合に、買い替えまたは買い増す前、或いは購入する前のユーザに対応付けられていたエージェントを、買い替えまたは買い増した後、或いはサービス購入後の車両、または前記ユーザの端末装置で継続して使用可能とするものである。
(6):上記(4)または(5)の態様において、前記製品には、前記車両に電力を供給する蓄電池を含み、前記エージェント機能部は、前記蓄電池の状態に対応付けられたキャラクタ画像を前記エージェントの画像として用いるものである。
(7):上記(1)~(6)のうち何れか一つの態様において、前記エージェント機能部は、前記ユーザが購入した製品またはサービスの種別、購入額の総額、購入頻度、或いは利用ポイントのうち少なくとも一つに基づいて、前記エージェント機能部が実行可能な機能な機能を追加または拡張するものである。
(8):本発明の他の態様に係るエージェントサーバは、ユーザの発話および/またはジェスチャーを認識する認識部と、前記認識部により認識された結果に基づいて、前記発話および/またはジェスチャーに対する応答結果を生成する応答内容生成部と、前記応答内容生成部により生成された応答結果を、前記ユーザとのコミュニケーションを行うエージェントの画像または音声を用いて提供する情報提供部と、前記ユーザが所定の販売業者から製品またはサービスを購入した場合に、前記エージェントの出力態様を変化させるエージェント管理部と、を備えるエージェントサーバである。
(9):本発明の他の態様に係るエージェントサーバの制御方法は、コンピュータが、ユーザの発話および/またはジェスチャーを認識し、認識した結果に基づいて、前記発話および/またはジェスチャーに対する応答結果を生成し、生成した応答結果を、前記ユーザとのコミュニケーションを行うエージェントの画像または音声を用いて提供し、前記ユーザが所定の販売業者から製品またはサービスを購入した場合に、前記エージェントの出力態様を変化させる、エージェントサーバの制御方法である。
(10):本発明の他の態様に係るプログラムは、コンピュータが、ユーザの発話および/またはジェスチャーを認識させ、認識された結果に基づいて、前記発話および/またはジェスチャーに対する応答結果を生成させ、生成された応答結果を、前記ユーザとのコミュニケーションを行うエージェントの画像または音声を用いて提供させ、前記ユーザが所定の販売業者から製品またはサービスを購入した場合に、前記エージェントの出力態様を変化させる、プログラムである。
上記(1)~(10)の態様によれば、ユーザに所定の販売業者での購入意欲を向上させることができる。
エージェント装置100を含むエージェントシステム1の構成図である。 実施形態に係るエージェント装置100の構成と、車両M1に搭載された機器とを示す図である。 表示・操作装置20およびスピーカユニット30の配置例を示す図である。 バッテリ90の状態に応じて表示されるキャラクタの一例を示す図である。 実施形態に係る携帯端末200の機能構成の一例を示す図である。 実施形態の顧客サーバ300の機能構成の一例を示す図である。 購入データ372の内容について説明するための図である。 エージェントサーバ400の構成と、エージェント装置100および携帯端末200の構成の一部とを示す図である。 パーソナルプロファイル444の内容の一例を示す図である。 エージェント管理情報450の内容の一例を示す図である。 実施形態のエージェントシステム1によるエージェントの提供方法の一例を示すシーケンス図である。 エージェントを設定するための画像IM1の一例を示す図である。 エージェントAが選択された後に表示される画像IM2の一例を示す図である。 ユーザU1がエージェントAと対話を行っている場面の一例を示す図である。 エージェント機能部150により出力部に出力させる応答結果について説明するための図である。 成長したエージェントを含む画像IM5の一例を示す図である。 成長したエージェントによって提供される内容の違いについて説明するための図である。 エージェントの衣装の着せ替えが行われた後の画像IM6の一例を示す図である。 アプリ実行部250の処理によって携帯端末200のディスプレイ230に表示される画像の一例を示す図である。 ユーザU1の車両の購入につき、車両M1の第1ディスプレイ22に表示される画像IM8の一例を示す図である。 他のエージェントとの対話を利用して対話を行うことについて説明するための図である。 バッテリ90の状態に対応付けたキャラクタ画像をエージェントとして表示させることについて説明するための図である。
以下、図面を参照し、本発明のエージェントシステム、エージェントサーバ、エージェントサーバの制御方法、およびプログラムの実施形態について説明する。エージェント装置は、エージェントシステムの一部または全部を実現する装置である。以下では、エージェント装置の一例として、車両に搭載され、一以上のエージェント機能を備えたエージェント装置について説明する。車両は、例えば、二輪や三輪、四輪等の車両であり、その駆動源は、ディーゼルエンジンやガソリンエンジンなどの内燃機関、電動機、或いはこれらの組み合わせである。電動機は、内燃機関に連結された発電機による発電電力、或いは二次電池や燃料電池の放電電力を使用して動作する。エージェント機能とは、例えば、車両のユーザと対話をしながら、ユーザの発話および/またはジェスチャーの中に含まれる要求(コマンド)に基づく各種の情報提供を行ったり、ユーザのスケジュールを管理したり、ネットワークサービスを仲介したりする機能である。また、エージェント機能の中には、車両内の機器(例えば運転制御や車体制御に関わる機器)の制御等を行う機能を有するものがあってよい。エージェント機能は、エージェントの成長レベル(育成レベル)によって実行可能な機能が変更されてもよい。
エージェント機能は、例えば、ユーザの音声を認識する音声認識機能(音声をテキスト化する機能)に加え、自然言語処理機能(テキストの構造や意味を理解する機能)、対話管理機能、ネットワークを介して他装置を検索し、或いは自装置が保有する所定のデータベースを検索するネットワーク検索機能等を統合的に利用して実現される。これらの機能の一部または全部は、AI(Artificial Intelligence)技術によって実現されてよい。また、これらの機能を行うための構成の一部(特に、音声認識機能や自然言語処理解釈機能)は、車両の車載通信装置または車両に持ち込まれた汎用通信装置と通信可能なエージェントサーバ(外部装置)に搭載されてもよい。以下の説明では、構成の一部がエージェントサーバに搭載されており、エージェント装置とエージェントサーバが協働してエージェントシステムを実現することを前提とする。また、エージェント装置とエージェントサーバが協働して仮想的に出現させるサービス提供主体(サービス・エンティティ)をエージェントと称する。また、「エージェント」の表現は、適宜、「コンシェルジェ」に読み替えてもよい。
<全体構成>
図1は、エージェント装置100を含むエージェントシステム1の構成図である。エージェントシステム1は、例えば、ユーザU1に対応付けられた車両M1に搭載されるエージェント装置100と、ユーザU1に対応付けられた携帯端末200と、顧客サーバ300と、エージェントサーバ400とを備える。「ユーザU1に対応付けられる」とは、例えば、ユーザU1が所有する、ユーザU1が管理する、或いはユーザU1に割り当てられていることに相当する。
エージェント装置100は、ネットワークNWを介して、携帯端末200、顧客サーバ300、エージェントサーバ400等と通信する。ネットワークNWは、例えば、インターネット、セルラー網、Wi-Fi網、WAN(Wide Area Network)、LAN(Local Area Network)、公衆回線、電話回線、無線基地局等のうち一部または全部を含む。ネットワークNWには、各種ウェブサーバ500が接続されており、エージェント装置100、携帯端末200、顧客サーバ300、およびエージェントサーバ400は、ネットワークNWを介して各種ウェブサーバ500からウェブページを取得することができる。各種ウェブサーバ500には、所定の販売業者が管理、運営するオフィシャルサイトが含まれてよい。
エージェント装置100は、ユーザU1と対話を行い、ユーザU1からの音声をエージェントサーバ400に送信し、エージェントサーバ400から得られた回答に基づく応答内容を、音声出力や画像表示の形でユーザU1に提供する。ここで、エージェント装置100は、ユーザU1が車両内に存在する場合には、車両M1に搭載された表示部やスピーカユニットを用いて情報提供を行い、ユーザU1が車両M1に存在しない場合には、ユーザU1の携帯端末200に情報提供を行ってもよい。また、エージェント装置100は、ユーザからの要求に基づいて車両機器50に対する制御等を行ってもよい。
携帯端末200は、ユーザU1の操作によって、エージェント装置100と同様の機能が、アプリケーションプログラム(以下、アプリと称する)等によって提供される。携帯端末200は、例えば、スマートフォンやタブレット端末の端末装置である。
顧客サーバ300は、ディーラー等の少なくとも1つの販売店舗で管理される端末(以下、販売店舗端末と称する)によって管理されたユーザ(顧客)の情報を集約して顧客履歴情報として管理する。販売店舗には、例えば、車両や車載機器、アイテム等の所定の製品の販売を行ったり、カーシェアリングやレンタカー等の各種サービスの提供等を行う所定の系列店舗が含まれる。また、販売店舗には、所定の販売業者と提携している他の販売業者の関連販売店舗が含まれてよい。例えば、販売業者が車両や車載機器の販売事業者である場合、関連販売店舗は、例えば旅行会社、車検会社、車両以外のサービス提供会社等である。以下では、説明の便宜上、二つの販売店舗端末DT1およびDT2を用いて説明するものとする。販売店舗端末DT1およびDT2のそれぞれには、来店者(ユーザ)の個人情報や来店履歴、ユーザによる製品やサービスの購入履歴、その他のユーザ関連情報が管理されていてもよい。販売店舗端末DT1およびDT2は、ユーザへの販売内容やユーザ関連情報を所定の周期または所定のタイミングで顧客サーバ300に送信する。所定の周期とは、例えば、日ごと、週ごと等の周期である。また、所定のタイミングとは、例えば、ユーザが来店したタイミング、ユーザが製品やサービスを購入したタイミング、ユーザ関連情報が更新したタイミング等である。
顧客サーバ300は、販売店舗端末DT1、DT2から送信された情報を集約し、顧客の販売店舗端末での購入データの管理を行う。顧客サーバ300は、管理している購入データを、エージェントサーバ400等に送信する。
エージェントサーバ400は、例えば、エージェントシステム1の提供者が運営するものである。提供者としては、例えば、自動車メーカー、ネットワークサービス事業者、電子商取引事業者、携帯端末の販売者等が挙げられ、任意の主体(法人、団体、個人等)がエージェントシステムの提供者となり得る。
[車両]
図2は、実施形態に係るエージェント装置100の構成と、車両M1に搭載された機器とを示す図である。車両M1には、例えば、一以上のマイク10と、表示・操作装置20と、スピーカユニット30と、ナビゲーション装置40と、車両機器50と、車載通信装置60と、乗員認識装置80と、エージェント装置100とが搭載される。また、スマートフォン等の汎用通信装置70が車室内に持ち込まれ、通信装置として使用される場合がある。これらの装置は、CAN(Controller Area Network)通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図2に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。表示・操作装置20と、スピーカユニット30とを合わせたものが、車両M1における「出力部」の一例である。
マイク10は、車室内で発せられた音を収集する音声入力部である。表示・操作装置20は、画像を表示するとともに、入力操作を受付可能な装置(或いは装置群)である。表示・操作装置20は、例えば、タッチパネルとして構成されたディスプレイ装置を含む。表示・操作装置20は、更に、HUD(Head Up Display)や機械式の入力装置を含んでもよい。スピーカユニット30は、例えば、車室内の互いに異なる位置に配設された複数のスピーカ(音声出力部)を含む。表示・操作装置20は、エージェント装置100とナビゲーション装置40とで共用されてもよい。これらの詳細については後述する。
ナビゲーション装置40は、ナビHMI(Human Machine Interface)と、GPS(Global Positioning System)等の位置測位装置と、地図情報を記憶した記憶装置と、経路探索等を行う制御装置(ナビゲーションコントローラ)とを備える。マイク10、表示・操作装置20、およびスピーカユニット30のうち一部または全部がナビHMIとして用いられてもよい。ナビゲーション装置40は、位置測位装置によって特定された車両M1の位置から、ユーザU1によって入力された目的地まで移動するための経路(ナビ経路)を探索し、経路に沿って車両M1が走行できるように、ナビHMIを用いて案内情報を出力する。経路探索機能は、ネットワークNWを介してアクセス可能なナビゲーションサーバにあってもよい。この場合、ナビゲーション装置40は、ナビゲーションサーバから経路を取得して案内情報を出力する。なお、エージェント装置100は、ナビゲーションコントローラを基盤として構築されてもよく、その場合、ナビゲーションコントローラとエージェント装置100は、ハードウェア上は一体に構成される。
車両機器50は、例えば、車両M1に搭載される機器である。車両機器50は、例えば、エンジンや走行用モータ等の駆動力出力装置、操舵装置、エンジンの始動モータ、ドアロック装置、ドア開閉装置、窓開閉装置、空調装置等を含む。
車載通信装置60は、例えば、セルラー網やWi-Fi網を利用してネットワークNWにアクセス可能な無線通信装置である。
乗員認識装置80は、例えば、着座センサ、車室内カメラ、画像認識装置等を含む。着座センサは座席の下部に設けられた圧力センサ、シートベルトに取り付けられた張力センサ等を含む。車室内カメラは、車室内に設けられたCCD(Charge Coupled Device)カメラやCMOS(Complementary Metal Oxide Semiconductor)カメラである。画像認識装置は、車室内カメラの画像を解析し、座席ごとの乗員(ユーザ)の有無、顔向き、乗員のジェスチャー、運転者、乗員の状態(例えば、体調の具合が悪い)等を認識する。ジェスチャーとは、例えば、手や腕、顔、頭の動作と所定の要求とが対応付けられたものである。したがって、乗員は、ジェスチャーによって、エージェント装置100に要求を伝えることができる。乗員認識装置80による認識結果は、例えば、エージェント装置100やエージェントサーバ400に出力される。
図3は、表示・操作装置20およびスピーカユニット30の配置例を示す図である。表示・操作装置20は、例えば、第1ディスプレイ22と、第2ディスプレイ24と、操作スイッチASSY26とを含む。表示・操作装置20は、更に、HUD28を含んでもよい。また、表示・操作装置20は、更に、インストルメントパネルのうち運転席DSに対面する部分に設けられるメーターディスプレイ29を含んでもよい。第1ディスプレイ22と、第2ディスプレイ24と、HUD28と、メーターディスプレイ29とを合わせたものが「表示部」の一例である。
車両M1には、例えば、ステアリングホイールSWが設けられた運転席DSと、運転席DSに対して車幅方向(図中Y方向)に設けられた助手席ASとが存在する。第1ディスプレイ22は、インストルメントパネルにおける運転席DSと助手席ASとの中間辺りから、助手席ASの左端部に対向する位置まで延在する横長形状のディスプレイ装置である。第2ディスプレイ24は、運転席DSと助手席ASとの車幅方向に関する中間あたり、且つ第1ディスプレイ22の下方に設置されている。例えば、第1ディスプレイ22と第2ディスプレイ24は、共にタッチパネルとして構成され、表示部としてLCD(Liquid Crystal Display)や有機EL(Electroluminescence)、プラズマディスプレイ等を備えるものである。操作スイッチASSY26は、ダイヤルスイッチやボタン式スイッチ等が集積されたものである。HUD28は、例えば、風景に重畳させて画像を視認させる装置であり、一例として、車両M1のフロントウインドシールドやコンバイナーに画像を含む光を投光することで、乗員に虚像を視認させる。メーターディスプレイ29は、例えば、LCDや有機EL等であり、速度計や回転速度計等の計器類を表示する。表示・操作装置20は、乗員によってなされた操作の内容をエージェント装置100に出力する。上述した各表示部が表示する内容は、エージェント装置100によって決定されてよい。
スピーカユニット30は、例えば、スピーカ30A~30Fを含む。スピーカ30Aは、運転席DS側の窓柱(いわゆるAピラー)に設置されている。スピーカ30Bは、運転席DSに近いドアの下部に設置されている。スピーカ30Cは、助手席AS側の窓柱に設置されている。スピーカ30Dは、助手席ASに近いドアの下部に設置されている。スピーカ30Eは、第2ディスプレイ24の近傍に設置されている。スピーカ30Fは、車室の天井(ルーフ)に設置されている。また、スピーカユニット30は、右側後部座席や左側後部座席に近いドアの下部に設置されてもよい。
係る配置において、例えば、専らスピーカ30Aおよび30Bに音を出力させた場合、音像は運転席DS付近に定位することになる。「音像が定位する」とは、例えば、乗員の左右の耳に伝達される音の大きさを調節することにより、乗員が感じる音源の空間的な位置を定めることである。また、専らスピーカ30Cおよび30Dに音を出力させた場合、音像は助手席AS付近に定位することになる。また、専らスピーカ30Eに音を出力させた場合、音像は車室の前方付近に定位することになり、専らスピーカ30Fに音を出力させた場合、音像は車室の上方付近に定位することになる。これに限らず、スピーカユニット30は、ミキサーやアンプを用いて各スピーカの出力する音の配分を調整することで、車室内の任意の位置に音像を定位させることができる。
バッテリ90は、車両Mによる駆動源機構により発電された電力または外部電源によるプラグイン充電された電力を蓄える蓄電池である。バッテリ90は、例えば、リチウムイオン電池等の二次電池である。バッテリ90は、例えば、複数の二次電池を含むバッテリユニットでもよい。バッテリ90は、車両M1の駆動源機構または車載機器等に電力を供給する。
[エージェント装置]
図2に戻り、エージェント装置100は、例えば、管理部110と、エージェント機能部150と、バッテリ管理部160と、記憶部170とを備える。以下では、エージェント機能部150とエージェントサーバ400が協働して出現させるものを「エージェント」と称する場合がある。
エージェント装置100の各構成要素は、例えば、CPU(Central Processing Unit)等のハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。これらの構成要素のうち一部または全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)等のハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めHDD(Hard Disk Drive)やフラッシュメモリ等の記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD-ROM等の着脱可能な記憶媒体(非一過性の記憶媒体)に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。
記憶部170は、上記の各種記憶装置により実現される。記憶部170には、各種データやプログラムが格納される。記憶部170には、例えば、バッテリプロファイル情報172、バッテリキャラクタ画像174、プログラム、およびその他の情報が格納される。バッテリプロファイル情報172には、バッテリ管理部160により取得されるバッテリ90に関するプロファイル情報が格納される。プロファイル情報には、例えば、バッテリ90の充電率(SOC;State Of Charge)、バッテリ90の劣化度合等が含まれる。バッテリキャラクタ画像174には、バッテリ90に状態に応じて選択されるキャラクタ画像が含まれる。
管理部110は、OS(Operating System)やミドルウェア等のプログラムが実行されることで機能する。管理部110は、例えば、音響処理部112と、WU(Wake Up)判定部114と、エージェント設定部116と、出力制御部120とを備える。出力制御部120は、例えば、表示制御部122と、音声制御部124とを備える。
音響処理部112は、マイク10から収集される音を受け付け、受け付けた音に対して、エージェントに予め設定されているウエイクアップワード(起動ワード)を認識するのに適した状態になるように音響処理を行う。音響処理とは、例えば、バンドパスフィルタ等のフィルタリングによるノイズ除去や音の増幅等である。また、音響処理部112は、音響処理された音声を、WU判定部114や起動中のエージェント機能部に出力する。
WU判定部114は、エージェント機能部150のそれぞれに対応して存在し、エージェントごとに予め定められているウエイクアップワードを認識する。WU判定部114は、音響処理が行われた音声(音声ストリーム)から音声の意味を認識する。まず、WU判定部114は、音声ストリームにおける音声波形の振幅と零交差に基づいて音声区間を検出する。WU判定部114は、混合ガウス分布モデル(GMM;Gaussian mixture model) に基づくフレーム単位の音声識別および非音声識別に基づく区間検出を行ってもよい。
次に、WU判定部114は、検出した音声区間における音声をテキスト化し、文字情報とする。そして、WU判定部114は、テキスト化した文字情報がウエイクアップワードに該当するか否かを判定する。ウエイクアップワードであると判定した場合、WU判定部114は、対応するエージェント機能部150を起動させる。なお、WU判定部114に相当する機能がエージェントサーバ400に搭載されてもよい。この場合、管理部110は、音響処理部112によって音響処理が行われた音声ストリームをエージェントサーバ400に送信し、エージェントサーバ400がウエイクアップワードであると判定した場合、エージェントサーバ400からの指示に従ってエージェント機能部150が起動する。なお、各エージェント機能部150は、常時起動しており且つウエイクアップワードの判定を自ら行うものであってよい。この場合、管理部110がWU判定部114を備える必要はない。
また、WU判定部114は、上述した手順と同様の手順で、発話された音声に含まれる終了ワードを認識した場合であり、且つ、終了ワードに対応するエージェントが起動している状態(以下、必要に応じて「起動中」と称する)である場合、起動しているエージェント機能部を停止(終了)させる。なお、起動中のエージェントは、音声の入力を所定時間以上受け付けなかった場合や、エージェントを終了させる所定の指示操作を受け付けた場合に、エージェントを停止させてもよい。また、WU判定部114は、乗員認識装置80により認識されたユーザU1のジェスチャーからウエイクアップワードおよび終了ワードを認識して、エージェントの起動および停止を行ってもよい。
エージェント設定部116は、ユーザU1への応答時におけるエージェントの応答時の出力態様を設定する。出力態様とは、例えば、エージェント画像またはエージェント音声のうち、一方または双方である。エージェント画像とは、例えば、車室内でユーザU1とのコミュニケーションを行う擬人化されたエージェントの画像である。また、エージェント画像は、例えば、ユーザU1に対して話しかける態様の画像である。エージェント画像は、例えば、少なくとも観者によって表情や顔向きが認識される程度の顔画像を含んでよい。例えば、エージェント画像は、顔領域の中に目や鼻に擬したパーツが表されており、顔領域の中のパーツの位置に基づいて表情や顔向きが認識されるものであってよい。また、エージェント画像は、立体的に感じられ、観者によって三次元空間における頭部画像を含むことでエージェントの顔向きが認識されたり、本体(胴体や手足)の画像を含むことで、エージェントの動作や振る舞い、姿勢等が認識されるものであってもよい。また、エージェント画像は、アニメーション画像であってもよい。エージェント音声とは、疑似的にエージェント画像が発していると聴者に認識させるための音声である。
エージェント設定部116は、ユーザU1またはエージェントサーバ400により選択されたエージェント画像およびエージェント音声を、エージェントに対するエージェント画像およびエージェント音声として設定する。
出力制御部120は、管理部110またはエージェント機能部150からの指示に応じて表示部またはスピーカユニット30に応答内容等の情報を出力させることで、ユーザU1にサービス等の提供を行う。出力制御部120は、例えば、表示制御部122と、音声制御部124とを備える。
表示制御部122は、出力制御部120からの指示に応じて表示部の少なくとも一部の領域に画像を表示させる。以下では、エージェントに関する画像を第1ディスプレイ22に表示させるものとして説明する。表示制御部122は、出力制御部120の制御により、エージェント画像を生成し、生成したエージェント画像を第1ディスプレイ22に表示させる。例えば、表示制御部122は、乗員認識装置80により認識された乗員(例えば、ユーザU1)の位置に近い表示領域にエージェント画像を表示させたり、乗員の位置に顔を向けたエージェント画像を生成して表示させてもよい。
音声制御部124は、出力制御部120からの指示に応じて、スピーカユニット30に含まれるスピーカのうち一部または全部に音声を出力させる。音声制御部124は、複数のスピーカユニット30を用いて、エージェント画像の表示位置に対応する位置にエージェント音声の音像を定位させる制御を行ってもよい。エージェント画像の表示位置に対応する位置とは、例えば、エージェント画像がエージェント音声を喋っていると乗員が感じると予測される位置であり、具体的には、エージェント画像の表示位置付近(例えば、2~3[cm]以内)の位置である。
エージェント機能部150は、対応するエージェントサーバ400と協働してエージェントを出現させ、車両の乗員の発話および/またはジェスチャーに応じて、音声による応答を含むサービスを提供する。エージェント機能部150には、車両M1(例えば、車両機器50)を制御する権限が付与されたものが含まれてよい。
バッテリ管理部160は、例えば、BMU(Battery Management Unit;制御部)を備える。BMUは、バッテリ90の充電や放電を制御する。例えば、BMUは、バッテリが車両M1に装着されているときには、バッテリ90に対する充放電を制御する。また、バッテリ管理部160は、バッテリセンサ(不図示)等により検出されるバッテリ90の充電率を管理したり、バッテリ90の劣化度合を管理する。バッテリ管理部160は、バッテリ90に関する管理情報をバッテリプロファイル情報172に記憶させる。また、バッテリ管理部160は、バッテリ90に関する管理情報を出力制御部120によりユーザU1に通知させる。その場合、バッテリ管理部160は、記憶部170に記憶された複数のバッテリキャラクタ画像174のうち、バッテリ90の状態に対応するキャラクタ画像を選択し、選択したキャラクタ画像を第1ディスプレイ22に表示させる。
図4は、バッテリ90の状態に応じて表示されるキャラクタの一例を示す図である。図4の例では、バッテリ90を新規で購入してからの劣化度合に応じて6つのキャラクタ画像BC1~BC6が示されている。なお、キャラクタ画像は、擬人化したキャラクタに代えて、動物や植物を用いてもよい。バッテリ管理部160は、例えば、バッテリセンサ(不図示)等によりバッテリ90の電気容量や内部抵抗値を測定し、測定した値に対応付けられた劣化度合を、予め記憶されたテーブルや所定関数を用いて取得する。また、バッテリ管理部160は、バッテリ90を購入してからの年数に基づいて劣化度合を取得してもよい。バッテリ管理部160は、取得した劣化度合に基づいてキャラクタ画像BC1~BC6のうち何れかの画像を選択し、選択した画像を出力制御部120により第1ディスプレイ22等に表示させる。バッテリ90の状態を擬人化したキャラクタ画像で表示させることで、ユーザU1にバッテリ90の状態を直感的に認識させることができる。
[携帯端末]
図5は、実施形態に係る携帯端末200の機能構成の一例を示す図である。携帯端末200は、例えば、通信部210と、入力部220と、ディスプレイ230と、スピーカ240と、アプリ実行部250と、出力制御部260と、記憶部270とを備える。通信部210と、入力部220と、アプリ実行部250と、出力制御部260とは、例えば、CPU等のハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。また、これらの構成要素のうち一部または全部は、LSIやASIC、FPGA、GPU等のハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。上述のプログラムは、予め携帯端末200のHDDやフラッシュメモリ等の記憶装置(非一過性の記憶媒体を備える記憶装置、例えば、記憶部270)に格納されていてもよいし、DVDやCD-ROM、メモリカード等の着脱可能な記憶媒体に格納されており、記憶媒体(非一過性の記憶媒体)がドライブ装置やカードスロット等に装着されることで携帯端末200の記憶装置にインストールされてもよい。ディスプレイ230と、スピーカ240とを合わせたものが、携帯端末200における「出力部」の一例である。
通信部210は、例えば、セルラー網やWi-Fi網、Bluetooth(登録商標)、DSRC、LAN、WAN、インターネット等のネットワークを利用して、車両M1や顧客サーバ300、エージェントサーバ400、各種ウェブサーバ500、その他の外部装置と通信を行う。
入力部220は、例えば、各種キーやボタン等の操作によるユーザU1の入力を受け付ける。ディスプレイ230は、例えば、LCD(Liquid Crystal Display)等である。入力部220は、タッチパネルとしてディスプレイ230と一体に構成されていてもよい。ディスプレイ230は、出力制御部260の制御により、実施形態におけるエージェントに関する情報、その他携帯端末200を使用するために必要な情報を表示する。スピーカ240は、例えば、出力制御部260の制御により、所定の音声を出力する。
アプリ実行部250は、記憶部270に記憶されたエージェントアプリ272が実行されることで実現される。エージェントアプリ272は、例えば、ネットワークNWを介して車両M1、エージェントサーバ400、各種ウェブサーバ500と通信を行い、ユーザU1からの指示や要求を送信したり、情報を取得するアプリである。アプリ実行部250は、例えば、所定の販売業者から製品やサービスを購入したときに提供される製品情報(例えば、車両ID)やサービス管理情報に基づいて、エージェントアプリ272の認証を行い、エージェントアプリ272を実行する。また、アプリ実行部250は、エージェント装置100の音響処理部112、WU判定部114、エージェント設定部116、およびエージェント機能部150と同様の機能を有していてもよい。また、アプリ実行部250は、出力制御部260によりエージェント画像をディスプレイ230に表示させたり、エージェント音声をスピーカ240から出力させる制御を実行する。
出力制御部260は、ディスプレイ230に表示させる画像の内容や表示態様、スピーカ240に出力させる音声の内容や出力態様を制御する。また、出力制御部260は、エージェントアプリ272により指示された情報や携帯端末200を使用するために必要な各種情報をディスプレイ230およびスピーカ240から出力させてもよい。
記憶部270は、例えば、HDD、フラッシュメモリ、EEPROM、ROM、またはRAM等により実現される。記憶部270には、例えば、エージェントアプリ272、プログラム、およびその他の各種情報が記憶される。
[顧客サーバ]
図6は、実施形態の顧客サーバ300の機能構成の一例を示す図である。顧客サーバ300は、例えば、通信部310と、入力部320と、ディスプレイ330と、スピーカ340と、購入管理部350と、出力制御部360と、記憶部370とを備える。通信部310と、入力部320と、購入管理部350と、出力制御部360とは、例えば、CPU等のハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。また、これらの構成要素のうち一部または全部は、LSIやASIC、FPGA、GPU等のハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。上述のプログラムは、予め顧客サーバ300のHDDやフラッシュメモリ等の記憶装置(非一過性の記憶媒体を備える記憶装置、例えば、記憶部370)に格納されていてもよいし、DVDやCD-ROM、メモリカード等の着脱可能な記憶媒体に格納されており、記憶媒体(非一過性の記憶媒体)がドライブ装置やカードスロット等に装着されることで顧客サーバ300の記憶装置にインストールされてもよい。
通信部310は、例えば、セルラー網やWi-Fi網、Bluetooth(登録商標)、DSRC、LAN、WAN、インターネット等のネットワークを利用して、販売店舗端末DT1、DT2、車両M1、携帯端末200、エージェントサーバ400、その他の外部装置と通信を行う。
入力部320は、例えば、各種キーやボタン等の操作によるユーザU1の入力を受け付ける。ディスプレイ330は、例えば、LCD等である。入力部320は、タッチパネルとしてディスプレイ330と一体に構成されていてもよい。ディスプレイ330は、出力制御部360の制御により、実施形態における顧客情報、その他顧客サーバ300を使用するために必要な情報を表示する。スピーカ340は、例えば、出力制御部360の制御により、所定の音声を出力する。
購入管理部350は、販売店舗端末DT1およびDT2のような所定の販売業者またはその関連施設等でユーザが購入した製品、サービスの購入履歴を管理する。購入管理部350は、購入履歴を購入データ372として記憶部370に格納する。図7は、購入データ372の内容について説明するための図である。購入データ372は、例えば、ユーザを識別する識別情報であるユーザIDに、購入履歴情報が対応付けられている。購入履歴情報には、例えば、購入日時、製品管理情報、およびサービス管理情報が含まれる。購入日時は、例えば、販売店舗端末DT1およびDT2によって、製品またはサービスを購入した日時に関する情報である。製品管理情報は、例えば、販売店舗端末DT1およびDT2で購入した製品の種別、個数、料金、ポイント等の情報が含まれる。製品には、例えば、車両、車載機器、車両のパーツ等の車両に関係する製品、歩行アシストシステム、その他のアイテムが含まれる。車載機器とは、例えば、マイク10、表示・操作装置20、スピーカユニット30、ナビゲーション装置40、車両機器50、車載通信装置60、乗員認識装置80、バッテリ90等である。また、車両のパーツとは、例えば、タイヤやホイール、マフラー等である。アイテムとは、例えば、携帯端末、洋服、腕時計、帽子、玩具、雑貨、文房具、書籍、カーライフグッズ(キーリング、キーケース)等である。サービス管理情報には、例えば、ユーザに提供されるサービスの種別、料金、ポイント等の情報が含まれる。サービスとは、例えば、車検(継続検査)、定期点検整備、修理、カーシェアリングサービス、レンタカーサービス等である。
購入管理部350は、購入データ372を所定のタイミングでエージェントサーバ400に送信する。また、購入管理部350は、エージェントサーバ400からの問い合わせに対して購入データ372をエージェントサーバ400に送信する。
出力制御部360は、ディスプレイ330に表示させる画像の内容や表示態様、スピーカ340に出力させる音声の内容や出力態様を制御する。また、出力制御部360は、や顧客サーバ300を使用するために必要な各種情報をディスプレイ330およびスピーカ340から出力させてもよい。
記憶部370は、例えば、HDD、フラッシュメモリ、EEPROM、ROM、またはRAM等により実現される。記憶部370には、例えば、購入データ372、プログラム、およびその他の各種情報が記憶される。
[エージェントサーバ]
図8は、エージェントサーバ400の構成と、エージェント装置100および携帯端末200の構成の一部とを示す図である。以下では、ネットワークNWを用いた物理的な通信についての説明を省略する。
エージェントサーバ400は、通信部410を備える。通信部410は、例えば、NIC(Network Interface Card)等のネットワークインターフェースである。更に、エージェントサーバ400は、例えば、音声認識部420と、自然言語処理部422と、対話管理部424と、ネットワーク検索部426と、応答内容生成部428と、情報提供部430と、プロファイル取得部432と、エージェント管理部434と、記憶部440とを備える。これらの構成要素は、例えば、CPU等のハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。これらの構成要素のうち一部または全部は、LSIやASIC、FPGA、GPU等のハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めHDDやフラッシュメモリ等の記憶装置(非一過性の記憶媒体を備える記憶装置、例えば、記憶部440)に格納されていてもよいし、DVDやCD-ROM等の着脱可能な記憶媒体(非一過性の記憶媒体)に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。音声認識部420と、自然言語処理部422とを合わせたものが「認識部」の一例である。エージェント管理部434は、「取得部」の一例である。
記憶部440は、上記の各種記憶装置により実現される。記憶部440には、例えば、辞書DB(データベース)442、パーソナルプロファイル444、知識ベースDB446、応答規則DB448、エージェント管理情報450等のデータやプログラムが格納される。
エージェント装置100において、エージェント機能部150は、例えば、音響処理部112等から入力される音声ストリーム、或いは圧縮や符号化等の処理を行った音声ストリームを、エージェントサーバ400に送信する。エージェント機能部150は、ローカル処理(エージェントサーバ400を介さない処理)が可能なコマンド(要求内容)が認識できた場合には、コマンドで要求された処理を実行してもよい。ローカル処理が可能なコマンドとは、例えば、エージェント装置100が備える記憶部170を参照することで応答可能なコマンドである。より具体的には、ローカル処理が可能なコマンドとは、例えば、記憶部170内に存在する電話帳データから特定者の名前を検索し、合致した名前に対応付けられた電話番号に電話をかける(相手を呼び出す)コマンドである。つまり、エージェント機能部150は、エージェントサーバ400が備える機能の一部を有してもよい。
また、携帯端末200のアプリ実行部250は、例えば、入力部220により入力された音声から得られる音声ストリームを、エージェントサーバ400に送信する。
音声ストリームを取得すると、音声認識部420が音声認識を行ってテキスト化された文字情報を出力し、自然言語処理部422が文字情報に対して辞書DB442を参照しながら意味解釈を行う。辞書DB442は、例えば、文字情報に対して抽象化された意味情報が対応付けられたものである。辞書DB442は、同義語や類義語の一覧情報を含んでもよい。音声認識部420の処理と、自然言語処理部422の処理は、段階が明確に分かれるものではなく、自然言語処理部422の処理結果を受けて音声認識部420が認識結果を修正する等、相互に影響し合って行われてよい。
自然言語処理部422は、例えば、認識結果として、「今日の天気は」、「天気はどうですか」等の意味が認識された場合、標準文字情報「今日の天気」に置き換えたコマンドを生成する。これにより、リクエストの音声に文字揺らぎがあった場合にも要求にあった対話をし易くすることができる。また、自然言語処理部422は、例えば、確率を利用した機械学習処理等の人工知能処理を用いて文字情報の意味を認識したり、認識結果に基づくコマンドを生成してもよい。
対話管理部424は、入力されたコマンドに基づいて、パーソナルプロファイル444や知識ベースDB446、応答規則DB448を参照しながら車両M1の乗員に対する応答内容(例えば、ユーザU1への発話内容や出力部から出力する画像、音声)を決定する。
図9は、パーソナルプロファイル444の内容の一例を示す図である。パーソナルプロファイル444は、例えば、ユーザIDごとに、個人情報、趣味嗜好、および利用履歴が対応付けられている。個人情報には、例えば、ユーザIDに対応付けられたユーザの氏名や性別、年齢、自宅の住所、実家の住所、家族構成、家族の状態、携帯端末200と通信を行うためのアドレス情報等が含まれる。また、個人情報には、顔や容姿、音声の特徴情報が含まれてもよい。趣味嗜好は、例えば、対話内容に基づく解析結果や問い合わせに対する回答、ユーザによる設定等により得られた趣味や嗜好に関する情報である。また、利用履歴は、例えば、過去に利用したエージェントに関する情報や、エージェントごとの対話履歴に関する情報である。
知識ベースDB446は、物事の関係性を規定した情報である。応答規則DB448は、コマンドに対してエージェントが行うべき動作(回答や機器制御の内容等)を規定した情報である。
対話管理部424は、コマンドが、ネットワークNWを介して検索可能な情報を要求するものである場合、ネットワーク検索部426に検索を行わせる。ネットワーク検索部426は、ネットワークNWを介して各種ウェブサーバ500にアクセスし、所望の情報を取得する。「ネットワークNWを介して検索可能な情報」とは、例えば、車両M1の周辺にあるレストランの一般ユーザによる評価結果であったり、車両M1の位置に応じた天気予報であったりする。また、「ネットワークNWを介して検索可能な情報」には、電車や飛行機等の交通機関を用いた移動プランであってもよい。
応答内容生成部428は、対話管理部424により決定された発話の内容が車両M1のユーザU1に伝わるように、応答内容を生成し、生成した応答内容をエージェント装置100に送信する。応答内容には、例えば、ユーザU1に提供する応答文や各制御対象機器に対する制御コマンド等が含まれる。また、応答内容生成部428は、乗員認識装置80による認識結果をエージェント装置100から取得し、取得した認識結果によりコマンドを含む発話を行ったユーザU1がパーソナルプロファイル444に登録されたユーザであることが特定されている場合に、ユーザU1の名前を呼んだり、ユーザU1またはユーザU1の家族の話し方に似せた話し方にした応答内容を生成してもよい。
情報提供部430は、応答内容生成部428により生成された応答内容に対し、記憶部440に記憶されたエージェント管理情報450を参照し、エージェントの出力態様に対応する応答内容を生成する。
図10は、エージェント管理情報450の内容の一例を示す図である。エージェント管理情報450には、例えば、ユーザIDおよび車両を識別する識別情報である車両IDに、エージェントID、属性情報、およびエージェント設定情報が対応付けられている。属性情報とは、例えば、エージェントIDに対応するエージェントを使用した期間や成長レベル(育成レベル)、性別、性格、エージェントが実行できる機能等の情報である。エージェント設定情報には、例えば、エージェント設定部116で設定されたエージェント画像情報およびエージェント音声情報が含まれる。
例えば、情報提供部430は、エージェント機能部150から音声と共に送信されたユーザIDおよび車両IDを用いて、記憶部440に記憶されたエージェント管理情報450を参照し、ユーザIDおよび車両IDに対応付けられたエージェント設定情報や属性情報を取得する。そして、情報提供部430は、エージェント設定情報や属性情報に対応させた応答内容を生成し、生成した応答内容を、音声を送信したエージェント機能部150または携帯端末200に送信する。
エージェント装置100のエージェント機能部150は、エージェントサーバ400から応答内容を取得した場合、音声合成等を行ってエージェント音声を出力するように音声制御部124に指示する。また、エージェント機能部150は、音声出力に合わせてエージェント画像を生成し、生成したエージェント画像や応答結果に含まれる画像等を表示するように表示制御部122に指示する。
携帯端末200のアプリ実行部250は、エージェントサーバ400から応答内容を取得した場合、応答内容に基づいてエージェント画像やエージェント音声を生成し、生成したエージェント画像をディスプレイ230に出力させ、生成したエージェント音声をスピーカ240から出力させる。このようにして、仮想的に出現したエージェントによって、車両M1の乗員(ユーザU1)に応答するエージェント機能が実現される。
プロファイル取得部432は、エージェント装置100や携帯端末200から取得したユーザU1の発話および/またはジェスチャーの内容や、エージェントの利用状況に基づいて、パーソナルプロファイル444を更新する。また、プロファイル取得部432は、顧客サーバ300から購入データ372を取得し、取得した購入情報に基づいて、パーソナルプロファイル444を更新してもよい。
エージェント管理部434は、顧客サーバ300から購入データ372を取得し、取得した購入情報に基づいて、エージェントが実行可能な機能を変更する。例えば、エージェント管理部434は、所定の販売業者で購入した製品またはサービスの種別、購入額の総額、購入頻度、或いは利用ポイントのうち少なくとも一つに基づいて、エージェントが実行可能な機能を追加させたり、機能を拡張する制御を行う。購入頻度には、例えば、販売店舗で購入可能な製品(例えば、車両)および/または製品に関連するアイテム(例えば、玩具や模型、ラジコン、プラモデル)等を購入した頻度が含まれる。利用ポイントには、例えば、販売店舗の来店時に付与される来店ポイントや、車両に試乗可能なサーキット場や工場等に来た場合またはイベント(プログラム)に参加した場合に付与される参加ポイントが含まれる。また、エージェント管理部434は、所定の販売業者で購入した製品またはサービスの種別、購入額の総額、購入頻度、或いは利用ポイントのうち少なくとも一つに基づいて、エージェント画像やエージェント音声の出力態様を変化させてもよい。
[エージェントシステムによる処理]
次に、実施形態のエージェントシステム1による処理の流れについて具体的には説明する。図11は、実施形態のエージェントシステム1によるエージェントの提供方法の一例を示すシーケンス図である。以下では、一例として、携帯端末200と、車両M1と、販売店舗端末DT1と、顧客サーバ300と、エージェントサーバ400とを用いて処理の流れを説明するものとする。また、図11の例では、主にユーザU1が販売業者にて車両M1と購入したときのエージェントシステムの処理の流れを中心として説明する。
まず、ユーザU1が販売店舗で車両M1を購入すると、購入した販売店舗の端末(以下、販売店舗端末DT1)は、ユーザU1のユーザ登録を行うと共に(ステップS100)、購入データを登録する(ステップS102)。次に、販売店舗端末DT1は、顧客サーバ300にユーザ登録によって得られたユーザ関連情報と、購入データに関する情報を顧客サーバ300に送信する(ステップS104)。
顧客サーバ300は、販売店舗端末DT1により送信されたユーザ情報および購入データに関する情報を記憶部370に記憶し、購入履歴を管理する(ステップS106)。また、顧客サーバ300は、所定の製品(例えば、車両)またはユーザU1の購入金額の合計が所定金額以上になった場合に、エージェントの利用を許可し、ユーザU1にエージェントの利用を許可させる情報をエージェントサーバ400に送信する(ステップS108)。
エージェントサーバ400は、ユーザU1にエージェントを選択させるための情報を車両M1に送信する(ステップS110)。車両M1のエージェント設定部116は、エージェントサーバ400から受信した情報に基づいて、エージェントを選択させるための画像または音声のうち一方または双方を生成し、生成した情報を出力部に出力させる。
次に、エージェント設定部116は、ユーザU1にエージェントを設定させる(ステップS112)。ステップS112の処理の詳細については後述する。エージェント設定部116は、エージェントの設定情報をエージェントサーバ400に送信する(ステップS114)。エージェントサーバ400は、エージェント設定部116により設定されたエージェントを登録する(ステップS116)。
次に、車両Mのエージェント機能部150は、設定されたエージェントによって、車両M1のユーザU1との対話を行い、対話内容をエージェントサーバ400に送信する(ステップS118)、また、エージェント機能部150は、エージェントサーバ400から応答結果を受信し、受信した応答結果に対応するエージェント画像やエージェント音声を生成して、出力部に出力させる(ステップS120)。ステップS118~S120の処理の詳細については後述する。
また、携帯端末200のアプリ実行部250は、ユーザU1とエージェントを用いた対話を行い、対話内容をエージェントサーバ400に送信する(ステップS122)。また、アプリ実行部250は、エージェントサーバ400からの応答結果を受信し、受信した応答結果に対応するエージェント画像やエージェント音声を生成して、ディスプレイ230およびスピーカ240により出力させる(ステップS124)。ステップS122~S124の処理の詳細については後述する。
[ステップS112の処理:エージェント設定部の機能]
次に、上述したステップS112の処理におけるエージェント設定部116の機能について具体的に説明する。エージェント設定部116は、エージェントサーバ400からユーザU1にエージェントを選択させるための情報を受信した場合に、ユーザU1が車両M1に最初に乗車したタイミング、または、ユーザU1が最初にエージェントを呼び出したタイミングで、エージェントを設定するための画像を表示制御部122に生成させ、生成させた画像をエージェント設定画面として表示・操作装置20の表示部に出力させる。
図12は、エージェントを設定するための画像IM1の一例を示す図である。なお、画像IM1に表示される内容やレイアウト等については、これに限定されるものではない。以下の画像の説明についても同様とする。画像IM1には、例えば、文字表示領域A11と、エージェント選択領域A12と、GUI(Graphical User Interface)スイッチ選択領域A13とが含まれる。
文字表示領域A11には、予めエージェントサーバ400に登録された複数のエージェント画像の中から、ユーザU1にエージェント画像を選択させるための文字情報が表示される。図12の例において、文字表示領域A11には、「エージェントを選択してください。」という文字情報が表示されている。
エージェント選択領域A12には、例えば、ユーザU1が選択可能なエージェント画像が表示される。エージェント画像は、例えば、ユーザU1が所定の販売業者により車両M1を購入したことによって選択可能となった画像である。
また、実施形態におけるエージェントは、容姿等を成長(育成)させることができるエージェントであってもよい。この場合、購入時に最初に選択されるエージェントは、例えば、子供のエージェントである。図12の例では、二人の少女のエージェント画像AG10、AG20が表示されている。エージェント画像は、予め設定された画像でもよく、ヒューザU1が指定したユーザでもよい。また、エージェント画像は、家族や友人等の顔画像をコラージュさせた画像であってもよい。これにより、ユーザU1は、より親近感を持ってエージェントと対話を行うことができる。
ユーザU1は、表示部におけるエージェント画像AG10またはAG20の何れかの表示領域をタッチすることで、エージェント画像が選択される。図12の例において、エージェント選択領域A12には、エージェント画像AG10が選択された状態として、エージェント画像AG10の周囲に枠線が示されている。なお、エージェント選択領域A12には、複数のエージェント音声うち、何れかの一つを選択させるための画像が表示されてもよい。エージェント音声には、例えば、合成音声や、声優や著名人、タレント等の音声が含まれる。また、エージェント音声には、予め登録された家族等の音声を解析することで得られるエージェント音声が含まれてもよい。また、エージェント選択領域A12には、選択されたエージェントの名前や性格を設定したり、エージェントを呼び出すためのウエイクアップワードを設定する領域を有していてもよい。
GUIスイッチ選択領域A13には、ユーザU1が選択可能な各種GUIボタンが表示される。図12の例において、GUIスイッチ選択領域A13には、例えば、エージェント選択領域A12で選択した内容での設定を許可することを受け付けるためのGUIアイコンIC11(OKボタン)と、選択した内容を拒否することを受け付けるためのGUIアイコンIC12(CANCELボタン)とが含まれる。
なお、出力制御部120は、上述した画像IM1を表示することに加えて(または代えて)、文字情報表示領域A1に表示される文字情報と同様の音声または他の音声をスピーカユニット30から出力させてもよい。
例えば、表示・操作装置20によりGUIアイコンIC2の操作を受け付けた場合、エージェント設定部116は、エージェント画像の設定を許可せず、画像IM1の表示を終了させる。また、表示・操作装置20によりGUIアイコンIC11の操作を受け付けた場合、エージェント設定部116は、エージェント選択領域A12で選択されたエージェント画像やエージェント音声を、車両M1に対応するエージェント(以下、エージェントA)に対応付けられたエージェント画像およびエージェント音声として設定する。エージェントAが設定された場合、エージェント機能部150は、設定されたエージェントAによるユーザU1との対話を実行させる。なお、エージェント機能部150における機能は、予め使用可能な機能が設定され、車両等の所定の製品またはサービスを購入したと同時に使用できるように制御されてもよい。また、エージェント機能部150における機能は、顧客サーバ300やエージェントサーバ400等により所定の製品またはサービスを購入したことが取得された場合にエージェントサーバ400またはその他のサーバ等からダウンロードされてもよい。
図13は、エージェントAが選択された後に表示される画像IM2の一例を示す図である。画像IM2には、例えば、文字表示領域A21と、エージェント表示領域A22とが含まれる。文字表示領域A21には、エージェント設定部116により設定されたエージェントAが対話を行うことをユーザU1に認識させるための文字情報が含まれる。図13の例において、文字表示領域A21には、「エージェントAが対話を行います。」という文字情報が表示されている。
エージェント表示領域A22は、エージェント設定部116により設定されたエージェント画像A10が表示される。なお、図11の例において、エージェント機能部150は、「よろしくね~」という音声をエージェント画像AG10の表示位置付近に音像定位させて出力させてもよい。
[ステップS118~S120の処理:エージェント機能部150の機能]
次に、ステップS118~S120の処理におけるエージェント機能部150の機能について説明する。図14は、ユーザU1がエージェントAと対話を行っている場面の一例を示す図である。図14の例では、ユーザU1と対話を行うエージェントAのエージェント画像AG10を含む画像IM3が第1ディスプレイ22に表示されている例が示されている。
画像IM3には、例えば、文字表示領域A31と、エージェント表示領域A32とが含まれる。文字表示領域A31には、対話を行うエージェントをユーザU1に認識させるための情報が含まれる。図14の例において、文字表示領域A31には、「エージェントAが対話を行います。」という文字情報が表示されている。
エージェント表示領域A32は、エージェント設定部116により設定されたエージェントに対応付けられたエージェント画像A10が表示される。ここで、ユーザU1が「今度の連休に実家に帰ろうと思う。」、「5月1日の10時ごろに飛行機に乗るスケジュールを組んで欲しい。」といった発話を行ったとする。この場合、エージェント機能部150は、発話内容を認識し、認識結果に基づく応答内容を生成して出力する。図14の例において、エージェント機能部150は、エージェント表示領域A32に表示されたエージェント画像AG10の表示位置(具体的には、口の表示位置)に、「了解です。」、「すぐ調べるね」という音声を音像定位させて出力させてもよい。
エージェントサーバ400は、エージェント機能部150により得られる音声を認識し、意味解釈を行い、解釈した意味に基づいて、各種ウェブサーバ500や販売店舗端末DT1、DT2等を参照し、解析結果の問い合わせに対応する回答を取得する。例えば、自然言語処理部422は、記憶部440に記憶されたパーソナルプロファイル444からユーザU1のプロファイル情報を取得し、自宅および実家の住所を取得する。次に、自然言語処理部422は、「5月1日」、「10時」、「飛行機」、「乗る」、「スケジュール」、「組む」等の単語に基づいて、各種ウェブサーバ500や旅行会社等の販売店舗端末にアクセスして、自宅から実家までの移動のプランを検索する。そして、エージェントサーバ400は、検索結果として得られたプランに基づいて、応答内容を生成し、生成した応答内容を車両M1のエージェント機能部150に送信する。
エージェント機能部150は、応答結果を出力部に出力させる。図15は、エージェント機能部150により出力部に出力させる応答結果について説明するための図である。図15の例では、主に応答結果として第1ディスプレイ22に表示される画像IM4が示されている。
画像IM4には、例えば、文字表示領域A41と、エージェント表示領域A42とが含まれる。文字表示領域A41には、応答結果の内容を示す情報が含まれる。図15の例において、文字表示領域A41には、自宅から実家までの5月1日の移動プランの一例が表示されている。移動プランには、例えば、利用する移動手段(交通機関等)、経由地点、各地点の出発または到着時間、料金に関する情報が含まれる。なお、料金については、例えば、車両を購入した販売業者と提携している旅行会社のプランである場合に、正規料金ではなく、提携に伴う割引を行った料金(図15の例では、「エージェント割引料金」)を出力する。これにより、所定の販売業者やその提携会社のプランをユーザU1に選択させ易くすることができる。
また、出力制御部120は、エージェント表示領域A42にエージェント画像A10を表示させると共に、エージェント画像AG10の表示位置に「こんなプランはどうですか?」という音声を音像定位させて出力させてもよい。
ここで、エージェント機能部150は、エージェント機能部150は、ユーザU1の「良いプランだね。これにするよ!」という音声を受け付けた場合、移動プランの購入手続の処理行い、購入結果に基づいて顧客サーバ300の購入管理部350に購入データ372を更新させる。
なお、エージェント機能部150は、ユーザU1の「別のプランを出して。」という発話を受け付けた場合に、他の移動プランに関する情報を出力する。また、エージェント機能部150は、予め複数のプランがある場合に、エージェント表示領域A42に複数のプランを表示させてもよい。この場合、エージェント機能部150は、エージェント割引料金が存在するプランを優先して、または他のプランよりも強調して表示させてもよい。
また、エージェント機能部150は、上述した実家に帰るまでの移動手段のプランだけでなく、実家や空港等の移動先(経由先も含む)地点の近く(移動先の地点から所定距離範囲内)のホテルやキャンプ場、テーマパーク等の施設の提案や、その地点の近くで行われるコンサートやスポーツ観戦等のイベントの提案、レンタカーサービスやカーシェアリングサービス等の提案を行ってもよい。この場合、提案内容に加えて価格の提示を行ってもよい。
また、エージェント機能部150は、ユーザU1に提案した内容のうち、少なくとも一つの内容が選択された場合に、その提案に対する予約処理や決済処理を行ってもよい。エージェントAを通じて決済処理までを行うことで、エージェントAは、簡易に全てのスケジュールに必要な予約や決済を一元化することができる。なお、この場合には、エージェント提供者は、ユーザU1、またはユーザU1にサービス等を提供するサービス提供者等から手数料を取得してもよい。
更に、エージェント機能部150は、上述した各種の提案を行うだけでなく、提案した内容に必要なアイテム等の提案を行ってもよい。例えば、エージェントAは、提示した提案のうち、ユーザU1の指示によりキャンプ場の予約を行なった後に、「ユーザU1は、タープテントを持っていなかったと思いますが、この機会に購入されては如何でしょうか?」、「タープテントは、以下のようなものがあります。」のような発話を行い、提携している企業等のタープテントを提示して勧める処理を行う。提案するアイテムによっては、エージェント割引料金が適用されてもよい。これによりその、ユーザU1は、安価にアイテムを取得することができると共に、店舗に買い物に行く手間も省ける。なお、上述したアイテムの購入等も、所定の販売業者で購入した製品またはサービスの購入額の総額、購入頻度、利用ポイントのうち少なくとも一つとしてカウントされる。
このように、エージェントAは、ユーザU1と四六時中一緒にいることで、ユーザU1の嗜好等を学習し、ユーザU1が一日をより楽しく過ごせるように、必要なサービスやアイテム等を提供することができる。
エージェントサーバ400のエージェント管理部434は、ユーザU1の購入履歴(例えば、ユーザU1が購入した製品やサービスの種別、購入額の総額、購入頻度、利用ポイントのうち少なくとも一つ)に基づいて、エージェントAを成長させる。「エージェントを成長させる」とは、例えば、エージェント画像の表示態様を成長させたり、エージェント音声の音質を変化させることである。例えば、エージェント画像が子供であれば成長した容姿の表示態様に変化させたり、声変わりした音声の出力態様に変化させることである。また、「エージェントを成長させる」とは、エージェントが実行可能な機能の種類を追加したり、機能を拡張させることでもよい。実行可能な機能の種類が追加するとは、今まで実行できなかった機能(例えば、スポーツやイベント等のプレミアチケットの予約の受付等)が追加されることである。また、機能を拡張するとは、例えば、検索可能な範囲や対象が増えたり、検索結果として得られる回答数が増えることである。また、「エージェントを成長させる」とは、エージェントの洋服の着せ替えやキャラクタの成長、キャラクタのチェンジ、キャラクタの音声チェンジ等の様々な変更が含まれてもよい。
エージェント管理部434は、例えば、ユーザU1が所定の販売業者で購入した製品がバッテリ90である場合や旅行サービスを購入した場合、または購入額の総額が所定金額以上となった場合に、エージェントを成長させる。また、エージェント管理部434は、購入額の総額やサービスの利用回数、購入頻度、利用ポイントの大きさ等に応じてエージェントを段階的に成長させてもよい。
図16は、成長したエージェントを含む画像IM5の一例を示す図である。画像IM5には、例えば、文字表示領域A51と、エージェント表示領域A52とが含まれる。文字表示領域A51には、エージェントAが成長した理由に関する情報が含まれる。図16の例において、文字表示領域A51には、「○○の購入によりエージェントAが成長しました。」という文字情報が表示されている。
また、出力制御部120は、エージェント表示領域A52にエージェント画像AG11を表示させると共に、エージェント画像AG11の表示位置に「成長したよ!」という音声を音像定位させて出力させてもよい。
図17は、成長したエージェントによって提供される内容の違いについて説明するための図である。図17の例では、ユーザU1との対話によって、上述した図15に示す画像IM4を出力させるのに代えて、画像IM4#が表示される例を示している。以下、画像IM4と画像IM4#との相違点について説明する。画像IM4#には、例えば、文字情報表示領域A41#と、エージェント表示領域A42#とが含まれる。
文字表示領域A41#には、画像IM4の文字表示領域A41と同様の情報が表示される。エージェント表示領域A42#には、エージェント画像AG10に代えて成長したエージェント画像AG11が表示されている。成長したエージェント画像AG11が表示されている場合、エージェント機能部150は、例えば、ユーザU1の移動プランの応答結果を出力する機能に加えて、更に実家に帰省後のユーザU1の行動に関するレコメンド機能を付加する。
この場合、エージェントサーバ400の情報提供部430は、ユーザU1のプロファイル情報を参照し、参照したプロファイル情報に基づくレコメンドを行う。図17の例において、エージェント機能部150は、「こんなプランはどうですか?」というエージェント音声を出力させる他、「たしか御両親は、運転免許を返納していましたよね?」、「せっかく実家に戻るなら、車でドライブにお連れしてはどうですか?」、「E空港から、レンタカーサービスを予約すれば、便利ですよ。」、および「もし、利用を検討したいのなら、見積りを出すから教えてね。」というレコメンド情報をユーザU1に出力させている。なお、ユーザに追加で提示されるレコメンド情報は、所定の販売業者によって提供されるレコメンドであることが好ましい。これにより、所定の販売業者によって提供される製品やサービスをユーザU1に利用させ易くすることができる。
上述したように、エージェントを成長させることで、ユーザU1は、より詳細な情報の提供を受けたり、レコメンド情報の提供を受けることができる。また、所定の販売業者で製品やサービスを購入した場合にエージェントを成長させることで、ユーザU1の所定の販売業者での購入意欲を向上させることができる。
また、エージェント管理部434は、購入履歴に基づいて、エージェントの出力態様を成長させることに代えて(または加えて)、エージェントが着用できる衣装やアクセサリー等が着せ替え可能となるように表示態様を変化させてもよい。
図18は、エージェントの衣装の着せ替えが行われた後の画像IM6の一例を示す図である。画像IM6には、例えば、文字表示領域A61と、エージェント表示領域A62とが含まれる。文字表示領域A61には、エージェントAの着せ替えが可能になった理由に関する情報が含まれる。図18の例において、文字表示領域A61には、「○○の購入により、アイドルの衣装への着せ替えが可能になりました。」という文字情報が表示されている。
また、出力制御部120は、エージェント表示領域A62に、アイドルの衣装を着せたエージェント画像AG12を表示させると共に、エージェント画像AG12の表示位置に「似合うかな」という音声を音像定位させて出力させてもよい。これにより、製品やサービスの購入によって、エージェントAの衣装の着せ替えが行われたことをユーザU1に認識させ易くすることができ、ユーザU1の購入意欲を更に高めさせることができる。
なお、エージェント機能部150は、エージェントのキャラクタ種別や成長レベル、衣装等に応じて、エージェントと対話可能なユーザの数を増加させたり、変更させたりしてもよい。例えば、エージェント機能部150は、エージェント画像がアニメキャラクタである場合にはユーザの子供との対話を可能にし、エージェント画像の衣装がアイドルの衣装である場合には、ユーザ以外の家族との対話を可能にする。なお、家族の識別は、例えば、事前に車載機器や携帯端末200によって音声や顔画像を登録することで行われる。
また、エージェント機能部150は、例えば、乗員認識装置80による認識結果やマイク10により収集された音声により、運転者の体調の具合が悪い状態であると認識した場合に、同乗者(家族・知人等)や救急隊、警察等と対話を行い、運転者の危機回避を行ってもよい。この場合、エージェント機能部150は、「運転者は、昨日の夜から胃が痛いと言っていました。」等の有用な情報を相手(例えば、救急隊等)に伝えることで、迅速かつ適切な救助を支援することができる。また、エージェント機能部150は、上述した処理を行う緊急用エージェントを予め登録しておき、緊急時に現在起動中のエージェントから緊急用エージェントに切り替えて処理を行ってもよい。
[ステップS122~S124の処理:アプリ実行部250の機能]
次に、ステップS122~S124の処理におけるエージェント機能部150の機能について説明する。図19は、アプリ実行部250の処理によって携帯端末200のディスプレイ230に表示される画像の一例を示す図である。図19に示す画像IM7には、文字表示領域A71と、GUIアイコン画像IC71と、エージェント表示領域A72とが含まれる。文字表示領域A71には、現在アクティベートされているエージェントに伝えるべき動作の内容が表示されている。GUIアイコン画像IC71は、ユーザU1によるドライブセッションの指示を受け付けるGUIスイッチである。エージェント表示領域A72には、現在アクティベートされているエージェントに対応したエージェント画像AG11が表示されている。また、アプリ実行部250は、エージェント画像AG10の表示位置にエージェントの発話に擬したエージェント音声を表示させてもよい。図19の例において、アプリ実行部250は、「今日の調子はどう?」、「ドライブに行こう!」というエージェント音声をエージェント画像AG10の表示位置付近に音像定位させて出力させている。これにより、ユーザU1は、携帯端末200に表示されたエージェントAと対話を行いながら、一緒にドライブに行く感覚を得ることができる。
なお、ユーザU1によりGUIアイコン画像IC71が選択された場合、アプリ実行部250は、エージェントサーバ400を介して車両M1と通信を行い、車両M1に関する情報や周辺環境に関する情報を、エージェントAから通知させてもよい。車両M1に関する情報とは、例えば、車両M1の走行速度、現在位置、燃料残量、バッテリ90の残量、車室内温度等である。また、周辺環境に関する情報とは、例えば、車両M1の周辺の天気や混雑状態等である。
また、実施形態では、ユーザU1が所有する車両ごとに異なるエージェントが設定されてもよい。例えば、エージェント管理部434は、ユーザU1が車両M1の他に、もう一台車両を購入した場合に、既存のエージェントAに加えて他のエージェントを利用可能にさせる。図20は、ユーザU1の車両の購入につき、車両M1の第1ディスプレイ22に表示される画像IM8の一例を示す図である。図20に示す画像IM8には、例えば、文字情報表示領域A81と、エージェント表示領域A82とが含まれる。
文字表示領域A81には、車両の購入によって、使用可能なエージェントが追加されたことを示す情報が表示される。図20の例において、文字表示領域A81には、「車両の購入につき、もう一人のエージェントが使用可能になりました。」という文字情報が表示されている。
また、出力制御部120は、エージェント表示領域A82に、既に使用可能であったエージェント画像AG11と共に、新たに使用可能となったエージェント(以下、エージェントBと称する)のエージェント画像AG21が表示させる。また、出力制御部120は、エージェント画像AG21の表示位置に、エージェント画像AG21の発話を擬したエージェント音声を出力させてもよい。図20の例において、出力制御部120は、「宜しくお願いします。」という音声を音像定位させて出力させている。新たに追加されたエージェントBは、新たに購入された車両(以下、車両M2と称する)に対応付けて管理される。車両M2は、例えば、車両M1のエージェント装置と同様の機能を備える。これにより、車両とエージェントとが関連付けられるため、各エージェントがどの車両に対応しているかをユーザU1に把握させ易くすることができる。
なお、エージェント設定部116は、新たに車両を購入してエージェントを追加する場合に、選択可能な複数のエージェントのうち、何れかのエージェントをユーザU1に選択させてもよい。この場合、エージェント設定部116は、選択可能なエージェントの数を、購入額の総額に基づいて可変に設定してもよい。これにより、ユーザU1による購入意欲を更に向上させることができる。
ここで、エージェントサーバ400は、ユーザU1によるエージェントAおよびBのそれぞれの利用履歴を、他のエージェントとの対話に用いてもよい。図21は、他のエージェントとの対話を利用して対話を行うことについて説明するための図である。図21の例では、車両M2のエージェント機能部150によって、第1ディスプレイ22に表示される画像IM9の一例を示している。画像IM9には、例えば、エージェント表示領域A91が含まれる。エージェント表示領域A91には、ユーザU1に対応付けられたエージェントのエージェント画像が表示される。図21の例において、エージェント表示領域A91には、エージェントAおよびBに対応するエージェント画像AG11およびAG21が表示されている。
ここで、エージェントサーバ400は、車両M1の乗車時におけるエージェントAとの利用履歴により、ユーザU1がエージェントAとドライブに行っている場合、エージェント機能部150は、「先週は、Y地点にドライブに行ったね。」というエージェントAのエージェント音声を、エージェント画像AG11の表示位置付近に音像定位させて出力させる。また、エージェント機能部150は、出力されたエージェント音声の内容に対応させて、エージェントBのレコメンド情報として、「では、今日はZ地点に行ってみませんか?」というエージェント音声を、エージェント画像AG21の表示位置付近に音像定位させて出力させる。このように、複数のエージェントは、互いに過去の利用履歴を共有することで、ユーザに適切な情報提供やレコメンドを行うことができる。
なお、エージェント管理部434は、複数のエージェントの起動状態を把握し、使用されているはずのない状況下でエージェントが使用されていると推定される場合に、ユーザU1の携帯端末200にその旨の通知を行ってもよい。「使用されているはずのない状況下でエージェントが使用されている」とは、例えば、車両M1でエージェントAがユーザU1と対話している状況で、車両M2でエージェントBが起動している状態である。この場合、エージェント管理部434は、ユーザU1の携帯端末200に「車両M2のエージェントBが起動しています」等のメッセージを通知させることで、車両Mの盗難等を早期に発見することができる。
実施形態のエージェントは、上述した車両Mに対応付けて表示させることに加えて(または代えて)、車載機器等に対応付けられたエージェントを表示させてもよい。例えば、実施形態では、上述した車両Mに搭載されるバッテリ90の状態に対応付けられたキャラクタ画像をエージェントとして用いてもよい。
図22は、バッテリ90の状態に対応付けたキャラクタ画像をエージェントとして表示させることについて説明するための図である。図22の例では、図22の例では、車両M1のエージェント機能部150によって、第1ディスプレイ22に表示される画像IM10の一例を示している。画像IM10には、例えば、エージェント表示領域A101が含まれる。エージェント表示領域A101には、例えば、エージェントAのエージェント画像AG11およびバッテリ90の劣化度合に対応付けられたキャラクタ画像BC6が表示されている。
エージェント機能部150は、バッテリ90の劣化度合に基づいて、バッテリ90の交換を促すエージェント音声を生成し、生成したエージェント音声を出力制御部120に出力させる。図22の例において、エージェント機能部150は、「バッテリが劣化しているようです。交換しましょう!」というエージェント音声をエージェントAG11の表示位置付近に音声定位させて出力させる。
更に、エージェント機能部150は、キャラクタ画像BC6に対応付けられた音声を生成してもよい。図22の例において、エージェント機能部150は、「そろそろ限界じゃ!」という音声をキャラクタ画像BC6の表示位置付近に音像定位させて出力させる。上述したようにバッテリ90の状態を擬人化したキャラクタ画像を用いることで、ユーザに、バッテリ90の交換時期を直感的に把握させることができる。
これにより、ユーザU1は、車両M1を所定の販売業者に移動させ、バッテリ90を回収させ、新たなバッテリ(例えば、OEM(Original Equipment Manufacturing)認定バッテリ)を購入する。この場合、車載機器が購入されるため、顧客サーバ300の購入データ372が更新され、購入を繰り返すことでエージェントAを育成し続けることができる。
また、エージェント管理部434は、車両M1から車両M2に買い替える場合、または車両M1に加えて車両M2を買い増す場合には、車両M1またはユーザU1に対応付けられたエージェントAを、車両M2または携帯端末200で継続して使用可能としてもよい。この場合、エージェント管理部434は、車両M2を、車両M1と同一系列の販売業者で購入することを、エージェントを引き継ぐ条件にしてもよい。また、エージェント管理部434は、ユーザU1が車両に対するサービス(例えば、レンタカーサービスやカーシェアリングサービス)を購入する場合(追加購入も含む)に、ユーザU1や車両M1に対応付けられていたエージェントAを、サービス購入後の車両、すなわち購入したサービスで利用する車両(例えば、レンタカーやシェアカー)、または携帯端末200で継続して使用可能としてもよい。このように、ユーザU1にエージェントを継続して使用させることで、ユーザU1とエージェントとの親近感をより深めることができ、ユーザU1に対して、よりよいサービスを提供することができる。
また、エージェント管理部434は、所定期間内に所定の販売業者で製品やサービスを購入した場合に、現在使用しているエージェントを継続して使用できるようにしてもよい。また、エージェント管理部434は、車両が廃車される場合に、その車両に対応付けられたエージェントを有料で維持できるようにしてもよい。この場合、料金は、例えば、データ維持費用またはメンテナンス費用として支払われる。これにより、例えば長期の出張や転勤等により一時的に車両を手放す場合であっても、育成してきたエージェントは、エージェントサーバ400で管理される。これにより、数年後等に新たに車両を購入した場合に、その車両に育成していたエージェントを対応付けて使用することができる。
なお、エージェント管理部434は、車両のエージェントを有料で維持する場合には、そのエージェントをユーザU1の携帯端末200のエージェント機能として利用できるようにしてもよい。これにより、例えば、ユーザU1が外国の勤務先を歩いたり、自転車やレンタカー等の移動体に乗って移動する場合に、エージェントは、ユーザU1との対話を行い、経路案内や店舗の紹介等を行うことができる。
上述した実施形態に係るエージェントシステムによれば、ユーザU1の発話に応じて、音声による応答を含むサービスを提供するエージェント機能部150と、ユーザが所定の販売業者から車両、車載機器、またはサービスを購入したことを示す情報を取得する取得部とを備え、エージェント機能部は、取得部により取得された情報に基づいて、エージェント機能部が実行可能な機能を変更することにより、ユーザに所定の販売業者での購入意欲を向上させることができる。
また、実施形態によれば、例えば、製品やサービスを提供する正規ディーラー(オフィシャルサイトを含む)等の所定の販売業者で購入した場合に、エージェントを使用したり、成長させることができるため、金額が高い場合であっても正規ディーラーで購入したいというユーザの購入意欲を高めることができる。
また、実施形態において、エージェントサーバ400は、正規の販売店舗の利用をエージェントからユーザU1に勧めるように制御してもよい。これにより、例えば、バッテリ90の交換、再利用等を行うビジネスモデルにおいて、バッテリ90の回収を効率よく行うことができる。この場合、エージェントサーバ400は、エージェントの勧めに応じたユーザに対して、エージェントのアップグレード等のサービスを付加してもよい。
なお、上述した実施形態において、エージェント装置100の機能のうち一部または全部は、エージェントサーバ400に含まれていてもよい。例えば、車両Mに搭載されている管理部110や記憶部170は、エージェントサーバ400に設けられてもよい。また、エージェントサーバ400の機能のうち一部または全部は、エージェント装置100に含まれていてもよい。つまり、エージェント装置100およびエージェントサーバ400における機能の切り分けは、各装置の構成要素、エージェントサーバ400やエージェントシステムの規模等によって適宜変更されてよい。また、エージェント装置100およびエージェントサーバ400における機能の切り分けは、車両ごとに設定されてもよい。
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
1…エージェントシステム、10…マイク、20…表示・操作装置、30…スピーカユニット、40…ナビゲーション装置、50…車両機器、60…車載通信装置、70…汎用通信装置、80…乗員認識装置、100…エージェント装置、110…管理部、112…音響処理部、114…WU判定部、116…エージェント設定部、120,260,360…出力制御部、122…表示制御部、124…音声制御部、150…エージェント機能部、160…バッテリ管理部、170,270,370…記憶部、200…携帯端末、210,310,410…通信部、220,320…入力部、230,330…ディスプレイ、240,340…スピーカ、250…アプリ実行部、300…顧客サーバ、350…購入管理部、400…エージェントサーバ、420…音声認識部、422…自然言語処理部、424…対話管理部、426…ネットワーク検索部、428…応答内容生成部、430…情報提供部、432…プロファイル取得部、434…エージェント管理部、500…各種ウェブサーバ

Claims (10)

  1. ユーザの発話および/またはジェスチャーに応じて、音声による応答を含むサービスを提供するエージェント機能部と、
    前記ユーザが所定の販売業者から車両に関係する製品またはサービスを購入したことを示す情報を取得する取得部と、
    前記エージェント機能部により提供される前記ユーザとのコミュニケーションを行うエージェントの画像または音声を出力部に出力させる出力制御部と、を備え、
    前記エージェント機能部は、前記取得部により取得された情報に基づいて、前記エージェント機能部が実行可能な機能を変更し、
    更に前記エージェント機能部は、前記ユーザからの問い合わせに対する提案情報を提供する場合に、前記提案情報とともに、前記ユーザまたは前記提案情報に基づく付加情報を提供し、
    前記エージェントは、前記ユーザが所有する車両ごと、および/または、車載機器ごとに異なるエージェントが設定され、
    前記エージェント機能部は、前記ユーザによるそれぞれのエージェントの利用履歴を他のエージェントとの対話に用いて、前記音声による応答を含むサービスを前記ユーザに提供する、
    エージェントシステム。
  2. 記出力制御部は、前記取得部により取得された前記ユーザの購入履歴に基づいて、前記出力部に出力される前記エージェントの画像または音声の出力態様を変更させる、
    請求項1に記載のエージェントシステム。
  3. 前記エージェント機能部は、前記ユーザが購入した製品またはサービスの種別、購入額の総額、購入頻度、或いは利用ポイントのうち少なくとも一つに基づいて、前記エージェントを成長させる、
    請求項2に記載のエージェントシステム。
  4. 前記エージェント機能部は、前記エージェントの成長度合に応じて、前記ユーザからの問い合わせに対する提案情報または前記付加情報のうち一方または双方を異ならせる、
    請求項3に記載のエージェントシステム。
  5. 前記エージェント機能部は、前記ユーザが車両を買い替えるまたは買い増す場合、或いは車両に対するサービスを購入する場合に、買い替えまたは買い増す前、或いは購入する前のユーザに対応付けられていたエージェントを、買い替えまたは買い増した後、或いはサービス購入後の車両、または前記ユーザの端末装置で継続して使用可能とする、
    請求項4に記載のエージェントシステム。
  6. 前記製品には、前記車両に電力を供給する蓄電池を含み、
    前記エージェント機能部は、前記蓄電池の状態に対応付けられたキャラクタ画像を前記エージェントの画像として用いる、
    請求項に記載のエージェントシステム。
  7. 前記エージェント機能部は、前記ユーザが購入した製品またはサービスの種別、購入額の総額、購入頻度、或いは利用ポイントのうち少なくとも一つに基づいて、前記エージェント機能部が実行可能な機能な機能を追加または拡張する、
    請求項1からのうち何れか1項に記載のエージェントシステム。
  8. ユーザの発話および/またはジェスチャーを認識する認識部と、
    前記認識部により認識された結果に基づいて、前記発話および/またはジェスチャーに対する応答結果を生成する応答内容生成部と、
    前記応答内容生成部により生成された応答結果を、前記ユーザとのコミュニケーションを行うエージェントの画像または音声を用いて提供する情報提供部と、
    前記ユーザが所定の販売業者から車両に関係する製品またはサービスを購入した場合に、前記エージェントの出力態様を変化させるエージェント管理部と、を備え、
    前記応答内容生成部は、前記ユーザからの問い合わせに対する提案情報と、前記ユーザまたは前記提案情報に基づく付加情報とを前記応答結果として生成し、
    前記エージェント管理部は、前記ユーザが所有する車両ごと、および/または、車載機器ごとに異なるエージェントを設定し、前記ユーザによるそれぞれのエージェントの利用履歴を他のエージェントとの対話に用いて、前記ユーザに前記応答結果を提供する、
    エージェントサーバ。
  9. コンピュータが、
    ユーザの発話および/またはジェスチャーを認識し、
    認識した結果に基づいて、前記発話および/またはジェスチャーに対する応答結果を生成し、
    生成した応答結果を、前記ユーザとのコミュニケーションを行うエージェントの画像または音声を用いて提供し、
    前記ユーザが所定の販売業者から車両に関係する製品またはサービスを購入した場合に、前記エージェントの出力態様を変化させ、
    更に前記応答結果を生成する際、前記ユーザからの問い合わせに対する提案情報と、前記ユーザまたは前記提案情報に基づく付加情報とを前記応答結果として生成し、
    前記ユーザが所有する車両ごと、および/または、車載機器ごとに異なるエージェントを設定し、
    前記ユーザによるそれぞれのエージェントの利用履歴を他のエージェントとの対話に用いて、前記ユーザに前記応答結果を提供する、
    エージェントサーバの制御方法。
  10. コンピュータに、
    ユーザの発話および/またはジェスチャーを認識させ、
    認識された結果に基づいて、前記発話および/またはジェスチャーに対する応答結果を生成させ、
    生成された応答結果を、前記ユーザとのコミュニケーションを行うエージェントの画像または音声を用いて提供させ、
    前記ユーザが車両に関係する販売業者から製品またはサービスを購入した場合に、前記エージェントの出力態様を変化させ、
    更に前記応答結果を生成する際、前記ユーザからの問い合わせに対する提案情報と、前記ユーザまたは前記提案情報に基づく付加情報とを前記応答結果として生成させ、
    前記ユーザが所有する車両ごと、および/または、車載機器ごとに異なるエージェントを設定させ、
    前記ユーザによるそれぞれのエージェントの利用履歴を他のエージェントとの対話に用いて、前記ユーザに前記応答結果を提供させる、
    プログラム。
JP2021518289A 2019-05-09 2019-05-09 エージェントシステム、エージェントサーバ、エージェントサーバの制御方法、およびプログラム Active JP7177922B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/018619 WO2020225918A1 (ja) 2019-05-09 2019-05-09 エージェントシステム、エージェントサーバ、エージェントサーバの制御方法、およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2020225918A1 JPWO2020225918A1 (ja) 2020-11-12
JP7177922B2 true JP7177922B2 (ja) 2022-11-24

Family

ID=73051339

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021518289A Active JP7177922B2 (ja) 2019-05-09 2019-05-09 エージェントシステム、エージェントサーバ、エージェントサーバの制御方法、およびプログラム

Country Status (4)

Country Link
US (1) US20220222733A1 (ja)
JP (1) JP7177922B2 (ja)
CN (1) CN113748049B (ja)
WO (1) WO2020225918A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021182218A (ja) * 2020-05-18 2021-11-25 トヨタ自動車株式会社 エージェント制御装置、エージェント制御方法、及びエージェント制御プログラム
JP7264139B2 (ja) * 2020-10-09 2023-04-25 トヨタ自動車株式会社 車両用エージェント装置、車両用エージェントシステム、及び車両用エージェントプログラム

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001076002A (ja) 1999-09-01 2001-03-23 Kazuhiro Shiina 情報ニーズ推定機能を備えた情報提供システム
JP2002346216A (ja) 2001-05-29 2002-12-03 Sharp Corp キャラクタ育成システム、そのシステムに用いられるキャラクタ育成装置、キャラクタ育成情報提供装置、キャラクタ受信端末装置、それらの装置に用いられるプログラム、それらのプログラムが記録された記録媒体、および、キャラクタ育成方法
JP2005147925A (ja) 2003-11-18 2005-06-09 Hitachi Ltd 車載端末装置および車両向け情報提示方法
JP2007180951A (ja) 2005-12-28 2007-07-12 Sanyo Electric Co Ltd 携帯電話
WO2011125884A1 (ja) 2010-03-31 2011-10-13 楽天株式会社 情報処理装置、情報処理方法、情報処理システム、情報処理プログラム、および、記録媒体
JP2012002778A (ja) 2010-06-21 2012-01-05 Nissan Motor Co Ltd ナビゲーション装置、ナビゲーションシステム及びナビゲーションシステムにおける経路算出方法
JP2015135557A (ja) 2014-01-16 2015-07-27 株式会社リコー 特典情報処理システム、特典情報処理方法及び特典情報処理プログラム
WO2017183476A1 (ja) 2016-04-22 2017-10-26 ソニー株式会社 情報処理装置、および情報処理方法、並びにプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8370750B2 (en) * 2007-04-06 2013-02-05 International Business Machines Corporation Technology for generating service program
US10088818B1 (en) * 2013-12-23 2018-10-02 Google Llc Systems and methods for programming and controlling devices with sensor data and learning
JP6672955B2 (ja) * 2016-03-30 2020-03-25 Tdk株式会社 コイルユニット、ワイヤレス給電装置、ワイヤレス受電装置およびワイヤレス電力伝送装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001076002A (ja) 1999-09-01 2001-03-23 Kazuhiro Shiina 情報ニーズ推定機能を備えた情報提供システム
JP2002346216A (ja) 2001-05-29 2002-12-03 Sharp Corp キャラクタ育成システム、そのシステムに用いられるキャラクタ育成装置、キャラクタ育成情報提供装置、キャラクタ受信端末装置、それらの装置に用いられるプログラム、それらのプログラムが記録された記録媒体、および、キャラクタ育成方法
JP2005147925A (ja) 2003-11-18 2005-06-09 Hitachi Ltd 車載端末装置および車両向け情報提示方法
JP2007180951A (ja) 2005-12-28 2007-07-12 Sanyo Electric Co Ltd 携帯電話
WO2011125884A1 (ja) 2010-03-31 2011-10-13 楽天株式会社 情報処理装置、情報処理方法、情報処理システム、情報処理プログラム、および、記録媒体
JP2012002778A (ja) 2010-06-21 2012-01-05 Nissan Motor Co Ltd ナビゲーション装置、ナビゲーションシステム及びナビゲーションシステムにおける経路算出方法
JP2015135557A (ja) 2014-01-16 2015-07-27 株式会社リコー 特典情報処理システム、特典情報処理方法及び特典情報処理プログラム
WO2017183476A1 (ja) 2016-04-22 2017-10-26 ソニー株式会社 情報処理装置、および情報処理方法、並びにプログラム

Also Published As

Publication number Publication date
JPWO2020225918A1 (ja) 2020-11-12
WO2020225918A1 (ja) 2020-11-12
CN113748049A (zh) 2021-12-03
CN113748049B (zh) 2024-03-22
US20220222733A1 (en) 2022-07-14

Similar Documents

Publication Publication Date Title
CN106096744A (zh) 利用情境限制的共乘路线规划
US20140257988A1 (en) Method and system for selecting navigation routes and providing on-route advertising
CN111661068B (zh) 智能体装置、智能体装置的控制方法及存储介质
CN106097031A (zh) 共乘联合租赁群
JP7177922B2 (ja) エージェントシステム、エージェントサーバ、エージェントサーバの制御方法、およびプログラム
CN111310062A (zh) 匹配方法、匹配服务器、匹配系统以及存储介质
WO2020008792A1 (ja) 特典付与装置及び特典付与方法
CN111681651B (zh) 智能体装置、智能体系统、服务器装置、智能体装置的控制方法及存储介质
CN108629639A (zh) 一种无人驾驶汽车的租赁计费方法和系统
CN111746435B (zh) 信息提供装置、信息提供方法及存储介质
JP7245695B2 (ja) サーバ装置、情報提供システム、および情報提供方法
CN111661065B (zh) 智能体装置、智能体装置的控制方法及存储介质
JP2020160826A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7368090B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
CN111731320B (zh) 智能体系统、智能体服务器及其控制方法、存储介质
WO2020116227A1 (ja) 情報処理装置
CN111752235A (zh) 服务器装置、智能体装置、信息提供方法及存储介质
JP2020142721A (ja) エージェントシステム、車載機器の制御方法、及びプログラム
JP7254689B2 (ja) エージェントシステム、エージェント方法、及びプログラム
JP7255686B2 (ja) 情報出力装置及び情報出力方法
JP2004054300A (ja) 車載装置、データ作成装置、及びデータ作成プログラム
JP2021149616A (ja) 表示制御装置、表示制御方法、およびプログラム
JP2021149615A (ja) 表示制御装置、表示制御方法、およびプログラム
JP2021149619A (ja) 表示制御装置、表示制御方法、およびプログラム
JP2021009621A (ja) コンテンツ提供装置、コンテンツ提供方法およびコンテンツ提供システム

Legal Events

Date Code Title Description
A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A527

Effective date: 20210827

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210827

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220706

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221025

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221111

R150 Certificate of patent or registration of utility model

Ref document number: 7177922

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150