JP7175221B2 - エージェント装置、エージェント装置の制御方法、およびプログラム - Google Patents

エージェント装置、エージェント装置の制御方法、およびプログラム Download PDF

Info

Publication number
JP7175221B2
JP7175221B2 JP2019040964A JP2019040964A JP7175221B2 JP 7175221 B2 JP7175221 B2 JP 7175221B2 JP 2019040964 A JP2019040964 A JP 2019040964A JP 2019040964 A JP2019040964 A JP 2019040964A JP 7175221 B2 JP7175221 B2 JP 7175221B2
Authority
JP
Japan
Prior art keywords
function
agent
unit
passenger
units
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019040964A
Other languages
English (en)
Other versions
JP2020144618A (ja
Inventor
基嗣 久保田
真也 安原
裕介 大井
昌宏 暮橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2019040964A priority Critical patent/JP7175221B2/ja
Priority to CN202010141245.1A priority patent/CN111667823B/zh
Publication of JP2020144618A publication Critical patent/JP2020144618A/ja
Application granted granted Critical
Publication of JP7175221B2 publication Critical patent/JP7175221B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • G10L15/30Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes
    • H04W4/40Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H04W4/44Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for communication between vehicles and infrastructures, e.g. vehicle-to-cloud [V2C] or vehicle-to-home [V2H]
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/225Feedback of the input speech

Description

本発明は、エージェント装置、エージェント装置の制御方法、およびプログラムに関する。
従来、車両の乗員と対話を行いながら、乗員の要求に応じた運転支援に関する情報や車両の制御、その他のアプリケーション等を提供するエージェントに関する技術が開示されている(例えば、特許文献1参照)。
特開2006-335231号公報
近年では、複数のエージェントを車両に搭載することについて実用化が進められている。また、エージェントが実行可能な機能は、逐次アップデートされる場合がある。しかしながら、あるエージェントに新機能が追加されたとしても、当該新機能をかねてより実行可能な他のエージェントが存在する場合には、乗員に新機能が追加されたエージェントによって新機能を実行させることが困難である場合があった。
本発明は、このような事情を考慮してなされたものであり、新機能を乗員が使用しやすくすることができるエージェント装置、エージェント装置の制御方法、およびプログラムを提供することを目的の一つとする。
この発明に係るエージェント装置、エージェント装置の制御方法、およびプログラムは、以下の構成を採用した。
(1):この発明の一態様に係るエージェント装置は、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する複数のエージェント機能部と、前記複数のエージェント機能部のうち、前記乗員の発話に対応するエージェント機能部を選択する選択部とを備え、前記選択部は、前記複数のエージェント機能部のうち、1つのエージェント機能部に新たな機能が追加された場合において、前記新たに追加された機能を前記乗員に提供する場合、前記新たに追加された機能と同じ機能を既に有している他のエージェント機能部に対して優先的に、当該新たな機能が追加されたエージェント機能部による機能を前記乗員に提供させるものである。
(2):この発明の他の態様に係るエージェント装置は、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する複数のエージェント機能部と、前記複数のエージェント機能部のうち、前記乗員の発話に対応するエージェント機能部を選択する選択部とを備え、前記複数のエージェント機能部には、車両機器に動作を指示する機能を有する車両エージェント機能部が含まれ、前記選択部は、前記複数のエージェント機能部のうち、前記車両エージェント機能部に新たな機能が追加された場合において、前記新たに追加された機能を前記乗員に提供する場合、前記新たに追加された機能と同じ機能を既に有している他のエージェント機能部に対して優先的に、当該新たな機能が追加された前記車両エージェント機能部による機能を前記乗員に提供させるものである。
(3):上記(1)又は(2)の態様において、前記選択部は、前記複数のエージェント機能部のうち、特定のエージェント機能部を指定した問いかけであっても、前記新たに追加された機能を前記乗員に提供する場合、前記新たに追加された機能と同じ機能を既に有している他のエージェント機能部に対して優先的に、当該新たな機能が追加されたエージェント機能部による機能を前記乗員に提供させるものである。
(4):上記(1)から(3)のいずれかの態様において、前記エージェント機能部は、前記複数のエージェント機能部のうち、少なくとも1つのエージェント機能部に新たな機能が追加された場合、前記新たな機能の詳細を特定しない問い合わせに応答して、前記新たに追加された機能に関する情報を前記乗員に提供するものである。
(5):上記(1)から(4)のいずれかの態様において、前記エージェント機能部は、前記複数のエージェント機能部のうち、少なくとも1つのエージェント機能部に新たな機能が追加された場合、前記新たな機能とは無関係な応答をしている際に、前記新たに追加された機能に関する情報を前記乗員に提供するものである。
(6):この発明の他の態様に係るエージェント装置の制御方法は、コンピュータが、複数のエージェント機能部のうちいずれかを起動させ、前記起動したエージェント機能部の機能として、車両の乗員の発話に応じて、音声による応答を含むサービスを提供し、前記複数のエージェント機能部のうち、前記乗員の発話に対応するエージェント機能部を選択し、前記複数のエージェント機能部のうち、1つのエージェント機能部に新たな機能が追加された場合において、前記新たに追加された機能を前記乗員に提供する場合、前記新たに追加された機能と同じ機能を既に有している他のエージェント機能部に対して優先的に、当該新たな機能が追加されたエージェント機能部による機能を前記乗員に提供させるものである。
(7):この発明の他の態様に係るプログラムは、コンピュータに、複数のエージェント機能部のうちいずれかを起動させ、前記起動したエージェント機能部の機能として、車両の乗員の発話に応じて、音声による応答を含むサービスを提供させ、前記複数のエージェント機能部のうち、前記乗員の発話に対応するエージェント機能部を選択させ、前記複数のエージェント機能部のうち、1つのエージェント機能部に新たな機能が追加された場合において、前記新たに追加された機能を前記乗員に提供する場合、前記新たに追加された機能と同じ機能を既に有している他のエージェント機能部に対して優先的に、当該新たな機能が追加されたエージェント機能部による機能を前記乗員に提供させるものである。
(1)~(7)の態様によれば、新機能をユーザが使用しやすくすることができる。
エージェント装置100を含むエージェントシステム1の構成図である。 第1実施形態に係るエージェント装置100の構成と、車両Mに搭載された機器とを示す図である。 表示・操作装置20の配置例を示す図である。 スピーカユニット30の配置例を示す図である。 機能一覧情報162の内容の一例を示す図である。 音像が定位する位置が定まる原理について説明するための図である。 エージェントサーバ200の構成と、エージェント装置100の構成の一部とを示す図である。 地図検索機能を提供する場合のエージェントと乗員の対話の一例を示す図である。 ウエイクアップワードを含む発話CV3に対するエージェントの回答の一例を示す図である。 エージェント装置100の動作の一連の流れを示すフローチャートである。 エージェント機能部150に優先度が付されている場合の、エージェント装置100の動作の一連の流れを示すフローチャートである。 新たに追加された機能に関する情報を提供する場合のエージェントと乗員の対話の一例を示す図である。 エージェント装置100の未実行の機能を紹介する処理の一連の流れを示すフローチャートである。
以下、図面を参照し、本発明のエージェント装置、エージェント装置の制御方法、およびプログラムの実施形態について説明する。エージェント装置は、エージェントシステムの一部または全部を実現する装置である。以下では、エージェント装置の一例として、車両(以下、車両M)に搭載され、複数種類のエージェント機能を備えたエージェント装置について説明する。エージェント機能とは、例えば、車両Mの乗員と対話をしながら、乗員の発話の中に含まれる要求(コマンド)に基づく各種の情報提供を行ったり、ネットワークサービスを仲介したりする機能である。複数種類のエージェントは、それぞれに果たす機能、処理手順、制御、出力態様・内容がそれぞれ異なってもよい。また、エージェント機能の中には、車両内の機器(例えば運転制御や車体制御に関わる機器)の制御等を行う機能を有するものがあってよい。
エージェント機能は、例えば、乗員の音声を認識する音声認識機能(音声をテキスト化する機能)に加え、自然言語処理機能(テキストの構造や意味を理解する機能)、対話管理機能、ネットワークを介して他装置を検索し、或いは自装置が保有する所定のデータベースを検索するネットワーク検索機能等を統合的に利用して実現される。これらの機能の一部または全部は、AI(Artificial Intelligence)技術によって実現されてよい。また、これらの機能を行うための構成の一部(特に、音声認識機能や自然言語処理解釈機能)は、車両Mの車載通信装置または車両Mに持ち込まれた汎用通信装置と通信可能なエージェントサーバ(外部装置)に搭載されてもよい。以下の説明では、構成の一部がエージェントサーバに搭載されており、エージェント装置とエージェントサーバが協働してエージェントシステムを実現することを前提とする。また、エージェント装置とエージェントサーバが協働して仮想的に出現させるサービス提供主体(サービス・エンティティ)をエージェントと称する。
<全体構成>
図1は、エージェント装置100を含むエージェントシステム1の構成図である。エージェントシステム1は、例えば、エージェント装置100と、複数のエージェントサーバ200-1、200-2、200-3、…とを備える。符号の末尾のハイフン以下数字は、エージェントを区別するための識別子であるものとする。いずれのエージェントサーバであるかを区別しない場合、単にエージェントサーバ200と称する場合がある。図1では3つのエージェントサーバ200を示しているが、エージェントサーバ200の数は2つであってもよいし、4つ以上であってもよい。それぞれのエージェントサーバ200は、互いに異なるエージェントシステムの提供者が運営するものである。従って、本発明におけるエージェントは、互いに異なる提供者により実現されるエージェントである。提供者としては、例えば、自動車メーカー、ネットワークサービス事業者、電子商取引事業者、携帯端末の販売者及び製造者などが挙げられ、任意の主体(法人、団体、個人等)がエージェントシステムの提供者となり得る。
エージェント装置100は、ネットワークNWを介してエージェントサーバ200と通信する。ネットワークNWは、例えば、インターネット、セルラー網、Wi-Fi網、WAN(Wide Area Network)、LAN(Local Area Network)、公衆回線、電話回線、無線基地局などのうち一部または全部を含む。ネットワークNWには、各種ウェブサーバ300が接続されており、エージェントサーバ200またはエージェント装置100は、ネットワークNWを介して各種ウェブサーバ300からウェブページを取得することができる。
エージェント装置100は、車両Mの乗員と対話を行い、乗員からの音声をエージェントサーバ200に送信し、エージェントサーバ200から得られた回答を、音声出力や画像表示の形で乗員に提示する。
<第1実施形態>
[車両]
図2は、第1実施形態に係るエージェント装置100の構成と、車両Mに搭載された機器とを示す図である。車両Mには、例えば、一以上のマイク10と、表示・操作装置20と、スピーカユニット30と、ナビゲーション装置40と、車両機器50と、車載通信装置60と、乗員認識装置80と、エージェント装置100とが搭載される。また、スマートフォンなどの汎用通信装置70が車室内に持ち込まれ、通信装置として使用される場合がある。これらの装置は、CAN(Controller Area Network)通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図2に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。
マイク10は、車室内で発せられた音声を収集する収音部である。表示・操作装置20は、画像を表示すると共に、入力操作を受付可能な装置(或いは装置群)である。表示・操作装置20は、例えば、タッチパネルとして構成されたディスプレイ装置を含む。表示・操作装置20は、更に、HUD(Head Up Display)や機械式の入力装置を含んでもよい。スピーカユニット30は、例えば、車室内の互いに異なる位置に配設された複数のスピーカ(音出力部)を含む。表示・操作装置20は、エージェント装置100とナビゲーション装置40とで共用されてもよい。これらの詳細については後述する。
ナビゲーション装置40は、ナビHMI(Human machine Interface)と、GPS(Global Positioning System)などの位置測位装置と、地図情報を記憶した記憶装置と、経路探索などを行う制御装置(ナビゲーションコントローラ)とを備える。マイク10、表示・操作装置20、およびスピーカユニット30のうち一部または全部がナビHMIとして用いられてもよい。ナビゲーション装置40は、位置測位装置によって特定された車両Mの位置から、乗員によって入力された目的地まで移動するための経路(ナビ経路)を探索し、経路に沿って車両Mが走行できるように、ナビHMIを用いて案内情報を出力する。経路探索機能は、ネットワークNWを介してアクセス可能なナビゲーションサーバにあってもよい。この場合、ナビゲーション装置40は、ナビゲーションサーバから経路を取得して案内情報を出力する。なお、エージェント装置100は、ナビゲーションコントローラを基盤として構築されてもよく、その場合、ナビゲーションコントローラとエージェント装置100は、ハードウェア上は一体に構成される。
車両機器50は、例えば、エンジンや走行用モータなどの駆動力出力装置、エンジンの始動モータ、ドアロック装置、ドア開閉装置、窓、窓の開閉装置及び窓の開閉制御装置、シート、シート位置の制御装置、ルームミラー及びその角度位置制御装置、車両内外の照明装置及びその制御装置、ワイパーやデフォッガー及びそれぞれの制御装置、方向指示灯及びその制御装置、空調装置、走行距離情報や車両位置情報またタイヤの空気圧情報や燃料の残量情報など車両に関する情報を管理する車両情報装置などを含む。
車載通信装置60は、例えば、セルラー網やWi-Fi網を利用してネットワークNWにアクセス可能な無線通信装置である。
乗員認識装置80は、例えば、着座センサ、車室内カメラ、画像認識装置などを含む。着座センサは座席の下部に設けられた圧力センサ、シートベルトに取り付けられた張力センサなどを含む。車室内カメラは、車室内に設けられたCCD(Charge Coupled Device)カメラやCMOS(Complementary Metal Oxide Semiconductor)カメラである。画像認識装置は、車室内カメラの画像を解析し、座席ごとの乗員の有無、顔向きなどを認識する。本実施形態において、乗員認識装置80は、着座位置認識部の一例である。
図3は、表示・操作装置20の配置例を示す図である。表示・操作装置20は、例えば、第1ディスプレイ22と、第2ディスプレイ24と、操作スイッチASSY26とを含む。表示・操作装置20は、更に、HUD28を含んでもよい。
車両Mには、例えば、ステアリングホイールSWが設けられた運転席DSと、運転席DSに対して車幅方向(図中Y方向)に設けられた助手席ASとが存在する。第1ディスプレイ22は、インストルメントパネルにおける運転席DSと助手席ASとの中間辺りから、助手席ASの左端部に対向する位置まで延在する横長形状のディスプレイ装置である。第2ディスプレイ24は、運転席DSと助手席ASとの車幅方向に関する中間あたり、且つ第1ディスプレイの下方に設置されている。例えば、第1ディスプレイ22と第2ディスプレイ24は、共にタッチパネルとして構成され、表示部としてLCD(Liquid Crystal Display)や有機EL(Electroluminescence)、プラズマディスプレイなどを備えるものである。操作スイッチASSY26は、ダイヤルスイッチやボタン式スイッチなどが集積されたものである。表示・操作装置20は、乗員によってなされた操作の内容をエージェント装置100に出力する。第1ディスプレイ22または第2ディスプレイ24が表示する内容は、エージェント装置100によって決定されてよい。
図4は、スピーカユニット30の配置例を示す図である。スピーカユニット30は、例えば、スピーカ30A~30Hを含む。スピーカ30Aは、運転席DS側の窓柱(いわゆるAピラー)に設置されている。スピーカ30Bは、運転席DSに近いドアの下部に設置されている。スピーカ30Cは、助手席AS側の窓柱に設置されている。スピーカ30Dは、助手席ASに近いドアの下部に設置されている。スピーカ30Eは、右側後部座席BS1側に近いドアの下部に設置されている。スピーカ30Fは、左側後部座席BS2側に近いドアの下部に設置されている。スピーカ30Gは、第2ディスプレイ24の近傍に設置されている。スピーカ30Hは、車室の天井(ルーフ)に設置されている。
係る配置において、例えば、専らスピーカ30Aおよび30Bに音を出力させた場合、音像は運転席DS付近に定位することになる。また、専らスピーカ30Cおよび30Dに音を出力させた場合、音像は助手席AS付近に定位することになる。また、専らスピーカ30Eに音を出力させた場合、音像は右側後部座席BS1付近に定位することになる。また、専らスピーカ30Fに音を出力させた場合、音像は左側後部座席BS2付近に定位することになる。また、専らスピーカ30Gに音を出力させた場合、音像は車室の前方付近に定位することになり、専らスピーカ30Hに音を出力させた場合、音像は車室の上方付近に定位することになる。これに限らず、スピーカユニット30は、ミキサーやアンプを用いて各スピーカの出力する音の配分を調整することで、車室内の任意の位置に音像を定位させることができる。
[エージェント装置]
図2に戻り、エージェント装置100は、管理部110と、エージェント機能部150-1、150-2、150-3と、ペアリングアプリ実行部152と、記憶部160とを備える。管理部110は、例えば、音響処理部112と、エージェントごとWU(Wake Up)判定部114と、表示制御部116と、音声制御部118と、機能特定部120と、選択部122とを備える。いずれのエージェント機能部であるか区別しない場合、単にエージェント機能部150と称する。3つのエージェント機能部150を示しているのは、図1におけるエージェントサーバ200の数に対応させた一例に過ぎず、エージェント機能部150の数は、2つであってもよいし、4つ以上であってもよい。図2に示すソフトウェア配置は説明のために簡易に示しており、実際には、例えば、エージェント機能部150と車載通信装置60の間に管理部110が介在してもよいように、任意に改変することができる。
エージェント装置100の各構成要素は、例えば、CPU(Central Processing Unit)などのハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。これらの構成要素のうち一部または全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)などのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めHDD(Hard Disk Drive)やフラッシュメモリなどの記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD-ROMなどの着脱可能な記憶媒体(非一過性の記憶媒体)に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。記憶部160は、前述した記憶装置により実現される。記憶部160には、例えば、機能一覧情報162が記憶される。
図5は、機能一覧情報162の内容の一例を示す図である。機能一覧情報162は、エージェントが実行可能な機能と、当該機能が実行可能になった日(図示する、実行可能日)と、当該機能の実行履歴とが、エージェント毎にそれぞれ対応付けられた情報である。実行履歴には、例えば、乗員が機能を「実行済み」であるか、又は「未実行」であるかを示す情報が対応付けられ、1度でも乗員が利用した機能については、「実行済み」を示す情報が対応付けられる。機能一覧情報162の内容は、例えば、機能に更新がある度(例えば、新たな機能が追加される度)、又は所定の時間間隔毎にエージェントサーバ200によって更新される。
図5において、エージェント1には、地図検索機能と、音声再生機能と、しりとり機能とを示す情報が互いに対応付けられており、いずれの機能についても実行履歴が「未実行」を示す情報である。また、エージェント2には、地図検索機能と、音楽再生機能とを示す情報が対応付けられており、地図検索機能が「実行済み」を示す情報であり、音楽再生機能が「未実行」を示す情報である。また、エージェント3には、地図検索機能と、音楽再生機能とを示す情報が対応付けられており、いずれの機能についても実行履歴が「実行済み」を示す情報である。エージェント1~3の詳細については、後述する。
管理部110は、OS(Operating System)やミドルウェアなどのプログラムが実行されることで機能する。
管理部110の音響処理部112は、エージェントごとに予め設定されているウエイクアップワードやエージェントが実行可能な機能を認識するのに適した状態になるように、入力された音に対して音響処理を行う。
エージェントごとWU判定部114は、エージェント機能部150-1、150-2、150-3のそれぞれに対応して存在し、エージェントごとに予め定められているウエイクアップワードを認識する。エージェントごとWU判定部114は、音響処理が行われた音声(音声ストリーム)から音声の意味を認識する。まず、エージェントごとWU判定部114は、音声ストリームにおける音声波形の振幅と零交差に基づいて音声区間を検出する。エージェントごとWU判定部114は、混合ガウス分布モデル(GMM;Gaussian mixture model) に基づくフレーム単位の音声識別および非音声識別に基づく区間検出を行ってもよい。
次に、エージェントごとWU判定部114は、検出した音声区間における音声をテキスト化し、文字情報とする。そして、エージェントごとWU判定部114は、テキスト化した文字情報がウエイクアップワードに該当するか否かを判定する。ウエイクアップワードであると判定した場合。エージェントごとWU判定部114は、対応するエージェント機能部150を示す情報を選択部に通知する。なお、エージェントごとWU判定部114に相当する機能がエージェントサーバ200に搭載されてもよい。この場合、管理部110は、音響処理部112によって音響処理が行われた音声ストリームをエージェントサーバ200に送信し、エージェントサーバ200がウエイクアップワードであると判定した場合、エージェントサーバ200からの指示に従ってエージェント機能部150が起動する。なお、各エージェント機能部150は、常時起動しており且つウエイクアップワードの判定を自ら行うものであってよい。この場合、管理部110がエージェントごとWU判定部114を備える必要はない。
機能特定部120は、乗員が提供を要求するエージェントの機能を特定する。まず、機能特定部120は、音声ストリームにおける音声波形の振幅と零交差に基づいて音声区間を検出する。機能特定部120は、混合ガウス分布モデルに基づくフレーム単位の音声識別および非音声識別に基づく区間検出を行ってもよい。次に、機能特定部120は、検出した音声区間における音声をテキスト化し、文字情報とする。そして、機能特定部120は、テキスト化した文字情報が、機能一覧情報162の機能欄に含まれる機能の名称に該当するか否かを判定する。機能特定部120は、文字情報が機能の名称に該当すると判定した場合、当該機能を、乗員が提供を要求するエージェントの機能として特定する。
なお、機能特定部120は、機能が特定される度、機能の名称、機能のリリース日、及び実行履歴等を各エージェント機能部150に問合せしてもよい。この場合、記憶部160には、機能一覧情報162が記憶されていなくてもよい。
選択部122は、エージェントごとWU判定部114によってウエイクアップワードが認識されたエージェント機能部150、又は機能特定部120によって特定された機能を実現する(つまり、乗員の発話に対応する)、エージェント機能部150を選択する。選択部122がエージェント機能部150を選択する処理の詳細については、後述する。選択部122は、選択したエージェント機能部150に音声ストリームを送信する。選択部122は、選択したエージェント機能部150を起動させる。
エージェント機能部150は、対応するエージェントサーバ200と協働してエージェントを出現させ、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する。エージェント機能部150には、車両機器50を制御する権限が付与されたものが含まれてよい。また、エージェント機能部150には、ペアリングアプリ実行部152を介して汎用通信装置70と連携し、エージェントサーバ200と通信するものがあってよい。例えば、エージェント機能部150-1には、車両機器50を制御する権限が付与されている。エージェント機能部150-1は、車載通信装置60を介してエージェントサーバ200-1と通信する。エージェント機能部150-2は、車載通信装置60を介してエージェントサーバ200-2と通信する。エージェント機能部150-3は、ペアリングアプリ実行部152を介して汎用通信装置70と連携し、エージェントサーバ200-3と通信する。ペアリングアプリ実行部152は、例えば、Bluetooth(登録商標)によって汎用通信装置70とペアリングを行い、エージェント機能部150-3と汎用通信装置70とを接続させる。なお、エージェント機能部150-3は、USB(Universal Serial Bus)などを利用した有線通信によって汎用通信装置70に接続されるようにしてもよい。以下、エージェント機能部150-1とエージェントサーバ200-1が協働して出現させるエージェントをエージェント1、エージェント機能部150-2とエージェントサーバ200-2が協働して出現させるエージェントをエージェント2、エージェント機能部150-3とエージェントサーバ200-3が協働して出現させるエージェントをエージェント3と称する場合がある。
表示制御部116は、エージェント機能部150からの指示に応じて第1ディスプレイ22または第2ディスプレイ24に画像を表示させる。以下では、第1ディスプレイ22を使用するものとする。表示制御部116は、一部のエージェント機能部150の制御により、例えば、車室内で乗員とのコミュニケーションを行う擬人化されたエージェントの画像(以下、エージェント画像と称する)を生成し、生成したエージェント画像を第1ディスプレイ22に表示させる。エージェント画像は、例えば、乗員に対して話しかける態様の画像である。エージェント画像は、例えば、少なくとも観者(乗員)によって表情や顔向きが認識される程度の顔画像を含んでよい。例えば、エージェント画像は、顔領域の中に目や鼻に擬したパーツが表されており、顔領域の中のパーツの位置に基づいて表情や顔向きが認識されるものであってよい。また、エージェント画像は、立体的に感じられ、観者によって三次元空間における頭部画像を含むことでエージェントの顔向きが認識されたり、本体(胴体や手足)の画像を含むことで、エージェントの動作や振る舞い、姿勢等が認識されるものであってもよい。また、エージェント画像は、アニメーション画像であってもよい。
音声制御部118は、エージェント機能部150からの指示に応じて、スピーカユニット30に含まれるスピーカのうち一部または全部に音声を出力させる。音声制御部118は、複数のスピーカユニット30を用いて、エージェント画像の表示位置に対応する位置にエージェント音声の音像を定位させる制御を行ってもよい。エージェント画像の表示位置に対応する位置とは、例えば、エージェント画像がエージェント音声を喋っていると乗員が感じると予測される位置であり、具体的には、エージェント画像の表示位置付近(例えば、2~3[cm]以内)の位置である。また、音像が定位するとは、例えば、乗員の左右の耳に伝達される音の大きさを調節することにより、乗員が感じる音源の空間的な位置を定めることである。
図6は、音像が定位する位置が定まる原理について説明するための図である。図6では、説明を簡略化するために、上述したスピーカ30B、30D、および30Gを用いる例を示しているが、スピーカユニット30に含まれる任意のスピーカが使用されてよい。音声制御部118は、各スピーカに接続されたアンプ(AMP)32およびミキサー34を制御して音像を定位させる。例えば、図6に示す空間位置MP1に音像を定位させる場合、音声制御部118は、アンプ32およびミキサー34を制御することにより、スピーカ30Bに最大強度の5%の出力を行わせ、スピーカ30Dに最大強度の80%の出力を行わせ、スピーカ30Gに最大強度の15%の出力を行わせる。この結果、乗員Pの位置からは、図6に示す空間位置MP1に音像が定位しているように感じることになる。
また、図6に示す空間位置MP2に音像を定位させる場合、音声制御部118は、アンプ32およびミキサー34を制御することにより、スピーカ30Bに最大強度の45%の出力を行わせ、スピーカ30Dに最大強度の45%の出力を行わせ、スピーカ30Gに最大強度の45%の出力を行わせる。この結果、乗員Pの位置からは、図6に示す空間位置MP2に音像が定位しているように感じることになる。このように、車室内に設けられる複数のスピーカとそれぞれのスピーカから出力される音の大きさを調整することで、音像が定位される位置を変化させることができる。なお、より詳細には、音像の定位する位置は、音源が元々保有している音特性や、車室内環境の情報、頭部伝達関数(HRTF;Head-related transfer function)に基づいて定まるため、音声制御部118は、予め官能試験などで得られた最適な出力配分でスピーカユニット30を制御することで、音像を所定の位置に定位させる。
[エージェントサーバ]
図7は、エージェントサーバ200の構成と、エージェント装置100の構成の一部とを示す図である。以下、エージェントサーバ200の構成と共にエージェント機能部150等の動作について説明する。ここでは、エージェント装置100からネットワークNWまでの物理的な通信についての説明を省略する。
エージェントサーバ200は、通信部210を備える。通信部210は、例えばNIC(Network Interface Card)などのネットワークインターフェースである。更に、エージェントサーバ200は、例えば、音声認識部220と、自然言語処理部222と、対話管理部224と、ネットワーク検索部226と、応答文生成部228とを備える。これらの構成要素は、例えば、CPUなどのハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。これらの構成要素のうち一部または全部は、LSIやASIC、FPGA、GPUなどのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めHDDやフラッシュメモリなどの記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD-ROMなどの着脱可能な記憶媒体(非一過性の記憶媒体)に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。
エージェントサーバ200は、記憶部250を備える。記憶部250は、上記の各種記憶装置により実現される。記憶部250には、パーソナルプロファイル252、辞書DB(データベース)254、知識ベースDB256、応答規則DB258などのデータやプログラムが格納される。
エージェント装置100において、エージェント機能部150は、音声ストリーム、或いは圧縮や符号化などの処理を行った音声ストリームを、エージェントサーバ200に送信する。エージェント機能部150は、ローカル処理(エージェントサーバ200を介さない処理)が可能な音声コマンドを認識した場合は、音声コマンドで要求された処理を行ってよい。ローカル処理が可能な音声コマンドとは、エージェント装置100が備える記憶部(不図示)を参照することで回答可能な音声コマンドであったり、エージェント機能部150-1の場合は車両機器50を制御する音声コマンド(例えば、空調装置をオンにするコマンドなど)であったりする。従って、エージェント機能部150は、エージェントサーバ200が備える機能の一部を有してもよい。
音声ストリームを取得すると、音声認識部220が音声認識を行ってテキスト化された文字情報を出力し、自然言語処理部222が文字情報に対して辞書DB254を参照しながら意味解釈を行う。辞書DB254は、文字情報に対して抽象化された意味情報が対応付けられたものである。辞書DB254は、同義語や類義語の一覧情報を含んでもよい。音声認識部220の処理と、自然言語処理部222の処理は、段階が明確に分かれるものではなく、自然言語処理部222の処理結果を受けて音声認識部220が認識結果を修正するなど、相互に影響し合って行われてよい。
自然言語処理部222は、例えば、認識結果として、「今日の天気は」、「天気はどうですか」等の意味が認識された場合、標準文字情報「今日の天気」に置き換えたコマンドを生成する。これにより、リクエストの音声に文字揺らぎがあった場合にも要求にあった対話をし易くすることができる。また、自然言語処理部222は、例えば、確率を利用した機械学習処理等の人工知能処理を用いて文字情報の意味を認識したり、認識結果に基づくコマンドを生成してもよい。
対話管理部224は、自然言語処理部222の処理結果(コマンド)に基づいて、パーソナルプロファイル252や知識ベースDB256、応答規則DB258を参照しながら車両Mの乗員に対する発話の内容を決定する。パーソナルプロファイル252は、乗員ごとに保存されている乗員の個人情報、趣味嗜好、過去の対話の履歴などを含む。知識ベースDB256は、物事の関係性を規定した情報である。応答規則DB258は、コマンドに対してエージェントが行うべき動作(回答や機器制御の内容など)を規定した情報である。
また、対話管理部224は、音声ストリームから得られる特徴情報を用いて、パーソナルプロファイル252と照合を行うことで、乗員を特定してもよい。この場合、パーソナルプロファイル252には、例えば、音声の特徴情報に、個人情報が対応付けられている。音声の特徴情報とは、例えば、声の高さ、イントネーション、リズム(音の高低のパターン)等の喋り方の特徴や、メル周波数ケプストラム係数(Mel Frequency Cepstrum Coefficients)等による特徴量に関する情報である。音声の特徴情報は、例えば、乗員の初期登録時に所定の単語や文章等を乗員に発声させ、発声させた音声を認識することで得られる情報である。
対話管理部224は、コマンドが、ネットワークNWを介して検索可能な情報を要求するものである場合、ネットワーク検索部226に検索を行わせる。ネットワーク検索部226は、ネットワークNWを介して各種ウェブサーバ300にアクセスし、所望の情報を取得する。「ネットワークNWを介して検索可能な情報」とは、例えば、車両Mの周辺にあるレストランの一般ユーザによる評価結果であったり、その日の車両Mの位置に応じた天気予報であったりする。
応答文生成部228は、対話管理部224により決定された発話の内容が車両Mの乗員に伝わるように、応答文を生成し、エージェント装置100に送信する。応答文生成部228は、乗員がパーソナルプロファイルに登録された乗員であることが特定されている場合に、乗員の名前を呼んだり、乗員の話し方に似せた話し方にした応答文を生成したりしてもよい。
エージェント機能部150は、応答文を取得すると、音声合成を行って音声を出力するように音声制御部118に指示する。また、エージェント機能部150は、音声出力に合わせてエージェントの画像を表示するように表示制御部116に指示する。このようにして、仮想的に出現したエージェントが車両Mの乗員に応答するエージェント機能が実現される。
[エージェント機能部150の選択処理について:ウエイクアップワード無し]
以下、選択部122が、エージェント機能部150を選択する選択処理について説明する。図8は、地図検索機能を提供する場合のエージェントと乗員の対話の一例を示す図である。まず、乗員は、エージェントに対して、地図検索機能の提供を要求する旨を含む発話CV1を行う。発話CV1は、例えば、「地図検索機能を起動して?」等の言葉である。これを受けて、選択部122は、例えば、上述した処理によって機能特定部120が特定した機能(この一例では、地図検索機能)を検索キーとして、機能一覧情報162を検索し、当該機能が対応付けられているエージェントを特定する。図5の機能一覧情報162において、地図検索機能が対応付けられているエージェントは、エージェント1~3のエージェントである。
次に、選択部122は、当該機能が対応付けられているエージェントのうち、既に当該機能の実行履歴が「実行済み」を示すエージェントが存在する場合であっても、当該機能の実行履歴が「未実行」を示すエージェントを優先的に選択する。図5の機能一覧情報162において、地図検索機能が「未実行」を示すエージェントは、エージェント1のみである。したがって、選択部122は、エージェント機能部150-1を乗員の音声に応答させるエージェント機能部として、エージェント機能部150-2やエージェント機能部150-3に対して優先的に選択し、起動させる。
選択部122によって起動されたエージェント機能部150(この一例では、エージェント機能部150-1)は、発話CV1に対する応答文RP1を、対応するエージェントサーバ200(この一例では、エージェントサーバ200-1)から取得し、当該応答文RP1に音声合成を行って音声を出力するように音声制御部118に指示する。応答文RP1は、例えば、発話CV1において、要求されている機能を実行するエージェント機能部150のエージェントを紹介する言葉が含まれる。応答文RP1は、例えば、「こんにちは、△△(エージェント1)です。私が地図検索機能を提供します。」等の言葉である。
エージェント機能部150-1は、応答文RP1に対する乗員の発話CV2が、肯定的な内容である場合、要求された機能(この一例では、地図検索機能)の提供を行う。また、エージェント機能部150-1は、応答文RP1に対する乗員の発話CV2が、否定的な内容である場合、選択部122に再度、エージェント機能部150の選択を指示する。この場合、選択部122は、一度選択したエージェント機能部150を除くエージェント機能部150から、乗員が要求する機能を提供するエージェント機能部150を選択する。
[エージェント機能部150の選択処理について:ウエイクアップワード有り]
次に、乗員が、エージェントに対して、ウエイクアップワードと、地図検索機能の提供を要求する旨とを含む発話CV3を行う場合について説明する。図9は、ウエイクアップワードを含む発話CV3に対するエージェントの回答の一例を示す図である。発話CV3は、例えば、「『ねぇ〇〇(エージェント2)』(ウエイクアップワード)、地図検索機能を起動して?」等の言葉である。これを受けて、選択部122は、例えば、上述したように、地図検索機能が対応付けられているエージェントが、エージェント1~3であると特定する。次に、選択部122は、当該機能が対応付けられているエージェントのうち、既に当該機能の実行履歴が「実行済み」を示すエージェントが存在し、ウエイクアップワードで指定されたエージェントが存在する場合であっても、当該機能の実行履歴が「未実行」を示すエージェントを優先的に選択する。図5の機能一覧情報162において、地図検索機能が「未実行」を示すエージェントは、エージェント1のみである。したがって、選択部122は、エージェント機能部150-1を乗員の音声に応答させるエージェント機能部として、エージェント機能部150-2やエージェント機能部150-3に対して優先的に選択し、起動させる。
選択部122によって起動されたエージェント機能部150(この一例では、エージェント機能部150-1)は、発話CV1に対する応答文RP2を、対応するエージェントサーバ200(この一例では、エージェントサーバ200-1)から取得し、当該応答文RP2に音声合成を行って音声を出力するように音声制御部118に指示する。ここで、応答文RP2は、例えば、発話CV1において、選択部122によって起動されたエージェント機能部150が実現するエージェント(この一例では、エージェント1)以外のエージェント2~3を起動するウエイクアップワードが含まれていた場合、乗員の混乱を防ぐため、起動したエージェントがエージェント1であることを名乗る言葉が含まれる。また、応答文RP2は、例えば、要求されている機能が、選択部122によって起動されたエージェント機能部150によっても実行可能となったことを紹介する言葉が含まれる。応答文RP2は、例えば、「こんにちは、△△(エージェント1)です。私も地図検索機能が使えるようになったんですよ。よろしかったら使ってみませんか?」等の言葉である。
エージェント機能部150-1は、応答文RP2に対する乗員の発話CV4が、肯定的な内容である場合、要求された機能(この一例では、地図検索機能)の提供を行う。また、エージェント機能部150-1は、応答文RP2に対する乗員の発話CV4が、否定的な内容である場合、選択部122に再度、エージェント機能部150の選択を指示する。この場合、選択部122は、一度選択したエージェント機能部150を除くエージェント機能部150から、乗員が要求する機能を提供するエージェント機能部150を選択する。
以上説明したように、本実施形態のエージェント装置100によれば、新機能を有するエージェントが優先的に乗員の対応をするようにし、新機能を乗員が使用しやすくすることができる。
[動作フロー]
図10は、エージェント装置100の動作の一連の流れを示すフローチャートである。まず、音響処理部112は、マイク10によって収音された音に対して音響処理を行う(ステップS100)。次に、機能特定部120は、音響処理された音声ストリームに基づいて、乗員が提供を要求するエージェントの機能を特定する(ステップS102)。選択部122は、機能特定部120によって特定された機能を実行可能なエージェントの有無を判定する(ステップS104)。選択部122は、特定された機能を実現可能なエージェントが存在しない場合、所定の規則によってエージェント機能部150を選択/起動し、起動したエージェント機能部150に音声ストリームを提供する(ステップS106)。所定の規則は、例えば、予め定められた選択順序に基づいてエージェント機能部150を選択する規則や、ランダムにエージェント機能部150を選択する規則である。
これに応じて、エージェントサーバ200は、機能を提供することができない旨を乗員に回答するための応答文を生成し、管理部110に提供する。次に、エージェント機能部150は、エージェントサーバ200により提供され応答文を取得する(ステップS108)。次に、エージェント機能部150は、エージェントのタスクが終了したか否かを判定する(ステップS110)。例えば、エージェント機能部150は、乗員の発話に対する応答文が提供された場合、タスクが終了したと判定する。音声制御部118は、エージェント機能部150-1によって取得された応答文に音声合成を行って音声を出力する(ステップS112)。
選択部122は、特定された機能が実現可能なエージェントが存在すると判定した場合、そのエージェントの中に、当該機能の実行履歴が「未実行」を示すエージェントが存在するか否かを判定する(ステップS114)。選択部122は、機能の実行履歴が「未実行」を示すエージェントが存在しないと判定した場合、実行履歴が「実行済み」を示すエージェント機能から、所定の規則によって、要求された機能を実現するエージェント機能部150を選択する(ステップS116)。選択部122は、選択したエージェント機能部150に音声ストリームを提供する(ステップS118)。
これに応じて、エージェントサーバ200は、エージェントが要求された機能を提供する旨を乗員に回答するための応答文を生成し、管理部110に提供する。次に、選択されたエージェント機能部150は、エージェントサーバ200により提供された応答文を取得する(ステップS120)。次に、エージェント機能部150は、エージェントのタスクが終了したか否かを判定する(ステップS122)。例えば、エージェント機能部150は、乗員の発話に対する応答文が提供された場合、タスクが終了したと判定する。音声制御部118は、エージェント機能部150によって取得された応答文に音声合成を行って音声を出力する(ステップS124)。
選択部122は、「未実行」を示すエージェントが存在すると判定した場合、特定したエージェントを実現するエージェント機能部150に音声ストリームを提供する(ステップS126)。なお、選択部122は、「未実行」を示すエージェントが存在すると判定した場合、特定したエージェントを実現するエージェント機能部150のうち、要求された機能を実現するエージェント機能部150を所定の規則によって選択してもよい。
これに応じて、エージェントサーバ200は、当該エージェントが要求された機能を提供する旨を乗員に回答するための応答文を生成し、管理部110に提供する。次に、エージェント機能部150は、エージェントサーバ200により提供された応答文を取得する(ステップS128)。次に、エージェント機能部150は、エージェントのタスクが終了したか否かを判定する(ステップS130)。音声制御部118は、エージェント機能部150によって取得された応答文に音声合成を行って音声を出力する(ステップS132)。
[エージェント機能部150の優先度について]
なお、選択部122は、乗員に要求された機能が「未実行」を示すエージェント機能部150が複数存在する場合、各エージェント機能部150に付された優先度に基づいて、エージェント機能部150を選択してもよい。複数のエージェント機能部150のうち、高い優先度が付されるエージェント機能部150は、例えば、車両機器50に動作を指示する機能を有する車両エージェント機能部(この一例では、エージェント機能部150-1)である。以下、優先度が最も高いエージェント機能部150が、エージェント機能部150-1であり、他のエージェント機能部150との優先度の関係が、エージェント機能部150-1>エージェント機能部150-2>エージェント機能部150-3であるものとする。
例えば、選択部122は、乗員に要求された機能が「音楽再生機能」である場合、実行履歴が「未実行」を示すエージェントは、エージェント1~2であるが、エージェント1を実現するエージェント機能部150-1の方が、エージェント2を実現するエージェント機能部150-2よりも優先度が高いため、エージェント機能部150-1を選択する。
以上説明したように、本実施形態のエージェント装置100によれば、特定のエージェントが優先的に乗員の対応をするようにし、乗員が使い慣れたエージェントと対話する機会を増やすようにすることができる。
[動作フロー]
図11は、エージェント機能部150に優先度が付されている場合の、エージェント装置100の動作の一連の流れを示すフローチャートである。なお、図10に示されるステップ番号と同様の処理には、同一のステップ番号を付して説明を省略する。
選択部122は、機能の実行履歴が「未実行」を示すエージェントが存在すると判定した場合、当該エージェントに優先度の高いエージェント(この一例では、エージェント1)が含まれるか否かを判定する(ステップS200)。選択部122は、エージェントにエージェント1が含まれると判定した場合、優先度の高いエージェント1を実現するエージェント機能部150-1に音声ストリームを提供する(ステップS202)。これに応じて、エージェントサーバ200-1は、エージェント1が要求された機能を提供する旨を乗員に回答するための応答文を生成し、管理部110に提供する。次に、エージェント機能部150は、エージェントサーバ200により提供された応答文を取得する(ステップS204)。次に、エージェント機能部150は、エージェントのタスクが終了したか否かを判定する(ステップS206)。例えば、エージェント機能部150は、乗員の発話に対する応答文が提供された場合、タスクが終了したと判定する。音声制御部118は、エージェント機能部150によって取得された応答文に音声合成を行って音声を出力する(ステップS208)。
選択部122は、ステップS114において機能の実行履歴が「未実行」を示すエージェントが存在しないと判定した場合、又は特定された機能が実現可能なエージェントに、エージェント1が含まれないと判定した場合、所定の規則によって、要求された機能を実現するエージェント機能部150を選択する(ステップS210)所定の規則は、例えば、予め定められた選択順序に基づいてエージェント機能部150を選択する規則や、ランダムにエージェント機能部150を選択する規則や、実行履歴が「実行済み」を示すエージェントのうち、優先度の高いエージェントを実現するエージェント機能部150を選択する規則である。選択部122は、選択したエージェントを実現するエージェント機能部150に音声ストリームを提供する(ステップS212)。
これに応じて、エージェントサーバ200は、当該エージェントが要求された機能を提供する旨を乗員に回答するための応答文を生成し、管理部110に提供する。次に、エージェント機能部150は、エージェントサーバ200により提供された応答文を取得する(ステップS214)。次に、エージェント機能部150は、エージェントのタスクが終了したか否かを判定する(ステップS216)。音声制御部118は、エージェント機能部150によって取得された応答文に音声合成を行って音声を出力する(ステップS218)。
[新たに追加された機能に関する情報を提供する処理について:問合せがある場合]
また、エージェント機能部150は、新たな機能が追加された場合、当該新たに追加された機能に関する情報を、乗員に提供してもよい。図12は、新たに追加された機能に関する情報を提供する場合のエージェントと乗員の対話の一例を示す図である。まず、乗員は、エージェントに対して、エージェントの新たに追加された機能について問い合わせる発話CV3を行う。発話CV3は、例えば、「何か新しい機能はない?」等の言葉である。これを受けて、機能特定部120は、テキスト化した文字情報に「新しい機能」等の文言が含まれているか否かを判定する。機能特定部120は、例えば、テキスト化した文字情報に「新しい機能」等の文言が含まれている場合、乗員がエージェントの新たに追加された機能について問合せを行っていると判定する。
選択部122は、機能特定部120によって乗員がエージェントの新たに追加された機能について問合せを行っていると判定された場合、機能一覧情報162のうち、実行履歴が「未実行」である機能を特定する。図5において、実行履歴が「未実行」の機能は、例えば、エージェント1が実行可能なしりとり機能である。選択部122は、エージェント機能部150-1を乗員の音声に応答させるエージェント機能部として選択し、起動させる。
選択部122によって起動されたエージェント機能部150(この一例では、エージェント機能部150-1)は、発話CV3に対する応答文RP2を、対応するエージェントサーバ200(この一例では、エージェントサーバ200-1)から取得し、当該応答文RP2に音声合成を行って音声を出力するように音声制御部118に指示する。応答文RP2は、例えば、新たに追加された機能が、選択部122によって起動されたエージェント機能部150によって実行可能となったことを紹介する言葉が含まれる。応答文RP2は、例えば、「こんにちは、△△(エージェント1)です。私は『しりとり機能』が実行可能になりました。ご使用になりますか?」等の言葉である。
エージェント機能部150-1は、応答文RP2に対する乗員の発話CV4が、肯定的な内容である場合、要求された機能(この一例では、しりとり機能)の提供を行う。また、エージェント機能部150-1は、応答文RP2に対する乗員の発話CV4が、否定的な内容である場合、選択部122に再度、エージェント機能部150の選択を指示する。この場合、選択部122は、一度選択した機能を除く機能であり、使用履歴が「未実行」の機能を選択し、当該機能を実行可能なエージェント機能部150を選択する。
以上説明したように、本実施形態のエージェント装置100によれば、新機能を乗員に紹介し、新機能を乗員が使用しやすくすることができる。
[動作フロー]
図13は、エージェント装置100の未実行の機能を紹介する処理の一連の流れを示すフローチャートである。まず、音響処理部112は、マイク10によって収音された音に対して音響処理を行う(ステップS300)。次に、機能特定部120は、音響処理された音声ストリームに基づいて、乗員が追加機能の問合せを行ったか否かを判定する(ステップS302)。エージェント装置100は、乗員が追加機能の問合せを行っていない場合、図13のフローチャートの処理を終了する。機能特定部120は、乗員が追加機能の問合せを行ったと判定した場合、機能一覧情報162に基づいて、未実行のエージェントの機能の有無を判定する(ステップS304)。音声制御部118は、機能特定部120によって未実行のエージェントの機能が無いと判定された場合、追加機能が無い旨通知する応答文に音声合成を行って音声を出力する(ステップS306)。機能特定部120は、例えば、追加機能が無いことを通知する応答文の生成を、エージェント機能部150に指示し、当該エージェント機能部150から応答文の提供を受ける。追加機能が無いことを通知する応答文は、最も優先度が高いエージェント機能部150から提供を受けてもよく、他のエージェント機能部150から提供を受けてもよい。
機能特定部120は、未実行の機能を有するエージェント機能部150に音声ストリームを提供する(ステップS308)。これに応じて、エージェントサーバ200は、当該エージェントが要求された機能を提供する旨を乗員に回答するための応答文を生成し、管理部110に提供する。次に、エージェント機能部150は、エージェント機能部150により提供された応答文を取得する(ステップS310)。次に、エージェント機能部150は、エージェントのタスクが終了したか否かを判定する(ステップS312)。音声制御部118は、エージェント機能部150によって取得された応答文に音声合成を行って音声を出力する(ステップS314)。
[新たに追加された機能に関する情報を提供する処理について:問合せがない場合]
なお、上述では、エージェント機能部150が、乗員から追加機能の問い合わせがあった場合に、当該新たに追加された機能に関する情報を乗員に提供する場合について説明したが、これに限られない。エージェント機能部150は、例えば、新たに追加された機能とは無関係な応答(例えば、雑談)をしている際に、新たに追加された機能に関する情報を乗員に提供してもよい。例えば、新たに追加された機能が「しりとり機能」であり、エージェント機能部150が乗員に「地図検索機能」に係る応答を行っている場合において、エージェント機能部150は、地図検索機能に係る応答を終えた後に、「そういえば、私は『しりとり機能』が実行可能になりました。ご使用になりますか?」等の応答をすることによって、新たに追加された機能に関する情報を乗員に提供してもよい。
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
1…エージェントシステム、10…マイク、20…表示・操作装置、22…第1ディスプレイ、24…第2ディスプレイ、30…スピーカユニット、32…アンプ、34…ミキサー、40…ナビゲーション装置、50…車両機器、60…車載通信装置、70…汎用通信装置、80…乗員認識装置、100…エージェント装置、110…管理部、112…音響処理部、114…エージェントごとWU判定部、116…表示制御部、118…音声制御部、120…機能特定部、122…選択部、150、150-1、150-2、150-3…エージェント機能部、152…ペアリングアプリ実行部、160…記憶部、162…機能一覧情報、200、200-1、200-2、200-3…エージェントサーバ、210…通信部、220…音声認識部、222…自然言語処理部、224…対話管理部、226…ネットワーク検索部、228…応答文生成部、250…記憶部、252…パーソナルプロファイル、300…ウェブサーバ

Claims (7)

  1. 車両の乗員の発話に応じて、音声による応答を含むサービスを提供する複数のエージェント機能部と、
    前記複数のエージェント機能部のうち、前記乗員の発話に対応するエージェント機能部を選択する選択部とを備え、
    前記選択部は、前記複数のエージェント機能部のうち、1つのエージェント機能部に新たな機能が追加された場合において、前記新たに追加された機能を前記乗員に提供する場合、前記新たに追加された機能と同じ機能を既に有している他のエージェント機能部に対して優先的に、当該新たな機能が追加されたエージェント機能部による機能を前記乗員に提供させる、
    エージェント装置。
  2. 車両の乗員の発話に応じて、音声による応答を含むサービスを提供する複数のエージェント機能部と、
    前記複数のエージェント機能部のうち、前記乗員の発話に対応するエージェント機能部を選択する選択部とを備え、
    前記複数のエージェント機能部には、車両機器に動作を指示する機能を有する車両エージェント機能部が含まれ、
    前記選択部は、前記複数のエージェント機能部のうち、前記車両エージェント機能部に新たな機能が追加された場合において、前記新たに追加された機能を前記乗員に提供する場合、前記新たに追加された機能と同じ機能を既に有している他のエージェント機能部に対して優先的に、当該新たな機能が追加された前記車両エージェント機能部による機能を前記乗員に提供させる、
    エージェント装置。
  3. 前記選択部は、前記複数のエージェント機能部のうち、特定のエージェント機能部を指定した問いかけであっても、前記新たに追加された機能を前記乗員に提供する場合、前記新たに追加された機能と同じ機能を既に有している他のエージェント機能部に対して優先的に、当該新たな機能が追加されたエージェント機能部による機能を前記乗員に提供させる、
    請求項1又は請求項2に記載のエージェント装置。
  4. 前記エージェント機能部は、前記複数のエージェント機能部のうち、少なくとも1つのエージェント機能部に新たな機能が追加された場合、前記新たな機能の詳細を特定しない問い合わせに応答して、前記新たに追加された機能に関する情報を前記乗員に提供する、
    請求項1から請求項3のうちいずれか一項に記載のエージェント装置。
  5. 前記エージェント機能部は、前記複数のエージェント機能部のうち、少なくとも1つのエージェント機能部に新たな機能が追加された場合、前記新たな機能とは無関係な応答をしている際に、前記新たに追加された機能に関する情報を前記乗員に提供する、
    請求項1から請求項4のうちいずれか一項に記載のエージェント装置。
  6. コンピュータが、複数のエージェント機能部のうちいずれかを起動させ、前記起動したエージェント機能部の機能として、
    車両の乗員の発話に応じて、音声による応答を含むサービスを提供し、
    前記複数のエージェント機能部のうち、前記乗員の発話に対応するエージェント機能部を選択し、
    前記複数のエージェント機能部のうち、1つのエージェント機能部に新たな機能が追加された場合において、前記新たに追加された機能を前記乗員に提供する場合、前記新たに追加された機能と同じ機能を既に有している他のエージェント機能部に対して優先的に、当該新たな機能が追加されたエージェント機能部による機能を前記乗員に提供させる、
    エージェント装置の制御方法。
  7. コンピュータに、複数のエージェント機能部のうちいずれかを起動させ、前記起動したエージェント機能部の機能として、
    車両の乗員の発話に応じて、音声による応答を含むサービスを提供させ、
    前記複数のエージェント機能部のうち、前記乗員の発話に対応するエージェント機能部を選択させ、
    前記複数のエージェント機能部のうち、1つのエージェント機能部に新たな機能が追加された場合において、前記新たに追加された機能を前記乗員に提供する場合、前記新たに追加された機能と同じ機能を既に有している他のエージェント機能部に対して優先的に、当該新たな機能が追加されたエージェント機能部による機能を前記乗員に提供させる、
    プログラム。
JP2019040964A 2019-03-06 2019-03-06 エージェント装置、エージェント装置の制御方法、およびプログラム Active JP7175221B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019040964A JP7175221B2 (ja) 2019-03-06 2019-03-06 エージェント装置、エージェント装置の制御方法、およびプログラム
CN202010141245.1A CN111667823B (zh) 2019-03-06 2020-03-03 智能体装置、智能体装置的控制方法及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019040964A JP7175221B2 (ja) 2019-03-06 2019-03-06 エージェント装置、エージェント装置の制御方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2020144618A JP2020144618A (ja) 2020-09-10
JP7175221B2 true JP7175221B2 (ja) 2022-11-18

Family

ID=72354271

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019040964A Active JP7175221B2 (ja) 2019-03-06 2019-03-06 エージェント装置、エージェント装置の制御方法、およびプログラム

Country Status (2)

Country Link
JP (1) JP7175221B2 (ja)
CN (1) CN111667823B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023218244A1 (ja) * 2022-05-11 2023-11-16 日産自動車株式会社 情報提供方法及び情報提供システム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000020888A (ja) 1998-07-07 2000-01-21 Aqueous Reserch:Kk エージェント装置
JP2004288018A (ja) 2003-03-24 2004-10-14 Fujitsu Ltd 対話制御システム及び方法
JP2006188098A (ja) 2004-12-28 2006-07-20 Pioneer Electronic Corp 対話装置、対話方法、対話プログラムおよびコンピュータに読み取り可能な記録媒体
JP2013207718A (ja) 2012-03-29 2013-10-07 Canon Inc 画像処理装置、画像処理装置の制御方法及びプログラム
JP2018054850A (ja) 2016-09-28 2018-04-05 株式会社東芝 情報処理システム、情報処理装置、情報処理方法、及びプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003022092A (ja) * 2001-07-09 2003-01-24 Fujitsu Ten Ltd 対話システム
JP2004021521A (ja) * 2002-06-14 2004-01-22 Sony Corp 情報処理装置および方法、並びにプログラム
CN101273342A (zh) * 2005-05-10 2008-09-24 文卡特·斯里尼瓦斯·米纳瓦里 用于控制基于sip的电话中的多媒体功能和服务的系统和改进的方法
JP2008105608A (ja) * 2006-10-26 2008-05-08 Toyota Motor Corp 車両用音声対応制御装置
USRE49014E1 (en) * 2013-06-19 2022-04-05 Panasonic Intellectual Property Corporation Of America Voice interaction method, and device
JP2016218361A (ja) * 2015-05-25 2016-12-22 クラリオン株式会社 音声認識システム、車載器およびサーバ装置
JP2017207859A (ja) * 2016-05-17 2017-11-24 本田技研工業株式会社 車両制御システム、車両制御方法、および車両制御プログラム
US11164570B2 (en) * 2017-01-17 2021-11-02 Ford Global Technologies, Llc Voice assistant tracking and activation

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000020888A (ja) 1998-07-07 2000-01-21 Aqueous Reserch:Kk エージェント装置
JP2004288018A (ja) 2003-03-24 2004-10-14 Fujitsu Ltd 対話制御システム及び方法
JP2006188098A (ja) 2004-12-28 2006-07-20 Pioneer Electronic Corp 対話装置、対話方法、対話プログラムおよびコンピュータに読み取り可能な記録媒体
JP2013207718A (ja) 2012-03-29 2013-10-07 Canon Inc 画像処理装置、画像処理装置の制御方法及びプログラム
JP2018054850A (ja) 2016-09-28 2018-04-05 株式会社東芝 情報処理システム、情報処理装置、情報処理方法、及びプログラム

Also Published As

Publication number Publication date
CN111667823B (zh) 2023-10-20
JP2020144618A (ja) 2020-09-10
CN111667823A (zh) 2020-09-15

Similar Documents

Publication Publication Date Title
JP2020147214A (ja) エージェント装置、システム、エージェント装置の制御方法、およびプログラム
JP7239366B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7198122B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
CN111559328B (zh) 智能体装置、智能体装置的控制方法及存储介质
JP7274903B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7239359B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7175221B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020144264A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
US11437035B2 (en) Agent device, method for controlling agent device, and storage medium
US11797261B2 (en) On-vehicle device, method of controlling on-vehicle device, and storage medium
JP7239365B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7280066B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7340943B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020154994A (ja) エージェントシステム、エージェントサーバ、エージェントサーバの制御方法、およびプログラム
JP2020160133A (ja) エージェントシステム、エージェントシステムの制御方法、およびプログラム
JP2020152298A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020144275A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020154942A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020157853A (ja) 車載エージェントシステム、車載エージェントシステムの制御方法、およびプログラム
JP2020142758A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7297483B2 (ja) エージェントシステム、サーバ装置、エージェントシステムの制御方法、およびプログラム
CN111559317B (zh) 智能体装置、智能体装置的控制方法及存储介质
JP7274901B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7280074B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020160132A (ja) エージェント装置、エージェント装置の制御方法、プログラム、エージェントサーバ、およびエージェントサーバの制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220930

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221108

R150 Certificate of patent or registration of utility model

Ref document number: 7175221

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150