JP2020154942A - Agent device, control method of agent device, and program - Google Patents
Agent device, control method of agent device, and program Download PDFInfo
- Publication number
- JP2020154942A JP2020154942A JP2019054365A JP2019054365A JP2020154942A JP 2020154942 A JP2020154942 A JP 2020154942A JP 2019054365 A JP2019054365 A JP 2019054365A JP 2019054365 A JP2019054365 A JP 2019054365A JP 2020154942 A JP2020154942 A JP 2020154942A
- Authority
- JP
- Japan
- Prior art keywords
- agent
- agent function
- function unit
- unit
- network connection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
Description
本発明は、エージェント装置、エージェント装置の制御方法、およびプログラムに関する。 The present invention relates to an agent device, a control method for the agent device, and a program.
従来、車両の乗員と対話を行いながら、乗員の要求に応じた運転支援に関する情報や車両の制御、その他のアプリケーション等を提供するエージェント機能に関する技術が開示されている(例えば、特許文献1参照)。 Conventionally, a technology related to an agent function that provides information on driving support according to a request of a occupant, vehicle control, other applications, etc. while interacting with a vehicle occupant has been disclosed (see, for example, Patent Document 1). ..
近年では、ネットワーク接続を前提としたエージェント機能を車両に搭載することについて実用化が進められているが、ネットワーク接続が切断された場合のエージェント機能の動作について十分に検討されていなかった。このため、従来の技術では、ネットワーク接続が長時間にわたって切断された場合、エージェント機能も長時間にわたって動作しない場合があり、車両の乗員に違和感を与える虞があった。 In recent years, practical application has been promoted for mounting an agent function premised on a network connection in a vehicle, but the operation of the agent function when the network connection is disconnected has not been sufficiently studied. Therefore, in the conventional technique, when the network connection is disconnected for a long time, the agent function may not operate for a long time, which may give a feeling of strangeness to the occupants of the vehicle.
本発明は、このような事情を考慮してなされたものであり、ネットワーク接続の切断時にもサービスを継続できる可能性を高めることができるエージェント装置、エージェント装置の制御方法、およびプログラムを提供することを目的の一つとする。 The present invention has been made in consideration of such circumstances, and provides an agent device, a control method of the agent device, and a program capable of increasing the possibility of continuing the service even when the network connection is disconnected. Is one of the purposes.
この発明に係るエージェント装置、エージェント装置の制御方法、およびプログラムは、以下の構成を採用した。
(1):この発明の一態様に係るエージェント装置は、無線通信装置を用いたネットワーク接続を少なくとも部分的に利用して、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する複数のエージェント機能部を備え、前記複数のエージェント機能部は、第1エージェント機能部と、前記ネットワーク接続への依存度が前記第1エージェント機能部よりも高い一以上の第2エージェント機能部と、を含み、前記ネットワーク接続の切断が第1所定時間以上継続したことを認識し、或いは前記第1所定時間以上継続することを予測するネットワーク監視部をさらに備え、前記第2エージェント機能部が起動しており、且つ前記ネットワーク接続の切断が前記第1所定時間以上継続することが前記ネットワーク監視部により認識或いは予測された場合、前記第2エージェント機能部から前記第1エージェント機能部に主導権が受け渡されるものである。
The agent device, the control method of the agent device, and the program according to the present invention have adopted the following configurations.
(1): The agent device according to one aspect of the present invention provides a service including a voice response in response to a utterance of a vehicle occupant by utilizing at least a part of a network connection using a wireless communication device. The plurality of agent function units include a plurality of agent function units, and the plurality of agent function units include a first agent function unit, one or more second agent function units having a higher dependence on the network connection than the first agent function unit, and the like. The second agent function unit is activated by further including a network monitoring unit that recognizes that the disconnection of the network connection has continued for the first predetermined time or more, or predicts that the disconnection of the network connection has continued for the first predetermined time or more. When the network monitoring unit recognizes or predicts that the disconnection of the network connection will continue for the first predetermined time or longer, the second agent function unit takes the initiative to the first agent function unit. It is to be passed.
(2):上記(1)の態様において、前記複数のエージェント機能部のそれぞれの起動を制御するエージェント起動部をさらに備え、前記エージェント起動部は、前記第2エージェント機能部が起動しており、且つ前記ネットワーク接続の切断が前記第1所定時間以上継続することが前記ネットワーク監視部により認識或いは予測された場合、前記第2エージェント機能部から前記第1エージェント機能部に主導権が受け渡されるように前記第1エージェント機能部および前記第2エージェント機能部を制御するものである。 (2): In the aspect of (1) above, the agent activation unit that controls the activation of each of the plurality of agent function units is further provided, and the agent activation unit is activated by the second agent function unit. Moreover, when the network monitoring unit recognizes or predicts that the disconnection of the network connection will continue for the first predetermined time or longer, the initiative is transferred from the second agent function unit to the first agent function unit. It controls the first agent function unit and the second agent function unit.
(3):上記(2)の態様において、前記エージェント起動部は、前記第2エージェント機能部の起動中に前記ネットワーク接続の切断が前記第1所定時間以上継続することが前記ネットワーク監視部により認識或いは予測された場合、前記第2エージェント機能部を起動状態から待機状態に遷移させるものである。 (3): In the aspect of (2) above, the agent activation unit recognizes by the network monitoring unit that the disconnection of the network connection continues for the first predetermined time or more while the second agent function unit is activated. Alternatively, when predicted, the second agent function unit is changed from the activated state to the standby state.
(4):上記(1)〜(3)の態様において、前記ネットワーク監視部は、前記車両が、トンネル、地下駐車場、国境のうち少なくとも一部を含む所定地点をまたぐ場合に、前記ネットワーク接続の切断が前記第1所定時間以上継続することを予測するものである。 (4): In the above aspects (1) to (3), the network monitoring unit connects to the network when the vehicle crosses a predetermined point including at least a part of a tunnel, an underground parking lot, and a border. It is predicted that the disconnection will continue for the first predetermined time or longer.
(5):上記(1)〜(4)の態様において、前記ネットワーク接続の切断が前記第1所定時間以上継続することが前記ネットワーク監視部により認識或いは予測された場合、前記第2エージェント機能部から主導権が受け渡された前記第1エージェント機能部は、前記車両に保存されているコンテンツを再生するものである。 (5): In the aspects (1) to (4) above, when the network monitoring unit recognizes or predicts that the disconnection of the network connection will continue for the first predetermined time or longer, the second agent function unit The first agent function unit, to which the initiative has been handed over from the vehicle, reproduces the content stored in the vehicle.
(6):上記(5)の態様において、前記ネットワーク接続の切断が前記第1所定時間以上継続することが前記ネットワーク監視部により認識或いは予測された場合、前記第2エージェント機能部が前記第1エージェント機能部に対して、前記車両の乗員からの要求に応じて実行するタスクを示す指令を出力するものである。 (6): In the embodiment of (5) above, when the network monitoring unit recognizes or predicts that the disconnection of the network connection will continue for the first predetermined time or longer, the second agent function unit will perform the first. It outputs a command to the agent function unit indicating a task to be executed in response to a request from the occupant of the vehicle.
(7):上記(6)の態様において、前記第2エージェント機能部から主導権が受け渡された前記第1エージェント機能部は、前記第2エージェント機能部から前記指令を取得した場合、前記ネットワーク接続が切断された状態で、前記取得した指令を実行するものである。 (7): In the aspect of (6) above, when the first agent function unit to which the initiative is transferred from the second agent function unit obtains the command from the second agent function unit, the network. The acquired command is executed in a state where the connection is disconnected.
(8):上記(1)〜(7)の態様において、前記ネットワーク監視部の処理に基づき前記第2エージェント機能部から前記第1エージェント機能部に主導権が受け渡されてから第2所定時間以内に前記ネットワーク接続が回復した場合、前記ネットワーク接続が切断される直前に起動していた前記第2エージェント機能部が起動するものである。 (8): In the aspects (1) to (7) above, a second predetermined time after the initiative is transferred from the second agent function unit to the first agent function unit based on the processing of the network monitoring unit. If the network connection is restored within the time, the second agent function unit that was activated immediately before the network connection is disconnected is activated.
(9):本発明の他の態様に係るエージェント装置の制御方法は、コンピュータが、第1エージェント機能部、および、無線通信装置を用いたネットワーク接続への依存度が前記第1エージェント機能部よりも高い一以上の第2エージェント機能部のうちいずれかを起動させ、前記起動したエージェント機能部の機能として、前記ネットワーク接続を少なくとも部分的に利用して、車両の乗員の発話に応じて、音声による応答を含むサービスを提供し、前記ネットワーク接続の切断が第1所定時間以上継続したことを認識し、或いは前記第1所定時間以上継続することを予測し、前記第2エージェント機能部が起動しており、且つ前記ネットワーク接続の切断が前記第1所定時間以上継続することが認識或いは予測された場合、前記第2エージェント機能部から前記第1エージェント機能部に主導権を受け渡すものである。 (9): In the method of controlling the agent device according to another aspect of the present invention, the degree of dependence of the computer on the first agent function unit and the network connection using the wireless communication device is higher than that of the first agent function unit. One or more of the second agent function units, which are also high, are activated, and as a function of the activated agent function unit, the network connection is at least partially used, and voice is heard according to the utterance of the vehicle occupant. The second agent function unit is activated by providing a service including a response by, recognizing that the disconnection of the network connection has continued for the first predetermined time or longer, or predicting that the disconnection of the network connection has continued for the first predetermined time or longer. When it is recognized or predicted that the disconnection of the network connection will continue for the first predetermined time or longer, the initiative is handed over from the second agent function unit to the first agent function unit.
(10):本発明の他の態様に係るプログラムは、コンピュータに、第1エージェント機能部、および、無線通信装置を用いたネットワーク接続への依存度が前記第1エージェント機能部よりも高い一以上の第2エージェント機能部のうちいずれかを起動させる処理と、前記起動したエージェント機能部の機能として、前記ネットワーク接続を少なくとも部分的に利用して、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する処理と、前記ネットワーク接続の切断が第1所定時間以上継続したことを認識し、或いは前記第1所定時間以上継続することを予測する処理と、前記第2エージェント機能部が起動しており、且つ前記ネットワーク接続の切断が前記第1所定時間以上継続することが認識或いは予測された場合、前記第2エージェント機能部から前記第1エージェント機能部に主導権を受け渡す処理と、を実行させるものである。 (10): The program according to another aspect of the present invention is one or more in which the computer is more dependent on the first agent function unit and the network connection using the wireless communication device than the first agent function unit. The process of activating any of the second agent function units of the above and the function of the activated agent function unit, at least partially utilizing the network connection, responds by voice in response to the utterance of the vehicle occupant. The process of providing the service including the above, the process of recognizing that the disconnection of the network connection has continued for the first predetermined time or longer, or the process of predicting that the disconnection of the network connection has continued for the first predetermined time or longer, and the second agent function unit When it is activated and it is recognized or predicted that the disconnection of the network connection will continue for the first predetermined time or more, the process of transferring the initiative from the second agent function unit to the first agent function unit. , Is executed.
(1)〜(10)の態様によれば、ネットワーク接続の切断時にもサービスを継続できる可能性を高めることができる。 According to the aspects (1) to (10), it is possible to increase the possibility that the service can be continued even when the network connection is disconnected.
以下、図面を参照し、本発明のエージェント装置、エージェント装置の制御方法、およびプログラムの実施形態について説明する。エージェント装置は、エージェントシステムの一部または全部を実現する装置である。以下では、エージェント装置の一例として、車両(以下、車両M)に搭載され、複数種類のエージェント機能を備えたエージェント装置について説明する。エージェント機能とは、例えば、無線通信装置を用いたネットワーク接続を少なくとも部分的に利用して、車両Mの乗員と対話をしながら、乗員の発話の中に含まれる要求(コマンド)に基づく各種の情報提供を行ったり、ネットワークサービスを仲介したりする機能である。複数種類のエージェントはそれぞれに果たす機能、処理手順、制御、出力態様・内容がそれぞれ異なってもよい。また、エージェント機能の中には、車両内の機器(例えば運転制御や車体制御に関わる機器)の制御等を行う機能を有するものがあってよい。 Hereinafter, the agent device of the present invention, the control method of the agent device, and the embodiment of the program will be described with reference to the drawings. An agent device is a device that realizes a part or all of an agent system. Hereinafter, as an example of the agent device, an agent device mounted on a vehicle (hereinafter referred to as a vehicle M) and having a plurality of types of agent functions will be described. The agent function is, for example, various types of requests (commands) based on the occupant's utterance while interacting with the occupant of the vehicle M by using at least a part of the network connection using a wireless communication device. It is a function that provides information and mediates network services. The functions, processing procedures, controls, output modes and contents of each of the plurality of types of agents may be different. In addition, some of the agent functions may have a function of controlling equipment in the vehicle (for example, equipment related to driving control and vehicle body control).
エージェント機能は、例えば、乗員の音声を認識する音声認識機能(音声をテキスト化する機能)に加え、自然言語処理機能(テキストの構造や意味を理解する機能)、対話管理機能、ネットワークを介して他装置を検索し、或いは自装置が保有する所定のデータベースを検索するネットワーク検索機能等を統合的に利用して実現される。これらの機能の一部または全部は、AI(Artificial Intelligence)技術によって実現されてよい。また、これらの機能を行うための構成の一部(特に、音声認識機能や自然言語処理解釈機能)は、車両Mの車載通信装置または車両Mに持ち込まれた汎用通信装置と通信可能なエージェントサーバ(外部装置)に搭載されてもよい。以下の説明では、構成の一部がエージェントサーバに搭載されており、エージェント装置とエージェントサーバが協働してエージェントシステムを実現することを前提とする。また、エージェント装置とエージェントサーバが協働して仮想的に出現させるサービス提供主体(サービス・エンティティ)をエージェントと称する。 Agent functions include, for example, a voice recognition function that recognizes the voice of an occupant (a function that converts voice into text), a natural language processing function (a function that understands the structure and meaning of text), a dialogue management function, and a network. It is realized by integratedly using a network search function or the like that searches for another device or a predetermined database owned by the own device. Some or all of these functions may be realized by AI (Artificial Intelligence) technology. In addition, a part of the configuration for performing these functions (particularly, the voice recognition function and the natural language processing interpretation function) is an agent server capable of communicating with the in-vehicle communication device of the vehicle M or the general-purpose communication device brought into the vehicle M. It may be mounted on (external device). In the following description, it is assumed that a part of the configuration is installed in the agent server, and the agent device and the agent server cooperate to realize the agent system. Further, a service provider (service entity) in which an agent device and an agent server cooperate to appear virtually is called an agent.
<全体構成>
図1は、エージェント装置100を含むエージェントシステム1の構成図である。エージェントシステム1は、例えば、エージェント装置100と、複数のエージェントサーバ200−1、200−2、200−3、…とを備える。符号の末尾のハイフン以下数字は、エージェントを区別するための識別子であるものとする。いずれのエージェントサーバであるかを区別しない場合、単にエージェントサーバ200と称する場合がある。図1では3つのエージェントサーバ200を示しているが、エージェントサーバ200の数は2つであってもよいし、4つ以上であってもよい。それぞれのエージェントサーバ200は、互いに異なるエージェントシステムの提供者が運営するものである。従って、本発明におけるエージェントは、互いに異なる提供者により実現されるエージェントである。提供者としては、例えば、自動車メーカー、ネットワークサービス事業者、電子商取引事業者、携帯端末の販売者や製造者などが挙げられ、任意の主体(法人、団体、個人等)がエージェントシステムの提供者となり得る。
<Overall configuration>
FIG. 1 is a configuration diagram of an
エージェント装置100は、ネットワークNWを介してエージェントサーバ200と通信する。ネットワークNWは、例えば、インターネット、セルラー網、Wi−Fi網、WAN(Wide Area Network)、LAN(Local Area Network)、公衆回線、電話回線、無線基地局などのうち一部または全部を含む。ネットワークNWには、各種ウェブサーバ300が接続されており、エージェントサーバ200またはエージェント装置100は、ネットワークNWを介して各種ウェブサーバ300からウェブページを取得することができる。
The
エージェント装置100は、車両Mの乗員と対話を行い、乗員からの音声をエージェントサーバ200に送信し、エージェントサーバ200から得られた回答を、音声出力や画像表示の形で乗員に提示する。
The
<第1実施形態>
[車両]
図2は、第1実施形態に係るエージェント装置100の構成と、車両Mに搭載された機器とを示す図である。車両Mには、例えば、一以上のマイク10と、表示・操作装置20と、スピーカユニット30と、ナビゲーション装置40と、車両機器50と、車載通信装置60と、エージェント装置100とが搭載される。また、スマートフォンなどの汎用通信装置70が車室内に持ち込まれ、通信装置として使用される場合がある。車載通信装置60および汎用通信装置70は、「無線通信装置」の一例である。これらの装置は、CAN(Controller Area Network)通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図2に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。
<First Embodiment>
[vehicle]
FIG. 2 is a diagram showing the configuration of the
マイク10は、車室内で発せられた音声を収集する収音部である。表示・操作装置20は、画像を表示すると共に、入力操作を受付可能な装置(或いは装置群)である。表示・操作装置20は、例えば、タッチパネルとして構成されたディスプレイ装置を含む。表示・操作装置20は、更に、HUD(Head Up Display)や機械式の入力装置を含んでもよい。スピーカユニット30は、例えば、車室内の互いに異なる位置に配設された複数のスピーカ(音出力部)を含む。表示・操作装置20は、エージェント装置100とナビゲーション装置40とで共用されてもよい。これらの詳細については後述する。
The
ナビゲーション装置40は、ナビHMI(Human machine Interface)と、GPS(Global Positioning System)などの位置測位装置と、地図情報を記憶した記憶装置と、経路探索などを行う制御装置(ナビゲーションコントローラ)とを備える。マイク10、表示・操作装置20、およびスピーカユニット30のうち一部または全部がナビHMIとして用いられてもよい。ナビゲーション装置40は、位置測位装置によって特定された車両Mの位置から、乗員によって入力された目的地まで移動するための経路(ナビ経路)を探索し、経路に沿って車両Mが走行できるように、ナビHMIを用いて案内情報を出力する。経路探索機能は、ネットワークNWを介してアクセス可能なナビゲーションサーバにあってもよい。この場合、ナビゲーション装置40は、ナビゲーションサーバから経路を取得して案内情報を出力する。なお、エージェント装置100は、ナビゲーションコントローラを基盤として構築されてもよく、その場合、ナビゲーションコントローラとエージェント装置100は、ハードウェア上は一体に構成される。
The
車両機器50は、例えば、エンジンや走行用モータなどの駆動力出力装置、エンジンの始動モータ、ドアロック装置、ドア開閉装置、窓、窓の開閉装置及び窓の開閉制御装置、シート、シート位置の制御装置、ルームミラー及びその角度位置制御装置、車両内外の照明装置及びその制御装置、ワイパーやデフォッガー及びそれぞれの制御装置、方向指示灯及びその制御装置、空調装置、走行距離やタイヤの空気圧の情報や燃料の残量情報などの車両情報装置などを含む。
The
車載通信装置60は、例えば、セルラー網やWi−Fi網を利用してネットワークNWにアクセス可能である。
The in-
図3は、表示・操作装置20の配置例を示す図である。表示・操作装置20は、例えば、第1ディスプレイ22と、第2ディスプレイ24と、操作スイッチASSY26とを含む。表示・操作装置20は、更に、HUD28を含んでもよい。
FIG. 3 is a diagram showing an arrangement example of the display /
車両Mには、例えば、ステアリングホイールSWが設けられた運転席DSと、運転席DSに対して車幅方向(図中Y方向)に設けられた助手席ASとが存在する。第1ディスプレイ22は、インストルメントパネルにおける運転席DSと助手席ASとの中間辺りから、助手席ASの左端部に対向する位置まで延在する横長形状のディスプレイ装置である。第2ディスプレイ24は、運転席DSと助手席ASとの車幅方向に関する中間あたり、且つ第1ディスプレイの下方に設置されている。例えば、第1ディスプレイ22と第2ディスプレイ24は、共にタッチパネルとして構成され、表示部としてLCD(Liquid Crystal Display)や有機EL(Electroluminescence)、プラズマディスプレイなどを備えるものである。操作スイッチASSY26は、ダイヤルスイッチやボタン式スイッチなどが集積されたものである。表示・操作装置20は、乗員によってなされた操作の内容をエージェント装置100に出力する。第1ディスプレイ22または第2ディスプレイ24が表示する内容は、エージェント装置100によって決定されてよい。
The vehicle M includes, for example, a driver's seat DS provided with a steering wheel SW and a passenger seat AS provided in the vehicle width direction (Y direction in the drawing) with respect to the driver's seat DS. The
[エージェント装置]
図2に戻り、エージェント装置100は、管理部110と、エージェント機能部150−1、150−2、150−3と、ペアリングアプリ実行部152とを備える。管理部110は、例えば、音響処理部112と、エージェントごとWU(Wake Up)判定部114と、表示制御部116と、音声制御部118と、ネットワーク監視部120と、エージェント起動部122とを備える。いずれのエージェント機能部であるか区別しない場合、単にエージェント機能部150と称する。3つのエージェント機能部150を示しているのは、図1におけるエージェントサーバ200の数に対応させた一例に過ぎず、エージェント機能部150の数は、2つであってもよいし、4つ以上であってもよい。図2に示すソフトウェア配置は説明のために簡易に示しており、実際には、例えば、エージェント機能部150と車載通信装置60の間に管理部110が介在してもよいように、任意に改変することができる。
[Agent device]
Returning to FIG. 2, the
エージェント装置100の各構成要素は、例えば、CPU(Central Processing Unit)などのハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。これらの構成要素のうち一部または全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)などのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めHDD(Hard Disk Drive)やフラッシュメモリなどの記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD−ROMなどの着脱可能な記憶媒体(非一過性の記憶媒体)に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。
Each component of the
管理部110は、OS(Operating System)やミドルウェアなどのプログラムが実行されることで機能する。
The
管理部110の音響処理部112は、エージェントごとに予め設定されているウエイクアップワードを認識するのに適した状態になるように、入力された音に対して音響処理を行う。
The
エージェントごとWU判定部114は、エージェント機能部150−1、150−2、150−3のそれぞれに対応して存在し、エージェントごとに予め定められているウエイクアップワードを認識する。エージェントごとWU判定部114は、音響処理が行われた音声(音声ストリーム)から音声の意味を認識する。まず、エージェントごとWU判定部114は、音声ストリームにおける音声波形の振幅と零交差に基づいて音声区間を検出する。エージェントごとWU判定部114は、混合ガウス分布モデル(GMM;Gaussian mixture model) に基づくフレーム単位の音声識別および非音声識別に基づく区間検出を行ってもよい。
The
次に、エージェントごとWU判定部114は、検出した音声区間における音声をテキスト化し、文字情報とする。そして、エージェントごとWU判定部114は、テキスト化した文字情報がウエイクアップワードに該当するか否かを判定する。ウエイクアップワードであると判定した場合、エージェントごとWU判定部114は、対応するエージェント機能部150への起動指示があったことをエージェント起動部122に通知する。なお、エージェントごとWU判定部114に相当する機能がエージェントサーバ200に搭載されてもよい。この場合、管理部110は、音響処理部112によって音響処理が行われた音声ストリームをエージェントサーバ200に送信し、エージェントサーバ200がウエイクアップワードであると判定した場合、エージェントサーバ200からの指示に従ってエージェント機能部150が起動する。なお、各エージェント機能部150は、常時起動しており且つウエイクアップワードの判定を自ら行うものであってよい。この場合、管理部110がエージェントごとWU判定部114を備える必要はない。
Next, the
エージェント機能部150は、対応するエージェントサーバ200と協働してエージェントを出現させ、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する。エージェント機能部150には、車両機器50を制御する権限が付与されたものが含まれてよい。また、エージェント機能部150には、ペアリングアプリ実行部152を介して汎用通信装置70と連携し、エージェントサーバ200と通信するものがあってよい。例えば、エージェント機能部150−1には、車両機器50を制御する権限が付与されている。エージェント機能部150−1は、車載通信装置60を介してエージェントサーバ200−1と通信する。エージェント機能部150−2は、車載通信装置60を介してエージェントサーバ200−2と通信する。エージェント機能部150−3は、ペアリングアプリ実行部152を介して汎用通信装置70と連携し、エージェントサーバ200−3と通信する。ペアリングアプリ実行部152は、例えば、Bluetooth(登録商標)によって汎用通信装置70とペアリングを行い、エージェント機能部150−3と汎用通信装置70とを接続させる。なお、エージェント機能部150−3は、USB(Universal Serial Bus)などを利用した有線通信によって汎用通信装置70に接続されるようにしてもよい。また、エージェント機能部150は、第1エージェント機能部と、ネットワーク接続への依存度が第1エージェント機能部よりも高い一以上の第2エージェント機能部と、を含む。例えば、第1エージェント機能部は、ネットワーク接続を前提としないエージェント機能部150であり、第2エージェント機能部は、ネットワーク接続を前提とするエージェント機能部150である。例えば、車両Mが利用するネットワーク環境が悪化した場合、第1エージェント機能部は、本来の動作よりも簡易な動作態様ではあるが、ある程度の動作が継続できるのに対し、第2エージェント機能部は動作が継続できなくなる。ある程度の動作とは、例えば、車両Mに保持しているデータを用いて応答可能な動作である。本実施形態では、例えば、エージェント機能部150−1が「第1エージェント機能部」の一例であり、エージェント機能部150−2およびエージェント機能部150−3が「第2エージェント機能部」の一例である。なお、以下の説明では、エージェント機能部150−1を第1エージェント機能部150−1と表記し、第2エージェント機能部を代表して、エージェント機能部150−2を第2エージェント機能部150−2と表記する場合がある。
The
表示制御部116は、エージェント機能部150からの指示に応じて第1ディスプレイ22または第2ディスプレイ24に画像を表示させる。以下では、第1ディスプレイ22を使用するものとする。表示制御部116は、一部のエージェント機能部150の制御により、例えば、車室内で乗員とのコミュニケーションを行う擬人化されたエージェントの画像(以下、エージェント画像と称する)を生成し、生成したエージェント画像を第1ディスプレイ22に表示させる。エージェント画像は、例えば、乗員に対して話しかける態様の画像である。エージェント画像は、例えば、少なくとも観者(乗員)によって表情や顔向きが認識される程度の顔画像を含んでよい。例えば、エージェント画像は、顔領域の中に目や鼻に擬したパーツが表されており、顔領域の中のパーツの位置に基づいて表情や顔向きが認識されるものであってよい。また、エージェント画像は、立体的に感じられ、観者によって三次元空間における頭部画像を含むことでエージェントの顔向きが認識されたり、本体(胴体や手足)の画像を含むことで、エージェントの動作や振る舞い、姿勢等が認識されるものであってもよい。また、エージェント画像は、アニメーション画像であってもよい。
The
音声制御部118は、エージェント機能部150からの指示に応じてスピーカユニット30に含まれるスピーカのうち一部または全部に音声を出力させる。音声制御部118は、複数のスピーカユニット30を用いて、エージェント画像の表示位置に対応する位置にエージェント音声の音像を定位させる制御を行ってもよい。エージェント画像の表示位置に対応する位置とは、例えば、エージェント画像がエージェント音声を喋っていると乗員が感じると予測される位置であり、具体的には、エージェント画像の表示位置付近(例えば、2〜3[cm]以内)の位置である。また、音像が定位するとは、例えば、乗員の左右の耳に伝達される音の大きさを調節することにより、乗員が感じる音源の空間的な位置を定めることである。
The
ネットワーク監視部120は、車両Mが利用するネットワーク環境を監視する。ネットワーク監視部120は、例えば、車両Mが利用するネットワーク環境が悪化した場合、車載通信装置60および汎用通信装置70を介して入力される信号に基づき、ネットワーク接続の切断を認識する。
The
エージェント起動部122は、複数のエージェント機能部150−1、150−2、150−3のそれぞれの起動を制御する。エージェント起動部122は、例えば、複数のエージェント機能部150−1,150−2,150−3のいずれかに主導権を設定する。主導権は、例えば、複数のエージェント機能部150−1、150−2、150−3のそれぞれに割り当てられるフラグ情報である。エージェント起動部122は、エージェント機能部150に主導権を設定した場合、それ以外のエージェント機能部150を待機状態に遷移させる。エージェント起動部122は、エージェントごとWU判定部114から通知があった場合、および、第1所定時間以上のネットワーク接続の切断が認識された場合、該当するエージェント機能部150に主導権を設定して起動する。第1所定時間以上のネットワーク接続の切断は、例えば、ネットワーク監視部120からエージェント起動部122に入力される車両Mが利用するネットワーク環境に基づいて認識される。
The
エージェント起動部122は、所定条件を満たした場合、第2エージェント機能部150−2から第1エージェント機能部150−1に主導権が受け渡されるように第1エージェント機能部150−1および第2エージェント機能部150−2を制御する。所定条件は、第2エージェント機能部150−2が起動しており、且つネットワーク接続の切断が第1所定時間以上継続することがネットワーク監視部120により認識されたことを含む。第1所定時間は、例えば、数[sec]〜数[min]程度の時間である。この場合、エージェント起動部122は、第2エージェント機能部150−2を起動状態から待機状態に遷移させる。また、エージェント起動部122は、第1エージェント機能部150−1を起動する。第1エージェント機能部150−1は、ネットワーク接続の切断が認識されている間、車両Mに保存されているコンテンツを再生してもよい。なお、コンテンツの再生は、一例として、音楽の再生や動画の再生などを含む。また、ネットワーク接続の切断が認識された場合、第2エージェント機能部150−2が第1エージェント機能部150−1に対して指令を出力してもよい。指令は、車両の乗員からの要求に応じて実行するタスクを表すデータである。指令は、一例として、第2エージェント機能部150−2がマイク10から管理部110を介して取得した音声のデータでもよいし、音声の入力に基づいて実行される音声コマンドの種別を示すデータでもよい。なお、指令の出力とは便宜的な表現であり、メモリの共有領域にデータを書き込むことなどを意味してもよい。第1エージェント機能部150−1は、ネットワーク接続の切断が認識されている間、第2エージェント機能部150−2から取得した指令を実行してもよい。
When the predetermined condition is satisfied, the
エージェント起動部122は、ネットワーク接続が回復した場合において、第2エージェント機能部150−2から第1エージェント機能部150−1に主導権が受け渡されてから第2所定時間以内にネットワーク接続が回復した場合、ネットワーク接続が切断される直前に起動していた第2エージェント機能部150−2が起動する。第2所定時間は、例えば、数[sec]〜数[min]程度の時間である。この場合、エージェント起動部122は、ネットワーク接続が切断されている間に起動していた第1エージェント機能部150−1を起動状態から待機状態に遷移させる。
When the network connection is restored, the
[エージェントサーバ]
図4は、エージェントサーバ200の構成と、エージェント装置100の構成の一部とを示す図である。以下、エージェントサーバ200の構成と共にエージェント機能部150等の動作について説明する。ここでは、エージェント装置100からネットワークNWまでの物理的な通信についての説明を省略する。
[Agent server]
FIG. 4 is a diagram showing a configuration of the
エージェントサーバ200は、通信部210を備える。通信部210は、例えばNIC(Network Interface Card)などのネットワークインターフェースである。更に、エージェントサーバ200は、例えば、音声認識部220と、自然言語処理部222と、対話管理部224と、ネットワーク検索部226と、応答文生成部228とを備える。これらの構成要素は、例えば、CPUなどのハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。これらの構成要素のうち一部または全部は、LSIやASIC、FPGA、GPUなどのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めHDDやフラッシュメモリなどの記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD−ROMなどの着脱可能な記憶媒体(非一過性の記憶媒体)に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。
The
エージェントサーバ200は、記憶部250を備える。記憶部250は、上記の各種記憶装置により実現される。記憶部250には、パーソナルプロファイル252、辞書DB(データベース)254、知識ベースDB256、応答規則DB258などのデータやプログラムが格納される。
The
エージェント装置100において、エージェント機能部150は、音声ストリーム、或いは圧縮や符号化などの処理を行った音声ストリームを、エージェントサーバ200に送信する。エージェント機能部150は、ローカル処理(エージェントサーバ200を介さない処理)が可能な音声コマンドを認識した場合は、音声コマンドで要求された処理を行ってよい。ローカル処理が可能な音声コマンドとは、エージェント装置100が備える記憶部(不図示)を参照することで回答可能な音声コマンドであったり、エージェント機能部150−1の場合は車両機器50を制御する音声コマンド(例えば、空調装置をオンにするコマンドなど)であったりする。従って、エージェント機能部150は、エージェントサーバ200が備える機能の一部を有してもよい。
In the
音声ストリームを取得すると、音声認識部220が音声認識を行ってテキスト化された文字情報を出力し、自然言語処理部222が文字情報に対して辞書DB254を参照しながら意味解釈を行う。辞書DB254は、文字情報に対して抽象化された意味情報が対応付けられたものである。辞書DB254は、同義語や類義語の一覧情報を含んでもよい。音声認識部220の処理と、自然言語処理部222の処理は、段階が明確に分かれるものではなく、自然言語処理部222の処理結果を受けて音声認識部220が認識結果を修正するなど、相互に影響し合って行われてよい。
When the voice stream is acquired, the
自然言語処理部222は、例えば、認識結果として、「今日の天気は」、「天気はどうですか」等の意味が認識された場合、標準文字情報「今日の天気」に置き換えたコマンドを生成する。これにより、リクエストの音声に文字揺らぎがあった場合にも要求にあった対話をし易くすることができる。また、自然言語処理部222は、例えば、確率を利用した機械学習処理等の人工知能処理を用いて文字情報の意味を認識したり、認識結果に基づくコマンドを生成してもよい。
For example, when the natural
対話管理部224は、自然言語処理部222の処理結果(コマンド)に基づいて、パーソナルプロファイル252や知識ベースDB256、応答規則DB258を参照しながら車両Mの乗員に対する発話の内容を決定する。パーソナルプロファイル252は、乗員ごとに保存されている乗員の個人情報、趣味嗜好、過去の対話の履歴などを含む。知識ベースDB256は、物事の関係性を規定した情報である。応答規則DB258は、コマンドに対してエージェントが行うべき動作(回答や機器制御の内容など)を規定した情報である。
The
また、対話管理部224は、音声ストリームから得られる特徴情報を用いて、パーソナルプロファイル252と照合を行うことで、乗員を特定してもよい。この場合、パーソナルプロファイル252には、例えば、音声の特徴情報に、個人情報が対応付けられている。音声の特徴情報とは、例えば、声の高さ、イントネーション、リズム(音の高低のパターン)等の喋り方の特徴や、メル周波数ケプストラム係数(Mel Frequency Cepstrum Coefficients)等による特徴量に関する情報である。音声の特徴情報は、例えば、乗員の初期登録時に所定の単語や文章等を乗員に発声させ、発声させた音声を認識することで得られる情報である。
Further, the
対話管理部224は、コマンドが、ネットワークNWを介して検索可能な情報を要求するものである場合、ネットワーク検索部226に検索を行わせる。ネットワーク検索部226は、ネットワークNWを介して各種ウェブサーバ300にアクセスし、所望の情報を取得する。「ネットワークNWを介して検索可能な情報」とは、例えば、車両Mの周辺にあるレストランの一般ユーザによる評価結果であったり、その日の車両Mの位置に応じた天気予報であったりする。
The
応答文生成部228は、対話管理部224により決定された発話の内容が車両Mの乗員に伝わるように、応答文を生成し、エージェント装置100に送信する。応答文生成部228は、乗員がパーソナルプロファイルに登録された乗員であることが特定されている場合に、乗員の名前を呼んだり、乗員の話し方に似せた話し方にした応答文を生成してもよい。
The response
エージェント機能部150は、応答文を取得すると、音声合成を行って音声を出力するように音声制御部118に指示する。また、エージェント機能部150は、音声出力に合わせてエージェントの画像を表示するように表示制御部116に指示する。このようにして、仮想的に出現したエージェントが車両Mの乗員に応答するエージェント機能が実現される。
When the
[エージェント装置の処理フロー]
以下、第1実施形態に係るエージェント装置100の一連の処理の流れについて説明する。図5は、第1実施形態に係るエージェント装置100の一連の処理の流れを説明するための図である。
[Processing flow of agent device]
Hereinafter, a series of processing flows of the
まず、(1)管理部110は、第1所定時間以上のネットワーク接続の切断を認識した場合、(2)第2エージェント機能部150−2から第1エージェント機能部150−1への主導権の受け渡しの処理を開始する。(3)次に、管理部110は、第2エージェント機能部150−2に対して主導権の設定解除を通知する。(4)そして、管理部110は、第2エージェント機能部150−2に対して起動状態から待機状態への遷移を指示する。(5)また、管理部110は、第1エージェント機能部150−1に対して主導権の設定を通知する。(6)そして、管理部110は、第1エージェント機能部150−1に対して起動を指示する。
First, when (1) the
(7)その後、管理部110は、ネットワーク接続の回復を検知した場合、(8)第1エージェント機能部150−1から第2エージェント機能部150−2への主導権の受け渡しの処理を開始する。(9)次に、管理部110は、第1エージェント機能部150−1に対して主導権の設定解除を通知する。(10)そして、管理部110は、第1エージェント機能部150−1に対して起動状態から待機状態への遷移を指示する。(11)また、管理部110は、第2エージェント機能部150−2に対して主導権の設定を通知する。(12)そして、管理部110は、第2エージェント機能部150−2に対して起動を指示する。
(7) After that, when the
次に、第1実施形態に係るエージェント装置100の一連の処理の流れについてフローチャートを用いて説明する。図6は、第1実施形態に係るエージェント装置100の一連の処理の流れを示すフローチャートである。本フローチャートの処理は、例えば、第2エージェント機能部150−2の起動と共に開始される。
Next, a series of processing flows of the
まず、ネットワーク監視部120は、第2エージェント機能部150−2の起動中に第1所定時間以上のネットワーク接続の切断を認識したか否かを判定する(ステップS100)。エージェント起動部122は、ネットワーク監視部120により第1所定時間以上のネットワーク接続の切断を認識したと判定された場合、第2エージェント機能部150−2から第1エージェント機能部150−1に主導権を受け渡す(ステップS102)。この場合、エージェント起動部122は、タイマーの計時を開始する(ステップS104)。
First, the
次に、エージェント起動部122は、第2エージェント機能部150−2を起動状態から待機状態に遷移させる(ステップS106)。また、エージェント起動部122は、第1エージェント機能部150−1を起動させる(ステップS108)。そして、第1エージェント機能部150−1は、車両Mに保存されているコンテンツを再生する(ステップS110)。
Next, the
次に、ネットワーク監視部120は、ネットワーク接続が回復したか否かを判定する(ステップS112)。エージェント起動部122は、ネットワーク監視部120によりネットワーク接続が回復していないと判定された場合、タイマーのカウントに基づき、第2エージェント機能部150−2から第1エージェント機能部150−1に主導権を受け渡してから第2所定時間が経過したか否かを判定する(ステップS114)。エージェント起動部122は、第2所定時間が経過していないと判定した場合、その処理をステップS110に戻す。一方、エージェント起動部122は、第2所定時間が経過したと判定した場合、第2エージェント機能部150−2への主導権の受け渡しを諦め、本フローチャートの処理が終了する。
Next, the
一方、エージェント起動部122は、ネットワーク監視部120によりネットワーク接続が回復したと判定された場合、第1エージェント機能部150−1から第2エージェント機能部150−2に主導権を受け渡す(ステップS116)。そして、エージェント起動部122は、第1エージェント機能部150−1を起動状態から待機状態に遷移させる(ステップS118)。また、エージェント起動部122は、第2エージェント機能部150−2を起動させる(ステップS120)。これによって、本フローチャートの処理が終了する。
On the other hand, when the
以下、第1実施形態の他の態様に係るエージェント装置100の一連の処理の流れについて説明する。図7は、第1実施形態の他の態様に係るエージェント装置100の一連の処理の流れを説明するための図である。
Hereinafter, a series of processing flows of the
(1)まず、管理部110は、第1所定時間以上のネットワーク接続の切断を認識した場合、(2)第2エージェント機能部150−2から第1エージェント機能部150−1への主導権の受け渡しの処理を開始する。(3)次に、管理部110は、第2エージェント機能部150−2に対し、車両Mの乗員からの要求に応じて実行するタスクを示す指令の送信を要求する。(4)そして、第2エージェント機能部150−2は、管理部110からの要求に応じて管理部110に対して指令を出力する。(5)次に、管理部110は、第2エージェント機能部150−2から取得した指令を第1エージェント機能部150−1に対して出力する。
(1) First, when the
(6)次に、管理部110は、第2エージェント機能部150−2に対して主導権の設定解除を通知する。(7)そして、管理部110は、第2エージェント機能部150−2に対して起動状態から待機状態への遷移を指示する。(8)また、管理部110は、第1エージェント機能部150−1に対して主導権の設定を通知する。(9)そして、管理部110は、第1エージェント機能部150−1に対して起動を指示する。
(6) Next, the
(10)その後、管理部110は、ネットワーク接続の回復を検知した場合、(11)第1エージェント機能部150−1から第2エージェント機能部150−2への主導権の受け渡しの処理を開始する。(12)次に、管理部110は、第1エージェント機能部150−1に対して主導権の設定解除を通知する。(13)そして、管理部110は、第1エージェント機能部150−1に対して起動状態から待機状態への遷移を指示する。(14)また、管理部110は、第2エージェント機能部150−2に対して主導権の設定を通知する。(15)そして、管理部110は、第2エージェント機能部150−2に対して起動を指示する。
(10) After that, when the
次に、第1実施形態の他の態様に係るエージェント装置100の一連の処理の流れについてフローチャートを用いて説明する。図8は、第1実施形態の他の態様に係るエージェント装置100の一連の処理の流れを示すフローチャートである。本フローチャートの処理は、例えば、第2エージェント機能部150−2の起動と共に開始される。
Next, a series of processing flows of the
まず、ネットワーク監視部120は、第2エージェント機能部150−2の起動中に第1所定時間以上のネットワーク接続の切断を認識したか否かを判定する(ステップS200)。エージェント起動部122は、ネットワーク監視部120により第1所定時間以上のネットワーク接続の切断を認識したと判定された場合、第2エージェント機能部150−2から第1エージェント機能部150−1に指令を出力する(ステップS202)。
First, the
次に、エージェント起動部122は、第2エージェント機能部150−2から第1エージェント機能部150−1に主導権を受け渡す(ステップS204)。この場合、エージェント起動部122は、タイマーの計時を開始する(ステップS206)。
Next, the
次に、エージェント起動部122は、第2エージェント機能部150−2を起動状態から待機状態に遷移させる(ステップS208)。また、エージェント起動部122は、第1エージェント機能部150−1を起動させる(ステップS210)。そして、第1エージェント機能部150−1は、第2エージェント機能部150−2から取得した指令を実行する(ステップS212)。
Next, the
次に、ネットワーク監視部120は、ネットワーク接続が回復したか否かを判定する(ステップS214)。エージェント起動部122は、ネットワーク監視部120によりネットワーク接続が回復していないと判定された場合、タイマーのカウントに基づき、第2エージェント機能部150−2から第1エージェント機能部150−1に主導権を受け渡してから第2所定時間が経過したか否かを判定する(ステップS216)。エージェント起動部122は、第2所定時間が経過していないと判定した場合、その処理をステップS212に戻す。一方、エージェント起動部122は、第2所定時間が経過したと判定した場合、第2エージェント機能部150−2への主導権の受け渡しを諦め、本フローチャートの処理が終了する。
Next, the
一方、エージェント起動部122は、ネットワーク監視部120によりネットワーク接続が回復したと判定された場合、第1エージェント機能部150−1から第2エージェント機能部150−2に主導権を受け渡す(ステップS218)。そして、エージェント起動部122は、第1エージェント機能部150−1を起動状態から待機状態に遷移させる(ステップS220)。また、エージェント起動部122は、第2エージェント機能部150−2を起動させる(ステップS222)。これによって、本フローチャートの処理が終了する。
On the other hand, when the
図9は、第1実施形態に係るエージェント装置100の動作を説明するための図である。エージェント装置100は、時刻t1においてネットワーク接続の切断を認識してから時刻t2において第1所定時間が経過したと認識した場合、第2エージェント機能部150−2から第1エージェント機能部150−1に主導権を受け渡す。この場合、エージェント装置100は、第2エージェント機能部150−2を起動状態から待機状態に遷移させる。また、エージェント装置100は、第1エージェント機能部150−1を起動させる。そして、エージェント装置100は、第1エージェント機能部150−1を通じてネットワーク接続への依存度が低いエージェント機能を作動させる。
FIG. 9 is a diagram for explaining the operation of the
その後、エージェント装置100は、時刻t2から第2所定時間以内に、時刻t3においてネットワーク接続の回復を検知した場合、第1エージェント機能部150−1から第2エージェント機能部150−2に主導権を受け渡す。この場合、エージェント装置100は、第1エージェント機能部150−1を起動状態から待機状態に遷移させる。また、エージェント装置100は、第2エージェント機能部150−2を起動させる。そして、エージェント装置100は、第2エージェント機能部150−2を通じてネットワーク接続への依存度が高いエージェント機能を作動させる。エージェント装置100は、時刻t2から第2所定時間以内にネットワーク接続の回復が検知できない場合、ネットワーク接続への依存度が低い第1エージェント機能部150−1の起動を継続し、ネットワーク接続への依存度が高い第2エージェント機能部150−2への主導権の受け渡しを諦める。
After that, when the
<第2実施形態>
以下、第2実施形態について説明する。第2実施形態は、第1実施形態と比較すると、第1所定時間以上のネットワーク接続の切断を予測する点で処理が異なる。以下、この相違点を中心に説明する。なお、第2実施形態に係るネットワーク監視部について、改めて構成を図示しないが、ネットワーク監視部120Aと表記する。
<Second Embodiment>
Hereinafter, the second embodiment will be described. The second embodiment is different from the first embodiment in that it predicts the disconnection of the network connection for the first predetermined time or longer. Hereinafter, this difference will be mainly described. Although the configuration of the network monitoring unit according to the second embodiment is not shown again, it is referred to as a network monitoring unit 120A.
ネットワーク監視部120Aは、車両Mの走行状況に基づき、第1所定時間以上のネットワーク接続の切断を予測する。車両Mの走行状況は、一例として、ナビゲーション装置40を通じて設定された車両Mの走行経路と、ナビゲーション装置40の地図データを参照して取得される。この場合、ネットワーク監視部120Aは、車両Mの走行経路に所定地点が含まれる場合、第1所定時間以上のネットワーク接続の切断が発生すると予測してもよい。なお、所定地点は、例えば、トンネル、地下駐車場、国境などの車両Mが利用するネットワーク環境の維持が困難である地点のうち少なくとも一部を含む。
The network monitoring unit 120A predicts the disconnection of the network connection for the first predetermined time or more based on the traveling condition of the vehicle M. As an example, the traveling state of the vehicle M is acquired by referring to the traveling route of the vehicle M set through the
以下、第2実施形態に係るエージェント装置100の一連の処理の流れについて説明する。図10は、第2実施形態に係るエージェント装置100の一連の処理の流れを説明するための図である。
Hereinafter, a series of processing flows of the
(1)まず、管理部110は、第1所定時間以上のネットワーク接続の切断を予測する。(2)そして、管理部110は、第1所定時間のネットワーク接続の切断を予測した場合、第2エージェント機能部150−2から第1エージェント機能部150−1への主導権の受け渡しの処理を開始する。(3)次に、管理部110は、第2エージェント機能部150−2に対して主導権の設定解除を通知する。(4)そして、管理部110は、第2エージェント機能部150−2に対して起動状態から待機状態への遷移を指示する。(5)また、管理部110は、第1エージェント機能部150−1に対して主導権の設定を通知する。(6)そして、管理部110は、第1エージェント機能部150−1に対して起動を指示する。
(1) First, the
(7)その後、管理部110は、ネットワーク接続の回復を検知した場合、(8)第1エージェント機能部150−1から第2エージェント機能部150−2への主導権の受け渡しの処理を開始する。(9)次に、管理部110は、第1エージェント機能部150−1に対して主導権の設定解除を通知する。(10)そして、管理部110は、第1エージェント機能部150−1に対して起動状態から待機状態への遷移を指示する。(11)また、管理部110は、第2エージェント機能部150−2に対して主導権の設定を通知する。(12)そして、管理部110は、第2エージェント機能部150−2に対して起動を指示する。
(7) After that, when the
次に、第2実施形態に係るエージェント装置100の一連の処理の流れについてフローチャートを用いて説明する。図11は、第2実施形態に係るエージェント装置100の一連の処理の流れを示すフローチャートである。本フローチャートの処理は、例えば、第2エージェント機能部150−2の起動と共に開始される。
Next, a series of processing flows of the
まず、ネットワーク監視部120Aは、第2エージェント機能部150−2の起動中に第1所定時間以上のネットワーク接続の切断を予測したか否かを判定する(ステップS300)。エージェント起動部122は、ネットワーク監視部120Aにより第1所定時間以上のネットワーク接続の切断を予測したと判定された場合、第2エージェント機能部150−2から第1エージェント機能部150−1に主導権を受け渡す(ステップS302)。この場合、エージェント起動部122は、タイマーの計時を開始する(ステップS304)。
First, the network monitoring unit 120A determines whether or not the disconnection of the network connection for the first predetermined time or more is predicted during the activation of the second agent function unit 150-2 (step S300). When it is determined by the network monitoring unit 120A that the network monitoring unit 120A predicts the disconnection of the network connection for the first predetermined time or longer, the
次に、エージェント起動部122は、第2エージェント機能部150−2を起動状態から待機状態に遷移させる(ステップS306)。また、エージェント起動部122は、第1エージェント機能部150−1を起動させる(ステップS308)。そして、第1エージェント機能部150−1は、車両Mに保存されているコンテンツを再生する(ステップS310)。
Next, the
次に、ネットワーク監視部120Aは、ネットワーク接続が回復したか否かを判定する(ステップS312)。エージェント起動部122は、ネットワーク監視部120Aによりネットワーク接続が回復していないと判定された場合、タイマーのカウントに基づき、第2エージェント機能部150−2から第1エージェント機能部150−1に主導権を受け渡してから第2所定時間が経過したか否かを判定する(ステップS314)。エージェント起動部122は、第2所定時間が経過していないと判定した場合、その処理をステップS310に戻す。一方、エージェント起動部122は、第2所定時間が経過したと判定した場合、本フローチャートの処理が終了する。
Next, the network monitoring unit 120A determines whether or not the network connection has been restored (step S312). When the network monitoring unit 120A determines that the network connection has not been restored, the
一方、エージェント起動部122は、ネットワーク監視部120Aによりネットワーク接続が回復したと判定された場合、第1エージェント機能部150−1から第2エージェント機能部150−2に主導権を受け渡す(ステップS316)。そして、エージェント起動部122は、第1エージェント機能部150−1を起動状態から待機状態に遷移させる(ステップS318)。また、エージェント起動部122は、第2エージェント機能部150−2を起動させる(ステップS320)。これによって、本フローチャートの処理が終了する。
On the other hand, when the network monitoring unit 120A determines that the network connection has been restored, the
図12は、第2実施形態に係るエージェント装置100の動作を説明するための図である。エージェント装置100は、時刻t11において第1所定時間以上のネットワーク接続の切断を予測する。より詳細には、エージェント装置100は、一例として、ナビゲーション装置40を通じて設定された車両Mの走行経路と、ナビゲーション装置40の地図データを参照して、時刻t12において車両Mが所定地点に到達すると予測する。所定地点は、例えば、トンネル、地下駐車場、国境などである。また、エージェント装置100は、例えば、車両Mの走行状況を考慮して、時刻t12から第1所定時間が経過した時点で、車両Mが所定地点の通過を完了していないと予測する。
FIG. 12 is a diagram for explaining the operation of the
この場合、エージェント装置100は、時刻t11において第2エージェント機能部150−2から第1エージェント機能部150−1に主導権を受け渡す。そして、エージェント装置100は、第2エージェント機能部150−2を起動状態から待機状態に遷移させる。また、エージェント装置100は、第1エージェント機能部150−1を起動させる。そして、エージェント装置100は、第1エージェント機能部150−1を通じてネットワーク接続への依存度が低いエージェント機能を作動させる。
In this case, the
その後、エージェント装置100は、時刻t11から第2所定時間以内に、時刻t13においてネットワーク接続の回復を検知した場合、第1エージェント機能部150−1から第2エージェント機能部150−2に主導権を受け渡す。この場合、エージェント装置100は、第1エージェント機能部150−1を起動状態から待機状態に遷移させる。また、エージェント装置100は、第2エージェント機能部150−2を起動させる。そして、エージェント装置100は、第2エージェント機能部150−2を通じてネットワーク接続への依存度が高いエージェント機能を作動させる。
After that, when the
上記説明した実施形態に係るエージェント装置100によれば、ネットワーク接続の切断時にもサービスを継続できる可能性を高めることができる。例えば、ネットワーク接続への依存度が高い第2エージェント機能部150−2の起動中に、ネットワーク接続が切断された場合、第2エージェント機能部150−2により提供されるサービスが中断することがある。これに対し、実施形態に係るエージェント装置100では、第1所定時間以上のネットワーク接続の切断が認識或いは予測される場合、ネットワーク接続への依存度が低い第1エージェント機能部150−1に主導権を受け渡す。そのため、ネットワーク接続の切断時にも、第1エージェント機能部150−1が提供するサービスを継続できる可能性を高めることができる。
According to the
また、エージェント装置100によれば、更に、エージェント機能部150により提供されるサービスが切り替わる頻度を抑えることができる。例えば、ネットワーク接続が切断されるごとにエージェント機能部150により提供されるサービスが切り替わる場合、車両Mが利用するネットワーク環境の変化に応じて、提供されるサービスが頻繁に切り替わることがある。これに対し、実施形態に係るエージェント装置100では、第1所定時間以上のネットワーク接続の切断が認識或いは予測されたことを条件に、エージェント機能部150の間で主導権の受け渡しが行われる。そのため、エージェント機能部150により提供されるサービスが切り替わる頻度を抑えることができる。また、第2実施形態に係るエージェント装置100によれば、更に、ネットワーク接続の切断時にエージェント機能部150により提供されるサービスを継続できる可能性をより一層高めることができる。例えば、ネットワーク接続の切断から第1所定時間以上が経過したことを条件に第2エージェント機能部150−2から第1エージェント機能部150−1に主導権の受け渡しが行われることを想定する。この場合、ネットワーク接続の切断中に、ネットワーク接続への依存度が高い第2エージェント機能部150−2が起動しており、第2エージェント機能部150−2により提供されるサービスの作動が不安定になることがある。これに対し、第2実施形態に係るエージェント装置100では、ネットワーク接続が切断される前の時点であっても、第1所定時間以上のネットワーク接続の切断が予測されたことを条件に、エージェント機能部150の間で主導権の受け渡しが行われる。そのため、エージェント機能部150により提供されるサービスが継続できる可能性をより一層高めることができる。
Further, according to the
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。 Although the embodiments for carrying out the present invention have been described above using the embodiments, the present invention is not limited to these embodiments, and various modifications and substitutions are made without departing from the gist of the present invention. Can be added.
10 マイク
20 表示・操作装置
30 スピーカユニット
40 ナビゲーション装置
50 車両機器
60 車載通信装置
70 汎用通信装置
100 エージェント装置
110 管理部
112 音響処理部
114 エージェントごとWU判定部
116 表示制御部
118 音声制御部
120 ネットワーク監視部
122 エージェント起動部
150 エージェント機能部
152 ペアリングアプリ実行部
200 エージェントサーバ
10
Claims (10)
前記複数のエージェント機能部は、
第1エージェント機能部と、
前記ネットワーク接続への依存度が前記第1エージェント機能部よりも高い一以上の第2エージェント機能部と、
を含み、
前記ネットワーク接続の切断が第1所定時間以上継続したことを認識し、或いは前記第1所定時間以上継続することを予測するネットワーク監視部をさらに備え、
前記第2エージェント機能部が起動しており、且つ前記ネットワーク接続の切断が前記第1所定時間以上継続することが前記ネットワーク監視部により認識或いは予測された場合、前記第2エージェント機能部から前記第1エージェント機能部に主導権が受け渡される、
エージェント装置。 It is equipped with multiple agent function units that provide services including voice responses in response to vehicle occupants' utterances, at least partially using network connections using wireless communication devices.
The plurality of agent function units
1st agent function part and
One or more second agent function units that are more dependent on the network connection than the first agent function unit,
Including
Further provided with a network monitoring unit that recognizes that the disconnection of the network connection has continued for the first predetermined time or longer, or predicts that the disconnection of the network connection will continue for the first predetermined time or longer.
When the second agent function unit is activated and the network monitoring unit recognizes or predicts that the disconnection of the network connection will continue for the first predetermined time or longer, the second agent function unit will perform the first. 1 The initiative is handed over to the agent function department,
Agent device.
前記エージェント起動部は、前記第2エージェント機能部が起動しており、且つ前記ネットワーク接続の切断が前記第1所定時間以上継続することが前記ネットワーク監視部により認識或いは予測された場合、前記第2エージェント機能部から前記第1エージェント機能部に主導権が受け渡されるように前記第1エージェント機能部および前記第2エージェント機能部を制御する、
請求項1記載のエージェント装置。 An agent activation unit that controls the activation of each of the plurality of agent function units is further provided.
When the second agent function unit is activated and the network monitoring unit recognizes or predicts that the disconnection of the network connection will continue for the first predetermined time or longer, the agent activation unit will receive the second agent activation unit. The first agent function unit and the second agent function unit are controlled so that the initiative is passed from the agent function unit to the first agent function unit.
The agent device according to claim 1.
請求項2記載のエージェント装置。 When the network monitoring unit recognizes or predicts that the disconnection of the network connection will continue for the first predetermined time or longer during the activation of the second agent function unit, the agent activation unit will use the second agent function unit. Transition from the startup state to the standby state,
The agent device according to claim 2.
請求項1から3のうちいずれか1項記載のエージェント装置。 The network monitoring unit predicts that the disconnection of the network connection will continue for the first predetermined time or longer when the vehicle crosses a predetermined point including at least a part of a tunnel, an underground parking lot, and a border.
The agent device according to any one of claims 1 to 3.
請求項1から4のうちいずれか1項記載のエージェント装置。 When the network monitoring unit recognizes or predicts that the disconnection of the network connection will continue for the first predetermined time or longer, the first agent function unit to which the initiative is transferred from the second agent function unit will receive the initiative. Play the content stored in the vehicle,
The agent device according to any one of claims 1 to 4.
請求項5記載のエージェント装置。 When the network monitoring unit recognizes or predicts that the disconnection of the network connection will continue for the first predetermined time or longer, the second agent function unit will contact the first agent function unit from the occupant of the vehicle. Outputs a command indicating the task to be executed in response to the request of
The agent device according to claim 5.
請求項6記載のエージェント装置。 When the first agent function unit to which the initiative is handed over from the second agent function unit acquires the command from the second agent function unit, the acquired command is in a state where the network connection is disconnected. To execute,
The agent device according to claim 6.
請求項1から7のうちいずれか1項記載のエージェント装置。 If the network connection is restored within the second predetermined time after the initiative is transferred from the second agent function unit to the first agent function unit based on the processing of the network monitoring unit, the network connection is disconnected. The second agent function unit, which was started immediately before the operation, starts.
The agent device according to any one of claims 1 to 7.
第1エージェント機能部、および、無線通信装置を用いたネットワーク接続への依存度が前記第1エージェント機能部よりも高い一以上の第2エージェント機能部のうちいずれかを起動させ、
前記起動したエージェント機能部の機能として、前記ネットワーク接続を少なくとも部分的に利用して、車両の乗員の発話に応じて、音声による応答を含むサービスを提供し、
前記ネットワーク接続の切断が第1所定時間以上継続したことを認識し、或いは前記第1所定時間以上継続することを予測し、
前記第2エージェント機能部が起動しており、且つ前記ネットワーク接続の切断が前記第1所定時間以上継続することが認識或いは予測された場合、前記第2エージェント機能部から前記第1エージェント機能部に主導権を受け渡す、
エージェント装置の制御方法。 The computer
One of the first agent function unit and one or more second agent function units having a higher dependence on the network connection using the wireless communication device than the first agent function unit is activated.
As a function of the activated agent function unit, the network connection is used at least partially to provide a service including a voice response in response to a vehicle occupant's utterance.
Recognizing that the disconnection of the network connection has continued for the first predetermined time or longer, or predicting that the disconnection will continue for the first predetermined time or longer,
When the second agent function unit is activated and it is recognized or predicted that the disconnection of the network connection will continue for the first predetermined time or longer, the second agent function unit is transferred to the first agent function unit. Hand over the initiative,
How to control the agent device.
第1エージェント機能部、および、無線通信装置を用いたネットワーク接続への依存度が前記第1エージェント機能部よりも高い一以上の第2エージェント機能部のうちいずれかを起動させる処理と、
前記起動したエージェント機能部の機能として、前記ネットワーク接続を少なくとも部分的に利用して、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する処理と、
前記ネットワーク接続の切断が第1所定時間以上継続したことを認識し、或いは前記第1所定時間以上継続することを予測する処理と、
前記第2エージェント機能部が起動しており、且つ前記ネットワーク接続の切断が前記第1所定時間以上継続することが認識或いは予測された場合、前記第2エージェント機能部から前記第1エージェント機能部に主導権を受け渡す処理と、
を実行させるプログラム。 On the computer
A process of activating one of the first agent function unit and one or more second agent function units having a higher dependence on the network connection using the wireless communication device than the first agent function unit.
As a function of the activated agent function unit, a process of providing a service including a voice response in response to a vehicle occupant's utterance by utilizing the network connection at least partially, and
A process of recognizing that the disconnection of the network connection has continued for the first predetermined time or longer, or a process of predicting that the disconnection of the network connection has continued for the first predetermined time or longer.
When the second agent function unit is activated and it is recognized or predicted that the disconnection of the network connection will continue for the first predetermined time or longer, the second agent function unit is transferred to the first agent function unit. The process of handing over the initiative and
A program that executes.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019054365A JP2020154942A (en) | 2019-03-22 | 2019-03-22 | Agent device, control method of agent device, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019054365A JP2020154942A (en) | 2019-03-22 | 2019-03-22 | Agent device, control method of agent device, and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020154942A true JP2020154942A (en) | 2020-09-24 |
Family
ID=72559292
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019054365A Pending JP2020154942A (en) | 2019-03-22 | 2019-03-22 | Agent device, control method of agent device, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020154942A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210354712A1 (en) * | 2020-05-18 | 2021-11-18 | Toyota Jidosha Kabushiki Kaisha | Agent control device, agent control method, and recording medium |
-
2019
- 2019-03-22 JP JP2019054365A patent/JP2020154942A/en active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210354712A1 (en) * | 2020-05-18 | 2021-11-18 | Toyota Jidosha Kabushiki Kaisha | Agent control device, agent control method, and recording medium |
US11726741B2 (en) * | 2020-05-18 | 2023-08-15 | Toyota Jidosha Kabushiki Kaisha | Agent control device, agent control method, and recording medium |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2020144663A (en) | Agent device, control method of agent device, and program | |
JP7239366B2 (en) | AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM | |
JP7198122B2 (en) | AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM | |
US11240342B2 (en) | Agent device, method of controlling agent device, and computer-readable non-transient storage medium | |
JP2020149106A (en) | Agent device, agent system, server device, method for controlling agent device, and program | |
CN111559328B (en) | Agent device, method for controlling agent device, and storage medium | |
US20200317055A1 (en) | Agent device, agent device control method, and storage medium | |
JP2020144264A (en) | Agent device, control method of agent device, and program | |
JP2020154942A (en) | Agent device, control method of agent device, and program | |
US11797261B2 (en) | On-vehicle device, method of controlling on-vehicle device, and storage medium | |
JP7175221B2 (en) | AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM | |
JP7340943B2 (en) | Agent device, agent device control method, and program | |
JP2020152298A (en) | Agent device, control method of agent device, and program | |
JP2020157853A (en) | In-vehicle agent system, control method of in-vehicle agent system, and program | |
JP2020160133A (en) | Agent system, agent system control method, and program | |
JP2020144275A (en) | Agent device, control method of agent device, and program | |
JP2020157808A (en) | Agent device, control method of agent device, and program | |
JP2020154994A (en) | Agent system, agent server, control method of agent server, and program | |
JP2020148583A (en) | Agent device, method for controlling agent device, and program | |
JP2020144712A (en) | Agent device, control method of agent device, and program | |
JP2020160848A (en) | Server apparatus, information providing system, information providing method, and program | |
JP2020142758A (en) | Agent device, method of controlling agent device, and program | |
JP7297483B2 (en) | AGENT SYSTEM, SERVER DEVICE, CONTROL METHOD OF AGENT SYSTEM, AND PROGRAM | |
JP2020157919A (en) | Agent device, control method of agent device, and program | |
JP2020160132A (en) | Agent device, agent device control method and program, agent server as well as agent server control method |