JP2020144260A - 車載エージェントシステム、車載エージェントシステムの制御方法、およびプログラム - Google Patents

車載エージェントシステム、車載エージェントシステムの制御方法、およびプログラム Download PDF

Info

Publication number
JP2020144260A
JP2020144260A JP2019041564A JP2019041564A JP2020144260A JP 2020144260 A JP2020144260 A JP 2020144260A JP 2019041564 A JP2019041564 A JP 2019041564A JP 2019041564 A JP2019041564 A JP 2019041564A JP 2020144260 A JP2020144260 A JP 2020144260A
Authority
JP
Japan
Prior art keywords
agent
unit
vehicle
agent function
executed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019041564A
Other languages
English (en)
Other versions
JP7198122B2 (ja
Inventor
佐和子 古屋
Sawako Furuya
佐和子 古屋
善史 我妻
Yoshifumi Wagatsuma
善史 我妻
裕貴 中山
Yuki Nakayama
裕貴 中山
賢吾 内木
Kengo Uchiki
賢吾 内木
裕介 大井
Yusuke Oi
裕介 大井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2019041564A priority Critical patent/JP7198122B2/ja
Priority to US16/807,250 priority patent/US11508370B2/en
Priority to CN202010149143.4A priority patent/CN111660955A/zh
Publication of JP2020144260A publication Critical patent/JP2020144260A/ja
Application granted granted Critical
Publication of JP7198122B2 publication Critical patent/JP7198122B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/10Interpretation of driver requests or demands
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/037Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for occupant comfort, e.g. for automatic adjustment of appliances according to personal settings, e.g. seats, mirrors, steering wheel
    • B60R16/0373Voice control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • G10L15/30Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes
    • H04W4/40Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H04W4/44Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for communication between vehicles and infrastructures, e.g. vehicle-to-cloud [V2C] or vehicle-to-home [V2H]
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L2015/088Word spotting
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/225Feedback of the input speech
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes
    • H04W4/40Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]

Abstract

【課題】利便性を高めることができる車載エージェントシステム、車載エージェントシステムの制御方法、およびプログラムを提供すること。【解決手段】車両の乗員の発話に応じて、音声による応答を含むサービスを提供する複数のエージェント機能部(150−1〜150−3)と、前記複数のエージェント機能部に共通して前記車両に設けられた共通操作部とを備え、前記共通操作部に対して、前記複数のエージェント機能部のそれぞれに対応して設定された操作態様で操作が実行された場合、前記実行された操作の操作態様に対応するエージェント機能部が起動する、車載エージェントシステム(VAS)。【選択図】図2

Description

本発明は、車載エージェントシステム、車載エージェントシステムの制御方法、およびプログラムに関する。
従来、車両の乗員と対話を行いながら、乗員の要求に応じた運転支援に関する情報や車両の制御、その他のアプリケーション等を提供するエージェント機能に関する技術が開示されている(例えば、特許文献1参照)。
特開2006−335231号公報
近年では、複数のエージェント機能を車両に搭載することについて実用化が進められているが、その場合、それぞれのエージェント機能の起動方法をどのように定めるかについて十分に検討されていなかった。このため、従来の技術では、乗員の操作が煩雑となり、利便性が不十分となる場合があった。
本発明は、このような事情を考慮してなされたものであり、利便性を高めることができる車載エージェントシステム、車載エージェントシステムの制御方法、およびプログラムを提供することを目的の一つとする。
この発明に係る車載エージェントシステム、車載エージェントシステムの制御方法、およびプログラムは、以下の構成を採用した。
(1):この発明の一態様に係る車載エージェントシステムは、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する複数のエージェント機能部と、前記複数のエージェント機能部に共通して前記車両に設けられた共通操作部とを備え、前記共通操作部に対して、前記複数のエージェント機能部のそれぞれに対応して設定された操作態様で操作が実行された場合、前記実行された操作の操作態様に対応するエージェント機能部が起動するものである。
(2):上記(1)の態様において、前記複数のエージェント機能部のそれぞれの起動を制御する管理部を更に備え、前記管理部は、前記共通操作部に対する操作が実行された場合、前記実行された操作態様に対応するエージェント機能部を起動させるものである。
(3):上記(2)の態様において、前記管理部は、前記エージェント機能部ごとに起動のための前記共通操作部の操作態様の設定操作が実行された場合、前記設定操作された操作態様と起動の対象となるエージェント機能部とを対応付けた対応情報を記憶部に記憶させ、前記共通操作部に対する操作が実行された場合、前記記憶部に記憶された対応情報を参照して、前記実行された操作の操作態様に対応するエージェント機能部を特定するものである。
(4):上記(2)または(3)の態様において、前記管理部は、前記共通操作部に対する操作が実行された場合、前記実行された操作の操作態様に対応するエージェント機能部以外のエージェント機能部が起動中であっても、前記実行された操作の操作態様に対応するエージェント機能部を起動させるものである。
(5):上記(2)〜(4)の態様において、前記管理部は、前記複数のエージェント機能部のうちいずれかのエージェント機能部が音声を出力している間に、前記共通操作部に対する操作が実行された場合、前記車両の乗員の発話を記憶部に記憶させ、前記共通操作部に対する操作によって起動したエージェント機能部は、前記記憶部から取得した前記車両の乗員の発話に応じて処理を実行するものである。
(6):上記(1)の態様において、前記複数のエージェント機能部のそれぞれは、前記共通操作部に対する操作が実行された場合、前記実行された操作の操作態様と自身に対応して設定された操作態様とを照合し、照合が成立したことを条件に起動するものである。
(7):上記(6)の態様において、前記複数のエージェント機能部のそれぞれは、自身の起動のための前記共通操作部の操作態様の設定操作が実行された場合、前記設定操作された操作態様に関する情報を記憶部に記憶させ、前記共通操作部に対する操作が実行された場合、前記記憶部に記憶された操作態様に関する情報を参照して、自身が起動するか否かを決定するものである。
(8):本発明の他の態様に係る車載エージェントシステムの制御方法は、コンピュータが、複数のエージェント機能部のうちいずれかを起動させ、前記起動したエージェント機能部の機能として、車両の乗員の発話に応じて、音声による応答を含むサービスを提供し、共通操作部に対して、前記複数のエージェント機能部のそれぞれに対応して設定された操作態様で操作が実行された場合、前記実行された操作の操作態様に対応するエージェント機能部を起動するものである。
(9):本発明の他の態様に係るプログラムは、コンピュータに、複数のエージェント機能部のうちいずれかを起動させる処理と、前記起動したエージェント機能部の機能として、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する処理と、共通操作部に対して、前記複数のエージェント機能部のそれぞれに対応して設定された操作態様で操作が実行された場合、前記実行された操作の操作態様に対応するエージェント機能部を起動する処理と、を実行させるものである。
(1)〜(9)によれば、利便性を高めることができる。
エージェント装置100を含むエージェントシステム1の構成を示す図である。 第1実施形態に係る車載エージェントシステムVASの構成と、車両Mに搭載された機器とを示す図である。 表示・操作装置20の配置例を示す図である。 記憶部130に記憶された対応情報132の一例を説明するための図である。 エージェントサーバ200の構成と、エージェント装置100の構成の一部とを示す図である。 第1実施形態に係る車載エージェントシステムVASの一連の処理の流れを説明するためのフローチャートである。 第1実施形態に係る車載エージェントシステムVASの動作を説明するための図である。 第1実施形態に係る車載エージェントシステムVASの動作を説明するための図である。 第2実施形態に係る車載エージェントシステムVASの一連の処理の流れを説明するためのフローチャートである。 第2実施形態に係る車載エージェントシステムVASの動作を説明するための図である。 第3実施形態に係る車載エージェントシステムVASの構成と、車両Mに搭載された機器とを示す図である。 記憶部130Aに記憶された記憶領域S1〜S3ごとの対応情報132の一例を説明するための図である。 第3実施形態に係る車載エージェントシステムVASの一連の処理の流れを説明するためのフローチャートである。 第3実施形態に係る車載エージェントシステムVASの動作を説明するための図である。
以下、図面を参照し、本発明の車載エージェントシステム、車載エージェントシステムの制御方法、およびプログラムの実施形態について説明する。車載エージェントシステムは、エージェントシステムの一部または全部を実現するシステムである。以下では、車載エージェントシステムが、車両(以下、車両M)に搭載(車両で使用可能な状態にあり)され、複数種類のエージェント機能を備えたエージェント装置と、エージェント装置との間で各種の情報を入力または出力するインターフェース装置を含む場合を一例として説明する。エージェント機能とは、例えば、車両Mの乗員と対話をしながら、乗員の発話の中に含まれる要求(コマンド)に基づく各種の情報提供を行ったり、ネットワークサービスを仲介したりする機能である。複数種類のエージェントは、それぞれに果たす機能、処理手順、制御、出力態様・内容がそれぞれ異なってもよい。また、エージェント機能の中には、車両内の機器(例えば運転制御や車体制御に関わる機器)の制御等を行う機能を有するものがあってよい。
エージェント機能は、例えば、乗員の音声を認識する音声認識機能(音声をテキスト化する機能)に加え、自然言語処理機能(テキストの構造や意味を理解する機能)、対話管理機能、ネットワークを介して他装置を検索し、或いは自装置が保有する所定のデータベースを検索するネットワーク検索機能等を統合的に利用して実現される。これらの機能の一部または全部は、AI(Artificial Intelligence)技術によって実現されてよい。また、これらの機能を行うための構成の一部(特に、音声認識機能や自然言語処理解釈機能)は、車両Mの車載通信装置または車両Mに持ち込まれた汎用通信装置と通信可能なエージェントサーバ(外部装置)に搭載されてもよい。以下の説明では、構成の一部がエージェントサーバに搭載されており、エージェント装置とエージェントサーバが協働してエージェントシステムを実現することを前提とする。また、エージェント装置とエージェントサーバが協働して仮想的に出現させるサービス提供主体(サービス・エンティティ)をエージェントと称する。
<全体構成>
図1は、エージェント装置100を含むエージェントシステム1の構成図である。エージェントシステム1は、例えば、エージェント装置100と、複数のエージェントサーバ200−1、200−2、200−3、…とを備える。符号の末尾のハイフン以下数字は、エージェントを区別するための識別子であるものとする。いずれのエージェントサーバであるかを区別しない場合、単にエージェントサーバ200と称する場合がある。図1では3つのエージェントサーバ200を示しているが、エージェントサーバ200の数は2つであってもよいし、4つ以上であってもよい。それぞれのエージェントサーバ200は、互いに異なるエージェントシステムの提供者が運営するものである。従って、本発明におけるエージェントは、互いに異なる提供者により実現されるエージェントである。提供者としては、例えば、自動車メーカー、ネットワークサービス事業者、電子商取引事業者、携帯端末の販売者や製造者などが挙げられ、任意の主体(法人、団体、個人等)がエージェントシステムの提供者となり得る。
エージェント装置100は、ネットワークNWを介してエージェントサーバ200と通信する。ネットワークNWは、例えば、インターネット、セルラー網、Wi−Fi網、WAN(Wide Area Network)、LAN(Local Area Network)、公衆回線、電話回線、無線基地局などのうち一部または全部を含む。ネットワークNWには、各種ウェブサーバ300が接続されており、エージェントサーバ200またはエージェント装置100は、ネットワークNWを介して各種ウェブサーバ300からウェブページを取得することができる。
エージェント装置100は、車両Mの乗員と対話を行い、乗員からの音声をエージェントサーバ200に送信し、エージェントサーバ200から得られた回答を、音声出力や画像表示の形で乗員に提示する。
<第1実施形態>
[車両]
図2は、第1実施形態に係る車載エージェントシステムVASの構成と、車両Mに搭載された機器とを示す図である。車両Mには、例えば、一以上のマイク10と、表示・操作装置20と、スピーカユニット30と、ナビゲーション装置40と、車両機器50と、車載通信装置60と、エージェント装置100とが搭載される。車載エージェントシステムVASは、例えば、表示・操作装置20と、エージェント装置100とを含むものである。また、スマートフォンなどの汎用通信装置70が車室内に持ち込まれ、通信装置として使用される場合がある。これらの装置は、CAN(Controller Area Network)通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図2に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。
マイク10は、車室内で発せられた音声を収集する収音部である。表示・操作装置20は、画像を表示すると共に、入力操作を受付可能な装置(或いは装置群)である。表示・操作装置20は、例えば、タッチパネルとして構成されたディスプレイ装置を含む。表示・操作装置20は、更に、HUD(Head Up Display)や機械式の入力装置を含んでもよい。スピーカユニット30は、例えば、車室内の互いに異なる位置に配設された複数のスピーカ(音出力部)を含む。表示・操作装置20は、エージェント装置100とナビゲーション装置40とで共用されてもよい。これらの詳細については後述する。
ナビゲーション装置40は、ナビHMI(Human machine Interface)と、GPS(Global Positioning System)などの位置測位装置と、地図情報を記憶した記憶装置と、経路探索などを行う制御装置(ナビゲーションコントローラ)とを備える。マイク10、表示・操作装置20、およびスピーカユニット30のうち一部または全部がナビHMIとして用いられてもよい。ナビゲーション装置40は、位置測位装置によって特定された車両Mの位置から、乗員によって入力された目的地まで移動するための経路(ナビ経路)を探索し、経路に沿って車両Mが走行できるように、ナビHMIを用いて案内情報を出力する。経路探索機能は、ネットワークNWを介してアクセス可能なナビゲーションサーバにあってもよい。この場合、ナビゲーション装置40は、ナビゲーションサーバから経路を取得して案内情報を出力する。なお、エージェント装置100は、ナビゲーションコントローラを基盤として構築されてもよく、その場合、ナビゲーションコントローラとエージェント装置100は、ハードウェア上は一体に構成される。
車両機器50は、例えば、エンジンや走行用モータなどの駆動力出力装置、エンジンの始動モータ、ドアロック装置、ドア開閉装置、窓、窓の開閉装置及び窓の開閉制御装置、シート、シート位置の制御装置、ルームミラー及びその角度位置制御装置、車両内外の照明装置及びその制御装置、ワイパーやデフォッガー及びそれぞれの制御装置、方向指示灯及びその制御装置、空調装置、走行距離やタイヤの空気圧の情報や燃料の残量情報などの車両情報装置などを含む。
車載通信装置60は、例えば、セルラー網やWi−Fi網を利用してネットワークNWにアクセス可能な無線通信装置である。
図3は、表示・操作装置20の配置例を示す図である。表示・操作装置20は、例えば、第1ディスプレイ22と、第2ディスプレイ24と、操作スイッチASSY26と、ステアリングスイッチ28とを含む。表示・操作装置20は、更に、HUD30を含んでもよい。
車両Mには、例えば、ステアリングホイールSWが設けられた運転席DSと、運転席DSに対して車幅方向(図中Y方向)に設けられた助手席ASとが存在する。第1ディスプレイ22は、インストルメントパネルにおける運転席DSと助手席ASとの中間辺りから、助手席ASの左端部に対向する位置まで延在する横長形状のディスプレイ装置である。第2ディスプレイ24は、運転席DSと助手席ASとの車幅方向に関する中間あたり、且つ第1ディスプレイの下方に設置されている。例えば、第1ディスプレイ22と第2ディスプレイ24は、共にタッチパネルとして構成され、表示部としてLCD(Liquid Crystal Display)や有機EL(Electroluminescence)、プラズマディスプレイなどを備えるものである。操作スイッチASSY26は、ダイヤルスイッチやボタン式スイッチなどが集積されたものである。ステアリングスイッチ28は、例えば、ボタン式のスイッチであって、押下された操作量を検出可能である。また、ステアリングスイッチ28は、複数のモードを切り替えできるトグルスイッチであってもよい。ステアリングスイッチ28は、車両MのステアリングホイールSWに設置されている。ステアリングスイッチ28は、「共通操作部」の一例である。表示・操作装置20は、乗員によってなされた操作の内容をエージェント装置100に出力する。第1ディスプレイ22または第2ディスプレイ24が表示する内容は、エージェント装置100によって決定されてよい。
[エージェント装置]
図2に戻り、エージェント装置100は、管理部110と、エージェント機能部150−1、150−2、150−3と、ペアリングアプリ実行部152とを備える。管理部110は、例えば、音響処理部112と、エージェントごとWU(Wake Up)判定部114と、操作判定部116と、エージェント設定部118と、エージェント起動部120と、表示制御部122と、音声制御部124と、記憶部130とを備える。いずれのエージェント機能部であるか区別しない場合、単にエージェント機能部150と称する。3つのエージェント機能部150を示しているのは、図1におけるエージェントサーバ200の数に対応させた一例に過ぎず、エージェント機能部150の数は、2つであってもよいし、4つ以上であってもよい。図2に示すソフトウェア配置は説明のために簡易に示しており、実際には、例えば、エージェント機能部150と車載通信装置60の間に管理部110が介在してもよいように、任意に改変することができる。
エージェント装置100の記憶部130以外の各構成要素は、例えば、CPU(Central Processing Unit)などのハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。これらの構成要素のうち一部または全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)などのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めHDD(Hard Disk Drive)やフラッシュメモリなどの記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD−ROMなどの着脱可能な記憶媒体(非一過性の記憶媒体)に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。記憶部130は、HDDやフラッシュメモリ、RAM(Random Access Memory)などにより実現される。記憶部130は、ステアリングスイッチ28の操作態様と起動の対象となるエージェント機能部150とを対応付けた対応情報132を記憶する。
管理部110は、OS(Operating System)やミドルウェアなどのプログラムが実行されることで機能する。
管理部110の音響処理部112は、車両Mの乗員の発話がマイク10を通じて入力された場合、車両Mの乗員の発話を検知する。そして、音響処理部112は、エージェントごとに予め設定されているウエイクアップワードを認識するのに適した状態になるように、入力された車両Mの乗員の発話に対して音響処理を行う。
エージェントごとWU判定部114は、エージェント機能部150−1、150−2、150−3のそれぞれに対応して存在し、エージェントごとに予め定められているウエイクアップワードを認識する。エージェントごとWU判定部114は、音響処理が行われた音声(音声ストリーム)から音声の意味を認識する。まず、エージェントごとWU判定部114は、音声ストリームにおける音声波形の振幅と零交差に基づいて音声区間を検出する。エージェントごとWU判定部114は、混合ガウス分布モデル(GMM;Gaussian mixture model) に基づくフレーム単位の音声識別および非音声識別に基づく区間検出を行ってもよい。
次に、エージェントごとWU判定部114は、検出した音声区間における音声をテキスト化し、文字情報とする。そして、エージェントごとWU判定部114は、テキスト化した文字情報がウエイクアップワードに該当するか否かを判定する。ウエイクアップワードであると判定した場合、エージェントごとWU判定部114は、対応するエージェント機能部150への起動指示があったことをエージェント起動部120に通知する。なお、エージェントごとWU判定部114に相当する機能がエージェントサーバ200に搭載されてもよい。この場合、管理部110は、音響処理部112によって音響処理が行われた音声ストリームをエージェントサーバ200に送信し、エージェントサーバ200がウエイクアップワードであると判定した場合、エージェントサーバ200からの指示に従ってエージェント機能部150が起動する。なお、各エージェント機能部150は、常時起動しており且つウエイクアップワードの判定を自ら行うものであってよい。この場合、管理部110がエージェントごとWU判定部114を備える必要はない。
エージェント機能部150は、対応するエージェントサーバ200と協働してエージェントを出現させ、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する。エージェント機能部150には、車両機器50を制御する権限が付与されたものが含まれてよい。また、エージェント機能部150には、ペアリングアプリ実行部152を介して汎用通信装置70と連携し、エージェントサーバ200と通信するものがあってよい。例えば、エージェント機能部150−1には、車両機器50を制御する権限が付与されている。エージェント機能部150−1は、車載通信装置60を介してエージェントサーバ200−1と通信する。エージェント機能部150−2は、車載通信装置60を介してエージェントサーバ200−2と通信する。エージェント機能部150−3は、ペアリングアプリ実行部152を介して汎用通信装置70と連携し、エージェントサーバ200−3と通信する。ペアリングアプリ実行部152は、例えば、Bluetooth(登録商標)によって汎用通信装置70とペアリングを行い、エージェント機能部150−3と汎用通信装置70とを接続させる。なお、エージェント機能部150−3は、USB(Universal Serial Bus)などを利用した有線通信によって汎用通信装置70に接続されるようにしてもよい。以下、エージェント機能部150−1とエージェントサーバ200−1が協働して出現させるエージェントをエージェント1、エージェント機能部150−2とエージェントサーバ200−2が協働して出現させるエージェントをエージェント2、エージェント機能部150−3とエージェントサーバ200−3が協働して出現させるエージェントをエージェント3と称する場合がある。
操作判定部116は、ステアリングスイッチ28から入力される操作信号に基づき、車両Mの乗員によりステアリングスイッチ28の操作が実行されたか否かを判定する。操作判定部116は、ステアリングスイッチ28が複数の操作態様で操作された場合、操作態様ごとに異なる操作信号に基づき、ステアリングスイッチ28の操作態様を判定する。複数の操作態様としては、例えば、「半押し」、「長押し」、「2回押し」、「切り替え」、複数のステアリングスイッチ28の「同時押し」などが挙げられる。そして、操作判定部116は、判定したステアリングスイッチ28の操作態様に基づき、記憶部130に記憶された対応情報132を参照して、起動の対象となるエージェント機能部150を特定する。また、操作判定部116は、特定したエージェント機能部150への起動指示があったことをエージェント起動部120に通知する。なお、ステアリングスイッチ28は、必ずしもステアリングSWに設置される必要はなく、乗員が運転中に利用しやすい車両M内の位置に適宜設けられていてもよい。
エージェント設定部118は、車両Mの乗員によりエージェントごとの起動のための設定操作が行われた場合、記憶部130に記憶された対応情報132を変更する。エージェント設定部118は、例えば、ステアリングスイッチ28が所定の操作態様で操作された直後に、起動の対象となるエージェントを指定する音声が入力された場合に、ステアリングスイッチ28の所定の操作態様と起動の対象として指定されたエージェントとを対応付けるように対応情報132を変更する。
図4は、記憶部130に記憶された対応情報132の一例を説明するための図である。同図に示す例では、エージェントごとの起動のための設定操作を行う前には、「半押し」というステアリングスイッチ28の操作態様に対し、起動の対象となるエージェントとして「エージェント1」が対応付けられている。また、「長押し」というステアリングスイッチ28の操作態様に対し、起動の対象となるエージェントとして「エージェント2」が対応付けられている。また、「2回押し」というステアリングスイッチ28の操作態様に対し、起動の対象となるエージェントとして「エージェント3」が対応付けられている。そして、同図に示す例では、エージェントごとの起動のための設定操作の一例として、「長押し」というステアリングスイッチ28の操作態様に対し、起動の対象となるエージェントとして「エージェント1」が指定されている。この場合、「長押し」というステアリングスイッチ28の操作態様に対し、起動の対象となるエージェントとして「エージェント1」が対応付けられる。また、設定操作が行われる前に、「長押し」というステアリングスイッチ28の操作態様が対応付けられていた「エージェント2」は、「エージェント1」との対応付けが解除された「半押し」というステアリングスイッチ28の操作態様に対して対応付けられる。
エージェント起動部120は、複数のエージェント機能部150−1、150−2、150−3のそれぞれの起動を制御する。エージェント起動部120は、エージェントごとWU判定部114から通知があった場合、および、操作判定部116から通知があった場合、該当するエージェント機能部を起動する。
エージェント起動部120は、操作判定部116がステアリングスイッチ28の操作態様を判定した場合、判定した操作態様に対応するエージェント機能部150を起動させる。この場合、エージェント起動部120は、操作判定部116により判定された操作態様に対応するエージェント機能部以外のエージェント機能部が起動中であっても、操作判定部116により判定された操作態様に対応するエージェント機能部を起動させる。エージェント起動部120は、例えば、エージェント機能部150−1の起動中に、操作判定部116がエージェント機能部150−2に対応するステアリングスイッチ28の操作態様を判定した場合、エージェント機能部150−2を起動させる。すなわち、エージェント起動部120は、操作判定部116により複数種類の操作態様が連続して判定された場合、複数種類の操作態様にそれぞれ対応するエージェント機能部150を並行して起動する。
エージェント機能部150は、複数のエージェント機能部のうちいずれかのエージェント機能部がスピーカユニット30を通じて音声を出力している間に、ステアリングスイッチ28に対する操作が実行された場合、車両Mの乗員の発話を記憶部130に記憶させる。ステアリングスイッチ28に対する操作によって起動したエージェント機能部150は、記憶部130から車両Mの乗員の発話を取得して、音声による応答を含むサービスを提供する。複数のエージェント機能部150のそれぞれに対応する操作態様でステアリングスイッチ28に対する操作が実行された場合、複数のエージェント機能部150のそれぞれが記憶部130に記憶させる車両Mの乗員の発話は、複数のエージェント機能部150の間で共通する発話でもよいし、エージェント機能部150ごとに異なる発話でもよい。なお、複数のエージェント機能部150のそれぞれが車両Mの乗員の発話を記憶部130に記憶させる場合、例えば、車両Mの乗員により入力される一連の発話を複数の音声区間に区切った上で、音声区間ごとの発話を複数のエージェント機能部150のそれぞれに割り当ててもよい。この場合、例えば、エージェント機能部150が起動する順序に応じて、複数のエージェント機能部150のそれぞれに対し、音声区間ごとの発話を割り当ててもよい。
表示制御部122は、エージェント機能部150からの指示に応じて第1ディスプレイ22または第2ディスプレイ24に画像を表示させる。以下では、第1ディスプレイ22を使用するものとする。表示制御部122は、一部のエージェント機能部150の制御により、例えば、車室内で乗員とのコミュニケーションを行う擬人化されたエージェントの画像(以下、エージェント画像と称する)を生成し、生成したエージェント画像を第1ディスプレイ22に表示させる。エージェント画像は、例えば、乗員に対して話しかける態様の画像である。エージェント画像は、例えば、少なくとも観者(乗員)によって表情や顔向きが認識される程度の顔画像を含んでよい。例えば、エージェント画像は、顔領域の中に目や鼻に擬したパーツが表されており、顔領域の中のパーツの位置に基づいて表情や顔向きが認識されるものであってよい。また、エージェント画像は、立体的に感じられ、観者によって三次元空間における頭部画像を含むことでエージェントの顔向きが認識されたり、本体(胴体や手足)の画像を含むことで、エージェントの動作や振る舞い、姿勢等が認識されるものであってもよい。また、エージェント画像は、アニメーション画像であってもよい。
音声制御部124は、エージェント機能部150からの指示に応じてスピーカユニット30に含まれるスピーカのうち一部または全部に音声を出力させる。音声制御部124は、複数のスピーカユニット30を用いて、エージェント画像の表示位置に対応する位置にエージェント音声の音像を定位させる制御を行ってもよい。エージェント画像の表示位置に対応する位置とは、例えば、エージェント画像がエージェント音声を喋っていると乗員が感じると予測される位置であり、具体的には、エージェント画像の表示位置付近の位置である。また、音像が定位するとは、例えば、乗員の左右の耳に伝達される音の大きさを調節することにより、乗員が感じる音源の空間的な位置を定めることである。
[エージェントサーバ]
図5は、エージェントサーバ200の構成と、エージェント装置100の構成の一部とを示す図である。以下、エージェントサーバ200の構成と共にエージェント機能部150等の動作について説明する。ここでは、エージェント装置100からネットワークNWまでの物理的な通信についての説明を省略する。
エージェントサーバ200は、通信部210を備える。通信部210は、例えばNIC(Network Interface Card)などのネットワークインターフェースである。更に、エージェントサーバ200は、例えば、音声認識部220と、自然言語処理部222と、対話管理部224と、ネットワーク検索部226と、応答文生成部228とを備える。これらの構成要素は、例えば、CPUなどのハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。これらの構成要素のうち一部または全部は、LSIやASIC、FPGA、GPUなどのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めHDDやフラッシュメモリなどの記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD−ROMなどの着脱可能な記憶媒体(非一過性の記憶媒体)に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。
エージェントサーバ200は、記憶部250を備える。記憶部250は、上記の各種記憶装置により実現される。記憶部250には、パーソナルプロファイル252、辞書DB(データベース)254、知識ベースDB256、応答規則DB258などのデータやプログラムが格納される。
エージェント装置100において、エージェント機能部150は、音声ストリーム、或いは圧縮や符号化などの処理を行った音声ストリームを、エージェントサーバ200に送信する。エージェント機能部150は、ローカル処理(エージェントサーバ200を介さない処理)が可能な音声コマンドを認識した場合は、音声コマンドで要求された処理を行ってよい。ローカル処理が可能な音声コマンドとは、エージェント装置100が備える記憶部(不図示)を参照することで回答可能な音声コマンドであったり、エージェント機能部150−1の場合は車両機器50を制御する音声コマンド(例えば、空調装置をオンにするコマンドなど)であったりする。従って、エージェント機能部150は、エージェントサーバ200が備える機能の一部を有してもよい。
音声ストリームを取得すると、音声認識部220が音声認識を行ってテキスト化された文字情報を出力し、自然言語処理部222が文字情報に対して辞書DB254を参照しながら意味解釈を行う。辞書DB254は、文字情報に対して抽象化された意味情報が対応付けられたものである。辞書DB254は、同義語や類義語の一覧情報を含んでもよい。音声認識部220の処理と、自然言語処理部222の処理は、段階が明確に分かれるものではなく、自然言語処理部222の処理結果を受けて音声認識部220が認識結果を修正するなど、相互に影響し合って行われてよい。
自然言語処理部222は、例えば、認識結果として、「今日の天気は」、「天気はどうですか」等の意味が認識された場合、標準文字情報「今日の天気」に置き換えたコマンドを生成する。これにより、リクエストの音声に文字揺らぎがあった場合にも要求にあった対話をし易くすることができる。また、自然言語処理部222は、例えば、確率を利用した機械学習処理等の人工知能処理を用いて文字情報の意味を認識したり、認識結果に基づくコマンドを生成してもよい。
対話管理部224は、自然言語処理部222の処理結果(コマンド)に基づいて、パーソナルプロファイル252や知識ベースDB256、応答規則DB258を参照しながら車両Mの乗員に対する発話の内容を決定する。パーソナルプロファイル252は、乗員ごとに保存されている乗員の個人情報、趣味嗜好、過去の対話の履歴などを含む。知識ベースDB256は、物事の関係性を規定した情報である。応答規則DB258は、コマンドに対してエージェントが行うべき動作(回答や機器制御の内容など)を規定した情報である。
また、対話管理部224は、音声ストリームから得られる特徴情報を用いて、パーソナルプロファイル252と照合を行うことで、乗員を特定してもよい。この場合、パーソナルプロファイル252には、例えば、音声の特徴情報に、個人情報が対応付けられている。音声の特徴情報とは、例えば、声の高さ、イントネーション、リズム(音の高低のパターン)等の喋り方の特徴や、メル周波数ケプストラム係数(Mel Frequency Cepstrum Coefficients)等による特徴量に関する情報である。音声の特徴情報は、例えば、乗員の初期登録時に所定の単語や文章等を乗員に発声させ、発声させた音声を認識することで得られる情報である。
対話管理部224は、コマンドが、ネットワークNWを介して検索可能な情報を要求するものである場合、ネットワーク検索部226に検索を行わせる。ネットワーク検索部226は、ネットワークNWを介して各種ウェブサーバ300にアクセスし、所望の情報を取得する。「ネットワークNWを介して検索可能な情報」とは、例えば、車両Mの周辺にあるレストランの一般ユーザによる評価結果であったり、その日の車両Mの位置に応じた天気予報であったりする。
応答文生成部228は、対話管理部224により決定された発話の内容が車両Mの乗員に伝わるように、応答文を生成し、エージェント装置100に送信する。応答文生成部228は、乗員がパーソナルプロファイルに登録された乗員であることが特定されている場合に、乗員の名前を呼んだり、乗員の話し方に似せた話し方にした応答文を生成してもよい。
エージェント機能部150は、応答文を取得すると、音声合成を行って音声を出力するように音声制御部124に指示する。また、エージェント機能部150は、音声出力に合わせてエージェントの画像を表示するように表示制御部122に指示する。このようにして、仮想的に出現したエージェントが車両Mの乗員に応答するエージェント機能が実現される。
[エージェント装置の処理フロー]
以下、第1実施形態に係る車載エージェントシステムVASの一連の処理の流れについてフローチャートを用いて説明する。図6は、第1実施形態に係る車載エージェントシステムVASの一連の処理の流れを説明するためのフローチャートである。本フローチャートの処理は、例えば、エージェント機能部150の起動の停止と共に開始される。
まず、操作判定部116は、ステアリングスイッチ28の操作が実行されたか否かを判定する(ステップS10)。操作判定部116は、ステアリングスイッチ28の操作が実行されたと判定した場合、ステアリングスイッチ28の操作態様を判定する。また、操作判定部116は、記憶部130に記憶された対応情報132を参照して、ステアリングスイッチ28の操作の操作態様に対応するエージェント機能部150を特定する(ステップS12)。そして、エージェント起動部120は、操作判定部116からの通知に基づき、操作判定部116が特定したエージェント機能部150を起動させる(ステップS14)。一方、操作判定部116は、ステアリングスイッチ28の操作が実行されていないと判定した場合、ステップS12〜ステップS14の処理を経ることなく、その処理をステップS16に移行する。次に、音響処理部112は、マイク10を通じて入力される音声信号に基づき、車両Mの乗員の発話が検知されたか否かを判定する(ステップS16)。音響処理部112は、車両Mの乗員の発話が検知されていないと判定した場合、その処理をステップS10に戻す。そして、操作判定部116は、ステアリングスイッチ28の新たな操作が実行されたか否かを判定する(ステップS10)。操作判定部116は、ステアリングスイッチ28の新たな操作が実行されたと判定した場合、記憶部130に記憶された対応情報132を参照して、ステアリングスイッチ28の新たな操作態様に対応するエージェント機能部150を特定する(ステップS12)。また、エージェント起動部120は、操作判定部116からの通知に基づき、操作判定部116が特定したエージェント機能部150を起動させる(ステップS14)。そして、車両Mの乗員の発話が音響処理部112により検知されるまでの間、ステップS10〜ステップS16の処理を繰り返す。
一方、エージェント起動部120は、音響処理部112により車両Mの乗員の発話が検知されたと判定された場合、エージェント機能部150が起動中であるか否かを判定する(ステップS18)。すなわち、エージェント起動部120は、ステアリングスイッチ28の操作が実行されることに伴ってエージェント機能部150を予め起動した上で、音響処理部112により車両Mの乗員による発話が検知されたか否かを判定する。エージェント機能部150は、エージェント起動部120により自身が起動中であると判定された場合、車両Mの乗員の発話に応じて処理を開始する(ステップS20)。次に、音響処理部112は、マイク10を通じて入力される音声信号に基づき、車両Mの乗員の発話が終了したか否かを判定する(ステップS22)。音響処理部112は、例えば、車両Mの乗員の発話が検出されなくなった時点から、マイク10を通じて音声信号が入力されることなく所定時間が経過したことを条件に、車両Mの乗員の発話が終了したと判定する。この場合、所定時間は、例えば、車両Mの乗員が一連の発話を行う場合の、連続する発話の間の休止時間よりも長い時間となるように設定される。そして、音響処理部112は、車両Mの乗員の発話が終了していないと判定した場合、その処理をステップS10に戻す。一方、音響処理部112は、車両Mの乗員の発話が終了したと判定した場合、本フローチャートの処理が終了する。
図7は、第1実施形態に係る車載エージェントシステムVASの動作を説明するための図である。
まず、管理部110は、時刻t1において、ステアリングスイッチ28に対して第1操作態様(「半押し」)の操作が実行されたと判定した場合、第1操作態様に対応するエージェント機能部150−1を起動する。次に、管理部110は、時刻t2において、ステアリングスイッチ28に対して第2操作態様(「長押し」)の操作が実行されたと判定した場合、第2操作態様に対応するエージェント機能部150−2を起動する。次に、エージェント機能部150−1は、時刻t3において、マイク10から管理部110を通じて入力される車両Mの乗員の発話を検知した場合、検知した発話に応じて処理を実行する。次に、エージェント機能部150−2は、時刻t4において、マイク10から管理部110を通じて入力される車両Mの乗員の発話を検知した場合、検知した発話に応じて処理を実行する。
図8は、第1実施形態に係る車載エージェントシステムVASの動作を説明するための図である。
まず、管理部110は、時刻t11において、ステアリングスイッチ28に対して第1操作態様(「半押し」)の操作が実行されたと判定した場合、第1操作態様に対応するエージェント機能部150−1を起動させる。次に、エージェント機能部150−1は、時刻t12において、マイク10から管理部110を通じて入力される車両Mの乗員の発話を検知した場合、検知した発話に応じて処理を実行する。次に、管理部110は、時刻t13において、ステアリングスイッチ28に対して第2操作態様(「長押し」)の操作が実行されたと判定した場合、第2操作態様に対応するエージェント機能部150−2を起動させる。次に、エージェント機能部150−2は、時刻t14において、マイク10から管理部110を通じて入力された車両Mの乗員の発話を検知した場合、検知した発話に応じて処理を実行する。
上記説明した第1実施形態に係る車載エージェントシステムVASによれば、利便性を高めることができる。例えば、複数のエージェント機能部150のそれぞれには、個別のウエイクアップワードが設定されている。この場合、車両Mの乗員は、複数のエージェント機能部150を連続して起動する場合、複数のエージェント機能部150のそれぞれに対応する個別のウエイクアップワードを連続して入力する必要がある。これに対し、第1実施形態に係る車載エージェントシステムVASでは、個別のウエイクアップワードに加えて、複数のエージェント機能部150のそれぞれに対応するステアリングスイッチ28の操作態様が設定されている。そのため、車両Mの乗員は、ステアリングスイッチ28の操作態様を切り替えることで複数のエージェント機能部を連続して起動することができ、エージェント機能部150を起動する場合の利便性を高めることができる。
また、第1実施形態に係る車載エージェントシステムVASによれば、更に、利便性をより一層高めることができる。例えば、車両Mが複数種類のエージェント機能を提供する場合、エージェント機能の利用頻度は車両Mの乗員ごとに異なる。これに対し、第1実施形態に係る車載エージェントシステムVASでは、エージェント機能部150ごとに起動のためのステアリングスイッチ28の操作態様の設定操作が入力された場合には、ステアリングスイッチ28の操作態様と起動の対象となるエージェント機能部150との対応付けが変更される。そのため、利用頻度が高いエージェントを提供するエージェント機能部150に対して、操作性の高いステアリングスイッチ28の操作態様を対応付けることもでき、利便性をより一層高めることができる。
<第2実施形態>
以下、第2実施形態について説明する。第2実施形態は、第1実施形態と比較すると、車両の乗員の発話が検知された場合のエージェント機能部の処理の進行方法が異なる。以下、この相違点を中心に説明する。
以下、第2実施形態に係る車載エージェントシステムVASの一連の処理の流れについてフローチャートを用いて説明する。図9は、第2実施形態に係る車載エージェントシステムVASの一連の処理の流れを説明するためのフローチャートである。本フローチャートの処理は、例えば、エージェント機能部150の起動の停止とともに開始される。
まず、操作判定部116は、ステアリングスイッチ28の操作が実行されたか否かを判定する(ステップS30)。操作判定部116は、ステアリングスイッチ28の操作が実行されたと判定した場合、記憶部130に記憶された対応情報132を参照して、ステアリングスイッチ28の操作態様に対応するエージェント機能部150を特定する(ステップS32)。そして、エージェント起動部120は、操作判定部116からの通知に基づき、操作判定部116が特定したエージェント機能部150を起動する(ステップS34)。一方、操作判定部116は、ステアリングスイッチ28の操作が実行されていないと判定した場合、ステップS32〜ステップS34の処理を経ることなく、その処理をステップS36に移行する。次に、音響処理部112は、マイク10を通じて入力される音声信号に基づき、車両Mの乗員の発話が検知されたか否かを判定する(ステップS36)。音響処理部112は、車両Mの乗員の発話が検知されていないと判定した場合、その処理をステップS30に戻す。その後、操作判定部116は、ステアリングスイッチ28の新たな操作が実行されたか否かを判定する(ステップS30)。操作判定部116は、ステアリングスイッチ28の新たな操作が実行されたと判定した場合、記憶部130に記憶された対応情報132を参照して、ステアリングスイッチ28の新たな操作態様に対応するエージェント機能部150を特定する(ステップS32)。そして、エージェント起動部120は、操作判定部116からの通知に基づき、操作判定部116が特定したエージェント機能部150を起動する(ステップS34)。
一方、エージェント起動部120は、音響処理部112により車両Mの乗員の発話が検知されたと判定された場合、エージェント機能部150が起動中であるか否かを判定する(ステップS38)。すなわち、エージェント起動部120は、ステアリングスイッチ28の操作が実行されることに伴ってエージェント機能部150を予め起動した上で、音響処理部112により車両Mの乗員による発話が検知されたか否かを判定する。エージェント起動部120は、エージェント機能部150が起動中であると判定した場合、他のエージェント機能部150が車両Mの乗員の発話に応じた処理を実行することに伴って、音声を出力中であるか否かを判定する(ステップS40)。エージェント起動部120は、他のエージェント機能部150が音声を出力中であると判定した場合、音響処理部112により検知された車両Mの乗員の発話を記憶部130に記憶する(ステップS42)。すなわち、エージェント起動部120は、他のエージェント機能部150が音声を出力している間に、ステアリングスイッチ28に対する操作が実行された場合、車両Mの乗員の発話を記憶部130に記憶する。一方、エージェント機能部150は、エージェント起動部120により他のエージェント機能部150が音声を出力中ではないと判定された場合、車両Mの乗員の発話に応じて処理を開始する(ステップS44)。次に、音響処理部112は、マイク10を通じて入力される音声信号に基づき、車両Mの乗員の発話が終了したか否かを判定する(ステップS46)。そして、音響処理部112は、車両Mの乗員の発話が終了していないと判定した場合、その処理をステップS30に戻す。一方、音響処理部112は、車両Mの乗員の発話が終了したと判定した場合、本フローチャートの処理が終了する。
図10は、第2実施形態に係る車載エージェントシステムVASの動作を説明するための図である。
まず、管理部110は、時刻t21において、ステアリングスイッチ28に対して第1操作態様(「半押し」)の操作が実行されたと判定した場合、第1操作態様に対応するエージェント機能部150−1を起動する。次に、エージェント機能部150−1は、時刻t22において、マイク10から管理部110を通じて入力される車両Mの乗員の発話を検知した場合、検知した発話に応じて処理を実行する。次に、管理部110は、時刻t23において、ステアリングスイッチ28に対して第2操作態様(「長押し」)の操作が実行されたと判定した場合、エージェント機能部150−1が音声を出力中であるため、車両Mの乗員の発話を記憶部130に記憶する。その後、時刻t24において、エージェント機能部150が音声の出力を完了した場合、管理部110は、第2操作態様に対応するエージェント機能部150−2を起動する。そして、エージェント機能部150−2は、記憶部130から車両Mの乗員の発話を取得して処理を実行する。
上記説明した第2実施形態に係る車載エージェントシステムVASによれば、第1実施形態に係る車載エージェントシステムVASと同様に、利便性を高めることができる。また、第2実施形態に係る車載エージェントシステムVASによれば、第1実施形態に係る車載エージェントシステムVASと同様に、利便性をより一層高めることができる。
また、第2実施形態に係る車載エージェントシステムVASによれば、更に、処理負荷を低減することができる。例えば、車両Mの乗員によりステアリングスイッチ28の操作態様が切り替えられた場合、複数の操作態様に対応するエージェント機能部が並行して処理を開始すると、車載エージェントシステムVASの処理負荷が増大する。これに対し、第2実施形態に係る車載エージェントシステムVASでは、車両Mの乗員によりステアリングスイッチ28の操作態様が切り替えられた場合、複数のエージェント機能部150のいずれもが処理を実行中でないことを条件に、複数のエージェント機能部150の中から選択されたエージェント機能部150が車両Mの乗員の発話に応じた処理を開始する。そのため、車載エージェントシステムVASの処理負荷を低減することができる。
<第3実施形態>
以下、第3実施形態について説明する。第3実施形態は、第1実施形態と比較すると、エージェント機能部がステアリングスイッチの操作態様の判定を行う点が異なる。以下、この相違点を中心に説明する。
図11は、第3実施形態に係る車載エージェントシステムVASの構成と、車両Mに搭載された機器とを示す図である。
記憶部130Aは、エージェント機能部150−1に対応して設定された第1記憶領域S1と、エージェント機能部150−2に対応して設定された第2記憶領域S2と、エージェント機能部150−3に対応して設定された第3記憶領域S3とを有している。記憶領域S1〜S3には、エージェント機能部150−1〜150−3と、エージェント機能部150−1〜150−3を起動する場合のステアリングスイッチ28の操作態様とが対応付けた対応情報132が記憶されている。
エージェント機能部150は、車両Mの乗員によりステアリングスイッチ28の操作が実行された場合、ステアリングスイッチ28の操作態様に応じて出力される操作信号を管理部110を介して取得する。そして、エージェント機能部150は、取得した操作信号に基づき、ステアリングスイッチ28の操作態様を判定する。また、エージェント機能部150は、自身に対応する記憶領域の対応情報132を参照して、操作信号に基づいて判定したステアリングスイッチ28の操作態様と、自身に対応するステアリングスイッチ28の操作態様とを照合する。そして、エージェント機能部150は、照合が成立したことを条件に起動する。
図12は、記憶部130Aの記憶領域S1〜S3ごとに記憶された対応情報132の一例を説明するための図である。同図に示す例では、エージェントごとの起動のための設定操作を行う前には、第1記憶領域S1に対応する「エージェント1」に対し、「半押し」というステアリングスイッチ28の操作態様が対応付けられている。また、第2記憶領域S2に対応する「エージェント2」に対し、「長押し」というステアリングスイッチ28の操作態様が対応付けられている。また、第3記憶領域S3に対応する「エージェント3」に対し、「2回押し」というステアリングスイッチ28の操作態様が対応付けられている。そして、同図に示す例では、エージェントごとの起動のための設定操作の一例として、第1記憶領域S1に対応する「エージェント1」に対し、「長押し」というステアリングスイッチ28の操作態様が指定されている。この場合、第1記憶領域S1に対応する「エージェント1」に対し、「長押し」というステアリングスイッチ28の操作態様が対応付けられる。また、設定操作が行われる前に、「長押し」というステアリングスイッチ28の操作態様が対応付けられていた第2記憶領域S2に対応する「エージェント2」は、エージェントとの対応付けが解除された「半押し」というステアリングスイッチ28の操作態様に対して対応付けられる。すなわち、複数のエージェント機能部150−1〜150−3のそれぞれは、エージェント機能部ごとに起動のためのステアリングスイッチ28の操作態様の設定操作が実行された場合、設定操作された操作態様と起動の対象となるエージェント機能部150−1〜150−3とを対応付けて、記憶部130Aにおける該当する記憶領域に記憶する。この点で、記憶部130Aは、「第3記憶部」の一例である。
以下、第3実施形態に係る車載エージェントシステムVASの一連の処理の流れについてフローチャートを用いて説明する。図13は、第3実施形態に係る車載エージェントシステムVASの一連の処理の流れを説明するためのフローチャートである。本フローチャートの処理は、例えば、エージェント機能部150の起動の停止とともに開始される。
まず、エージェント機能部150は、管理部110を通じて取得したステアリングスイッチ28の操作信号に基づき、ステアリングスイッチ28の操作が実行されたか否かを判定する(ステップS50)。エージェント機能部150は、ステアリングスイッチ28の操作が実行されたと判定した場合、取得した操作信号に基づき、ステアリングスイッチ28の操作態様を判定する。また、エージェント機能部150は、記憶部130Aにおける自身に対応する記憶領域の対応情報132を参照して、操作信号に基づいて判定したステアリングスイッチ28の操作態様と、自身に対応するステアリングスイッチ28の操作態様との照合が成立するか否かを判定する(ステップS52)。エージェント機能部150は、操作態様の照合が成立したと判定した場合、起動を開始する(ステップS54)。一方、エージェント機能部150は、操作態様の照合が成立しないと判定した場合、ステップS54の処理を経ることなく、その処理をステップS56に移行する。
次に、音響処理部112は、マイク10を通じて入力される音声信号に基づき、車両Mの乗員の発話が検知されたか否かを判定する(ステップS56)。音響処理部112は、車両Mの乗員の発話が検知されていないと判定した場合、その処理をステップS50に戻す。その後、エージェント機能部150は、ステアリングスイッチ28の新たな操作が実行されたか否かを判定する(ステップS50)。エージェント機能部150は、ステアリングスイッチ28の新たな操作が実行されたと判定した場合、記憶部130Aを参照して、操作態様の照合が成立するか否かを判定する(ステップS52)。そして、エージェント機能部150は、操作態様の照合が成立したと判定した場合、起動を開始する(ステップS54)。
一方、エージェント機能部150は、音響処理部112により車両Mの乗員の発話が検知されたと判定された場合、自身が起動中であるか否かを判定する(ステップS58)。すなわち、エージェント機能部150は、ステアリングスイッチ28の操作が実行されることに伴って自身を予め起動した上で、音響処理部112により車両Mの乗員による発話が検知されたか否かを判定する。エージェント機能部150は、自身が起動中であると判定した場合、車両Mの乗員の発話に応じて処理を開始する(ステップS60)。次に、音響処理部112は、マイク10を通じて入力される音声信号に基づき、車両Mの乗員の発話が終了したか否かを判定する(ステップS62)。そして、音響処理部112は、車両Mの乗員の発話が終了していないと判定した場合、その処理をステップS50に戻す。一方、音響処理部112は、車両Mの乗員の発話が終了したと判定した場合、本フローチャートの処理が終了する。
図14は、第3実施形態に係る車載エージェントシステムVASの動作を説明するための図である。
まず、エージェント機能部150−1は、時刻t31において、ステアリングスイッチ28に対して第1操作態様(「半押し」)の操作が実行された場合、第1操作態様と自身に対応する操作態様との照合が成立したと判定し、起動を開始する。次に、エージェント機能部150−2は、時刻t32において、ステアリングスイッチ28に対して第2操作態様(「長押し」)の操作が実行された場合、第2操作態様と自身に対応する操作態様との照合が成立したと判定し、起動を開始する。次に、エージェント機能部150−1は、時刻t33において、エージェント機能部150−1への指示を含む車両Mの乗員の発話を管理部110を通じて取得した場合、取得した発話に応じて処理を実行する。次に、エージェント機能部150−2は、時刻t34において、エージェント機能部150−2への指示を含む車両Mの乗員の発話を管理部110を通じて取得した場合、取得した発話に応じて処理を実行する。
上記説明した第3実施形態に係る車載エージェントシステムVASによれば、第1実施形態および第2実施形態に係る車載エージェントシステムVASと同様に、利便性を高めることができる。また、第3実施形態に係る車載エージェントシステムVASによれば、第1実施形態および第2実施形態に係る車載エージェントシステムVASと同様に、利便性をより一層高めることができる。
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
10 マイク
20 表示・操作装置
30 スピーカユニット
40 ナビゲーション装置
50 車両機器
60 車載通信装置
70 汎用通信装置
VAS 車載エージェントシステム
100 エージェント装置
110 管理部
112 音響処理部
114 エージェントごとWU判定部
116 操作判定部
118 エージェント設定部
120 エージェント起動部
122 表示制御部
124 音声制御部
130 記憶部
130A 記憶部
150 エージェント機能部
152 ペアリングアプリ実行部
200 エージェントサーバ

Claims (9)

  1. 車両の乗員の発話に応じて、音声による応答を含むサービスを提供する複数のエージェント機能部と、
    前記複数のエージェント機能部に共通して前記車両に設けられた共通操作部とを備え、
    前記共通操作部に対して、前記複数のエージェント機能部のそれぞれに対応して設定された操作態様で操作が実行された場合、前記実行された操作の操作態様に対応するエージェント機能部が起動する、
    車載エージェントシステム。
  2. 前記複数のエージェント機能部のそれぞれの起動を制御する管理部を更に備え、
    前記管理部は、前記共通操作部に対する操作が実行された場合、前記実行された操作態様に対応するエージェント機能部を起動させる、
    請求項1記載の車載エージェントシステム。
  3. 前記管理部は、前記エージェント機能部ごとに起動のための前記共通操作部の操作態様の設定操作が実行された場合、前記設定操作された操作態様と起動の対象となるエージェント機能部とを対応付けた対応情報を記憶部に記憶させ、前記共通操作部に対する操作が実行された場合、前記記憶部に記憶された対応情報を参照して、前記実行された操作の操作態様に対応するエージェント機能部を特定する、
    請求項2記載の車載エージェントシステム。
  4. 前記管理部は、前記共通操作部に対する操作が実行された場合、前記実行された操作の操作態様に対応するエージェント機能部以外のエージェント機能部が起動中であっても、前記実行された操作の操作態様に対応するエージェント機能部を起動させる、
    請求項2または3記載の車載エージェントシステム。
  5. 前記管理部は、前記複数のエージェント機能部のうちいずれかのエージェント機能部が音声を出力している間に、前記共通操作部に対する操作が実行された場合、前記車両の乗員の発話を記憶部に記憶させ、前記共通操作部に対する操作によって起動したエージェント機能部は、前記記憶部から取得した前記車両の乗員の発話に応じて処理を実行する、
    請求項2から4のうちいずれか1項記載の車載エージェントシステム。
  6. 前記複数のエージェント機能部のそれぞれは、前記共通操作部に対する操作が実行された場合、前記実行された操作の操作態様と自身に対応して設定された操作態様とを照合し、照合が成立したことを条件に起動する、
    請求項1記載の車載エージェントシステム。
  7. 前記複数のエージェント機能部のそれぞれは、自身の起動のための前記共通操作部の操作態様の設定操作が実行された場合、前記設定操作された操作態様に関する情報を記憶部に記憶させ、前記共通操作部に対する操作が実行された場合、前記記憶部に記憶された操作態様に関する情報を参照して、自身が起動するか否かを決定する、
    請求項6記載の車載エージェントシステム。
  8. コンピュータが、
    複数のエージェント機能部のうちいずれかを起動させ、
    前記起動したエージェント機能部の機能として、車両の乗員の発話に応じて、音声による応答を含むサービスを提供し、
    共通操作部に対して、前記複数のエージェント機能部のそれぞれに対応して設定された操作態様で操作が実行された場合、前記実行された操作の操作態様に対応するエージェント機能部を起動する、
    車載エージェントシステムの制御方法。
  9. コンピュータに、
    複数のエージェント機能部のうちいずれかを起動させる処理と、
    前記起動したエージェント機能部の機能として、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する処理と、
    共通操作部に対して、前記複数のエージェント機能部のそれぞれに対応して設定された操作態様で操作が実行された場合、前記実行された操作の操作態様に対応するエージェント機能部を起動する処理と、
    を実行させるプログラム。
JP2019041564A 2019-03-07 2019-03-07 エージェント装置、エージェント装置の制御方法、およびプログラム Active JP7198122B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019041564A JP7198122B2 (ja) 2019-03-07 2019-03-07 エージェント装置、エージェント装置の制御方法、およびプログラム
US16/807,250 US11508370B2 (en) 2019-03-07 2020-03-03 On-board agent system, on-board agent system control method, and storage medium
CN202010149143.4A CN111660955A (zh) 2019-03-07 2020-03-05 车载智能体系统、车载智能体系统的控制方法及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019041564A JP7198122B2 (ja) 2019-03-07 2019-03-07 エージェント装置、エージェント装置の制御方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2020144260A true JP2020144260A (ja) 2020-09-10
JP7198122B2 JP7198122B2 (ja) 2022-12-28

Family

ID=72353571

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019041564A Active JP7198122B2 (ja) 2019-03-07 2019-03-07 エージェント装置、エージェント装置の制御方法、およびプログラム

Country Status (3)

Country Link
US (1) US11508370B2 (ja)
JP (1) JP7198122B2 (ja)
CN (1) CN111660955A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220115014A1 (en) * 2020-10-09 2022-04-14 Toyota Jidosha Kabushiki Kaisha Vehicle agent device, vehicle agent system, and computer-readable storage medium

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7198122B2 (ja) * 2019-03-07 2022-12-28 本田技研工業株式会社 エージェント装置、エージェント装置の制御方法、およびプログラム
WO2022254669A1 (ja) * 2021-06-03 2022-12-08 日産自動車株式会社 対話サービス装置及び対話システム制御方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003174497A (ja) * 2001-12-05 2003-06-20 Nec Saitama Ltd 携帯電話機及びその操作方法
JP2006188098A (ja) * 2004-12-28 2006-07-20 Pioneer Electronic Corp 対話装置、対話方法、対話プログラムおよびコンピュータに読み取り可能な記録媒体
JP2008003517A (ja) * 2006-06-26 2008-01-10 Nec System Technologies Ltd 音声対話装置、音声対話方法、およびプログラム
JP2009175908A (ja) * 2008-01-23 2009-08-06 Xanavi Informatics Corp 情報表示装置およびタッチパネルの操作方法
JP2018021987A (ja) * 2016-08-02 2018-02-08 ユニロボット株式会社 会話処理装置、及びプログラム

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06243096A (ja) * 1991-07-12 1994-09-02 Personal Joho Kankyo Kyokai ヒューマンインタフェースのアーキテクチャモデル
JP2001141500A (ja) * 1999-11-15 2001-05-25 Auto Network Gijutsu Kenkyusho:Kk 車載エージェント処理装置
US6922670B2 (en) * 2000-10-24 2005-07-26 Sanyo Electric Co., Ltd. User support apparatus and system using agents
JP2002175316A (ja) * 2000-12-07 2002-06-21 Sanyo Electric Co Ltd ユーザ支援装置およびシステム
US20020173333A1 (en) * 2001-05-18 2002-11-21 Buchholz Dale R. Method and apparatus for processing barge-in requests
US6947895B1 (en) * 2001-08-14 2005-09-20 Cisco Technology, Inc. Distributed speech system with buffer flushing on barge-in
US7158936B2 (en) * 2001-11-01 2007-01-02 Comverse, Inc. Method and system for providing a voice application bookmark
US7693720B2 (en) * 2002-07-15 2010-04-06 Voicebox Technologies, Inc. Mobile systems and methods for responding to natural language speech utterance
DE602004025616D1 (de) * 2003-12-26 2010-04-01 Kenwood Corp Einrichtungssteuereinrichtung, -verfahren und -programm
US8229750B2 (en) * 2004-04-28 2012-07-24 Nuance Communications, Inc. Barge-in capabilities of a voice browser
JP4645310B2 (ja) 2005-06-02 2011-03-09 株式会社デンソー エージェントキャラクタ表示を利用した表示システム
USRE49014E1 (en) * 2013-06-19 2022-04-05 Panasonic Intellectual Property Corporation Of America Voice interaction method, and device
CN106164398B (zh) * 2014-04-10 2018-02-09 三菱电机株式会社 移动设备、车辆远程操作系统、以及车辆远程操作方法
JP6690346B2 (ja) * 2016-03-25 2020-04-28 日本電気株式会社 セキュリティリスク管理システム、サーバ、制御方法、プログラム
US10270885B2 (en) * 2016-05-13 2019-04-23 Servicenow, Inc. System and method for deploying resources within a computing infrastructure
US11034362B2 (en) * 2016-07-07 2021-06-15 Harman International Industries, Incorporated Portable personalization
WO2018025383A1 (ja) * 2016-08-04 2018-02-08 株式会社日立製作所 エビデンス収集システム及び方法
CN107888653A (zh) * 2016-09-30 2018-04-06 本田技研工业株式会社 发话装置、沟通装置和移动体
WO2018182311A1 (en) * 2017-03-28 2018-10-04 Samsung Electronics Co., Ltd. Method for operating speech recognition service, electronic device and system supporting the same
WO2018221175A1 (ja) * 2017-05-30 2018-12-06 日本電気株式会社 半順序手順計画装置、半順序手順計画方法および半順序手順計画プログラム
WO2018225069A1 (en) * 2017-06-07 2018-12-13 Nexar Ltd. Digitizing and mapping the public space using collaborative networks of mobile agents and cloud nodes
KR102411766B1 (ko) * 2017-08-25 2022-06-22 삼성전자주식회사 음성 인식 서비스를 활성화하는 방법 및 이를 구현한 전자 장치
CN109273006B (zh) * 2018-09-28 2023-05-26 上汽通用五菱汽车股份有限公司 车载系统的语音控制方法、车载系统、车辆及存储介质
TWI713016B (zh) * 2019-01-03 2020-12-11 瑞昱半導體股份有限公司 語音偵測處理系統與語音偵測方法
JP7198122B2 (ja) * 2019-03-07 2022-12-28 本田技研工業株式会社 エージェント装置、エージェント装置の制御方法、およびプログラム
JP7287258B2 (ja) * 2019-12-10 2023-06-06 トヨタ自動車株式会社 エージェント管理装置、プログラムおよびエージェント管理方法
US20210374563A1 (en) * 2020-05-29 2021-12-02 Joni Jezewski Solution Automation

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003174497A (ja) * 2001-12-05 2003-06-20 Nec Saitama Ltd 携帯電話機及びその操作方法
JP2006188098A (ja) * 2004-12-28 2006-07-20 Pioneer Electronic Corp 対話装置、対話方法、対話プログラムおよびコンピュータに読み取り可能な記録媒体
JP2008003517A (ja) * 2006-06-26 2008-01-10 Nec System Technologies Ltd 音声対話装置、音声対話方法、およびプログラム
JP2009175908A (ja) * 2008-01-23 2009-08-06 Xanavi Informatics Corp 情報表示装置およびタッチパネルの操作方法
JP2018021987A (ja) * 2016-08-02 2018-02-08 ユニロボット株式会社 会話処理装置、及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220115014A1 (en) * 2020-10-09 2022-04-14 Toyota Jidosha Kabushiki Kaisha Vehicle agent device, vehicle agent system, and computer-readable storage medium

Also Published As

Publication number Publication date
US11508370B2 (en) 2022-11-22
JP7198122B2 (ja) 2022-12-28
US20200320996A1 (en) 2020-10-08
CN111660955A (zh) 2020-09-15

Similar Documents

Publication Publication Date Title
US11508370B2 (en) On-board agent system, on-board agent system control method, and storage medium
JP2020157855A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
CN111559328B (zh) 智能体装置、智能体装置的控制方法及存储介质
US11240342B2 (en) Agent device, method of controlling agent device, and computer-readable non-transient storage medium
US20200317055A1 (en) Agent device, agent device control method, and storage medium
JP2020144264A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
US11797261B2 (en) On-vehicle device, method of controlling on-vehicle device, and storage medium
JP7175221B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020144275A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020157853A (ja) 車載エージェントシステム、車載エージェントシステムの制御方法、およびプログラム
JP2020152298A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020154942A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020160133A (ja) エージェントシステム、エージェントシステムの制御方法、およびプログラム
JP2020157808A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020154994A (ja) エージェントシステム、エージェントサーバ、エージェントサーバの制御方法、およびプログラム
JP2020148583A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020157919A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
US11518399B2 (en) Agent device, agent system, method for controlling agent device, and storage medium
JP7297483B2 (ja) エージェントシステム、サーバ装置、エージェントシステムの制御方法、およびプログラム
JP7274901B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020135110A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020152297A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020160132A (ja) エージェント装置、エージェント装置の制御方法、プログラム、エージェントサーバ、およびエージェントサーバの制御方法
JP2020157864A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP2020157854A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221216

R150 Certificate of patent or registration of utility model

Ref document number: 7198122

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150