JP7266432B2 - エージェント装置、エージェント装置の制御方法、およびプログラム - Google Patents

エージェント装置、エージェント装置の制御方法、およびプログラム Download PDF

Info

Publication number
JP7266432B2
JP7266432B2 JP2019047757A JP2019047757A JP7266432B2 JP 7266432 B2 JP7266432 B2 JP 7266432B2 JP 2019047757 A JP2019047757 A JP 2019047757A JP 2019047757 A JP2019047757 A JP 2019047757A JP 7266432 B2 JP7266432 B2 JP 7266432B2
Authority
JP
Japan
Prior art keywords
occupant
activation
unit
vehicle
agent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019047757A
Other languages
English (en)
Other versions
JP2020147214A (ja
Inventor
正樹 栗原
慎一 菊池
真也 安原
裕介 大井
裕 本田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2019047757A priority Critical patent/JP7266432B2/ja
Priority to CN202010164047.7A priority patent/CN111696560A/zh
Priority to US16/816,325 priority patent/US11380325B2/en
Publication of JP2020147214A publication Critical patent/JP2020147214A/ja
Application granted granted Critical
Publication of JP7266432B2 publication Critical patent/JP7266432B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques
    • G10L17/06Decision making techniques; Pattern matching strategies
    • G10L17/14Use of phonemic categorisation or speech recognition prior to speaker recognition or verification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/01Fittings or systems for preventing or indicating unauthorised use or theft of vehicles operating on vehicle systems or fittings, e.g. on doors, seats or windscreens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/20Means to switch the anti-theft system on or off
    • B60R25/25Means to switch the anti-theft system on or off using biometry
    • B60R25/257Voice recognition
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/30Detection related to theft or to other events relevant to anti-theft systems
    • B60R25/31Detection related to theft or to other events relevant to anti-theft systems of human presence inside or outside the vehicle
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • G10L15/30Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques
    • G10L17/22Interactive procedures; Man-machine interfaces
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques
    • G10L17/22Interactive procedures; Man-machine interfaces
    • G10L17/24Interactive procedures; Man-machine interfaces the user being prompted to utter a password or a predefined phrase
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/24Speech recognition using non-acoustical features
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/24Speech recognition using non-acoustical features
    • G10L15/25Speech recognition using non-acoustical features using position of the lips, movement of the lips or face analysis
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L2015/088Word spotting
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/226Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/226Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
    • G10L2015/227Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics of the speaker; Human-factor methodology
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/226Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
    • G10L2015/228Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics of application context

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • Mechanical Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Game Theory and Decision Science (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Navigation (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、エージェント装置、システム、エージェント装置の制御方法、およびプログラムに関する。
従来、車両の乗員と対話を行いながら、乗員の要求に応じた運転支援に関する情報や車両の制御、その他のアプリケーション等を提供するエージェント機能に関する技術が開示されている(例えば、特許文献1参照)。
特開2006-335231号公報
近年では、エージェント機能を車両に搭載することについて実用化が進められているが、エージェント機能の起動方法について十分に検討されていなかった。このため、従来の技術では、利用者の嗜好に合った起動方法を提供することができない場合があった。
本発明は、このような事情を考慮してなされたものであり、利用者の嗜好に合った起動方法を提供するエージェント装置、システム、エージェント装置の制御方法、およびプログラムことを目的の一つとする。
この発明に係るエージェント装置、システム、エージェント装置の制御方法、およびプログラムは、以下の構成を採用した。
(1):この発明の一態様に係るエージェント装置は、車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供する一以上のエージェント機能部と、前記乗員による入力を受け付ける受付部と、前記受付部により受け付けられた内容に基づいて、前記エージェント機能部の起動方法を変更または追加する起動方法設定部と、を備えるエージェント装置である。
(2):上記(1)の態様において、前記エージェント機能部は、前記音声に含まれ、前記起動方法設定部によって設定された起動方法に基づく起動キーワードに応じて起動するものである。
(3):上記(2)の態様において、前記起動方法設定部は、記憶部に記憶された特定ワードを起動キーワードから除外するものである。
(4):上記(3)の態様において、前記特定ワードは、記憶部に記憶された前記車両の前記乗員に関連ある人物の、名前、苗字、氏名、愛称、または通称のうち、一部または全部を含むものである。
(5):上記(3)または(4)の態様において、前記エージェント装置は、前記車両の前記乗員に関連ある人物の、名前、苗字、氏名、愛称、または通称のうち、一部または全部を、前記特定ワードとして前記記憶部に記憶させるものである。
(6):上記(2)から(5)のいずれかの態様において、前記エージェント機能部は、前記設定された起動キーワードが男性を示すワードであると推定される場合、推定結果に基づいて前記音声による応答を含むサービスを提供するものである。
(7):上記(6)の態様において、前記エージェント機能部は、前記推定結果に基づいて、前記音声による応答を男性調の声色、または口調で提供するものである。
(8):上記(2)から(7)のいずれかの態様において、前記エージェント機能部は、前記設定された起動キーワードが女性を示すワードであると推定される場合、前記推定結果に基づいて前記音声による応答を含むサービスを提供するものである。
(9):上記(8)の態様において、前記エージェント機能部は、前記推定結果に基づいて、前記音声による応答を女性調の声色、または口調で提供するものである。
(10):上記(2)から(9)のいずれかの態様において、前記車両の乗員を検知する乗員検知部を更に備え、前記エージェント機能部は、前記乗員検知部の検知結果に基づいて、前記受付部を介して第1起動キーワードを起動キーワードとして設定した第1乗員とは異なる乗員により前記第1起動キーワードが入力されたと判定された場合、前記第1起動キーワードに応じて起動せず、前記乗員検知部の検知結果に基づいて、前記受付部を介して第1乗員により前記第1起動キーワードが入力されたと判定された場合、前記第1起動キーワードに応じて起動するものである。
(11):上記(2)から(10)のいずれかの態様において、前記車両の乗員を検知する乗員検知部を更に備え、前記エージェント機能部は、前記乗員検知部の検知結果に基づいて、第1起動キーワードが入力された場合において、前記第1起動キーワードに対応付けられた第1乗員以外の乗員が前記車両の車室内に存在すると判定された場合、前記第1起動キーワードに応じて起動せず、前記乗員検知部の検知結果に基づいて、前記第1起動キーワードが入力された場合において、前記第1起動キーワードに対応付けられた第1乗員以外の乗員が前記車両の車室内に存在しないと判定された場合、前記第1起動キーワードに応じて起動するものである。
(12):上記(10)または(11)の態様において、前記エージェント機能部は、前記エージェント機能部が前記第1起動キーワードとは異なる起動キーワードで起動した場合、前記第1起動キーワードで起動した際の動作履歴を参照しないものである。
(13):上記(2)から(12)のいずれかの態様において、複数の前記エージェント機能部を備え、前記起動方法設定部は、前記複数の前記エージェント機能部に共通した起動キーワードを使用するものである。
(14):この発明の一態様に係るエージェント装置の制御方法は、コンピュータが、車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供し、前記乗員による入力を受け付け、前記受け付けられた内容に基づいて、前記サービスを提供する機能の起動方法を変更または追加するエージェント装置の制御方法である。
(15):の発明の一態様に係るプログラムは、コンピュータに、車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供させ、前記乗員による入力を受け付けさせ、前記受け付けられた内容に基づいて、前記サービスを提供する機能の起動方法を変更または追加させるプログラムである。
(1)、(2)、(13)~(15)によれば、エージェント機能部の起動方法を変更または追加することにより、利用者の嗜好に合った起動方法を提供することができる。
(3)~(5)によれば、記憶部に記憶された特定ワードが起動キーワードから除外されるため、乗員がエージェント機能部を起動させる意思がなく、日常会話で特定ワードを用いた場合にエージェント機能部が起動することが抑制されるため、乗員にとっての利便性が向上する。
(6)~(9)によれば、乗員の種別に基づいて記音声による応答を含むサービスを提供することで乗員の満足度が向上する。
(10)~(12)によれば、乗員検知部の検知結果が加味されて、エージェント機能部が起動するため、乗員のプライバシーが守られる。
エージェント装置100を含むエージェントシステム1の構成図である。 第1実施形態に係るエージェント装置100の構成と、車両Mに搭載された機器とを示す図である。 表示・操作装置20の配置例を示す図である。 スピーカユニット30の配置例を示す図である。 音像が定位する位置が定まる原理について説明するための図である。 エージェントサーバ200の構成と、エージェント装置100の構成の一部とを示す図である。 エージェント装置100により実行される処理の流れの一例を示すフローチャートである。 特定ワード辞書122の内容の一例を示す図である。 エージェント機能部150が起動する処理の一例を示すフローチャートである。 汎用通信装置70とエージェント装置100とにより実行される処理の流れのフローチャートの一例を示す図である。 エージェント装置100により実行される応答処理のモード設定の処理の流れの一例を示すフローチャートである。 エージェント機能部150が出力する情報の一例を示す図である。 第2実施形態に係るエージェント装置100Aの構成と、車両Mに搭載された機器とを示す図である。 乗員認識装置80とエージェント装置100とにより実行される処理の流れのフローチャートの一例を示す図(その1)である。 ウエイクアップワード情報128の内容の一例を示す図である。 乗員認識装置80とエージェント装置100とにより実行される処理の流れのフローチャートの一例を示す図(その2)である。 エージェント装置100により実行される応答処理における処理の一部の流れの一例を示すフローチャートである。 シークレットモードで起動したエージェント機能部150が行う応答の一例を示す図である。 変形例のエージェント装置100Bの機能構成の一例を示す図である。
以下、図面を参照し、本発明のエージェント装置、システム、エージェント装置の制御方法、およびプログラムの実施形態について説明する。
<第1実施形態>
エージェント装置は、エージェントシステムの一部または全部を実現する装置である。以下では、エージェント装置の一例として、車両(以下、車両M)に搭載され、複数種類のエージェント機能を備えたエージェント装置について説明する。エージェント機能とは、例えば、車両Mの乗員と対話をしながら、乗員の発話の中に含まれる要求(コマンド)に基づく各種の情報提供を行ったり、ネットワークサービスを仲介したりする機能である。複数種類のエージェントはそれぞれに果たす機能、処理手順、制御、出力態様・内容がそれぞれ異なってもよい。また、エージェント機能の中には、車両内の機器(例えば運転制御や車体制御に関わる機器)の制御等を行う機能を有するものがあってよい。
エージェント機能は、例えば、乗員の音声を認識する音声認識機能(音声をテキスト化する機能)に加え、自然言語処理機能(テキストの構造や意味を理解する機能)、対話管理機能、ネットワークを介して他装置を検索し、或いは自装置が保有する所定のデータベースを検索するネットワーク検索機能等を統合的に利用して実現される。これらの機能の一部または全部は、AI(Artificial Intelligence)技術によって実現されてよい。また、これらの機能を行うための構成の一部(特に、音声認識機能や自然言語処理解釈機能)は、車両Mの車載通信装置または車両Mに持ち込まれた汎用通信装置と通信可能なエージェントサーバ(外部装置)に搭載されてもよい。以下の説明では、構成の一部がエージェントサーバに搭載されており、エージェント装置とエージェントサーバが協働してエージェントシステムを実現することを前提とする。また、エージェント装置とエージェントサーバが協働して仮想的に出現させるサービス提供主体(サービス・エンティティ)をエージェントと称する。
<全体構成>
図1は、エージェント装置100を含むエージェントシステム1の構成図である。エージェントシステム1は、例えば、エージェント装置100と、複数のエージェントサーバ200-1、200-2、200-3、…とを備える。符号の末尾のハイフン以下の数字は、エージェントを区別するための識別子であるものとする。いずれのエージェントサーバであるかを区別しない場合、単にエージェントサーバ200と称する場合がある。図1では3つのエージェントサーバ200を示しているが、エージェントサーバ200の数は2つであってもよいし、4つ以上であってもよい。それぞれのエージェントサーバ200は、互いに異なるエージェントシステムの提供者が運営するものである。従って、本発明におけるエージェントは、互いに異なる提供者により実現されるエージェントである。提供者としては、例えば、自動車メーカー、ネットワークサービス事業者、電子商取引事業者、携帯端末の販売者などが挙げられ、任意の主体(法人、団体、個人等)がエージェントシステムの提供者となり得る。
エージェント装置100は、ネットワークNWを介してエージェントサーバ200と通信する。ネットワークNWは、例えば、インターネット、セルラー網、Wi-Fi網、WAN(Wide Area Network)、LAN(Local Area Network)、公衆回線、電話回線、無線基地局などのうち一部または全部を含む。ネットワークNWには、各種ウェブサーバ300が接続されており、エージェントサーバ200またはエージェント装置100は、ネットワークNWを介して各種ウェブサーバ300からウェブページを取得することができる。
エージェント装置100は、車両Mの乗員と対話を行い、乗員からの音声をエージェントサーバ200に送信し、エージェントサーバ200から得られた回答を、音声出力や画像表示の態様で乗員に提示する。
<第1実施形態>
[車両]
図2は、第1実施形態に係るエージェント装置100の構成と、車両Mに搭載された機器とを示す図である。車両Mには、例えば、一以上のマイク10と、表示・操作装置20と、スピーカユニット30と、ナビゲーション装置40と、車両機器50と、車載通信装置60と、乗員認識装置80と、エージェント装置100とが搭載される。また、スマートフォンなどの汎用通信装置70が車室内に持ち込まれ、通信装置として使用される場合がある。これらの装置は、CAN(Controller Area Network)通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図2に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。
マイク10は、車室内で発せられた音声を収集する収音部である。表示・操作装置20は、画像を表示すると共に、入力操作を受付可能な装置(或いは装置群)である。表示・操作装置20は、例えば、タッチパネルとして構成されたディスプレイ装置を含む。表示・操作装置20は、更に、HUD(Head Up Display)や機械式の入力装置を含んでもよい。スピーカユニット30は、例えば、車室内の互いに異なる位置に配設された複数のスピーカ(音出力部)を含む。表示・操作装置20は、エージェント装置100とナビゲーション装置40とで共用されてもよい。これらの詳細については後述する。
ナビゲーション装置40は、ナビHMI(Human machine Interface)と、GPS(Global Positioning System)などの位置測位装置と、地図情報を記憶した記憶装置と、経路探索などを行う制御装置(ナビゲーションコントローラ)とを備える。マイク10、表示・操作装置20、およびスピーカユニット30のうち一部または全部がナビHMIとして用いられてもよい。ナビゲーション装置40は、位置測位装置によって特定された車両Mの位置から、乗員によって入力された目的地まで移動するための経路(ナビ経路)を探索し、経路に沿って車両Mが走行できるように、ナビHMIを用いて案内情報を出力する。経路探索機能は、ネットワークNWを介してアクセス可能なナビゲーションサーバにあってもよい。この場合、ナビゲーション装置40は、ナビゲーションサーバから経路を取得して案内情報を出力する。なお、エージェント装置100は、ナビゲーションコントローラを基盤として構築されてもよく、その場合、ナビゲーションコントローラとエージェント装置100は、ハードウェア上は一体に構成される。
車両機器50は、例えば、エンジンや走行用モータなどの駆動力出力装置、エンジンの始動モータ、ドアロック装置、ドア開閉装置、窓、窓の開閉装置及び窓の開閉制御装置、シート、シート位置の制御装置、ルームミラー及びその角度位置制御装置、車両内外の照明装置及びその制御装置、ワイパーやデフォッガー及びそれぞれの制御装置、方向指示灯及びその制御装置、空調装置、走行距離やタイヤの空気圧の情報や燃料の残量情報などの車両情報装置などを含む。
車載通信装置60は、例えば、セルラー網やWi-Fi網を利用してネットワークNWにアクセス可能な無線通信装置である。
乗員認識装置80は、例えば、着座センサ、車室内カメラ、画像認識装置などを含む。着座センサは座席の下部に設けられた圧力センサ、シートベルトに取り付けられた張力センサなどを含む。車室内カメラは、車室内に設けられたCCD(Charge Coupled Device)カメラやCMOS(Complementary Metal Oxide Semiconductor)カメラである。画像認識装置は、車室内カメラの画像を解析し、座席ごとの乗員の有無、顔向きなどを認識する。本実施形態において、乗員認識装置80は、着座位置認識部の一例である。
図3は、表示・操作装置20の配置例を示す図である。表示・操作装置20は、例えば、第1ディスプレイ22と、第2ディスプレイ24と、操作スイッチASSY26とを含む。表示・操作装置20は、更に、HUD28を含んでもよい。
車両Mには、例えば、ステアリングホイールSWが設けられた運転席DSと、運転席DSに対して車幅方向(図中Y方向)に設けられた助手席ASとが存在する。第1ディスプレイ22は、インストルメントパネルにおける運転席DSと助手席ASとの中間辺りから、助手席ASの左端部に対向する位置まで延在する横長形状のディスプレイ装置である。第2ディスプレイ24は、運転席DSと助手席ASとの車幅方向に関する中間あたり、且つ第1ディスプレイ22の下方に設置されている。例えば、第1ディスプレイ22と第2ディスプレイ24は、共にタッチパネルとして構成され、表示部としてLCD(Liquid Crystal Display)や有機EL(Electroluminescence)、プラズマディスプレイなどを備えるものである。操作スイッチASSY26は、ダイヤルスイッチやボタン式スイッチなどが集積されたものである。表示・操作装置20は、乗員によってなされた操作の内容をエージェント装置100に出力する。第1ディスプレイ22または第2ディスプレイ24が表示する内容は、エージェント装置100によって決定されてよい。
図4は、スピーカユニット30の配置例を示す図である。スピーカユニット30は、例えば、スピーカ30A~30Hを含む。スピーカ30Aは、運転席DS側の窓柱(いわゆるAピラー)に設置されている。スピーカ30Bは、運転席DSに近いドアの下部に設置されている。スピーカ30Cは、助手席AS側の窓柱に設置されている。スピーカ30Dは、助手席ASに近いドアの下部に設置されている。スピーカ30Eは、右側後部座席BS1側に近いドアの下部に設置されている。スピーカ30Fは、左側後部座席BS2側に近いドアの下部に設置されている。スピーカ30Gは、第2ディスプレイ24の近傍に設置されている。スピーカ30Hは、車室の天井(ルーフ)に設置されている。
係る配置において、例えば、専らスピーカ30Aおよび30Bに音を出力させた場合、音像は運転席DS付近に定位することになる。また、専らスピーカ30Cおよび30Dに音を出力させた場合、音像は助手席AS付近に定位することになる。また、専らスピーカ30Eに音を出力させた場合、音像は右側後部座席BS1付近に定位することになる。また、専らスピーカ30Fに音を出力させた場合、音像は左側後部座席BS2付近に定位することになる。また、専らスピーカ30Gに音を出力させた場合、音像は車室の前方付近に定位することになり、専らスピーカ30Hに音を出力させた場合、音像は車室の上方付近に定位することになる。これに限らず、スピーカユニット30は、ミキサーやアンプを用いて各スピーカの出力する音の配分を調整することで、車室内の任意の位置に音像を定位させることができる。
[エージェント装置]
図2に戻り、エージェント装置100は、管理部110と、記憶部120と、エージェント機能部150-1、150-2、150-3と、ペアリングアプリ実行部152とを備える。管理部110は、例えば、音響処理部112と、エージェントごとWU(Wake Up)判定部113と、ウエイクアップワード設定部114と、モード設定部115と、表示制御部116と、音声制御部118と、生成部119とを備える。いずれのエージェント機能部であるかを区別しない場合、単にエージェント機能部150と称する。3つのエージェント機能部150を示しているのは、図1におけるエージェントサーバ200の数に対応させた一例に過ぎず、エージェント機能部150の数は、2つであってもよいし、4つ以上であってもよい。図2に示すソフトウェア配置は説明のために簡易に示しており、実際には、例えば、エージェント機能部150と車載通信装置60の間に管理部110が介在してもよいし、任意に改変することができる。
エージェント装置100の各構成要素は、例えば、CPU(Central Processing Unit)などのハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。これらの構成要素のうち一部または全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)などのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めHDD(Hard Disk Drive)やフラッシュメモリなどの記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD-ROMなどの着脱可能な記憶媒体(非一過性の記憶媒体)に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。
記憶部120には、特定ワード辞書122や、性別情報124、モード情報126などが記憶されている。なお、上述した記憶部120に記憶された特定ワード辞書122や性別情報124は、エージェント機能部150ごとに設けられていてもよい。
管理部110は、OS(Operating System)やミドルウェアなどのプログラムが実行されることで機能する。
管理部110の音響処理部112は、エージェントごとに予め設定されているウエイクアップワードを認識するのに適した状態になるように、入力された音に対して音響処理を行う。音響処理部112は、乗員が発生させた音の入力を受け付ける「受付部」の一例である。
エージェントごとWU判定部113は、エージェント機能部150-1、150-2、150-3のそれぞれに対応して存在し、エージェントごとに予め定められているウエイクアップワードを認識する。エージェントごとWU判定部113は、音響処理が行われた音声(音声ストリーム)から音声の意味を認識する。まず、エージェントごとWU判定部113は、音声ストリームにおける音声波形の振幅と零交差に基づいて音声区間を検出する。エージェントごとWU判定部113は、混合ガウス分布モデル(GMM;Gaussian mixture model)に基づくフレーム単位の音声識別および非音声識別に基づく区間検出を行ってもよい。
次に、エージェントごとWU判定部113は、検出した音声区間における音声をテキスト化し、文字情報とする。そして、エージェントごとWU判定部113は、テキスト化した文字情報がウエイクアップワードに該当するか否かを判定する。ウエイクアップワードであると判定した場合、エージェントごとWU判定部113は、対応するエージェント機能部150を起動させる。なお、エージェントごとWU判定部113に相当する機能がエージェントサーバ200に搭載されてもよい。この場合、管理部110は、音響処理部112によって音響処理が行われた音声ストリームをエージェントサーバ200に送信し、エージェントサーバ200がウエイクアップワードであると判定した場合、エージェントサーバ200からの指示に従ってエージェント機能部150が起動する。なお、各エージェント機能部150は、常時起動しており且つウエイクアップワードの判定を自ら行うものであってよい。この場合、管理部110がエージェントごとWU判定部113を備える必要はない。
ウエイクアップワード設定部114は、音響処理部112により受け付けられた内容に基づいて、複数のエージェント機能部150のうち一部または全部の起動方法を変更または追加する。
モード設定部115は、音響処理部112により受け付けられた内容に基づいて、エージェント機能部150の起動方法を変更または追加する。詳細については後述する。
エージェント機能部150は、対応するエージェントサーバ200と協働してエージェントを出現させ、車両の乗員の発話(車両の車室内で収音された乗員の音声)に応じて、音声による応答を含むサービスを提供する。エージェント機能部150には、車両機器50を制御する権限が付与されたものが含まれてよい。また、エージェント機能部150には、ペアリングアプリ実行部152を介して汎用通信装置70と連携し、エージェントサーバ200と通信するものであってよい。例えば、エージェント機能部150-1には、車両機器50を制御する権限が付与されている。エージェント機能部150-1は、車載通信装置60を介してエージェントサーバ200-1と通信する。エージェント機能部150-2は、車載通信装置60を介してエージェントサーバ200-2と通信する。エージェント機能部150-3は、ペアリングアプリ実行部152を介して汎用通信装置70と連携し、エージェントサーバ200-3と通信する。
ペアリングアプリ実行部152は、例えば、Bluetooth(登録商標)によって汎用通信装置70とペアリングを行い、エージェント機能部150-3と汎用通信装置70とを接続させる。なお、エージェント機能部150-3は、USB(Universal Serial Bus)などを利用した有線通信によって汎用通信装置70に接続されるようにしてもよい。
表示制御部116は、エージェント機能部150による指示に応じて第1ディスプレイ22または第2ディスプレイ24に画像を表示させる。以下では、第1ディスプレイ22を使用するものとする。表示制御部116は、一部のエージェント機能部150の制御により、例えば、車室内で乗員とのコミュニケーションを行う擬人化されたエージェントの画像(以下、エージェント画像と称する)を生成し、生成したエージェント画像を第1ディスプレイ22に表示させる。エージェント画像は、例えば、乗員に対して話しかける態様の画像である。エージェント画像は、例えば、少なくとも観者(乗員)によって表情や顔向きが認識される程度の顔画像を含んでよい。例えば、エージェント画像は、顔領域の中に目や鼻に擬したパーツが表されており、顔領域の中のパーツの位置に基づいて表情や顔向きが認識されるものであってよい。また、エージェント画像は、観者によって、立体的に感じられ、三次元空間における頭部画像を含むことでエージェントの顔向きが認識される画像である。エージェント画像は、エージェントの動作や振る舞い、姿勢等が認識され本体(胴体や手足)の画像を含むものであってもよい。また、エージェント画像は、アニメーション画像であってもよい。
音声制御部118は、エージェント機能部150による指示に応じて、スピーカユニット30に含まれるスピーカのうち一部または全部に音声を出力させる。音声制御部118は、複数のスピーカユニット30を用いて、エージェント画像の表示位置に対応する位置にエージェント音声の音像を定位させる制御を行ってもよい。エージェント画像の表示位置に対応する位置とは、例えば、エージェント画像がエージェント音声を喋っていると乗員が感じると予測される位置であり、具体的には、エージェント画像の表示位置付近(例えば、2~3[cm]以内)の位置である。また、音像が定位するとは、例えば、乗員の左右の耳に伝達される音の大きさが調節されることにより、乗員が感じる音源の空間的な位置が定められることである。
図5は、音像が定位する位置が定まる原理について説明するための図である。図5では、説明を簡略化するために、上述したスピーカ30B、30D、および30Gを用いる例を示しているが、スピーカユニット30に含まれる任意のスピーカが使用されてよい。音声制御部118は、各スピーカに接続されたアンプ(AMP)32およびミキサー34を制御して音像を定位させる。例えば、図5に示す空間位置MP1に音像を定位させる場合、音声制御部118は、アンプ32およびミキサー34を制御することにより、スピーカ30Bに最大強度の5%の出力を行わせ、スピーカ30Dに最大強度の80%の出力を行わせ、スピーカ30Gに最大強度の15%の出力を行わせる。この結果、乗員Pの位置からは、図5に示す空間位置MP1に音像が定位しているように感じることになる。
また、図5に示す空間位置MP2に音像を定位させる場合、音声制御部118は、アンプ32およびミキサー34を制御することにより、スピーカ30Bに最大強度の45%の出力を行わせ、スピーカ30Dに最大強度の45%の出力を行わせ、スピーカ30Gに最大強度の45%の出力を行わせる。この結果、乗員Pの位置からは、図5に示す空間位置MP2に音像が定位しているように感じることになる。このように、車室内に設けられる複数のスピーカとそれぞれのスピーカから出力される音の大きさを調整することで、音像が定位される位置を変化させることができる。なお、より詳細には、音像の定位する位置は、音源が元々保有している音特性や、車室内環境の情報、頭部伝達関数(HRTF;Head-related transfer function)に基づいて定まるため、音声制御部118は、予め官能試験などで得られた最適な出力配分でスピーカユニット30を制御することで、音像を所定の位置に定位させる。
生成部119は、特定ワード、または特定ワードに類似するワードに基づいて、特定ワード辞書122を生成する。詳細については後述する。
[エージェントサーバ]
図6は、エージェントサーバ200の構成と、エージェント装置100の構成の一部とを示す図である。以下、エージェントサーバ200の構成と共にエージェント機能部150等の動作について説明する。ここでは、エージェント装置100からネットワークNWまでの物理的な通信についての説明を省略する。
エージェントサーバ200は、通信部210を備える。通信部210は、例えばNIC(Network Interface Card)などのネットワークインターフェースである。更に、エージェントサーバ200は、例えば、音声認識部220と、自然言語処理部222と、対話管理部224と、ネットワーク検索部226と、応答文生成部228とを備える。これらの構成要素は、例えば、CPUなどのハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。これらの構成要素のうち一部または全部は、LSIやASIC、FPGA、GPUなどのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めHDDやフラッシュメモリなどの記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD-ROMなどの着脱可能な記憶媒体(非一過性の記憶媒体)に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。
エージェントサーバ200は、記憶部250を備える。記憶部250は、上記の各種記憶装置により実現される。記憶部250には、パーソナルプロファイル252、辞書DB(データベース)254、知識ベースDB256、応答規則DB258などのデータやプログラムが格納される。
エージェント装置100において、エージェント機能部150は、音声ストリーム、或いは圧縮や符号化などの処理を行った音声ストリームを、エージェントサーバ200に送信する。エージェント機能部150は、ローカル処理(エージェントサーバ200を介さない処理)が可能な音声コマンドを認識した場合は、音声コマンドで要求された処理を行ってよい。ローカル処理が可能な音声コマンドとは、エージェント装置100が備える記憶部(不図示)を参照することで回答可能な音声コマンドであったり、エージェント機能部150-1の場合は車両機器50を制御する音声コマンド(例えば、空調装置をオンにするコマンドなど)であったりする。従って、エージェント機能部150は、エージェントサーバ200が備える機能の一部を有してもよい。
エージェント装置100は、音声ストリームを取得すると、音声認識部220が音声認識を行ってテキスト化された文字情報を出力し、自然言語処理部222が文字情報に対して辞書DB254を参照しながら意味解釈を行う。辞書DB254は、文字情報に対して抽象化された意味情報が対応付けられたものである。辞書DB254は、同義語や類義語の一覧情報を含んでもよい。音声認識部220の処理と、自然言語処理部222の処理は、段階が明確に分かれるものではなく、自然言語処理部222の処理結果を受けて音声認識部220が認識結果を修正するなど、相互に影響し合って行われてよい。
自然言語処理部222は、例えば、認識結果として、「今日の天気は」、「天気はどうですか」等の意味が認識された場合、標準文字情報「今日の天気」に置き換えたコマンドを生成する。これにより、リクエストの音声に文字揺らぎがあった場合にも要求にあった対話をし易くすることができる。また、自然言語処理部222は、例えば、確率を利用した機械学習処理等の人工知能処理を用いて文字情報の意味を認識したり、認識結果に基づくコマンドを生成したりしてもよい。
対話管理部224は、自然言語処理部222の処理結果(コマンド)に基づいて、パーソナルプロファイル252や知識ベースDB256、応答規則DB258を参照しながら車両Mの乗員に対する発話の内容を決定する。パーソナルプロファイル252は、乗員ごとに保存されている乗員の個人情報、趣味嗜好、過去の対話の履歴などを含む。知識ベースDB256は、物事の関係性を規定した情報である。応答規則DB258は、コマンドに対してエージェントが行うべき動作(回答や機器制御の内容など)を規定した情報である。
また、対話管理部224は、音声ストリームから得られる特徴情報を用いて、パーソナルプロファイル252と照合を行うことで、乗員を特定してもよい。この場合、パーソナルプロファイル252には、例えば、音声の特徴情報に、個人情報が対応付けられている。音声の特徴情報とは、例えば、声の高さ、イントネーション、リズム(音の高低のパターン)等の喋り方の特徴や、メル周波数ケプストラム係数(Mel Frequency Cepstrum Coefficients)等による特徴量に関する情報である。音声の特徴情報は、例えば、乗員の初期登録時に所定の単語や文章等を乗員に発声させ、発声させた音声を認識することで得られる情報である。
対話管理部224は、コマンドが、ネットワークNWを介して検索可能な情報を要求するものである場合、ネットワーク検索部226に検索を行わせる。ネットワーク検索部226は、ネットワークNWを介して各種ウェブサーバ300にアクセスし、所望の情報を取得する。「ネットワークNWを介して検索可能な情報」とは、例えば、車両Mの周辺にあるレストランの一般ユーザによる評価結果であったり、その日の車両Mの位置に応じた天気予報であったりする。
応答文生成部228は、対話管理部224により決定された発話の内容が車両Mの乗員に伝わるように、応答文を生成し、生成した応答文をエージェント装置100に送信する。応答文生成部228は、乗員がパーソナルプロファイルに登録された乗員であることが特定されている場合に、乗員の名前を呼んだり、乗員の話し方に似せた話し方にした応答文を生成したりしてもよい。
エージェント機能部150は、応答文を取得すると、音声合成を行って音声を出力するように音声制御部118に指示する。また、エージェント機能部150は、音声出力に合わせてエージェントの画像を表示するように表示制御部116に指示する。このようにして、仮想的に出現したエージェントが車両Mの乗員に応答するエージェント機能が実現される。
[設定処理]
ウエイクアップワード設定部114が、エージェント機能部150の起動方法の変更または追加を行う処理について説明する。以下、一例として、ウエイクアップワードの変更が行わる例について説明する。
図7は、エージェント装置100により実行される処理の流れの一例を示すフローチャートである。本処理は、例えば、エージェント機能部150が予め設定されたウエイクアップワードに基づいて起動した後に実行される処理である。
まず、ウエイクアップワード設定部114が、ウエイクアップワードの変更を求める音声が入力されたか否かを判定する(ステップS100)。ウエイクアップワードの変更を求める音声が入力された場合、ウエイクアップワード設定部114は、変更するウエイクアップワード(以下、変更候補ワード)が入力されたか否かを判定する(ステップS102)。「ウエイクアップワードの変更を求める音声」とは、例えば、「ウエイクアップワードを変更したい」や、「エージェントを起動させるワードを変更したい」などのウエイクアップワードを変更する意思を示す音声である。これらのウエイクアップワードを変更する意思を示す音声から得られる文字情報(以下、変更情報)は、予め記憶部120に記憶されている。ウエイクアップワード設定部114は、記憶部120に記憶された変更情報を参照して、上記のステップS102の判定を行う。
変更候補ワードが入力された場合、ウエイクアップワード設定部114は、変更候補ワードが特定ワードに類似するか否かを判定する(ステップS104)。ウエイクアップワード設定部114は、特定ワード辞書122を参照して、変更候補ワードが特定ワードに類似するか否かを判定する。
図8は、特定ワード辞書122の内容の一例を示す図である。特定ワード辞書122は、複数の特定ワードが記憶されている辞書である。特定ワードは、例えば、車両Mの乗員(利用者)に関連ある人物の、名前、苗字、氏名、愛称、または通称(以下、これらを「名前等」と称する場合がある)のうち、一部または全部を含む。また、特定ワードは、例えば、名前等に類似するワードを含む。また、特定ワードは、車両Mにエージェント装置100が複数搭載される場合、それらのエージェント装置100に対応するエージェントの現在の名称、及び好ましくは過去及び現在の名称を含む。図8の例では、車両Mの乗員の苗字が「本田」であり、「本田」という人物の、苗字や愛称、これらに類似するワードが特定ワードとして規定されている。特定ワード辞書122の生成手法については、図10で後述する。
変更候補ワードが特定ワードに類似しない場合、ウエイクアップワード設定部114は、ウエイクアップワードを、予め設定されたウエイクアップワードから変更候補ワードに変更する(ステップS106)。次に、ウエイクアップワード設定部114は、ウエイクアップワードを、予め設定されたウエイクアップワードから変更候補ワードに変更したことを示す音声を、エージェント機能部150に出力させる(ステップS108)。例えば、エージェント機能部150は、「あなたが入力した・・・をウエイクアップワードとして登録します」などの音声を出力する。また、ウエイクアップワード設定部114は、記憶部120に記憶されていたウエイクアップワードを変更後の新たなウエイクアップワードに変更する。この場合、ウエイクアップワード設定部114は、変更前のウエイクアップワードも、設定されていたウエイクアップワードの履歴として記憶部120に記憶させておいてもよい。
上記のウエイクアップワードの変更とは、エージェント装置100に含まれる、または管理する全てのエージェント機能部150のウエイクアップワードが変更されることであってもよいし、一部または乗員により指定されたエージェント機能部150のウエイクアップワードが変更されることであってもよい。
変更候補ワードが特定ワードに類似する場合、ウエイクアップワード設定部114は、ウエイクアップワードを、予め設定されたウエイクアップワードから変更候補ワードに変更できないことを示す音声を、エージェント機能部150に出力させる(ステップS110)。例えば、エージェント機能部150は、「入力された音声は特定ワードに該当するため、ウエイクアップワードとして登録できません」などの音声を出力する。
これにより、本フローチャートの1ルーチンの処理が終了する。
上述した処理により、乗員の嗜好に合ったウエイクアップワードが設定される。このように、エージェント装置100は、乗員の嗜好に合った起動方法を提供することができるので、乗員は、よりエージェント機能部150により提供されるエージェントに対して親しみを感じることができ、乗員の満足度が向上する。また、エージェント装置100は、エージェント機能部150を起動させる意思が存在せず、乗員が車室内に存在する乗員の名前等を呼んだ場合に、エージェント機能部150が起動してしまうことを抑制させることができる。これにより、乗員の利便性を向上させることができる。
[エージェント機能部の起動処理]
図9は、エージェント機能部150が起動する処理の一例を示すフローチャートである。本処理は、例えば、図7のフローチャートの処理において、ウエイクアップワードが変更された後に実行される処理である。
エージェントごとWU判定部113が、音声が入力されたか否かを判定する(ステップS200)。音声が入力された場合、エージェントごとWU判定部113は、入力された音声から得られた情報が、図7のフローチャートの処理で変更されたウエイクアップワードに合致するか否を判定する(ステップS202)。合致するとは、完全一致に限らず、求められた合致度が所定度合以上であることであってもよい。
入力された音声から得られた情報が、図7のフローチャートの処理で変更されたウエイクアップワードに合致すると判定された場合、エージェントごとWU判定部113は、変更されたウエイクアップワードに関連付けられたエージェント機能部150を起動させる(ステップS204)。「変更されたウエイクアップワードに関連付けられたエージェント機能部150」とは、図7のフローチャートの処理において、ウエイクアップワードが変更されたエージェント機能部150である。次に、エージェント機能部150は、入力された音声に応じて、音声制御部118に音声を出力させ(ステップS206)、本フローチャートの1ルーチンの処理が終了する。
入力された音声から得られた情報が、図7のフローチャートの処理で変更されたウエイクアップワードに合致しないと判定された場合、エージェントごとWU判定部113は、入力された音声から得られた情報が、図7のフローチャートの処理で変更される前のウエイクアップワードに合致するか否を判定する(ステップS208)。入力された音声から得られた情報が、図7のフローチャートの処理で変更される前のウエイクアップワードに合致しない場合、本フローチャートの1ルーチンの処理が終了する。
入力された音声から得られた情報が、図7のフローチャートの処理で変更される前のウエイクアップワードに合致すると判定された場合、エージェントごとWU判定部113は、ウエイクアップワードは変更されたことを示す音声をエージェント機能部150に出力させ(ステップS210)、ステップS202の処理に戻る。これにより、乗員は、ウエイクアップワードが変更されたことに気が付いたり、ウエイクアップワードを変更したことを思い出したりする。
なお、ステップS200、ステップS202、ステップS208の処理が繰り返され、複数回、入力された音声から得られた情報が、図7のフローチャートの処理で変更される前のウエイクアップワードに合致すると判定された場合、ステップS210の処理が行われてもよい。
上述した処理により、乗員は、自身の嗜好に合った起動方法でエージェント機能部150を起動させることができる。また、エージェント装置100は、乗員が変更前のウエイクアップワードでエージェント機能部150を起動させようとしている場合に、乗員にウエイクアップワードは変更されたことを認識させることができる。この結果、乗員の利便性が向上する。
[特定ワード辞書の生成手法]
図10は、汎用通信装置70とエージェント装置100とにより実行される処理の流れのフローチャートの一例を示す図である。まず、汎用通信装置70とエージェント装置100とがペアリングを行って、互いに通信する(ステップS300、S400)。次に、エージェント装置100の生成部119が、汎用通信装置70に情報の提供を依頼する(ステップS402)。生成部119が提供を依頼する情報は、例えば、乗員または乗員に関連ある人物(または動物)の、名前や、苗字、氏名、愛称、通称、これらを特定するための情報である。以下、上記の情報を総称して、「特定ワード候補」という場合がある。生成部119が提供を依頼する情報は、例えば、汎用通信装置70に記憶された連絡先一覧情報や、連絡先一覧情報のうち所定頻度で連絡が行われた連絡先の情報である。
汎用通信装置70は、ステップS402の依頼に応じて、自装置に記憶された情報をエージェント装置100に提供する(ステップS302)。例えば、汎用通信装置70は、自装置の表示部に情報を提供することを承諾するか否かを問い合わせる情報を表示させ、汎用通信装置70の乗員が情報を提供することを承諾する操作を行った場合に、情報をエージェント装置100に提供してもよい。また、汎用通信装置70は、乗員の操作に基づいて、乗員が指定した情報のみをエージェント装置100に提供してもよい。
なお、エージェント装置100が、連絡先一覧情報などの情報を保持し、汎用通信装置70に情報の提供を依頼する必要がない場合、上記のステップS300、S302、S400、S402の処理は省略されてもよい。
次に、エージェント装置100の生成部119が、汎用通信装置70により提供された情報の一部または全部を特定ワードとして決定する(ステップS404)。生成部119は、例えば、特定ワード候補のうち、乗員の名前や、苗字、氏名、愛称、通称などを特定ワードとしてもよいし、所定の基準に基づいて特定ワードを抽出してもよい。
次に、生成部119は、ステップS404で決定した特定ワードに類似するワードを導出し、導出したワードを特定ワードとして決定する(ステップS406)。例えば、生成部119は、所定の手法を用いて特定ワードに類似するワードを導出してもよいし、他の装置に類似するワードの導出を依頼してもよい。例えば、生成部119は、特定ワードをベクトル化して、記憶装置に記憶された特定辞書を参照して、特定ワードに対応するベクトルに類似するベクトルを有するワードを類似するワードとして導出する。例えば、特定辞書は、ベクトルとベクトルに対応するワードとが対応付けられた辞書である。類似するとは、例えば、コサイン類似度が所定度合以上であることである。また、生成部119は、word2vecなどの公知の自然言語解析手法を用いて、特定ワードに類似するワードを導出してもよい。
次に、生成部119は、ステップS406で抽出した特定ワード、およびこの特定ワードに類似するワードである特定ワードに基づいて、特定ワード辞書122を生成し、生成した特定ワード辞書122を記憶部120に記憶させる(ステップS408)。これにより、本フローチャートの1ルーチンの処理が終了する。
上述した処理により、エージェント装置100は、簡易に特定ワード辞書122を取得したり、より精度の高い特定ワード辞書122を取得したりすることができる。
[エージェント機能部の応答処理のモード設定]
エージェント機能部150は、ウエイクアップワードが男性または女性を示すワード(または名称)であると推定される場合、推定結果に基づいて音声による応答を含むサービスを提供する。推定結果に基づいて音声による応答を含むサービスを提供するとは、例えば、エージェント機能部150が、推定結果が男性の名称である場合、音声による応答を男性調の声色、または口調で提供し、推定結果が女性の名称である場合、音声による応答を女性調の声色、または口調で提供するである。
また、推定結果に基づいて音声による応答を含むサービスを提供するとは、例えば、エージェント機能部150が、音声による応答と画像とを含むサービスを提供することであってもよい。この場合、画像は、音声に応じた画像であり、例えば、推定結果が男性の名称である場合、男性の画像であり、推定結果が女性の名称である場合、女性の画像である。なお、エージェント装置100は、ウエイクアップワードが第1種別または第2種別など複数の種別のうち、どの種別に分類されるかを判定し、判定結果に基づいて音声による応答を含むサービスを提供してもよい。
図11は、エージェント装置100により実行される応答処理のモード設定の処理の流れの一例を示すフローチャートである。本フローチャートの処理は、例えば、エージェント機能部150が起動した後の実行される処理である。
まず、エージェント装置100のモード設定部115が、ウエイクアップワードを取得する(ステップS500)。次に、モード設定部115は、性別情報124を参照して、ウエイクアップワードが、男性を示すワードであるかを判定する(ステップS502)。
性別情報124は、各国の男性または女性を示すワードを含む情報である。例えば、モード設定部115は、所定のワードがウエイクアップワードに含まれている場合、男性または女性として判定してもよいし、ウエイクアップワードに含まれるワードを分割して、各ワードに対するスコアを導出し、導出したスコアの統合結果に基づいて、ウエイクアップワードが男性または女性であるか判定してもよい。例えば、この場合、性別情報124において、ワードに対してスコアが付与されている。例えば、性別情報124において、女性を示すワードとして、「さち」のスコアが1点、ワードの最後が「こ」である場合のスコアが2点として登録されている場合、「さちこ」の合計のスコアが3点となる。例えば閾値が3点として設定されている場合、ウエイクアップワード「さちこ」は女性と判定される。
また、例えば、モード設定部115は、不図示の学習済モデルを用いて、男性を示すワードであるか、女性を示すワードであるかを判定してもよい。学習済モデルは、ニューラルネットワークなどのモデルである。例えば、学習済モデルは、不図示の学習装置が、ワードと性別とを示す情報を含む学習データを機械学習して生成したモデルである。例えば、学習装置は、男性が対応付けられたワードが入力された場合に男性である確率が高い情報を出力するように、または女性が対応付けられたワードが入力された場合に女性である確率が高い情報を出力するように学習データを学習したモデルである。また、乗員が音声などの入力を行ってウエイクアップワードの性別を指定してもよい。この場合、モード設定部115は、記憶部120に記憶され、且つ指定された情報に基づいて、ウエイクアップワードの性別を判定してもよい。
図11の説明に戻る。ウエイクアップワードが男性を示すワードであると推定した場合、モード設定部115は、応答モードを男性モードに設定する(ステップS504)。ウエイクアップワードが女性を示すワードであると推定した場合、モード設定部115は、応答モードを女性モードに設定する(ステップS506)。例えば、モード設定部115は、設定したモード(モード情報126)を記憶部120に記憶させる。エージェント機能部150は、記憶部120に記憶されたモード情報126を参照して、モード設定部115により設定されたモードに基づいて、乗員の音声に応じて、音声による応答を含むサービスを提供する。
次に、モード設定部115は、エージェント機能部150がウエイクアップ状態から停止状態または休止状態に遷移したか否かを判定する(ステップS508)。停止状態または休止状態とは、再度、乗員がウエイクアップワードを入力しないと、エージェント機能部150が応答しない状態である。エージェント機能部150がウエイクアップ状態から停止状態または休止状態に遷移した場合、モード設定部115は、ステップS504またはS506で設定したモードをリセットする(ステップS510)。これにより、本フローチャートの1ルーチンの処理が終了する。
図12は、エージェント機能部150が出力する情報の一例を示す図である。例えば、モード設定部115が、女性モードを設定したものとする。この場合、エージェント機能部150は、女性モードに基づいて、女性の声のトーンや、口調の応答(例えば「今日は、天気いいわね」)をスピーカユニット30に出力させたり、女性の容姿を示すキャラクターWを示す画像を表示・操作装置20に表示させたりする。なお、男性モードが設定された場合、エージェント機能部150は、男性モードに基づいて、男性の声のトーンや、口調の応答(例えば「今日は、天気いいね」)をスピーカユニット30に出力させたり、男性の容姿を示すキャラクターを示す画像を表示・操作装置20に表示させたりする。
また、モードによって応答内容が異なっていてもよい。例えば、女性モードは、応答内容が女性の応答内容となるようなモードであり、男性モードは、応答内容が男性の応答内容となるようなモードであってもよい。例えば、女性モードである場合、エージェント機能部150は、ある物体に対して「かわいいね」と応答し、男性モードである場合、エージェント機能部150は、ある物体に対して「かっこいいね」と応答する。例えば、エージェント機能部150は、モードごとに用意された応答内容が規定された情報を参照して、応答を行ってもよい。
上述した処理により、エージェント装置100は、利用者の嗜好に合った態様で応答を行うため、より利用者の満足度が向上する。
以上説明した第1実施形態によれば、車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供する一以上のエージェント機能部150と、乗員による入力を受け付ける音響処理部112と、音響処理部112により受け付けられた内容に基づいて、エージェント機能部150の起動方法を変更または追加するウエイクアップワード設定部114とを備えることにより、利用者の嗜好に合った起動方法を提供することができる。
<第2実施形態>
以下、第2実施形態について説明する。第2実施形態では、エージェント装置100は、起動に用いられたウエイクアップワードに応じて、応答する際に参照する情報を変更する。以下、第1実施形態との相違点を中心に説明する。
図13は、第2実施形態に係るエージェント装置100Aの構成と、車両Mに搭載された機器とを示す図である。エージェント装置100Aは、エージェント装置100の記憶部120に代えて、記憶部120Aを備える。記憶部120Aには、記憶部120に記憶された情報に加え、ウエイクアップワード情報128と、通常モード履歴情報130と、シークレットモード履歴情報132とが記憶されている。ウエイクアップワード情報128、通常モード履歴情報130、およびシークレットモード履歴情報132の詳細については後述する。
[ウエイクアップワードの登録]
図14は、乗員認識装置80とエージェント装置100とにより実行される処理の流れのフローチャートの一例を示す図(その1)である。本処理において、乗員認識装置80の車室内カメラは、所定間隔で車室内の風景を撮像しているものとする。
まず、エージェント装置100のウエイクアップワード設定部114が、シークレットモードにおけるウエイクアップワード(以下、特定ウエイクアップワード)の登録に関する音声が入力されたか否かを判定する(ステップS101-1)。特定ウエイクアップワードの登録に関する音声とは、例えば、「シークレットモードのウエイクアップワードの登録をお願い」などの音声である。シークレットモードとは、特定の乗員(例えばウエイクアップワードを登録した乗員)のみに対して、エージェント機能部150がサービスを提供するモードである。通常モードは、特定の乗員とは異なる乗員(不特定の乗員)に対して、エージェント機能部150がサービスを提供するモードである。
ステップS101-1で特定ウエイクアップワードの登録に関する音声が入力された場合、ウエイクアップワード設定部114は、ステップS101-1で音声が入力されたタイミングを乗員認識装置80に送信する(ステップS101-2)。図14のステップS102、S104、S106の処理は、図7のステップS102、S104、S106の処理と同様のため、説明を省略する。
乗員認識装置80は、ステップS101-1で送信された音声が入力されたタイミングで撮像された画像を抽出する(ステップS600)。次に、乗員認識装置80は、抽出された画像に基づいて、ステップS101-1で音声を入力した乗員の特徴量を抽出する(ステップS602)。乗員の特徴量とは、例えば、乗員の顔の特徴量(例えば輝度値に基づく指標)の分布である。例えば、乗員認識装置80は、乗員の口の状態や、音声が入力されたマイク10の位置、マイク10ごとの入力データに基づいて、ステップS101-1で音声を入力した乗員を特定する。
次に、乗員認識装置80は、ステップS602で抽出した特徴量に識別情報を付与し(ステップS604)、付与した特徴量の識別情報をエージェント装置100に送信する(ステップS606)。乗員認識装置80の記憶装置には、抽出した特徴量と識別情報とが対応付けられた情報が記憶されている。なお、乗員認識装置80が、過去の処理において、ステップS604で抽出した特徴量に識別情報を既に付与している場合、その識別情報が援用される。
次に、ウエイクアップワード設定部114は、ステップS606で送信された特徴量の識別情報を取得し、取得した識別情報を入力されたウエイクアップワードに対応付けて登録する(ステップS105)。これによりウエイクアップワード情報128が生成される。次に、ウエイクアップワード設定部114は、特定ウエイクアップワードを登録したことを示す音声を、エージェント機能部150に出力させる(ステップS109)。例えば、エージェント機能部150は、「あなたが入力した・・・をシークレットモードにおけるウエイクアップワードとして登録します」などの音声を出力する。これにより、本フローチャートの1ルーチンの処理が終了する。
図15は、ウエイクアップワード情報128の内容の一例を示す図である。ウエイクアップワード情報128は、シークレットモードにおいて登録された特徴量の識別情報と特定ウエイクアップワードとが対応付けられた情報、および通常モードにおいて変更または追加されたウエイクアップワード(特徴量の識別情報が対応付けられていないウエイクアップワード)を含む情報である。通常モードにおけるウエイクアップワードの変更処理は、図7のフローチャートの処理が援用される。
上述した処理により、特定ウエイクアップワードが登録される。
なお、シークレットモードにおけるウエイクアップワードの登録は、ウエイクアップワードを入力した乗員とは異なる乗員が存在する場合、行われなくてもよい。
また、図14で説明した乗員認識装置80の一部または全部の処理はエージェント装置100Aにおいて行われてもよい。例えば、エージェント装置100が、画像から特徴量を抽出してもよい。
[エージェント機能部の起動処理]
図16は、乗員認識装置80とエージェント装置100とにより実行される処理の流れのフローチャートの一例を示す図(その2)である。本処理は、エージェント装置100が、乗員検知装置80の検知結果に基づいて、特定ウエイクアップワード(第1起動キーワード)を起動キーワードとして設定した第1乗員とは異なる乗員により特定ウエイクアップワードが入力されたと判定された場合、特定ウエイクアップワードに応じて起動せず、乗員検知装置80の検知結果に基づいて、第1乗員により特定ウエイクアップワードが入力されたと判定された場合、特定ウエイクアップワードに応じて起動する。本処理において、乗員認識装置80の車室内カメラは、所定間隔で車室内の風景を撮像しているものとする。
エージェントごとWU判定部113が、音声が入力されたか否かを判定する(ステップS700)。音声が入力された場合、エージェントごとWU判定部113は、ウエイクアップワード情報128を参照して、入力された音声から得られた情報が、特定ウエイクアップワードに合致するか否を判定する(ステップS702)。
入力された音声から得られた情報が、特定ウエイクアップワードに合致しないと判定された場合、エージェントごとWU判定部113は、ウエイクアップワード情報128を参照して、入力された音声から得られた情報が、通常モードにおけるウエイクアップワードに合致するか否を判定する(ステップS704)。入力された音声から得られた情報が、通常モードにおけるウエイクアップワードに合致しない場合、本フローチャートの1ルーチンの処理が終了する。
入力された音声から得られた情報が、通常モードにおけるウエイクアップワードに合致すると判定された場合、エージェントごとWU判定部113は、対応するエージェント機能部150を通常モードで起動させる(ステップS706)。次に、エージェント機能部150は、入力された音声に応じて、音声制御部118に音声を出力させ(ステップS708)、本フローチャートの1ルーチンの処理が終了する。
ステップS702で入力された音声から得られた情報が特定ウエイクアップワードに合致すると判定された場合、エージェントごとWU判定部113は、音声が入力されたタイミングを示す情報、音声を入力した乗員の特徴量の識別情報の送信依頼、および同乗者の有無に関する情報の送信依頼を乗員認識装置80に送信する(ステップS710)。
乗員認識装置80は、ステップS710で送信された依頼に応じて、音声が入力されたタイミングに撮像された画像を取得する(ステップS800)。次に、乗員認識装置80は、ステップS800で取得した画像に基づいて、音声を入力した人物の特徴量を抽出し、更に、自装置の記憶装置に記憶された図14のフローチャートの処理結果を参照し、抽出した乗員の特徴量の識別情報を特定する(ステップS802)。次に、乗員認識装置80は、ステップS800で取得した画像に基づいて、音声を入力した人物以外の人物が車室内に存在するか否かを判定する(ステップS804)。
次に、乗員認識装置80は、ステップS802、およびステップS804で得られた情報を、エージェント装置100に送信する(ステップS806)。ステップS802、およびステップS804で得られた情報は、音声を入力した乗員の特徴量の識別情報、および同乗者の有無に関する情報(音声を入力した乗員以外の乗員が車室内に存在するか否かを示す情報)である。
次に、エージェントごとWU判定部113は、ステップS806で送信された情報を取得し、ウエイクアップワード情報128を参照して、取得した特徴量の識別情報がステップS700で入力されたウエイクアップワードに対応付けられ、且つ同乗者が存在しないか否かを判定する(ステップS712)。取得した特徴量の識別情報がステップS700で入力されたウエイクアップワードに対応付けられていない、または同乗者が存在する場合、本フローチャートの1ルーチンの処理が終了する。
取得した特徴量の識別情報がステップS700で入力されたウエイクアップワードに対応付けられ、且つ同乗者が存在しない場合、エージェントごとWU判定部113は、対応するエージェント機能部150をシークレットモードで起動させる(ステップS706)。次に、エージェント機能部150は、入力された音声に応じて、音声制御部118に音声を出力させ(ステップS708)、本フローチャートの1ルーチンの処理が終了する。
上述した処理により、エージェント装置100は、登録されたウエイクアップワードに応じて、制御モードを切り替える。この結果、乗員は、所望のモードでエージェント機能部150を起動させることができる。
上記の例では、画像から得られた特徴量が用いられるものとしたが、特徴量は画像から得られた特徴量に代えて(または加えて)音声から得られた声の特徴量(音声の特徴情報)であってもよい。
また、シークレットモードにおけるエージェント機能部150の起動条件は、特定ウエイクアップワードを登録した乗員のみが車室内に存在していること、に代えて(加えて)、シークレットモードにおけるウエイクアップワードを登録した際に乗車していた乗員のみが存在することであってもよいし、指定された乗員が乗車していることであってもよい。この場合、図14の処理において、各乗員の特徴量の識別情報が特定ウエイクアップワードに対応付けられ、図16の処理において、特定ウエイクアップワードに対応付けられた識別情報が付与された乗員の乗車が判定される。
上記のステップS712の処理において、同乗者の有無の判定は、省略されてもよい。すなわち、特定ウエイクアップワードを登録した乗員が、特定ウエイクアップワードを入力した場合、シークレットモードでエージェント機能部150は起動してもよい。この場合、同乗者の有無に関する情報の送受信は省略される。
また、エージェント機能部150は、乗員検知装置80の検知結果に基づいて、特定ウエイクアップワードが入力された場合において、特定ウエイクアップワードに対応付けられた第1乗員以外の乗員が車両の車室内に存在すると判定された場合、特定ウエイクアップワードに応じて起動せず、乗員検知装置80の検知結果に基づいて、特定ウエイクアップワードが入力された場合において、特定ウエイクアップワードに対応付けられた第1乗員以外の乗員が車両の車室内に存在しないと判定された場合、特定ウエイクアップワードに応じて起動してもよい。
[エージェント機能部の起動後の処理]
図17は、エージェント装置100により実行される応答処理における処理の一部の流れの一例を示すフローチャートである。エージェント機能部150は、エージェント機能部150が特定ウエイクアップワードとは異なる起動キーワードで起動した場合、特定ウエイクアップワードで起動した際の動作履歴を参照しない。本フローチャートの処理は、例えば、エージェント機能部150が起動した後に実行される処理(例えば、ステップS706の処理で起動した際に行われる処理)である。
まず、エージェント装置100のモード設定部115が、シークレットモードで起動したか否かを判定する(ステップS900)。シークレットモードで起動した場合、モード設定部115は、エージェント機能部150にシークレットモード履歴情報132を参照させる設定を行う(ステップS902)。シークレットモード履歴情報132は、エージェント機能部150がシークレットモードに設定されていた際に行われた処理の履歴の情報である。
シークレットモードで起動していない場合(通常モードで起動した場合)、モード設定部115は、エージェント機能部150に通常モード履歴情報130を参照させる設定を行う(ステップS904)。通常モード履歴情報130は、エージェント機能部150が通常モードに設定されていた際に行われた処理の履歴の情報である。これにより、エージェント機能部150は、ステップS902またはS904で設定されたモードに応じた処理の履歴を参照して、乗員の音声に応じた応答を行う。
次に、モード設定部115は、エージェント機能部150がウエイクアップ状態から停止状態または休止状態に遷移したか否かを判定する(ステップS906)。エージェント機能部150がウエイクアップ状態から停止状態または休止状態に遷移した場合、モード設定部115は、ステップS902またはS906における設定をリセットする(ステップS510)。
これにより、本フローチャートの1ルーチンの処理が終了する。
上述した処理により、エージェント機能部150は、起動したモードの履歴を参照して、応答を行うため、乗員の利便性や満足度が向上する。
図18は、シークレットモードで起動したエージェント機能部150が行う応答の一例を示す図である。例えば、過去に、エージェント機能部150がシークレットモードで起動した際に、乗員が、「一人でおいしいステーキが食べられる店を教えて」と発話して、エージェントが、「〇〇にある××はどう」と発話していた場合、この会話の内容はシークレットモード履歴情報132に記憶されている。その後、乗員がシークレットモードでエージェント機能部150を起動させた場合、例えば、エージェント機能部150は、シークレットモード履歴情報132を参照して、「この前は、一人でおいしいステーキが食べたいっていったから、〇〇にある××にいったけど、今日はどうする」と発話する。
このように、シークレットモードにおいて行われた会話は、シークレットモードにおいてのみ参照され、通常モードでは参照されないため、乗員のプライバシーを配慮したサービスが提供される。
以上説明した第2実施形態によれば、管理部110が、車両の乗員を検知する乗員認識装置80の検知結果を用いて、ウエイクアップワードを設定したり、変更したりするため、利用者の嗜好に合った起動方法を提供することができる。
上記の各実施形態において、管理部110(110A)は、複数のエージェント機能部150のうち、全部または一部のエージェント機能部150の起動方法を変更または追加してもよい。例えば、管理部110は、乗員に指定されたエージェント機能部150または所定のエージェント機能部150の起動方法の変更または追加を行う。
[変形例(その1)]
図19は、変形例のエージェント装置100Bの機能構成の一例を示す図である。エージェント装置100Bは、管理部110に代えて、管理部110-1~110-3を備える。管理部110-1~110-3のそれぞれは、管理部110と同様の機能構成を備える。管理部110-1~110-3のそれぞれは、例えば、対応するエージェント機能部150の起動方法の変更または追加を行う。
なお、上記各実施形態における乗員認識装置80またはエージェント装置100において行われた処理の一部または全部は、他の装置において行われてもよい。また、上記の各フローチャートの処理の順番は適宜変更されてもよいし、処理の一部は省略されてもよい。
[変形例(その2)]
ウエイクアップワード設定部114が、乗員が行った行動に基づいて、エージェント機能部150の起動方法の変更または追加を行ってもよい。行動とは、例えば、手拍子や、視線の動き、ジェスチャーなどである。例えば、ウエイクアップワード設定部114が、乗員認識装置80により認識された乗員の行動が、エージェント機能部150の起動方法の変更または追加を行う行動である場合、その行動をエージェント機能部150の起動のトリガーとして設定する。この場合、エージェントごとWU判定部113がエージェント機能部150の起動のトリガーである行動が乗員によって行われた場合、対応するエージェント機能部150を起動させる。
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
1 エージェントシステム、10‥マイク、20‥表示・操作装置、30‥スピーカユニット、70‥汎用通信装置、80‥乗員認識装置、100‥エージェント装置、110、110A‥管理部、112‥音響処理部、113‥エージェントごとWU判定部、114‥ウエイクアップワード設定部、115‥モード設定部、116‥表示制御部、118‥音声制御部、118‥音声制御部、119‥生成部、120、120A‥記憶部、122‥特定ワード辞書、124‥性別情報、126‥モード情報、128‥ウエイクアップワード情報、130‥通常モード履歴情報、132‥シークレットモード履歴情報、150‥エージェント機能部、200‥エージェントサーバ

Claims (16)

  1. 車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供する一以上のエージェント機能部と、
    前記乗員による入力を受け付ける受付部と、
    前記受付部により受け付けられた内容に基づいて、前記エージェント機能部の起動方法を変更または追加する起動方法設定部と、を備え、
    前記エージェント機能部は、前記音声に含まれ、前記起動方法設定部によって設定された起動方法に基づく起動キーワードに応じて起動し、
    前記起動方法設定部は、記憶部に記憶された特定ワードを起動キーワードから除外し
    前記特定ワードは、記憶部に記憶された前記車両の前記乗員に関連ある人物の、名前、苗字、氏名、愛称、または通称のうち、一部または全部を含む、
    エージェント装置。
  2. 前記エージェント装置は、前記車両の前記乗員に関連ある人物の、名前、苗字、氏名、愛称、または通称のうち、一部または全部を、前記特定ワードとして前記記憶部に記憶させる、
    請求項1に記載のエージェント装置。
  3. 前記エージェント機能部は、前記設定された起動キーワードが男性を示すワードであると推定される場合、推定の結果に基づいて前記音声による応答を含むサービスを提供する、
    請求項1または2に記載のエージェント装置。
  4. 前記エージェント機能部は、前記推定の結果に基づいて、前記音声による応答を男性調の声色、または口調で提供する、
    請求項3に記載のエージェント装置。
  5. 前記エージェント機能部は、前記設定された起動キーワードが女性を示すワードであると推定される場合、前記推定の結果に基づいて前記音声による応答を含むサービスを提供する、
    請求項1から4のうちいずれか1項に記載のエージェント装置。
  6. 前記エージェント機能部は、前記推定の結果に基づいて、前記音声による応答を女性調の声色、または口調で提供する、
    請求項5に記載のエージェント装置。
  7. 前記車両の乗員を検知する乗員検知部を更に備え、
    前記エージェント機能部は、
    前記乗員検知部の検知結果に基づいて、前記受付部を介して第1起動キーワードを起動キーワードとして設定した第1乗員とは異なる乗員により前記第1起動キーワードが入力されたと判定された場合、前記第1起動キーワードに応じて起動せず、
    前記乗員検知部の検知結果に基づいて、前記受付部を介して第1乗員により前記第1起動キーワードが入力されたと判定された場合、前記第1起動キーワードに応じて起動する、
    請求項1から6のうちいずれか1項に記載のエージェント装置。
  8. 車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供する一以上のエージェント機能部と、
    前記乗員による入力を受け付ける受付部と、
    前記受付部により受け付けられた内容に基づいて、前記エージェント機能部の起動方法を変更または追加する起動方法設定部と、
    前記車両の乗員を検知する乗員検知部と、を備え、
    前記エージェント機能部は、
    前記音声に含まれ、前記起動方法設定部によって設定された起動方法に基づく起動キーワードに応じて起動し、
    前記乗員検知部の検知結果に基づいて、第1起動キーワードが入力された場合において、前記第1起動キーワードに対応付けられた第1乗員以外の乗員が前記車両の車室内に存在すると判定された場合、前記第1起動キーワードに応じて起動せず、
    前記乗員検知部の検知結果に基づいて、前記第1起動キーワードが入力された場合において、前記第1起動キーワードに対応付けられた第1乗員以外の乗員が前記車両の車室内に存在しないと判定された場合、前記第1起動キーワードに応じて起動する、
    エージェント装置。
  9. 前記エージェント機能部は、前記エージェント機能部が前記第1起動キーワードとは異なる起動キーワードで起動した場合、前記第1起動キーワードで起動した際の動作履歴を参照しない、
    請求項8に記載のエージェント装置。
  10. 車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供する一以上のエージェント機能部と、
    前記乗員による入力を受け付ける受付部と、
    前記受付部により受け付けられた内容に基づいて、前記エージェント機能部の起動方法を変更または追加する起動方法設定部と、
    乗員を撮像する車室内カメラと、
    第1乗員が撮像された画像から抽出された特徴量と前記第1乗員の識別情報とが対応付けられた第1参照情報を参照して、前記受付部を介して第1起動キーワードが入力されたときに前記車室内カメラにより撮像された画像を取得して、取得した画像から抽出された特徴量が前記第1乗員の識別情報に対応付けられた特徴量に合致するか否かを判定する乗員検知部と、を備え、
    前記第1起動キーワードは、前記第1乗員が設定した前記エージェント機能部を起動させる起動キーワードであり、
    前記エージェント機能部は、
    前記第1起動キーワードが入力された時に、前記乗員検知部が前記画像から抽出された特徴量が前記第1乗員の識別情報に対応付けられた特徴量に合致しないと判定したことによって前記第1乗員が前記第1起動キーワードを入力していないと判定した場合、前記第1起動キーワードに応じて起動せず、
    前記第1起動キーワードが入力された時に、前記乗員検知部が前記画像から抽出された特徴量が前記第1乗員の識別情報に対応付けられた特徴量に合致すると判定したことによって前記第1乗員が前記第1起動キーワードを入力したと判定した場合、前記第1起動キーワードに応じて起動する、
    エージェント装置。
  11. コンピュータが、
    車両の乗員による入力を受け付ける受付部により受け付けられた内容に基づいて、前記車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供し、前記音声に含まれ、設定された起動方法に基づく起動キーワードに応じて起動する一以上のエージェント機能部の起動方法を変更または追加する処理と、
    記憶部に記憶された特定ワードを起動キーワードから除外する処理と、を実行し、
    前記特定ワードは、記憶部に記憶された前記車両の前記乗員に関連ある人物の、名前、苗字、氏名、愛称、または通称のうち、一部または全部を含む、
    エージェント装置の制御方法。
  12. コンピュータに、
    車両の乗員による入力を受け付ける受付部により受け付けられた内容に基づいて、前記車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供し、前記音声に含まれ、設定された起動方法に基づく起動キーワードに応じて起動する一以上のエージェント機能部の起動方法を変更または追加する処理と、
    記憶部に記憶された特定ワードを起動キーワードから除外する処理と、を実行させ、
    前記特定ワードは、記憶部に記憶された前記車両の前記乗員に関連ある人物の、名前、苗字、氏名、愛称、または通称のうち、一部または全部を含む、
    プログラム。
  13. コンピュータが、
    車両の乗員による入力を受け付ける受付部により受け付けられた内容に基づいて、前記車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供し、前記音声に含まれ、設定された起動方法に基づく起動キーワードに応じて起動する一以上のエージェント機能部の起動方法を変更または追加する処理と、
    前記車両の乗員を検知する乗員検知部の検知結果に基づいて、第1起動キーワードが入力された場合において、前記第1起動キーワードに対応付けられた第1乗員以外の乗員が前記車両の車室内に存在すると判定された場合、前記第1起動キーワードに応じて前記エージェント機能部を起動させず、
    前記乗員検知部の検知結果に基づいて、前記第1起動キーワードが入力された場合において、前記第1起動キーワードに対応付けられた第1乗員以外の乗員が前記車両の車室内に存在しないと判定された場合、前記第1起動キーワードに応じて前記エージェント機能部を起動させる、処理と、
    を実行するエージェント装置の制御方法。
  14. コンピュータに、
    車両の乗員による入力を受け付ける受付部により受け付けられた内容に基づいて、前記車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供し、前記音声に含まれ、設定された起動方法に基づく起動キーワードに応じて起動する一以上のエージェント機能部の起動方法を変更または追加する処理と、
    前記車両の乗員を検知する乗員検知部の検知結果に基づいて、第1起動キーワードが入力された場合において、前記第1起動キーワードに対応付けられた第1乗員以外の乗員が前記車両の車室内に存在すると判定された場合、前記第1起動キーワードに応じて前記エージェント機能部を起動させず、
    前記乗員検知部の検知結果に基づいて、前記第1起動キーワードが入力された場合において、前記第1起動キーワードに対応付けられた第1乗員以外の乗員が前記車両の車室内に存在しないと判定された場合、前記第1起動キーワードに応じて前記エージェント機能部を起動させる、処理と、
    を実行させるプログラム。
  15. コンピュータが、
    車両の乗員による入力を受け付ける受付部により受け付けられた内容に基づいて、前記車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供する一以上のエージェント機能部の起動方法を変更または追加する処理と、
    第1乗員が撮像された画像から抽出された特徴量と前記第1乗員の識別情報とが対応付けられた第1参照情報を参照して、前記受付部を介して前記第1乗員が設定した前記エージェント機能部を起動させる第1起動キーワードが入力されたときに乗員を撮像する車室内カメラにより撮像された画像を取得して、取得した画像から抽出された特徴量が前記第1乗員の識別情報に対応付けられた特徴量に合致するか否かを判定する処理と、
    前記第1起動キーワードが入力された時に、前記判定する処理において前記画像から抽出された特徴量が前記第1乗員の識別情報に対応付けられた特徴量に合致しないと判定したことによって前記第1乗員が前記第1起動キーワードを入力していないと判定した場合、前記第1起動キーワードに応じて起動せず、
    前記第1起動キーワードが入力された時に、前記判定する処理において前記画像から抽出された特徴量が前記第1乗員の識別情報に対応付けられた特徴量に合致すると判定したことによって前記第1乗員が前記第1起動キーワードを入力したと判定した場合、前記第1起動キーワードに応じて起動する処理と、
    を実行するエージェント装置の制御方法。
  16. コンピュータに、
    車両の乗員による入力を受け付ける受付部により受け付けられた内容に基づいて、前記車両の車室内で収音された乗員の音声に応じて、音声による応答を含むサービスを提供する一以上のエージェント機能部の起動方法を変更または追加する処理と、
    第1乗員が撮像された画像から抽出された特徴量と前記第1乗員の識別情報とが対応付けられた第1参照情報を参照して、前記受付部を介して前記第1乗員が設定した前記エージェント機能部を起動させる第1起動キーワードが入力されたときに乗員を撮像する車室内カメラにより撮像された画像を取得して、取得した画像から抽出された特徴量が前記第1乗員の識別情報に対応付けられた特徴量に合致するか否かを判定する処理と、
    前記第1起動キーワードが入力された時に、前記判定する処理において前記画像から抽出された特徴量が前記第1乗員の識別情報に対応付けられた特徴量に合致しないと判定したことによって前記第1乗員が前記第1起動キーワードを入力していないと判定した場合、前記第1起動キーワードに応じて起動せず、
    前記第1起動キーワードが入力された時に、前記判定する処理において前記画像から抽出された特徴量が前記第1乗員の識別情報に対応付けられた特徴量に合致すると判定したことによって前記第1乗員が前記第1起動キーワードを入力したと判定した場合、前記第1起動キーワードに応じて起動する処理と、
    を実行させるプログラム
JP2019047757A 2019-03-14 2019-03-14 エージェント装置、エージェント装置の制御方法、およびプログラム Active JP7266432B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019047757A JP7266432B2 (ja) 2019-03-14 2019-03-14 エージェント装置、エージェント装置の制御方法、およびプログラム
CN202010164047.7A CN111696560A (zh) 2019-03-14 2020-03-10 智能体装置、智能体装置的控制方法及存储介质
US16/816,325 US11380325B2 (en) 2019-03-14 2020-03-12 Agent device, system, control method of agent device, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019047757A JP7266432B2 (ja) 2019-03-14 2019-03-14 エージェント装置、エージェント装置の制御方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2020147214A JP2020147214A (ja) 2020-09-17
JP7266432B2 true JP7266432B2 (ja) 2023-04-28

Family

ID=72430161

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019047757A Active JP7266432B2 (ja) 2019-03-14 2019-03-14 エージェント装置、エージェント装置の制御方法、およびプログラム

Country Status (3)

Country Link
US (1) US11380325B2 (ja)
JP (1) JP7266432B2 (ja)
CN (1) CN111696560A (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021002493A1 (ko) * 2019-07-01 2021-01-07 엘지전자 주식회사 지능형 게이트웨이 장치 및 그를 포함하는 제어 시스템
US11590929B2 (en) * 2020-05-05 2023-02-28 Nvidia Corporation Systems and methods for performing commands in a vehicle using speech and image recognition
WO2022085625A1 (ja) * 2020-10-19 2022-04-28 株式会社Preferred Robotics 自律走行車
JPWO2022254669A1 (ja) * 2021-06-03 2022-12-08
WO2024009465A1 (ja) * 2022-07-07 2024-01-11 パイオニア株式会社 音声認識装置、プログラム、音声認識方法、及び音声認識システム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000080828A (ja) 1998-09-07 2000-03-21 Denso Corp 車両制御装置
JP2001256036A (ja) 2000-03-03 2001-09-21 Ever Prospect Internatl Ltd 機器との情報授受方法及び当該方法を適用した対話機能を有する機器並びにこれら機器を複合させたライフサポートシステム
JP2007522488A (ja) 2003-12-23 2007-08-09 ダイムラークライスラー・アクチェンゲゼルシャフト 車両用の制御システム
JP2010221930A (ja) 2009-03-25 2010-10-07 Toyota Motor Corp 車両用ユーザー操作補助装置
JP2016151608A (ja) 2015-02-16 2016-08-22 アルパイン株式会社 電子装置、情報端末システム、音声認識機能の起動プログラムおよび音声認識機能の起動方法
JP2016218852A (ja) 2015-05-22 2016-12-22 ソニー株式会社 情報処理装置および情報処理方法、並びにプログラム
JP2018156044A (ja) 2017-03-21 2018-10-04 株式会社東芝 音声認識装置、音声認識方法及び音声認識プログラム

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7881934B2 (en) * 2003-09-12 2011-02-01 Toyota Infotechnology Center Co., Ltd. Method and system for adjusting the voice prompt of an interactive system based upon the user's state
JP4645310B2 (ja) 2005-06-02 2011-03-09 株式会社デンソー エージェントキャラクタ表示を利用した表示システム
US8214219B2 (en) * 2006-09-15 2012-07-03 Volkswagen Of America, Inc. Speech communications system for a vehicle and method of operating a speech communications system for a vehicle
US7747446B2 (en) * 2006-12-12 2010-06-29 Nuance Communications, Inc. Voice recognition interactive system with a confirmation capability
CN104428766B (zh) * 2012-07-03 2017-07-11 三菱电机株式会社 语音识别装置
US9275637B1 (en) * 2012-11-06 2016-03-01 Amazon Technologies, Inc. Wake word evaluation
US9865255B2 (en) * 2013-08-29 2018-01-09 Panasonic Intellectual Property Corporation Of America Speech recognition method and speech recognition apparatus
JP6233650B2 (ja) * 2014-05-20 2017-11-22 パナソニックIpマネジメント株式会社 操作補助装置および操作補助方法
US9697828B1 (en) * 2014-06-20 2017-07-04 Amazon Technologies, Inc. Keyword detection modeling using contextual and environmental information
US9263042B1 (en) * 2014-07-25 2016-02-16 Google Inc. Providing pre-computed hotword models
CN105575395A (zh) * 2014-10-14 2016-05-11 中兴通讯股份有限公司 语音唤醒方法及装置、终端及其处理方法
CN107949880A (zh) * 2015-09-09 2018-04-20 三菱电机株式会社 车载用语音识别装置以及车载设备
US10083685B2 (en) * 2015-10-13 2018-09-25 GM Global Technology Operations LLC Dynamically adding or removing functionality to speech recognition systems
US9747926B2 (en) * 2015-10-16 2017-08-29 Google Inc. Hotword recognition
US11600269B2 (en) * 2016-06-15 2023-03-07 Cerence Operating Company Techniques for wake-up word recognition and related systems and methods
US10474800B2 (en) * 2016-11-16 2019-11-12 Bank Of America Corporation Generating alerts based on vehicle system privacy mode
US11164570B2 (en) * 2017-01-17 2021-11-02 Ford Global Technologies, Llc Voice assistant tracking and activation
CN106847283A (zh) * 2017-02-28 2017-06-13 广东美的制冷设备有限公司 智能家电控制方法和装置
CN107220532B (zh) * 2017-04-08 2020-10-23 网易(杭州)网络有限公司 用于通过声音识别用户身份的方法及设备
CN107600075A (zh) * 2017-08-23 2018-01-19 深圳市沃特沃德股份有限公司 车载系统的控制方法和装置
US10269350B1 (en) * 2017-10-16 2019-04-23 GM Global Technology Operations LLC Responsive activation of a vehicle feature
US20190237067A1 (en) * 2018-01-31 2019-08-01 Toyota Motor Engineering & Manufacturing North America, Inc. Multi-channel voice recognition for a vehicle environment
CN108958810A (zh) * 2018-02-09 2018-12-07 北京猎户星空科技有限公司 一种基于声纹的用户识别方法、装置及设备
JP6984480B2 (ja) * 2018-02-20 2021-12-22 トヨタ自動車株式会社 情報処理装置および情報処理方法
CN109166571B (zh) * 2018-08-06 2020-11-24 广东美的厨房电器制造有限公司 家电设备的唤醒词训练方法、装置及家电设备
US10896686B2 (en) * 2019-05-29 2021-01-19 Capital One Services, Llc Methods and systems for providing images for facilitating communication

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000080828A (ja) 1998-09-07 2000-03-21 Denso Corp 車両制御装置
JP2001256036A (ja) 2000-03-03 2001-09-21 Ever Prospect Internatl Ltd 機器との情報授受方法及び当該方法を適用した対話機能を有する機器並びにこれら機器を複合させたライフサポートシステム
JP2007522488A (ja) 2003-12-23 2007-08-09 ダイムラークライスラー・アクチェンゲゼルシャフト 車両用の制御システム
JP2010221930A (ja) 2009-03-25 2010-10-07 Toyota Motor Corp 車両用ユーザー操作補助装置
JP2016151608A (ja) 2015-02-16 2016-08-22 アルパイン株式会社 電子装置、情報端末システム、音声認識機能の起動プログラムおよび音声認識機能の起動方法
JP2016218852A (ja) 2015-05-22 2016-12-22 ソニー株式会社 情報処理装置および情報処理方法、並びにプログラム
JP2018156044A (ja) 2017-03-21 2018-10-04 株式会社東芝 音声認識装置、音声認識方法及び音声認識プログラム

Also Published As

Publication number Publication date
US11380325B2 (en) 2022-07-05
CN111696560A (zh) 2020-09-22
JP2020147214A (ja) 2020-09-17
US20200321000A1 (en) 2020-10-08

Similar Documents

Publication Publication Date Title
JP7266432B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7340940B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7211856B2 (ja) エージェント装置、エージェントシステム、サーバ装置、エージェント装置の制御方法、およびプログラム
CN111559328B (zh) 智能体装置、智能体装置的控制方法及存储介质
CN111746435B (zh) 信息提供装置、信息提供方法及存储介质
JP7340943B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7222757B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
CN111717142A (zh) 智能体装置、智能体装置的控制方法及存储介质
CN111667824A (zh) 智能体装置、智能体装置的控制方法及存储介质
US11437035B2 (en) Agent device, method for controlling agent device, and storage medium
CN111667823B (zh) 智能体装置、智能体装置的控制方法及存储介质
CN111661065B (zh) 智能体装置、智能体装置的控制方法及存储介质
CN111724778B (zh) 车载装置、车载装置的控制方法及存储介质
JP7239365B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7245695B2 (ja) サーバ装置、情報提供システム、および情報提供方法
CN111559317B (zh) 智能体装置、智能体装置的控制方法及存储介质
JP2020152298A (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7280074B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7169921B2 (ja) エージェント装置、エージェントシステム、エージェント装置の制御方法、およびプログラム
JP7274901B2 (ja) エージェント装置、エージェント装置の制御方法、およびプログラム
JP7297483B2 (ja) エージェントシステム、サーバ装置、エージェントシステムの制御方法、およびプログラム
CN111824174A (zh) 智能体装置、智能体装置的控制方法及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230404

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230418

R150 Certificate of patent or registration of utility model

Ref document number: 7266432

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150