JP2018063486A - サービス提供装置、サービス提供方法およびサービス提供プログラム - Google Patents

サービス提供装置、サービス提供方法およびサービス提供プログラム Download PDF

Info

Publication number
JP2018063486A
JP2018063486A JP2016200243A JP2016200243A JP2018063486A JP 2018063486 A JP2018063486 A JP 2018063486A JP 2016200243 A JP2016200243 A JP 2016200243A JP 2016200243 A JP2016200243 A JP 2016200243A JP 2018063486 A JP2018063486 A JP 2018063486A
Authority
JP
Japan
Prior art keywords
service
occupant
emotion
unit
overall
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016200243A
Other languages
English (en)
Other versions
JP6466385B2 (ja
Inventor
智子 新谷
Tomoko Shinya
智子 新谷
博光 湯原
Hiromitsu Yuhara
博光 湯原
英輔 相馬
Eisuke Soma
英輔 相馬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2016200243A priority Critical patent/JP6466385B2/ja
Priority to US15/716,388 priority patent/US10394519B2/en
Priority to CN201710884700.5A priority patent/CN107918637B/zh
Publication of JP2018063486A publication Critical patent/JP2018063486A/ja
Application granted granted Critical
Publication of JP6466385B2 publication Critical patent/JP6466385B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/165Management of the audio stream, e.g. setting of volume, audio stream path
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G06F16/63Querying
    • G06F16/635Filtering based on additional data, e.g. user or group profiles
    • G06F16/636Filtering based on additional data, e.g. user or group profiles by using biological or physiological data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • G10L15/30Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • G10L25/63Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for estimating an emotional state
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes
    • H04W4/40Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H04W4/48Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for in-vehicle communication

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • General Engineering & Computer Science (AREA)
  • Psychiatry (AREA)
  • Hospice & Palliative Care (AREA)
  • Signal Processing (AREA)
  • Child & Adolescent Psychology (AREA)
  • Physiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Molecular Biology (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Social Psychology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • User Interface Of Digital Computer (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】車内全体の乗員に対し高い満足度を与えるサービス提供装置を提供する。
【解決手段】サービス提供装置100は、複数人からなる車内の乗員の存否を検出する着座センサ42と、着座センサ42により検出された各々の乗員の個人感情を推定する個人感情推定部12と、個人感情推定部12により推定された各々の乗員の個人感情に基づいて、乗員全体の感情である全体感情を推定する全体感情推定部13と、全体感情推定部13により推定された全体感情に基づいて、乗員全体に提供するサービスを決定するサービス決定部14と、サービス決定部14により決定されたサービスを提供するための指令を出力する指令出力部15と、を備える。
【選択図】図1

Description

本発明は、車内の乗員に種々のサービスを提供可能なサービス提供装置、サービス提供方法およびサービス提供プログラムに関する。
この種の装置として、従来、車内のマイクにより収集された乗員の会話の内容と乗員の構成とに基づいて、乗員の行動目的を推定し、この行動目的に基づいて乗員に対し推奨するサービスを決定し、決定したサービスを提供するようにした装置が知られている(例えば特許文献1参照)。
特開2012−133530号公報
しかしながら、上記特許文献1記載の装置のように、会話の内容に基づいて提供するサービスを決定したのでは、例えば会話していない乗員等、乗員によっては、提供されたサービスを不快と感じるおそれがあり、車内の乗員全体に対し高い満足度を与えることが難しい。
本発明の一態様であるサービス提供装置は、複数人からなる車内の乗員の存否を検出する乗員検出部と、乗員検出部により検出された各々の乗員の個人感情を推定する個人感情推定部と、個人感情推定部により推定された各々の乗員の個人感情に基づいて、乗員全体の感情である全体感情を推定する全体感情推定部と、全体感情推定部により推定された全体感情に基づいて、乗員全体に提供するサービスを決定するサービス決定部と、サービス決定部により決定されたサービスを提供するための指令を出力する指令出力部と、を備える。
本発明の他の態様であるサービス提供方法は、複数人からなる車内の乗員の存否を検出し、検出された各々の乗員の個人感情を推定し、推定された各々の乗員の個人感情に基づいて、乗員全体の感情である全体感情を推定し、推定された全体感情に基づいて、乗員全体に提供するサービスを決定し、決定されたサービスを提供するための指令を出力する。
本発明のさらなる他の態様であるサービス提供プログラムは、複数人からなる車内の乗員の各々の個人感情を推定する手順と、推定された各々の乗員の個人感情に基づいて、乗員全体の感情である全体感情を推定する手順と、推定された全体感情に基づいて、乗員全体に提供するサービスを決定する手順と、決定されたサービスを提供するための指令を出力する手順と、をコンピュータに実行させる。
本発明によれば、各々の乗員の個人感情から推定された乗員全体の感情に基づいて乗員全体に提供するサービスを決定するので、会話していない乗員等を含む車内の乗員全体に対し高い満足度を与えることができる。
本発明の実施形態に係るサービス提供装置の概略構成を示すブロック図。 図1のサービス提供装置に含まれる処理装置で実行される処理の一例を示すフローチャート。 図1の変形例を示す図。
以下、図1〜図3を参照して本発明の実施形態について説明する。図1は、本発明の実施形態に係るサービス提供装置100の概略構成を示すブロック図である。このサービス提供装置100は、車内の乗員に種々のサービスを提供することが可能な装置であり、例えば車両に搭載されるナビゲーション装置をベースとして構成される。
図1に示すように、サービス提供装置100は処理装置1を有する。処理装置1には、入力部2と、GPS受信部3と、センサ群4と、記憶部5と、無線装置6と、マイク7と、スピーカ8と、ディスプレイ9と、駆動部10とがそれぞれ接続される。
入力部2は、乗員(運転者など)により操作される各種スイッチを含む。なお、ディスプレイ9の表示画面上にタッチパネルを設け、タッチパネルを入力部2として構成することもできる。処理装置1には、入力部2の操作に応じた各種指令や情報が入力される。
GPS受信部3は、GPS衛星から測位信号を受信して車両の現在位置を測定する。GPS受信部3からの信号は、処理装置1に入力される。
センサ群4は、カメラ41と、着座センサ42とを含む。カメラ41は、CCDセンサやCMOSセンサ等の撮像素子を有し、乗員の顔を含む上半身を撮像する。カメラ41は、全ての乗員の表情や姿勢を撮像可能なように、乗車位置(シート位置)に対応して複数設けられる。着座センサ42は、各シートに配置された圧力センサであり、着座センサ42の検出値により、各シートの乗員の有無を判別できる。したがって、着座センサ42の検出値により、車内の乗員の人数を検出するとともに、乗員の体格や性別、年齢(大人か子供か等)などを判別できる。センサ群4からの信号は、処理装置1に入力される。
記憶部5は、地図情報が記憶された地図データベース51と、各種の話題が記憶された話題データベース52と、音楽が記憶された音楽データベース53とを有する。地図データベース51には、道路地図データや施設データなどを含む地図情報が記憶される。話題データベース52には、交通情報、天気、時事ネタ等の話題や食べ物、趣味、旅行、仕事、家族に関する話題など、乗員同士の会話に登場すると予想される種々の話題が記憶される。音楽データベース53には、洋楽、邦楽、ジャズ、クラシック等、種々のジャンルの音楽が記憶される。処理装置1は、記憶部5に記憶された情報を必要に応じて読み込む。
無線装置6は、携帯電話網やインターネット回線等の無線公衆回線との間で通信を行う。車内に存在するスマートフォン等の携帯端末との間で短距離無線通信を行うこともできる。無線装置6を介して、外部のサーバ等から送信された話題データや音楽データなどを定期的に取り込み、記憶部5に記憶された情報を更新することもできる。入力部2を介してデータの取り込みが指令される度に、無線装置6を介して話題データや音楽データなどを取り込み、記憶部5に記憶された情報を更新することもできる。
マイク7は、乗員の発話した音声を取得する。マイク7からの音声信号は、例えばA/D変換器を介し音声データとして処理装置1に入力される。マイク7は、狭指向性を有し、方向によって音声を取得する感度が異なる。マイク7は、乗員の乗車位置に対応して車内に複数設置され、これにより各乗員の発話の有無を特定することができる。
スピーカ8は、処理装置1からの指令により、記憶部5に記憶された地図情報、話題、音楽等を内容とした音声を出力する。スピーカ8は、入力部2やマイク7を介して乗員から音声出力の要求があったとき、その要求に応答して音声を提供する。スピーカ8は、乗員からの音声出力の要求がなくても、処理装置1からの指令により自動的に音声を提供することもできる。
ディスプレイ9は、目的地設定に関する情報、目的地までの経路案内情報、および経路上の現在位置情報等を表示する。ディスプレイ9の表示内容は、処理装置1により制御される。
駆動部10は、乗員の快適性に影響を与える装置を駆動するアクチュエータの総称である。駆動部10は、例えば空調装置のモータやコンプレッサと、窓やサンルーフを開閉するためのモータとを含む。
処理装置1は、CPU,ROM,RAMその他の周辺回路を有する演算処理装置を含むコンピュータにより構成される。処理装置1は、機能的構成として、発話特定部11と、個人感情推定部12と、全体感情推定部13と、サービス決定部14と、指令出力部15とを有する。
発話特定部11は、マイク7を介して入力された音声信号に基づいて、各乗員の発話の有無を判定するとともに発話内容を特定する。より具体的には、発話特定部11は、着座センサ42からの信号に基づいて乗員の着座位置を特定し、着座位置に対応するマイク7から音声信号が入力されたか否かを判定することにより各乗員の発話の有無を判定する。さらに、発話特定部11は、記憶部5の辞書データベース(不図示)に登録された単語を参照することで、マイク7を介して入力された音声信号を認識し、これにより発話内容を特定する。
個人感情推定部12は、カメラ41からの画像信号に基づいて、各乗員の表情(口角等)から各乗員の感情(個人感情)を推定する。例えばPlutchikの感情の和を用いて、乗員の感情を8つの基本感情(期待、喜び、受容、不安、驚き、悲しみ、嫌悪、怒り)と、隣り合う2つの感情の組み合わせによる応用感情とに分類する。個人感情は、カメラ41からの画像信号だけでなく、マイク7からの音声信号も考慮して推定する。すなわち、発話内容や乗員の発話した音声のアクセントや発音等も考慮し、乗員の感情を、感情の輪のいずれかのパターンに当てはめる。
個人感情推定部12は、感情の輪への当てはめに応じて個人感情を数値化する。例えば喜びなどの好ましい感情(正の感情)をプラスの値で、悲しみなどの好ましからぬ感情(負の感情)をマイナスの値で表す。この場合、例えば感情が強いほど(感情の輪の内側に行くほど)、感情を表す値(絶対値)を大きくする。カメラ41からの画像信号により各乗員に動きがあるか否かを判定し、動いていないときにその乗員は睡眠中であると判定することもできる。このとき、個人感情推定部12は、睡眠中の乗員の個人感情を例えば0とする。
全体感情推定部13は、個人感情推定部12で推定された各々の乗員の個人感情に基づいて、乗員全体の感情(全体感情)、すなわち車内全体の雰囲気を推定する。より具体的には、個人感情推定部12により数値化された個人感情の総和を、着座センサ42により検出された乗員の人数で除算する。これにより平均的な個人感情を全体感情として数値化して求めることができる。全体感情の値αが大きいほど、正の感情が強く、車内が盛り上がっている。
サービス決定部14は、全体感情推定部13により推定された全体感情に基づいて、乗員全体に提供するサービスを決定する。例えば、全体感情の値αが0より大きい所定値α1以上であって、発話特定部11により発話内容が特定されたとき、車内全体が共通の話題で盛り上がっていると想定される。このときサービス決定部14は、話題データベース52を参照し、発話内容に含まれるキーワードから話題を特定する。そして、話題データベース52に記憶されたその話題に対応した多数の情報の中から、全体感情を考慮して最適な情報を選択し、これを乗員に音声で提供すべきサービス(音声情報サービス)として決定する。なお、地図データベース51から現在位置またはその近傍の施設の情報を取得し、発話特定部11により特定された発話内容と関連し、または発話内容とは無関係に、この施設情報を音声で提供するサービスとして決定することもできる。
一方、全体感情の値αが所定値α1未満であるとき、例えば乗員同士の会話がなく、全体感情の値αが0であるときは、各乗員は黙って車窓からの風景を楽しんでいる、あるいは携帯端末機器の操作等、何らかの行為に集中している、あるいは寝ていると想定される。このときサービス決定部14は、音楽データベース53を参照し、車内の静かな状況に対応した音楽を選択し、これを乗員に提供すべきサービス(音楽サービス)として決定する。なお、地図データベース51からの情報により自車の周囲の環境を把握し、環境に合った音楽を選択することもできる。天候や時刻に応じて音楽を選択することもできる。発話内容が特定されたときに、発話内容に応じた音楽を選択し、これを提供すべき音楽サービスとして決定してもよい。駆動部10の駆動によって得られる動作(例えば空調装置の作動等)を、提供すべきサービスとして決定してもよい。
指令出力部15は、サービス決定部14により決定されたサービスを乗員に提供するための指令を、対象機器に出力する。例えば、サービス決定部14で音声情報サービスを提供するように決定されると、その音声情報に対応した音声データを生成し、これをD/A変換器を介してスピーカ8に出力する。サービス決定部14で音楽サービスを提供するように決定されると、対応する音楽データを音楽データベース53から読み込んで、スピーカ8に出力する。空調装置の作動等がサービスとして決定されたときは、指令出力部15は駆動部10に制御信号を出力する。
図2は、予め処理装置1のROMに記憶されたプログラムに従って処理装置1のCPUで実行される処理の一例を示すフローチャートである。このフローチャートに示す処理は、所定周期で繰り返し実行される。
まず、ステップS1で、着座センサ42からの信号により各シートにおける乗員の有無を判別する。次いで、ステップS2で、カメラ41からの信号に基づき各乗員の個人感情を推定する。推定した個人感情は、複数に分類された感情の輪のいずれかのパターンに当てはめられ、数値化される。次いで、ステップS3で、各乗員の個人感情に基づいて全体感情を推定する。すなわち、数値化した各乗員の個人感情を加算して得た感情の総和を、着座センサ42によって検出された乗員の人数で除算して全体感情の値αを算出する。
次いで、ステップS4で、全体感情の値αが所定値α1以上であるか否かを判定する。車内の乗員同士で会話がなされ、正の感情が高まっている状態では、全体感情の値αが所定値α1以上となり、ステップS4で肯定されてステップS5に進む。ステップS5では、乗員に提供すべきサービスとして音声情報サービスを選択する。すなわち、発話特定部11により特定された発話内容に含まれるキーワードから話題を特定するとともに、その話題に対応した音声による情報を、提供するサービスとして決定する。次いで、ステップS6で、音声情報サービスを乗員に提供するため、スピーカ8に制御信号を出力する。
一方、ステップS4で否定されるとステップS7に進む。ステップS7では、乗員に提供すべきサービスとして音楽サービスを選択する。すなわち、この場合には車内の乗員同士で会話がないために、全体感情の値αが所定値α1未満となったと考えられる。このため、車内の静かな環境に合った音楽を流すように音楽サービスを選択する。次いで、ステップS8で、音楽サービスを乗員に提供するため、スピーカ8に制御信号を出力する。
本発明の実施形態によれば以下のような作用効果を奏することができる。
(1)サービス提供装置100は、複数人からなる車内の乗員の存否を検出する着座センサ42と、カメラ41からの信号に基づき、着座センサ42により検出された各々の乗員の個人感情を推定する個人感情推定部12と、個人感情推定部12により推定された各々の乗員の個人感情に基づいて、乗員全体の感情である全体感情を推定する全体感情推定部13と、全体感情推定部13により推定された全体感情に基づいて、乗員全体に提供するサービスを決定するサービス決定部14と、サービス決定部14により決定されたサービスを提供するための指令を出力する指令出力部15と、を備える(図1)。このように乗員全体の感情に基づいて乗員に提供するサービスを決定するため、乗員全体に対し高い満足度を与えることができる。
(2)個人感情推定部12は、各々の乗員の個人感情を数値化して推定し、全体感情推定部13は、個人感情推定部12により数値化された個人感情の総和を、着座センサ42により検出された全乗員の人数で除算することにより、全体感情を数値化して推定する。このように全体感情を数値化することで、全体感情を定量的に評価することができ、乗員全体に提供する最適なサービスを容易に決定することができる。
(3)サービス提供装置100は、乗員の動きを検出するカメラ41を備え、個人感情推定部12は、カメラ41により検出された乗員の動きに基づいて個人感情を推定する。すなわち、例えば動きのない睡眠中の乗員の個人感情を0とする。これにより睡眠中の乗員の個人感情を評価することができ、全体感情を良好に推定することができる。
(4)マイク7から入力された音声信号に基づき、各々の乗員の発話内容を特定する発話特定部11をさらに備え、サービス決定部14は、全体感情推定部13により推定された全体感情に基づいて、発話特定部11により特定された発話内容に関連する情報を音声で提供する音声情報サービスと、音楽を提供する音楽サービスと、を含む複数のサービスの中から、乗員全体に提供するサービスを決定する(ステップS5,ステップS7)。これにより音声情報サービスや音楽サービス等、乗員全体の感情にとって最適と思われるサービスを提供することができる。すなわち、車内が盛り上がった雰囲気のときには、その盛り上がりを継続するような話題を提供し、車内が静かな雰囲気のときには、静けさに見合った音楽を提供することができる。このため、車内の雰囲気が安定し、運転者は落ち着いた精神状態で車を運転することができる。
(5)サービス決定部14は、発話特定部11により発話内容が特定されないとき、音楽サービスを乗員全体に提供するサービスとして選択する(ステップS7)。これにより複数の乗員がいるにも拘らず車内がシーンとなるのを防ぎ、運転者を含め、乗員全体をリラックスさせることができる。
本発明は、上記実施形態に限らず種々の形態に変形することができる。上記実施形態(図1)では、カーナビゲーション装置をベースとしてサービス提供装置100を構成したが、サービス提供装置の構成はこれに限らない。図3は、図1の変形例を示す図である。図3では、図1の記憶部5に記憶されたデータベース51〜53の少なくとも一部がサーバ102に記憶され、音声対話装置101は無線装置6(図1)および無線通信網、インターネット網、電話回線網などの通信ネットワーク103を介してサーバ102から各種情報を取得するように構成される。音声対話装置101の少なくとも一部の機能を、運転者が携帯する携帯無線端末104によって実現することもできる。例えば通信ネットワーク103を介して携帯無線端末104からサーバ102に位置情報を送信するようにしてもよい。
上記実施形態では、着座センサ42により乗員の存否を検出したが、カメラ41等、他の乗員検出部を用いて複数人からなる車内の乗員の存否を検出するようにしてもよい。上記実施形態では、カメラ41により各乗員の表情を検出するとともに、そのカメラ41からの画像に基づき個人感情推定部12が個人感情を推定するようにしたが、他の機器で乗員の感情を検出し、これに基づき乗員の感情を推定してもよく、個人感情推定部の構成は上述したものに限らない。上記実施形態では、カメラ41からの画像により乗員の動きを検出するようにしたが、動き検出部の構成はこれに限らない。上記実施形態では、個人感情を感情の輪によって分類されたパターンに当てはめて数値化するようにしたが、他の分類された感情のパターンに当てはめて数値化するようにしてもよい。
上記実施形態では、全体感情推定部13で、個人感情推定部12により数値化された個人感情の総和を全乗員の人数で除算することにより全体感情を数値化するようにしたが、個人感情推定部により推定された各乗員の個人感情に基づいて全体感情を推定するのであれば、全体感情推定部の構成はいかなるものでもよい。上記実施形態(図2)では、サービス決定部14が、全体感情の値αが所定値α1以上のとき音声情報サービスを、所定値α1未満のとき音楽サービスを、それぞれを乗員に提供するサービスとして決定したが、全体感情に基づいて乗員全体に提供するサービスを決定するのであれば、サービス決定部の構成はいかなるものでもよい。例えば駆動部10の駆動を含む複数のサービスの中から、提供すべきサービスを決定してもよい。
サービス提供方法に関し、複数人からなる車内の乗員の存否を検出し、検出された各々の乗員の個人感情を推定し、推定された各々の乗員の個人感情に基づいて、乗員全体の感情である全体感情を推定し、推定された全体感情に基づいて、乗員全体に提供するサービスを決定し、決定されたサービスを提供するための指令を出力するのであれば、他の構成はいかなるものでもよい。
複数人からなる車内の乗員の各々の個人感情を推定する手順と、推定された各々の乗員の個人感情に基づいて、乗員全体の感情である全体感情を推定する手順と、推定された全体感情に基づいて、乗員全体に提供するサービスを決定する手順と、決定されたサービスを提供するための指令を出力する手順とを含むのであれば、処理装置1で実行される処理は図2に示したものに限らない。したがって、これらの手順をコンピュータに実行させるサービス提供プログラムの構成も上述したものに限らない。上記実施形態では、サービス提供プログラムを処理装置1内に格納したが、フラッシュメモリ等の外部記憶媒体に格納してもよい。通信ネットワーク103を介してサービス提供プログラムを取得することもできる。
以上の説明はあくまで一例であり、本発明の特徴を損なわない限り、上述した実施形態および変形例により本発明が限定されるものではない。上記実施形態と変形例の1つまたは複数を任意に組み合わせることも可能であり、変形例同士を組み合わせることも可能である。
1 処理装置、4 センサ群、5 記憶部、7 マイク、8 スピーカ、11 発話特定部、12 個人感情推定部、13 全体感情推定部、14 サービス決定部、15 指令出力部、41 カメラ、42 着座センサ、100 サービス提供装置

Claims (7)

  1. 複数人からなる車内の乗員の存否を検出する乗員検出部と、
    前記乗員検出部により検出された各々の乗員の個人感情を推定する個人感情推定部と、
    前記個人感情推定部により推定された各々の乗員の個人感情に基づいて、乗員全体の感情である全体感情を推定する全体感情推定部と、
    前記全体感情推定部により推定された全体感情に基づいて、乗員全体に提供するサービスを決定するサービス決定部と、
    前記サービス決定部により決定されたサービスを提供するための指令を出力する指令出力部と、を備えることを特徴とするサービス提供装置。
  2. 請求項1に記載のサービス提供装置において、
    前記個人感情推定部は、各々の乗員の個人感情を数値化して推定し、
    前記全体感情推定部は、前記個人感情推定部により数値化された個人感情の総和を、前記乗員検出部により検出された全乗員の人数で除算することにより、全体感情を数値化して推定することを特徴とするサービス提供装置。
  3. 請求項1または2に記載のサービス提供装置において、
    乗員の動きを検出する動き検出部をさらに備え、
    前記個人感情推定部は、前記動き検出部により検出された乗員の動きに基づいて個人感情を推定することを特徴とするサービス提供装置。
  4. 請求項1〜3のいずれか1項に記載のサービス提供装置において、
    各々の乗員の発話内容を特定する発話特定部をさらに備え、
    前記サービス決定部は、前記全体感情推定部により推定された全体感情に基づいて、前記発話特定部により特定された発話内容に関連する情報を音声で提供する音声情報サービスと、音楽を提供する音楽サービスと、を含む複数のサービスの中から、乗員全体に提供するサービスを決定することを特徴とするサービス提供装置。
  5. 請求項4に記載のサービス提供装置において、
    前記サービス決定部は、前記発話特定部により発話内容が特定されないとき、前記音楽サービスを乗員全体に提供するサービスとして決定することを特徴とするサービス提供装置。
  6. 複数人からなる車内の乗員の存否を検出し、
    検出された各々の乗員の個人感情を推定し、
    推定された各々の乗員の個人感情に基づいて、乗員全体の感情である全体感情を推定し、
    推定された全体感情に基づいて、乗員全体に提供するサービスを決定し、
    決定されたサービスを提供するための指令を出力することを含むことを特徴とするサービス提供方法。
  7. 複数人からなる車内の乗員の各々の個人感情を推定する手順と、
    推定された各々の乗員の個人感情に基づいて、乗員全体の感情である全体感情を推定する手順と、
    推定された全体感情に基づいて、乗員全体に提供するサービスを決定する手順と、
    決定されたサービスを提供するための指令を出力する手順と、をコンピュータに実行させるためのサービス提供プログラム。
JP2016200243A 2016-10-11 2016-10-11 サービス提供装置、サービス提供方法およびサービス提供プログラム Active JP6466385B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016200243A JP6466385B2 (ja) 2016-10-11 2016-10-11 サービス提供装置、サービス提供方法およびサービス提供プログラム
US15/716,388 US10394519B2 (en) 2016-10-11 2017-09-26 Service providing apparatus and method
CN201710884700.5A CN107918637B (zh) 2016-10-11 2017-09-26 服务提供装置和服务提供方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016200243A JP6466385B2 (ja) 2016-10-11 2016-10-11 サービス提供装置、サービス提供方法およびサービス提供プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019001626A Division JP6785889B2 (ja) 2019-01-09 2019-01-09 サービス提供装置

Publications (2)

Publication Number Publication Date
JP2018063486A true JP2018063486A (ja) 2018-04-19
JP6466385B2 JP6466385B2 (ja) 2019-02-06

Family

ID=61828876

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016200243A Active JP6466385B2 (ja) 2016-10-11 2016-10-11 サービス提供装置、サービス提供方法およびサービス提供プログラム

Country Status (3)

Country Link
US (1) US10394519B2 (ja)
JP (1) JP6466385B2 (ja)
CN (1) CN107918637B (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019158975A (ja) * 2018-03-08 2019-09-19 トヨタ自動車株式会社 発話システム
WO2020065771A1 (ja) * 2018-09-26 2020-04-02 三菱電機株式会社 音声感情認識装置および音声感情認識方法
JP2020154922A (ja) * 2019-03-22 2020-09-24 本田技研工業株式会社 サービス提供装置、決済情報処理装置、および、サービス提供方法
US10963064B2 (en) 2018-06-19 2021-03-30 Honda Motor Co., Ltd. Control device and control method

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111629301B (zh) * 2019-02-27 2021-12-31 北京地平线机器人技术研发有限公司 用于控制多个扬声器播放音频的方法、装置和电子设备
US10966027B2 (en) * 2019-07-30 2021-03-30 GM Global Technology Operations LLC Audio adjustment system
CN111402925B (zh) * 2020-03-12 2023-10-10 阿波罗智联(北京)科技有限公司 语音调节的方法、装置、电子设备、车载系统和可读介质
JP7434015B2 (ja) * 2020-03-25 2024-02-20 本田技研工業株式会社 情報提供システム、情報提供装置、情報提供装置の制御方法、及び、プログラム
JP7331792B2 (ja) * 2020-06-29 2023-08-23 トヨタ自動車株式会社 情報処理装置、情報処理システム、プログラム、及び車両

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006044420A (ja) * 2004-08-03 2006-02-16 Denso Corp 車両機器制御装置
JP2006092430A (ja) * 2004-09-27 2006-04-06 Denso Corp 音楽再生装置
JP2007225902A (ja) * 2006-02-23 2007-09-06 Fujitsu Ten Ltd 車内音声操作システム
JP2012133530A (ja) * 2010-12-21 2012-07-12 Denso Corp 車載装置
JP2012185063A (ja) * 2011-03-07 2012-09-27 Pioneer Electronic Corp 充電施設検索装置、制御方法、プログラム、及び記憶媒体
US20130054090A1 (en) * 2011-08-29 2013-02-28 Electronics And Telecommunications Research Institute Emotion-based vehicle service system, emotion cognition processing apparatus, safe driving service apparatus, and emotion-based safe driving service method
JP2016137204A (ja) * 2015-01-29 2016-08-04 マツダ株式会社 車両用乗員感情対応制御装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102224460B (zh) * 2008-10-15 2015-01-21 国际纸业公司 成像颗粒组合物、纸张和方法以及使用双波长光对纸张成像的方法
US8473289B2 (en) * 2010-08-06 2013-06-25 Google Inc. Disambiguating input based on context
CN202025333U (zh) * 2010-12-16 2011-11-02 上海博泰悦臻电子设备制造有限公司 车载终端
US20130003064A1 (en) * 2011-01-03 2013-01-03 National Institute Of Standards And Technology Dynamic Spectral Radiance Calibration Source
US20130030645A1 (en) * 2011-07-28 2013-01-31 Panasonic Corporation Auto-control of vehicle infotainment system based on extracted characteristics of car occupants
US9196173B2 (en) * 2012-10-05 2015-11-24 International Business Machines Corporation Visualizing the mood of a group of individuals
US20140222830A1 (en) * 2013-02-04 2014-08-07 Rhapsody International Inc. Selecting content for a user
KR101472916B1 (ko) * 2013-06-27 2014-12-16 한국과학기술연구원 모르폴린 또는 피페라진 화합물, 및 도네페질을 포함하는 인지 장애 관련 질병의 예방 또는 치료용 약학적 조성물
EP2857276B1 (en) * 2013-08-20 2018-12-12 Harman International Industries, Incorporated Driver assistance system
CN103456314B (zh) * 2013-09-03 2016-02-17 广州创维平面显示科技有限公司 一种情感识别方法以及装置
US20160004228A1 (en) * 2014-06-20 2016-01-07 Atigeo Corp. Cooperative distributed control of target systems
US9648061B2 (en) * 2014-08-08 2017-05-09 International Business Machines Corporation Sentiment analysis in a video conference
US20160089954A1 (en) * 2014-09-30 2016-03-31 Continental Automotive Systems Inc. System and method for setting an environmental condition in or around a vehicle in response to a determined mood
US20160328987A1 (en) * 2015-05-08 2016-11-10 International Business Machines Corporation Detecting the mood of a group
US9610510B2 (en) * 2015-07-21 2017-04-04 Disney Enterprises, Inc. Sensing and managing vehicle behavior based on occupant awareness
CN106778443A (zh) * 2015-11-22 2017-05-31 广州华久信息科技有限公司 一种辅助盲人看懂表情的方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006044420A (ja) * 2004-08-03 2006-02-16 Denso Corp 車両機器制御装置
JP2006092430A (ja) * 2004-09-27 2006-04-06 Denso Corp 音楽再生装置
JP2007225902A (ja) * 2006-02-23 2007-09-06 Fujitsu Ten Ltd 車内音声操作システム
JP2012133530A (ja) * 2010-12-21 2012-07-12 Denso Corp 車載装置
JP2012185063A (ja) * 2011-03-07 2012-09-27 Pioneer Electronic Corp 充電施設検索装置、制御方法、プログラム、及び記憶媒体
US20130054090A1 (en) * 2011-08-29 2013-02-28 Electronics And Telecommunications Research Institute Emotion-based vehicle service system, emotion cognition processing apparatus, safe driving service apparatus, and emotion-based safe driving service method
JP2016137204A (ja) * 2015-01-29 2016-08-04 マツダ株式会社 車両用乗員感情対応制御装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019158975A (ja) * 2018-03-08 2019-09-19 トヨタ自動車株式会社 発話システム
JP7192222B2 (ja) 2018-03-08 2022-12-20 トヨタ自動車株式会社 発話システム
US10963064B2 (en) 2018-06-19 2021-03-30 Honda Motor Co., Ltd. Control device and control method
WO2020065771A1 (ja) * 2018-09-26 2020-04-02 三菱電機株式会社 音声感情認識装置および音声感情認識方法
JP2020154922A (ja) * 2019-03-22 2020-09-24 本田技研工業株式会社 サービス提供装置、決済情報処理装置、および、サービス提供方法
JP7364348B2 (ja) 2019-03-22 2023-10-18 本田技研工業株式会社 サービス提供装置、サービス提供システム、および、サービス提供方法

Also Published As

Publication number Publication date
US10394519B2 (en) 2019-08-27
US20180101354A1 (en) 2018-04-12
JP6466385B2 (ja) 2019-02-06
CN107918637A (zh) 2018-04-17
CN107918637B (zh) 2022-02-25

Similar Documents

Publication Publication Date Title
JP6466385B2 (ja) サービス提供装置、サービス提供方法およびサービス提供プログラム
JP7192222B2 (ja) 発話システム
US20160379643A1 (en) Group Status Determining Device and Group Status Determining Method
JP6382273B2 (ja) 施設満足度算出装置
US11176948B2 (en) Agent device, agent presentation method, and storage medium
JP2006030447A (ja) 音声認識システムと該音声認識システムを備える移動体及び車両
JP2018060192A (ja) 発話装置およびコミュニケーション装置
JP2017090612A (ja) 音声認識制御システム
JP2020060696A (ja) コミュニケーション支援システム、コミュニケーション支援方法、およびプログラム
JP2019139354A (ja) 情報提供装置及び情報提供方法
JP6785889B2 (ja) サービス提供装置
JP2019101472A (ja) 感情推定装置
US20210190528A1 (en) Information providing device, information providing method, and storage medium
JP2020060861A (ja) エージェントシステム、エージェント方法、およびプログラム
JP2019101805A (ja) 対話システム
JP7065964B2 (ja) 音場制御装置および音場制御方法
JP6657048B2 (ja) 処理結果異常検出装置、処理結果異常検出プログラム、処理結果異常検出方法及び移動体
JP6332072B2 (ja) 対話装置
WO2022239142A1 (ja) 音声認識装置及び音声認識方法
JP2020160848A (ja) サーバ装置、情報提供システム、情報提供方法、およびプログラム
JP2020060623A (ja) エージェントシステム、エージェント方法、およびプログラム
JP2020160598A (ja) 情報処理装置、制御システム、情報処理装置の制御方法
JP2019212168A (ja) 音声認識システムおよび情報処理装置
JP2022025614A (ja) 車内環境設定装置、車両および車内環境設定方法
US20230395078A1 (en) Emotion-aware voice assistant

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180731

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181211

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190109

R150 Certificate of patent or registration of utility model

Ref document number: 6466385

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150