JP6422477B2 - コンテンツ提供装置、コンテンツ提供方法およびコンテンツ提供システム - Google Patents

コンテンツ提供装置、コンテンツ提供方法およびコンテンツ提供システム Download PDF

Info

Publication number
JP6422477B2
JP6422477B2 JP2016248022A JP2016248022A JP6422477B2 JP 6422477 B2 JP6422477 B2 JP 6422477B2 JP 2016248022 A JP2016248022 A JP 2016248022A JP 2016248022 A JP2016248022 A JP 2016248022A JP 6422477 B2 JP6422477 B2 JP 6422477B2
Authority
JP
Japan
Prior art keywords
content
occupant
unit
emotion
music
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016248022A
Other languages
English (en)
Other versions
JP2018101341A (ja
Inventor
村田 聡
聡 村田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2016248022A priority Critical patent/JP6422477B2/ja
Priority to CN201711310723.1A priority patent/CN108228729B/zh
Priority to US15/839,407 priority patent/US10360259B2/en
Publication of JP2018101341A publication Critical patent/JP2018101341A/ja
Application granted granted Critical
Publication of JP6422477B2 publication Critical patent/JP6422477B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G06F16/63Querying
    • G06F16/635Filtering based on additional data, e.g. user or group profiles
    • G06F16/636Filtering based on additional data, e.g. user or group profiles by using biological or physiological data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/02Feature extraction for speech recognition; Selection of recognition unit
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/102Programmed access in sequence to addressed parts of tracks of operating record carriers

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Physiology (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Acoustics & Sound (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、車内の乗員に楽曲などのコンテンツを提供するコンテンツ提供装置、コンテンツ提供方法およびコンテンツ提供システムに関する。
この種の装置として、従来、マイクを介して入力された乗員の音声から乗員の感情を表す感情情報を生成し、生成された感情情報に基づいてデータベースから楽曲を選択し、選択された楽曲を自動的に再生するようにした装置が知られている(例えば特許文献1参照)。
特開2006−155157号公報
しかしながら、乗員の感情と乗員の要求するコンテンツとが良好に対応するとは限らず、上記特許文献1記載の装置のように、乗員の感情情報に基づいて楽曲を選択したのでは、自動選曲のサービスを乗員が不快に感じるおそれがある。
本発明の一態様であるコンテンツ提供装置は、乗員の生体情報を取得する生体情報取得部と、生体情報取得部により取得された生体情報に基づいて乗員感情を推定する感情推定部と、感情推定部で推定された乗員感情に基づいてコンテンツの取得を指令するコンテンツ指令部と、コンテンツ指令部で指令されたコンテンツを取得するコンテンツ取得部と、コンテンツ取得部で取得されたコンテンツを乗員に対し出力するコンテンツ出力部と、コンテンツの取得を手動で指令する手動指令部と、生体情報取得部により取得された生体情報に基づいて、手動指令部へ向かう乗員の視線の有無を判定する視線判定部と、を備え、コンテンツ指令部は、コンテンツ出力部により第1コンテンツが出力された後に感情推定部で推定された乗員感情が悪化し、かつ、視線判定部により手動指令部へ向かう乗員の視線があると判定されると、第1コンテンツから第2コンテンツへのコンテンツの変更を指令する。
本発明の他の態様であるコンテンツ提供方法は、生体情報取得部により、乗員の生体情報を取得し、感情推定部により、生体情報取得部により取得された生体情報に基づいて乗員の感情を推定し、コンテンツ指令部により、推定された乗員感情に基づいてコンテンツの取得を指令し、コンテンツ取得部により、指令されたコンテンツを取得し、コンテンツ出力部により、取得されたコンテンツを乗員に対し出力し、視線判定部により、生体情報取得部により取得された生体情報に基づいて、コンテンツの取得を手動で指令する手動指令部へ向かう乗員の視線の有無を判定することを含み、コンテンツを指令することは、乗員に向けて第1コンテンツを出力した後に乗員の感情を推定し、推定された乗員感情が悪化し、かつ、手動指令部へ向かう乗員の視線があると判定されると、第1コンテンツから第2コンテンツへのコンテンツの変更を指令することを含む。
本発明のさらなる他の態様であるコンテンツ提供システムは、上記のコンテンツ提供装置と、コンテンツ提供装置からの指令に応じてコンテンツ提供装置にコンテンツを配信するサーバ装置と、を備える。
本発明によれば、提供したコンテンツが乗員にとって不快なものであるとき、乗員感情に応じて他のコンテンツが提供されるので、乗員の不快感情を速やかに改善させることができる。
本発明の実施形態に係るコンテンツ提供システムの概略構成を示す図。 図1の車載装置(コンテンツ提供装置)の概略構成を示すブロック図。 図2の処理装置で実行される処理の一例を示すフローチャート。 本発明の実施形態に係るコンテンツ提供装置の動作の一例を示すタイミングチャート。 本発明の実施形態に係るコンテンツ提供装置の効果を説明する図。 図1の変形例を示す図。 図2の変形例を示す図。
以下、図1〜図7を参照して本発明の実施形態について説明する。図1は、本発明の実施形態に係るコンテンツ提供システム100の概略構成を示す図である。このコンテンツ提供システム100は、サーバ装置2が車載装置1に対して楽曲データを提供するように構成される。
図1に示すように、コンテンツ提供システム100は、車両(例えば自動車)101に搭載された車載装置1と、車両101の外部のサーバ装置2とを有する。車載装置1とサーバ装置2とは、通信回線3を介して互いに通信可能に接続される。通信回線3は、例えば携帯電話網、インターネット網、無線LAN等、あるいはそれらの組み合わせで構成される。なお、車両101に搭載されて通信回線3に接続される車載装置1は、単数複数のいずれであってもよい。
車載装置1は、本発明のコンテンツ提供装置の一例であり、サーバ装置2からコンテンツを受信して乗員に提供する機能を有する。車載装置1が受信するコンテンツは、例えば楽曲データを含む音楽コンテンツである。楽曲データは、サーバ装置2の楽曲データベース2aに格納され、車載装置1は、楽曲データベース2aから所望の楽曲データを取得する。楽曲データは、例えば車載装置1のコンテンツ処理速度に同期しながらデータ送信する、いわゆるストリーミング方式で送信される。なお、図示は省略するが、サーバ装置2は、制御部、記憶部、および通信部等を有し、楽曲データベース2aは記憶部として構成される。
楽曲データは、ジャズやポップス、ロック等のテンポやリズムの異なる音楽ジャンル毎に分類して記憶される。これら音楽ジャンルは、例えば1980年代、2000年代等の年代毎に細かく分類することもできる。楽曲データベース2aには、音楽ジャンル毎に楽曲データが記憶される。同一の音楽ジャンルには複数の楽曲データ(複数の楽曲)が含まれる。音楽ジャンルは、車載装置1における放送局の受信チャンネルを切替えることにより切替えることができる。放送局には所定の音楽ジャンルの楽曲を随時提供するラジオ局が含まれる。楽曲データには、音楽コンテンツに関する各種情報(例えば曲のタイトル、アルバム名、アーティスト名等)も含まれる。
車載装置(コンテンツ提供装置)1は、具体的には、音響機器としての機能を有するナビゲーション装置あるいはオーディオ装置等により構成される。図2は、車載装置1の概略構成を示すブロック図である。図2に示すように、車載装置1は、処理装置10と、処理装置10にそれぞれ接続される操作部21、カメラ22、マイク23、通信装置24、スピーカ25、および表示部26とを有する。車載装置1をナビゲーション装置として構成する場合、車載装置1はナビゲーションユニットを有するが、図2ではその図示を省略する。
操作部21は、乗員(運転者など)により操作される各種スイッチ、例えば車載装置1をオンオフするオンオフスイッチ、音量を変更する音量スイッチ、音楽ジャンル(チャンネル)を切替えるジャンル切替えスイッチ、同一の音楽ジャンル内で楽曲を変更する楽曲変更スイッチ等を含む。ジャンル切替えスイッチと楽曲変更スイッチの操作により乗員が手動で楽曲を選択することができる。なお、表示部26の表示画面上にタッチパネルを設け、タッチパネルを操作部21として構成することもできる。車載装置1は、乗員感情に応じて乗員に自動的に楽曲を提供する機能(楽曲提供サービス)を有するが、この楽曲提供サービスの開始および停止を操作部21の操作により指令することもできる。車載装置1のオンと同時に楽曲提供サービスを開始してもよい。
カメラ22は、CCDセンサやCMOSセンサ等の撮像素子を有し、乗員の顔を含む上半身を撮像する。すなわち、カメラ22は、乗員の表情や姿勢を撮像する。カメラ22からの画像信号は、乗員感情を推定するために用いることができる。
マイク23は、乗員の発話した音声を取得する。マイク23からの音声信号は、例えばA/D変換器を介し音声データとして処理装置10に入力され、処理装置10で音声認識される。マイク23からの音声信号は、乗員感情を推定するために用いることができる。カメラ22およびマイク23は、乗員の表情等の画像および乗員の音声といった生体情報を取得するものであり、生体情報取得部20を構成する。
通信装置24は、通信回線3との間で通信を行うものであり、通信装置24を介して処理装置10が車両外部のサーバ装置2と通信することができる。通信装置24は、乗員が携帯または車内に配置されたスマートフォン等の携帯端末との間で短距離無線通信を行うこともできる。
スピーカ25は、処理装置10からの指令により、サーバ装置2から取得した音楽コンテンツを出力する。なお、予め車載装置1の記憶部に記憶された音楽コンテンツをスピーカ25から出力することもできる。スピーカ25は、操作部21やマイク23を介して乗員から音声出力の要求があったとき、その要求に応答して音声を出力することもできる。乗員からの音声出力の要求がなくても、処理装置10からの指令により自動的に音声を出力することもできる。
表示部26は、例えば液晶ディスプレイにより構成される。表示部26により、スピーカ25から出力する音楽コンテンツに関する情報や各種設定情報等を表示する。
処理装置10は、CPU,ROM,RAMその他の周辺回路を有する演算処理装置を含むコンピュータにより構成される。処理装置10は、機能的構成として、感情推定部11と、コンテンツ指令部12と、視線判定部13と、コンテンツ取得部14と、コンテンツ出力部15とを有する。
感情推定部11は、カメラ22により取得された画像信号に基づいて、乗員の表情(口角等)から乗員の感情(乗員感情)を推定する。具体的には、例えばPlutchikの感情の輪を用いて、予め感情を8つの基本感情(期待、喜び、受容、不安、驚き、悲しみ、嫌悪、怒り)と、隣り合う2つの感情の組み合わせによる応用感情とに分類し、これら各感情の特徴を表す画像とカメラ22からの画像とを比較して、人間の感情パターンのいずれかに当てはめることにより、乗員感情を推定する。なお、人間の感情パターンにはPlutchikの感情の輪等の、様々な感情パターンを適用することが可能である。本実施形態においては、Plutchikの感情の輪を例に説明をおこなう。乗員感情は、カメラ22からの画像信号だけでなく、マイク23からの音声信号も考慮して推定する。すなわち、発話内容や乗員の発話した音声のアクセントや発音(韻律)等も考慮して、乗員感情を推定する。
感情推定部11は、さらに感情の輪への当てはめに応じて乗員感情を数値化する。例えば喜びや楽しみなどの乗員にとって好ましい感情、すなわち快感情(正の感情)をプラスの値で、怒りや嫌悪などの乗員にとって好ましくない感情、すなわち不快感情(負の感情)をマイナスの値で表す。この場合、例えば感情が強いほど(感情の輪の内側に行くほど)、感情を表す値(絶対値)を大きくする。これにより、乗員感情(快感情、不快感情)の程度を求める。
コンテンツ指令部12は、感情推定部11で推定された乗員感情に応じて、乗員に提供すべき音楽コンテンツ(例えばジャズやポップスなどの音楽ジャンル)を指令する。例えば、乗員感情と音楽ジャンルとの関係を予め処理装置10の記憶部に記憶しておき、その関係を用いて、乗員感情に応じた音楽ジャンルを自動的に指令する。乗員に提供した過去の楽曲配信のデータを保存しておき、そのデータから乗員の嗜好を特定し、乗員感情とともに乗員の嗜好を考慮して音楽ジャンルを指令することもできる。音楽ジャンルとともに音楽ジャンル内の楽曲を指令してもよい。
さらにコンテンツ指令部12は、乗員に提供された音楽コンテンツが乗員にとって不快か否かを乗員感情から判定し、不快と判定されたときに音楽コンテンツの変更を指令する。この指令には、同一の音楽ジャンル内での楽曲の変更、音楽ジャンルの変更、および音楽コンテンツの配信停止(楽曲提供サービスの停止)が含まれる。コンテンツ指令部12は、感情推定部11により求められた音楽コンテンツの提供後の乗員の不快感情の程度を判定し、例えば不快感情の程度(絶対値)が第1所定値未満のときは、同一の音楽ジャンル内での楽曲の変更を指令する。不快感情の程度が第1所定値以上かつ第1所定値より大きい第2所定値未満のときは、音楽ジャンルの変更を指令する。不快感情の程度が第2所定値以上のときは、楽曲提供サービスの停止を指令する。
視線判定部13は、カメラ22からの画像信号に基づいて乗員の視線が所定方向(例えば操作部21の方向)に向けられているか否かを判定する。この判定は、乗員感情に応じた音楽コンテンツが自動的に提供された後に行う。音楽コンテンツの提供後に乗員の視線が操作部21に向けられると、乗員が手動で音楽コンテンツを変更する意思を有すると推定される。したがって、視線判定部13は、乗員が音楽コンテンツの変更の意思を有するか否かを判定する。視線判定部13で、操作部21に向かう乗員の視線ありと判定されると、コンテンツ指令部12は音楽コンテンツの変更を指令する。本判定は、人間が自身の意思に反する感触や違和感を感じたときに、その対象物に対して無意識に視線を向ける傾向を利用している。そのため、本実施の形態では操作部21の方向で例示したが、そのほかにも、車内に擬人的なエージェントが搭載されている場合はエージェントの方向であっても良いし、指向性のあるスピーカが搭載されている場合はスピーカの方向であっても良い。
コンテンツ取得部14は、コンテンツ指令部12で指令された音楽コンテンツの楽曲データを、通信装置24を介してサーバ装置2から取得する。すなわち、指令された音楽ジャンルに含まれる楽曲データを、サーバ装置2から取得する。音楽コンテンツの変更が指令されたときは、コンテンツ取得部14は、その変更指令に応じて同一の音楽ジャンルの他の楽曲データ、または異なる音楽ジャンルの楽曲データをサーバ装置2から取得する。楽曲提供サービスの停止が指令されたときは、コンテンツ取得部14は、音楽コンテンツの取得を停止する。
コンテンツ出力部15は、コンテンツ取得部14で取得した楽曲データに応じた音楽コンテンツをスピーカ25から出力する。コンテンツ指令部12から楽曲提供サービスの停止が指令されたときは、コンテンツ出力部15は音楽コンテンツの出力を停止する。
図3は、予め記憶されたプログラムに従い処理装置10で実行される処理の一例を示すフローチャートである。このフローチャートに示す処理は、例えば操作部21の操作によって楽曲提供サービスの開始が指令されると開始される。
まず、ステップS1で、感情推定部11での処理により、カメラ22とマイク23とからの信号に基づいて乗員感情を推定する。次いで、ステップS2で、コンテンツ指令部12での処理により、ステップS1で推定された乗員感情に応じた音楽コンテンツ(音楽ジャンル)を指令する。次いで、ステップS3で、コンテンツ取得部14での処理により、ステップS2で指令された音楽コンテンツの楽曲データを、通信装置24を介してサーバ装置2から取得する。
次いで、ステップS4で、コンテンツ出力部15での処理により、ステップS3で取得した楽曲データに応じた音楽コンテンツをスピーカ25から出力する。これにより乗員感情に応じた音楽コンテンツが乗員に対し自動的に提供される。次いで、ステップS5で、所定時間Δt1待機する。所定時間Δt1は、音楽コンテンツを提供してから乗員感情が変化するまでに要する時間(例えば数秒程度)に設定される。
次いで、ステップS6で、感情推定部11での処理により、カメラ22とマイク23とからの信号に基づいて乗員感情を再び推定する。推定された乗員感情が不快なものであるときには、その不快感情の程度を同時に求める。次いで、ステップS7で、ステップS6で推定された感情が不快感情であるか否かを判定する。ステップS7で否定されると、提供した音楽コンテンツは乗員に満足感を与えるものであり、音楽コンテンツを変更する必要がないとして、音楽コンテンツの変更に係る処理を終了する。
一方、ステップS7で肯定されるとステップS8に進み、視線判定部13での処理により、カメラ22からの画像信号に基づいて乗員の視線が所定方向(操作部21の方向)に向けられているか否かを判定する。ステップS8で否定されると、ステップS7で乗員感情が不快と判定されたのは、誤った音楽コンテンツの提供が原因ではなく別の理由であると判定し、音楽コンテンツを変更せずに処理を終了する。一方、ステップS8で肯定されると、音楽コンテンツの提供により乗員感情が不快になったと判定し、ステップS9に進む。
ステップS9では、コンテンツ指令部12での処理により、ステップS6で推定された乗員感情に応じて音楽コンテンツの変更を指令する。具体的には、ステップS6で求められた乗員の不快感情の程度が第1所定値未満のときは、同一の音楽ジャンル内の他の音楽コンテンツへの変更を指令する。例えば、提供される音楽コンテンツに順番(曲順)が付されているときは、次の順番の音楽コンテンツへの変更を指令する。あるいはランダムに他の音楽コンテンツへの変更を指令する。不快感情の程度が第1所定値以上かつ第1所定値より大きい第2所定値未満のときは、音楽ジャンルの変更を指令する。この場合、例えば乗員感情や乗員の嗜好等を考慮してどの音楽ジャンルを指令するかを決定する。不快感情の程度が第2所定値以上のときは、楽曲提供サービスの停止を指令する。
次いで、ステップS10で、コンテンツ取得部14およびコンテンツ出力部15において、ステップS9の音楽コンテンツの指令に応じた処理を行い、音楽コンテンツの出力を制御する。すなわち、ステップS9で同一の音楽ジャンル内での音楽コンテンツの変更が指令されると、サーバ装置2から同一の音楽ジャンルの別の楽曲データを取得し、楽曲データに対応した音楽コンテンツをスピーカ25から出力する。ステップS9で音楽ジャンルの変更が指令されると、サーバ装置2から他の音楽ジャンルの楽曲データを取得し、楽曲データに対応した音楽コンテンツをスピーカ25から出力する。ステップS9で、楽曲提供サービスの停止が指令されると、スピーカ25からの音楽コンテンツの出力を停止する。次いで、ステップS5に戻り、不快感情が改善されるまで上述したのと同様の処理を繰り返す。
本実施形態に係るコンテンツ提供装置(車載装置1)の動作をより具体的に説明する。図4は、本実施形態に係るコンテンツ提供装置の動作の一例を示すタイミングチャートであり、時間経過に伴う乗員感情αの変化を示す。なお、図4では、快感情をプラスで、不快感情をマイナスで表す。
図4の時点t1で、乗員が楽曲提供サービスの開始を指令すると(点P1)、処理装置10は、乗員の表情等から乗員感情αを即座に推定し、乗員感情αに応じた音楽コンテンツ(第1コンテンツ)をサーバ装置2から自動的に取得して、スピーカ25から出力する(ステップS1〜ステップS4)。したがって、乗員が操作部21を操作して音楽コンテンツ(放送局のチャンネル等)を指令しなくても、乗員感情αに応じた音楽コンテンツを乗員に対し自動的に提供することができる。
その後、音楽コンテンツを提供してから所定時間Δt1が経過すると(時点t2)、処理装置10は乗員感情αを再び判定する(ステップS7)。このとき、図4の点P2に示すように乗員に不快感情が生じており、かつ、乗員の視線が操作部21に向かっていると判定すると、不快感情の程度Δα1に応じて乗員に提供すべき音楽コンテンツ(第2コンテンツ)を決定し、第1コンテンツから第2コンテンツへの音楽コンテンツの変更を指令する(ステップS9)。なお、時点t1からの乗員感情αの悪化の程度Δα2に応じて、第2コンテンツを決定してもよい。
これにより乗員の不快感情の程度Δα1が第1所定値未満のときは、同一の音楽ジャンルの別の音楽コンテンツ(第2コンテンツ)が提供され、Δα1が第1所定値以上かつ第2所定値未満のときは、異なる音楽ジャンルの音楽コンテンツ(第2コンテンツ)が提供される(ステップS10)。その結果、例えば図4の点P3に示すように、時点t3で乗員感情αが快感情に改善され、乗員に対し最適な自動楽曲サービスを提供することが可能となる。以降、乗員感情αを推定しながら、同様に音楽コンテンツを提供し続ける。
一方、例えば図4の点P4に示すように、音楽コンテンツを変更したにも拘らず乗員感情αが改善されない場合(乗員感情αがプラスとならない場合)、第2コンテンツから他の音楽コンテンツ(第3コンテンツ)への変更を再び指令する。この場合、例えば不快感情の程度に応じて、または初期時点t1からの乗員感情αの悪化の程度あるいは直前時点t2からの乗員感情αの悪化の程度に応じて、第3コンテンツを決定する。
処理装置10は、乗員の不快感情が生じたときに、音楽コンテンツを変更するだけでなく、音楽コンテンツの提供を停止する場合がある(ステップS10)。例えば時点2において不快感情の程度が第2所定値以上になると、音楽コンテンツの提供を停止する。なお、静かな楽曲を提供したときに乗員感情αが改善したが、乗員感情がいまだにプラスにならないとき、乗員がさらなる静けさを望んでいると判断し、音楽コンテンツの提供を停止するようにしてもよい。
本実施形態によれば以下のような作用効果を奏することができる。
(1)コンテンツ提供装置の一例である車載装置1は、乗員の表情画像や音声等の生体情報を取得する生体情報取得部20と、生体情報取得部20により取得された生体情報に基づいて乗員感情を推定する感情推定部11と、感情推定部11で推定された乗員感情に基づいて音楽コンテンツの取得を指令するコンテンツ指令部12と、コンテンツ指令部12で指令された音楽コンテンツを取得するコンテンツ取得部14と、コンテンツ取得部14で取得された音楽コンテンツを乗員に対し出力するコンテンツ出力部15とを備える(図2)。コンテンツ指令部12は、コンテンツ出力部15により第1コンテンツが出力された後に感情推定部11で推定された乗員感情に応じて、第1コンテンツから第2コンテンツへの音楽コンテンツの変更を指令する(ステップS9)。
これにより、乗員感情に基づいて提供した音楽コンテンツ(第1コンテンツ)が乗員にとって好ましいものではなく、乗員が不快感情を生じた場合に、その不快感情に応じて他の音楽コンテンツ(第2コンテンツ)への変更が自動的に指令される。このため、乗員が操作部21を手動操作してコンテンツを指令しなくても、乗員感情を容易かつ速やかに改善させることができる。すなわち、本実施形態に係るコンテンツ提供装置によれば、例えば図5に示すように、時点t1(点P1)で乗員感情に基づいて音楽コンテンツを提供した後に、時間経過に伴い乗員感情αが徐々に悪化するとき、時点t2で乗員感情の程度がα1のときに音楽コンテンツの変更を指令する(点P2)。このため、乗員感情αをそれ以上悪化させずに、乗員感情αを速やかに改善させることができる。これに対し、例えば不快感情が生じた後に乗員が手動あるいは音声等により音楽コンテンツの変更を指令する場合、時点t2よりも後の時点t4で音楽コンテンツの変更が指令される。その結果、乗員の不快感情の程度はα1よりも大きいα2となり(点P5)、乗員の不快感が強まる。
(2)コンテンツ指令部12は、コンテンツ出力部15により第1コンテンツが出力された後に感情推定部11で推定された乗員感情が悪化しているとき、第1コンテンツから第2コンテンツへの音楽コンテンツの変更を指令する(ステップS6→ステップS9)。これにより、乗員感情を改善する必要があるときに音楽コンテンツの変更が指令され、適切なタイミングで音楽コンテンツの変更を指令することができる。
(3)車載装置1は、音楽コンテンツの取得を手動で指令する操作部21と、カメラ22からの信号に基づいて操作部21へ向かう乗員の視線の有無を判定する視線判定部13とをさらに備える(図2)。コンテンツ指令部12は、コンテンツ出力部15により第1コンテンツが出力された後に感情推定部11で推定された乗員感情が悪化し、かつ、視線判定部13により操作部21へ向かう乗員の視線があると判定されると、第1コンテンツから第2コンテンツへの音楽コンテンツの変更を指令する(ステップS7→ステップS8→ステップS9)。これにより音楽コンテンツを自動的に提供したことにより乗員に不快感情が生じたのか、それとも別の理由により乗員に不快感情が生じたのかを判断することができ、音楽コンテンツを不必要に変更することを防止できる。
(4)コンテンツ指令部12は、コンテンツ出力部15により第1コンテンツが出力されてから所定時間Δt1後に感情推定部11で推定された乗員感情の変化に応じて、第1コンテンツから第2コンテンツへの音楽コンテンツの変更を指令する。これにより音楽コンテンツを提供したことによる乗員感情の変化を正確に把握することができ、乗員感情に応じて最適に音楽コンテンツを変更することができる。
(5)コンテンツ指令部12は、さらにコンテンツ出力部15により第1コンテンツが出力された後に感情推定部11で推定された乗員感情に応じて音楽コンテンツの取得停止を指令可能であり、コンテンツ出力部15は、コンテンツ指令部12によりコンテンツの取得停止が指令されると、乗員に対する音楽コンテンツの出力を停止する(ステップS10)。これにより、例えば静かな環境の下で運転に集中したいなどの乗員感情に適応することができる。
(6)コンテンツ指令部12により指令されるコンテンツは音楽コンテンツであり、コンテンツ指令部12は、コンテンツ出力部15により第1コンテンツが出力された後に感情推定部11で推定された乗員感情に応じて、第1コンテンツと同一ジャンルの第2コンテンツ、あるいは第1コンテンツと異なるジャンルの第2コンテンツの取得を指令する(ステップS9)。このように乗員感情に応じて音楽コンテンツのジャンルを変更するか否かを決定するので、乗員感情を良好に改善することができる。
(7)本実施形態に係るコンテンツ提供方法は、生体情報取得部20により乗員の生体情報を取得し、取得された生体情報に基づいて乗員の感情を推定し(ステップS1)、推定された乗員感情に基づいてコンテンツを指令し(ステップS2)、指令されたコンテンツを取得し(ステップS3)、取得されたコンテンツを乗員に対し出力することを含む(ステップS4)。さらに、コンテンツを指令することは、乗員に向けて第1コンテンツを出力した後に乗員の感情を推定し(ステップS6)、推定された乗員感情に応じて、第1コンテンツから第2コンテンツへのコンテンツの変更を指令することを含む(ステップS9)。この構成により、乗員に自動選曲サービスを行って乗員が不快感情を生じたとしても、その不快感情を速やかに改善させることができる。
(8)本実施形態に係るコンテンツ提供システム100は、上記の車載装置1と、車載装置1からの指令に応じて車載装置1に音楽コンテンツを配信するサーバ装置2とを備える(図1)。この構成により、サーバ装置2から配信される音楽コンテンツのうち、乗員感情に応じた最適なものを乗員に提供することができ、乗員の快適性が高まる。
上記実施形態は種々の形態に変形することができる。以下、変形例について説明する。図6は、図1の変形例を示す図である。図6では、車載装置1と、携帯端末5と、サーバ装置2とによりコンテンツ提供システム100Aが構成される。携帯端末5は、スマートフォンや、タブレット端末等、乗員が持ち運び可能な装置であり、車載装置1と通信可能な通信部と、通信回線3を介してサーバ装置2と通信可能な通信部とを有する。この構成によれば、車載装置1が携帯端末5および通信回線3を介してサーバ装置2と通信可能となる。なお、車載装置1ではなく、携帯端末5によりコンテンツ提供装置を構成することもできる。すなわち、携帯端末5に上述した車載装置1の機能を持たせるようにしてもよい。
図7は、図2の変形例を示す図である。図7では、車載装置1Aの処理装置10に記憶部16が接続される。記憶部16は、楽曲データベース16aを有する。楽曲データベース16aには、図1の楽曲データベース2aに記憶されたのと同様の楽曲データが記憶される。この構成によれば、コンテンツ指令部12により指令された音楽コンテンツに対応する楽曲データを、サーバ装置2からではなく記憶部16から取得することができ、サーバ装置2との通信を省略することができる。なお、この場合、楽曲データベース16aに記憶される楽曲データを、必要に応じて更新するようにしてもよい。
上記実施形態では、カメラ22とマイク23とを含む生体情報取得部20により乗員の生体情報を取得するようにしたが、生体情報取得部の構成はこれに限らない。例えば、ウェアラブル端末を乗員に装着して乗員の脈拍、血圧、体温、血中酸素濃度等の生体情報を取得するようにしてもよい。サーモグラフィにより乗員の体温(例えば顔面温度)を生体情報として取得するようにしてもよい。上記実施形態では、Plutchikの感情の輪への当てはめにより感情推定部11が乗員感情を推定するようにしたが、他の分類された感情のパターンに当てはめて乗員感情を推定するようにしてよく、感情推定部の構成は上述したものに限らない。
上記実施形態では、感情推定部11で推定された乗員感情に基づいてコンテンツ指令部12が音楽コンテンツの取得を指令するようにしたが、音楽コンテンツに限らず、各種の音声サービスを提供する音声コンテンツ、動画や静止画等の映像コンテンツ等、他のコンテンツの取得を指令するようにしてもよく、コンテンツ指令部の構成は上述したものに限らない。上記実施形態では、コンテンツ取得部14がサーバ装置2からコンテンツを取得するようにしたが、車両101に搭載された記憶部16(図7)からコンテンツを取得するようにしてもよく、コンテンツ取得部の構成は上述したものに限らない。上記実施形態では、コンテンツ取得部14で取得されたコンテンツをコンテンツ出力部15がスピーカ25から出力するようにしたが、例えば表示部26から出力するようにしてもよく、コンテンツ出力部の構成は上述したものに限らない。
上記実施形態では、コンテンツ出力部15により第1コンテンツが出力された後の感情推定部11で推定された乗員感情に応じて、取得するコンテンツの第1コンテンツから第2コンテンツへの変更を指令するようにした。すなわち、同一の音楽ジャンル内での音楽コンテンツの変更または音楽ジャンルの切替えを指令するようにしたが、不快感情が推定されたときに音楽ジャンルの切替えのみを行うようにしてもよい。コンテンツの変更指令に加えて他の指令、例えばスピーカ音量の増減等を指令してもよい。音楽コンテンツの出力を停止する代わりに、スピーカ音量を減少させるようにしてもよい。
上記実施形態では、操作部21の操作によりコンテンツの取得を手動で指令可能としたが、手動指令部としての操作部の構成はいかなるものでもよい。例えばステアリングハンドルに設けられるスイッチにより手動指令部を構成することもできる。上記実施形態では、カメラ22により取得された乗員の視線に基づいて視線判定部13が操作部21へ向かう乗員の視線の有無を判定するようにしたが、手動指令部へ向かう乗員の視線の有無を判定する視線判定部の構成はこれに限らない。視線判定部を省略することもできる。上記実施形態では、第1コンテンツが出力されてから所定時間Δt1後の乗員感情に応じて第2コンテンツの変更指令を行うようにしたが、所定時間を待たずに乗員感情に応じてコンテンツの変更を指令するようにしてもよい。
以上の説明はあくまで一例であり、本発明の特徴を損なわない限り、上述した実施形態および変形例により本発明が限定されるものではない。上記実施形態と変形例の1つまたは複数を任意に組み合わせることも可能であり、変形例同士を組み合わせることも可能である。
1,1A 車載装置、2 サーバ装置、10 処理装置、11 感情推定部、12 コンテンツ指令部、13 視線判定部、14 コンテンツ取得部、15 コンテンツ出力部、20 生体情報取得部、21 操作部、22 カメラ、23 マイク、25 スピーカ、100,100A コンテンツ提供システム

Claims (6)

  1. 乗員の生体情報を取得する生体情報取得部と、
    前記生体情報取得部により取得された生体情報に基づいて乗員感情を推定する感情推定部と、
    前記感情推定部で推定された乗員感情に基づいてコンテンツの取得を指令するコンテンツ指令部と、
    前記コンテンツ指令部で指令されたコンテンツを取得するコンテンツ取得部と、
    前記コンテンツ取得部で取得されたコンテンツを乗員に対し出力するコンテンツ出力部と、
    コンテンツの取得を手動で指令する手動指令部と、
    前記生体情報取得部により取得された生体情報に基づいて、前記手動指令部へ向かう乗員の視線の有無を判定する視線判定部と、を備え、
    前記コンテンツ指令部は、前記コンテンツ出力部により第1コンテンツが出力された後に前記感情推定部で推定された乗員感情が悪化し、かつ、前記視線判定部により前記手動指令部へ向かう乗員の視線があると判定されると、前記第1コンテンツから第2コンテンツへのコンテンツの変更を指令することを特徴とするコンテンツ提供装置。
  2. 請求項1に記載のコンテンツ提供装置において、
    前記コンテンツ指令部は、前記コンテンツ出力部により前記第1コンテンツが出力されてから所定時間後に前記感情推定部で推定された乗員感情の変化に応じて、前記第1コンテンツから前記第2コンテンツへのコンテンツの変更を指令することを特徴とするコンテンツ提供装置。
  3. 請求項1または2に記載のコンテンツ提供装置において、
    前記コンテンツ指令部は、さらに前記コンテンツ出力部により前記第1コンテンツが出力された後に前記感情推定部で推定された乗員感情に応じてコンテンツの取得停止を指令可能であり、
    前記コンテンツ出力部は、前記コンテンツ指令部によりコンテンツの取得停止が指令されると、乗員に対するコンテンツの出力を停止することを特徴とするコンテンツ提供装置。
  4. 請求項1〜3のいずれか1項に記載のコンテンツ提供装置において、
    前記コンテンツ指令部により指令されるコンテンツは音楽コンテンツであり、
    前記コンテンツ指令部は、前記コンテンツ出力部により第1コンテンツが出力された後に前記感情推定部で推定された乗員感情に応じて、前記第1コンテンツと同一ジャンルの第2コンテンツ、あるいは前記第1コンテンツと異なるジャンルの第2コンテンツの取得を指令することを特徴とするコンテンツ提供装置。
  5. 生体情報取得部により、乗員の生体情報を取得し、
    感情推定部により、前記生体情報取得部により取得された生体情報に基づいて乗員の感情を推定し、
    コンテンツ指令部により、推定された乗員感情に基づいてコンテンツの取得を指令し、
    コンテンツ取得部により、指令されたコンテンツを取得し、
    コンテンツ出力部により、取得されたコンテンツを乗員に対し出力し、
    視線判定部により、前記生体情報取得部により取得された生体情報に基づいて、コンテンツの取得を手動で指令する手動指令部へ向かう乗員の視線の有無を判定することを含み、
    前記コンテンツを指令することは、乗員に向けて第1コンテンツを出力した後に乗員の感情を推定し、推定された乗員感情が悪化し、かつ、前記手動指令部へ向かう乗員の視線があると判定されると、前記第1コンテンツから第2コンテンツへのコンテンツの変更を指令することを含むことを特徴とするコンテンツ提供方法。
  6. 請求項1〜4のいずれか1項に記載のコンテンツ提供装置と、
    前記コンテンツ提供装置からの指令に応じて前記コンテンツ提供装置にコンテンツを配信するサーバ装置と、を備えることを特徴とするコンテンツ提供システム。
JP2016248022A 2016-12-21 2016-12-21 コンテンツ提供装置、コンテンツ提供方法およびコンテンツ提供システム Expired - Fee Related JP6422477B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016248022A JP6422477B2 (ja) 2016-12-21 2016-12-21 コンテンツ提供装置、コンテンツ提供方法およびコンテンツ提供システム
CN201711310723.1A CN108228729B (zh) 2016-12-21 2017-12-11 内容提供装置和内容提供方法
US15/839,407 US10360259B2 (en) 2016-12-21 2017-12-12 Content providing apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016248022A JP6422477B2 (ja) 2016-12-21 2016-12-21 コンテンツ提供装置、コンテンツ提供方法およびコンテンツ提供システム

Publications (2)

Publication Number Publication Date
JP2018101341A JP2018101341A (ja) 2018-06-28
JP6422477B2 true JP6422477B2 (ja) 2018-11-14

Family

ID=62556337

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016248022A Expired - Fee Related JP6422477B2 (ja) 2016-12-21 2016-12-21 コンテンツ提供装置、コンテンツ提供方法およびコンテンツ提供システム

Country Status (3)

Country Link
US (1) US10360259B2 (ja)
JP (1) JP6422477B2 (ja)
CN (1) CN108228729B (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10621983B2 (en) * 2018-04-20 2020-04-14 Spotify Ab Systems and methods for enhancing responsiveness to utterances having detectable emotion
US10566010B2 (en) * 2018-04-20 2020-02-18 Spotify Ab Systems and methods for enhancing responsiveness to utterances having detectable emotion
US10622007B2 (en) * 2018-04-20 2020-04-14 Spotify Ab Systems and methods for enhancing responsiveness to utterances having detectable emotion
KR102689884B1 (ko) * 2018-11-13 2024-07-31 현대자동차주식회사 차량 및 그 제어방법
JP2020112940A (ja) * 2019-01-09 2020-07-27 本田技研工業株式会社 コンテンツ出力装置及びコンテンツ出力方法
JP6997739B2 (ja) * 2019-04-18 2022-01-18 ヤフー株式会社 提供装置、提供方法、提供プログラム、端末装置、取得方法および取得プログラム
JP7405526B2 (ja) * 2019-07-09 2023-12-26 Lineヤフー株式会社 情報処理装置、情報処理方法および情報処理プログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006092430A (ja) * 2004-09-27 2006-04-06 Denso Corp 音楽再生装置
JP2006146630A (ja) * 2004-11-22 2006-06-08 Sony Corp コンテンツ選択再生装置、コンテンツ選択再生方法、コンテンツ配信システムおよびコンテンツ検索システム
JP2006155157A (ja) 2004-11-29 2006-06-15 Sanyo Electric Co Ltd 自動選曲装置
JP4736511B2 (ja) * 2005-04-05 2011-07-27 株式会社日立製作所 情報提供方法および情報提供装置
JP2007331519A (ja) * 2006-06-14 2007-12-27 Nissan Motor Co Ltd 車両用シート装置
JP2008058409A (ja) * 2006-08-29 2008-03-13 Aisin Aw Co Ltd 音声認識方法及び音声認識装置
JP2012155616A (ja) * 2011-01-27 2012-08-16 Panasonic Corp コンテンツ提供システム、コンテンツ提供方法、及びコンテンツ提供プログラム
US9823742B2 (en) * 2012-05-18 2017-11-21 Microsoft Technology Licensing, Llc Interaction and management of devices using gaze detection
KR20140080727A (ko) * 2012-12-14 2014-07-01 한국전자통신연구원 운전자 감성제어 장치 및 그 방법
EP2857276B1 (en) * 2013-08-20 2018-12-12 Harman International Industries, Incorporated Driver assistance system
TWI603213B (zh) * 2014-01-23 2017-10-21 國立交通大學 基於臉部辨識的音樂選取方法、音樂選取系統及電子裝置
JP2016137202A (ja) * 2015-01-29 2016-08-04 マツダ株式会社 車両用乗員感情対応制御装置
JP2016212478A (ja) * 2015-04-30 2016-12-15 株式会社Nttドコモ 端末装置、通知方法、プログラム及びコンテンツ提供システム
US9690817B2 (en) * 2015-09-01 2017-06-27 International Business Machines Corporation Song selection using a heart rate change and a facial expression monitored with a camera
CN106562792B (zh) * 2015-10-08 2021-08-06 松下电器(美国)知识产权公司 信息提示装置的控制方法和信息提示装置

Also Published As

Publication number Publication date
US10360259B2 (en) 2019-07-23
CN108228729B (zh) 2021-10-29
JP2018101341A (ja) 2018-06-28
US20180173796A1 (en) 2018-06-21
CN108228729A (zh) 2018-06-29

Similar Documents

Publication Publication Date Title
JP6422477B2 (ja) コンテンツ提供装置、コンテンツ提供方法およびコンテンツ提供システム
US10170111B2 (en) Adaptive infotainment system based on vehicle surrounding and driver mood and/or behavior
JP6466385B2 (ja) サービス提供装置、サービス提供方法およびサービス提供プログラム
CN105599642B (zh) 座椅自动调节方法、装置及终端
US20170352267A1 (en) Systems for providing proactive infotainment at autonomous-driving vehicles
US20170153636A1 (en) Vehicle with wearable integration or communication
JP2018060192A (ja) 発話装置およびコミュニケーション装置
JP4899685B2 (ja) 手動操作システム
WO2017057173A1 (ja) 対話装置及び対話方法
JP6083441B2 (ja) 車両用乗員感情対応制御装置
CN108146443B (zh) 车辆控制装置
JP6115577B2 (ja) 車両用乗員感情対応制御装置
JP6213489B2 (ja) 車両用乗員感情対応制御装置
JP2024041746A (ja) 情報処理装置
JP2007015502A (ja) 情報出力装置
JP2016137200A (ja) 車両用乗員感情対応制御装置
CN118205507A (zh) 辅助车载乘客睡眠的方法、装置、相关设备及计算机程序产品
JP2020060861A (ja) エージェントシステム、エージェント方法、およびプログラム
JP2016137202A (ja) 車両用乗員感情対応制御装置
JP2016137201A (ja) 車両用乗員感情対応制御装置
JP4632974B2 (ja) 車載オーディオシステム
JP6642401B2 (ja) 情報提供システム
CN115593496A (zh) 一种面向高级别智能驾驶汽车的方向盘及其操作系统
JP6332072B2 (ja) 対話装置
JP2022025614A (ja) 車内環境設定装置、車両および車内環境設定方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180731

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180925

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181009

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181016

R150 Certificate of patent or registration of utility model

Ref document number: 6422477

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees