JP6679368B2 - 表情記録システム - Google Patents

表情記録システム Download PDF

Info

Publication number
JP6679368B2
JP6679368B2 JP2016063128A JP2016063128A JP6679368B2 JP 6679368 B2 JP6679368 B2 JP 6679368B2 JP 2016063128 A JP2016063128 A JP 2016063128A JP 2016063128 A JP2016063128 A JP 2016063128A JP 6679368 B2 JP6679368 B2 JP 6679368B2
Authority
JP
Japan
Prior art keywords
stroller
camera
facial expression
passenger
terminal device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016063128A
Other languages
English (en)
Other versions
JP2017177830A (ja
JP2017177830A5 (ja
Inventor
卓也 武本
卓也 武本
維摩 眞貝
維摩 眞貝
俊輔 横尾
俊輔 横尾
泰漢 星野
泰漢 星野
昌宏 暮橋
昌宏 暮橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dentsu Group Inc
Original Assignee
Dentsu Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dentsu Inc filed Critical Dentsu Inc
Priority to JP2016063128A priority Critical patent/JP6679368B2/ja
Publication of JP2017177830A publication Critical patent/JP2017177830A/ja
Publication of JP2017177830A5 publication Critical patent/JP2017177830A5/ja
Application granted granted Critical
Publication of JP6679368B2 publication Critical patent/JP6679368B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、ベビーカーの乗車者の特定の表情を記録する表情記録システムに関する。
従来から、乳幼児を連れて外出するときにベビーカーが用いられている。従来のベビーカーでは、シートに着座した乳幼児が少しでも快適に過ごすことができるように、種々の工夫がなされている。例えば、乳幼児が着座するシートをクッション性に優れた部材によって形成することによって、乗り心地の向上が図られている(特許文献1参照)。
また従来、ベビーカーを乳幼児にとって積極的に乗りたいと思える乗り物にするというアプローチから、ベビーカーに乗りながら映像や音楽といったコンテンツを楽しむことができるベビーカーも提案されている(特許文献2参照)。
特開2004−216998号公報 特開2008−308053号公報
上記従来のベビーカーでは、快適な乗り心地が得られたり、映像や音楽といったコンテンツを楽しむことができるため、ベビーカーに乗っている乳幼児は、ベビーカーでの外出を楽しむことができ、笑顔になる機会が増える。しかしながら、ベビーカーでの外出中にそのベビーカーに乗っている乳幼児の笑顔を記録に残すためのシステムは、これまでに提案されておらず、開発の余地があった。
本発明は、上記の課題に鑑みてなされたもので、ベビーカーでの外出中にそのベビーカーに乗っている乳幼児の特定の表情を記録することのできる表情記録システムを提供することを目的とする。
本発明の表情記録システムは、ベビーカーに取り付けられ、前記ベビーカーの乗車者のカメラ画像を撮影可能なカメラと、前記ベビーカーの利用者によって所持され、前記カメラと通信可能な端末装置と、を備え、前記端末装置は、前記カメラで撮影された前記カメラ画像が入力されるデータ入力部と、前記カメラ画像から、前記ベビーカーの乗車者の特定の表情を検出する表情検出部と、前記特定の表情が検出されたときに、前記カメラに対して前記ベビーカーの周囲のカメラ画像を撮影する周囲撮影要求を送る周囲撮影要求部と、を備えている。
この構成により、ベビーカーでの外出中に乗車者(例えば乳幼児など)のカメラ画像を撮影することができる。そして例えば、ある地点を通過したときにベビーカーの乗車者が特定の表情になると、その地点におけるベビーカーの周囲のカメラ画像が撮影される。これにより、ベビーカーの乗車者の特定の表情のカメラ画像とともに、その乗車者が特定の表情になった要因(その乗車者のお気に入りの対象物など)を含んだベビーカーの周囲のカメラ画像を得ることができる。
また、本発明の表情記録システムでは、前記端末装置は、前記特定の表情が検出されたときの前記乗車者のカメラ画像と当該特定の表情が検出されたときの前記周囲のカメラ画像とを、同一画面上に表示する表示処理部を備えてもよい。
この構成により、ベビーカーの乗車者(例えば乳幼児など)の特定の表情とその乗車者が特定の表情になった要因(その乗車者のお気に入りの対象物など)との対応を、同一画面上で容易に把握することができる。
また、本発明の表情記録システムでは、前記端末装置は、前記特定の表情が検出されている間は、前記カメラに対して前記ベビーカーの乗車者のカメラ画像を継続して撮影する継続撮影要求を送る継続撮影要求部と、継続して撮影された前記乗車者のカメラ画像の中から特定の表情の度合いが所定値以上のカメラ画像を選択する画像選択部と、備えてもよい。
この構成により、ベビーカーの乗車者(例えば乳幼児など)が特定の表情になっている間、継続して乗車者のカメラ画像(特定の表情のカメラ画像)を撮影しつづけて、その中から特定の表情の度合いの高いカメラ画像が自動的に選択される。これにより、特徴的な表情のカメラ画像を得ることができる。
また、本発明の表情記録システムでは、前記端末装置は、前記カメラ画像から、前記ベビーカーの乗車者の感情を分析する感情分析部と、分析結果として得られた前記ベビーカーの乗車者の感情に応じて映像または音楽を再生する再生処理部と、を備えてもよい。
この構成により、ベビーカーの乗車者(例えば乳幼児など)のカメラ画像からその乗車者の感情が分析され、その感情に応じた映像や音楽が自動的に再生される。これにより、ベビーカーでの外出中に乗車者の感情にあった映像や音楽を演出することができる。
また、本発明の表情記録システムでは、前記端末装置は、前記カメラから、前記ベビーカーの位置情報を取得する位置情報取得部と、前記特定の表情が検出されたときの前記ベビーカーの位置を表情検出位置として記録する記録処理部と、前記ベビーカーが前記表情検出位置に接近すると前記ベビーカーの利用者に通知を行う通知処理部と、を備えてもよい。
この構成により、ベビーカーの乗車者(例えば乳幼児など)が特定の表情になった位置(表情検出位置)が記録され、次にその地点に接近すると利用者に通知がされる。これにより、ベビーカーの利用者は、ベビーカーの乗車者が特定の表情になる地点(乗車者のお気に入りの地点)を把握することができ、ベビーカーでの外出中にその地点に近づいたときにそのことを知ることができる。
また、本発明の表情記録システムでは、前記端末装置は、前記カメラから、前記ベビーカーの向き情報を取得する向き情報取得部と、前記特定の表情が検出されたときの前記ベビーカーの向きを、前記乗車者の視線方向として検出する視線方向検出処理部と、を備えてもよい。
この構成により、ベビーカーの乗車者(例えば乳幼児など)が特定の表情になったときに、その乗車者の視線方向(見ていた方向)を知ることができる。これにより、その乗車者のお気に入りの対象物を特定することが可能になる。
本発明のベビーカーは、乗車者のカメラ画像を撮影可能なカメラを備えるベビーカーであって、前記カメラは、前記ベビーカーの利用者によって所持される端末装置と通信可能であり、前記端末装置は、前記カメラで撮影された前記カメラ画像から前記ベビーカーの乗車者の特定の表情を検出されたときに、前記カメラに対して周囲撮影要求を送り、前記カメラは、前記周囲撮影要求に基づいて、前記ベビーカーの周囲のカメラ画像を撮影する。
このベビーカーによっても、上記のシステムと同様に、ベビーカーの乗車者の特定の表情のカメラ画像とともに、その乗車者が特定の表情になった要因(その乗車者のお気に入りの対象物など)を含んだベビーカーの周囲のカメラ画像を得ることができる。
本発明のプログラムは、ベビーカーの利用者によって所持される端末装置で実行されるプログラムであって、前記端末装置は、前記ベビーカーに取り付けられたカメラと通信可能であり、前記カメラは、前記ベビーカーの乗車者のカメラ画像を撮影可能であり、前記プログラムは、前記端末装置に、前記カメラで撮影された前記カメラ画像が入力されると、前記カメラ画像から、前記ベビーカーの乗車者の特定の表情を検出する処理と、前記特定の表情が検出されたときに、前記カメラに対して前記ベビーカーの周囲のカメラ画像を撮影する周囲撮影要求を送る処理と、を実行させる。
このプログラムによっても、上記のシステムと同様に、ベビーカーの乗車者の特定の表情のカメラ画像とともに、その乗車者が特定の表情になった要因(その乗車者のお気に入りの対象物など)を含んだベビーカーの周囲のカメラ画像を得ることができる。
本発明によれば、ベビーカーでの外出中にそのベビーカーに乗っている乳幼児の特定の表情を記録することができる。
本発明の実施の形態における表情記録システム(笑顔記録システム)の説明図である。 本発明の実施の形態における端末装置のブロック図である。 本発明の実施の形態における同一画面表示の説明図である。 本発明の実施の形態における笑顔検出位置表示の説明図である。 本発明の実施の形態における同一画面表示処理のフロー図である。 本発明の実施の形態における笑顔画像選択処理のフロー図である。 本発明の実施の形態における映像・音楽再生処理のフロー図である。 本発明の実施の形態における笑顔検出位置記録処理・接近通知処理のフロー図である。 本発明の実施の形態における視線方向検出処理のフロー図である。
以下、本発明の実施の形態の表情記録システムについて、図面を用いて説明する。本実施の形態では、乳幼児を乗せるベビーカー等に用いられる表情記録システムの場合を例示する。この表情記録システムは、ベビーカーでの外出中にそのベビーカーに乗っている乳幼児の特定の表情を記録する機能を備えている。以下では、特定の表情の例として「笑顔」の場合を例示して説明するが、「泣き顔」や「怒り顔」や「変顔」などの他の表情についても同様に実施可能である。
本発明の実施の形態の表情記録システム(笑顔記録システム)の構成を、図面を参照して説明する。図1は、本実施の形態の表情記録システムの概略構成を示す説明図である。図1に示すように、表情記録システム1は、ベビーカー2に取り付けられるカメラ3と、ベビーカー2の利用者によって所持される端末装置4とを備えている。なお、ベビーカー2の乗車者は、例えば乳幼児であり、ベビーカー2の利用者は、例えば乳幼児の保護者である。
まず、図1を参照しながら、カメラ3の構成について説明する。カメラ3は、ベビーカー2の乗車者のカメラ画像を撮影することができるように、ベビーカー2に取り付けられている。カメラ画像は、静止画像であってもよく、動画像であってもよい。例えば、カメラ3は、ベビーカー2のアーム5などに、撮影方向がベビーカー2の乗車者に向けられた状態(すなわち、アーム5の内側に向けられた状態)で取り付けられる。アーム5は、例えば円弧状またはアーチ状に構成されており、ベビーカー2のシート6の前方(シート6に着座した乗車者の前方)を横切るように配置される。なお、カメラ3は、アーム5に内蔵されていてもよく、アーム5に着脱可能に取り付けられてもよい。
また、カメラ3は、ベビーカー2の周囲を撮影できるように構成されている。例えば、カメラ3は、広角レンズを用いてベビーカー2の周囲を広角で撮影できるように構成される。あるいは、カメラ3は、360度レンズを用いてベビーカー2の全周囲を撮影できるように構成される。また、カメラ3は、パン機能やチルト機能を備えてもよい。その場合、カメラ3は、パン方向やチルト方向にカメラレンズを回転させることにより、ベビーカー2の周囲(または全周囲)を撮影できるように構成される。
さらに、カメラ3は、GPS衛星との通信を行うことにより、現在のカメラ3の位置(ベビーカー2の位置)を示す位置情報(例えば、経度緯度情報)を取得するGPS機能を備えている。また、カメラ3は、現在のカメラ3の向き(ベビーカー2の向き)を示す向き情報(例えば、方位情報)を取得するジャイロ機能を備えている。また、カメラ3は、端末装置4と無線または有線で通信する機能を備えている。したがって、カメラ3は、撮影したカメラ画像のデータのほかに、これらの位置情報や向き情報を、端末装置4に送信することができる。また、カメラ3は、端末装置4から、後述する周囲撮影要求や継続撮影要求などの要求信号を受信することができる。なお、カメラ3のバッテリーは、カメラ3自体に備えられてもよく、ベビーカー2に備えられてもよい。
つぎに、図2を参照しながら、端末装置4の構成について説明する。図2は、端末装置4の構成を説明するためのブロック図である。端末装置4は、例えばスマートフォンなどの携帯型の端末装置4である。図2に示すように、端末装置4は、タッチパネル10、スピーカ11、記憶部12、通信部13、第1制御部14、第2制御部15を備えている。なお、第1制御部14と第2制御部15は、一つの制御部で構成されてもよい。
タッチパネル10は、入力部と表示部の機能を兼ね備えている。したがって、端末装置4の利用者(ベビーカー2の利用者)は、タッチパネル10から各種の情報を入力することができる。また、タッチパネル10には、端末装置4の利用者(ベビーカー2の利用者)が確認できるように各種の情報が表示される。スピーカ11は、端末装置4の利用者(ベビーカー2の利用者)に対して音声を出力する機能を備えている。
記憶部12は、メモリなどで構成されており、各種のデータを保存することができる。例えば、記憶部12には、カメラ3で撮影されたカメラ画像のデータが記憶される。この記憶部12には、映像や音楽などのデータが記憶されてもよい。また、この記憶部12には、端末装置4の各種の機能(表情記録機能も含まれる)を実現するためのプログラムが記憶されている。このプログラムを実行することにより、端末装置4の各種の機能が実現されるともいえる。
通信部13は、外部装置と無線または有線で通信する機能を備えている。外部装置には、上記のカメラ3も含まれる。したがって、通信部13は、カメラ3と無線または有線で通信する機能を備えており、端末装置4は、カメラ3から、撮影したカメラ画像のデータのほかに、上述した位置情報や向き情報を受信することができる。また、端末装置4は、カメラ3に、後述する周囲撮影要求や継続撮影要求などの要求信号を送信することができる。なお、通信方式は、公知の方式を利用することができる。
第1制御部14は、表情記録機能に関するメイン制御を行うための制御部であり、データ入力部140、表情検出部141、周囲撮影要求部142、表示処理部143、継続撮影要求部144、画像選択部145を備えている。
データ入力部140は、表情記録機能を実現するために種々のデータが入力される入力インターフェースとして機能を有している。例えば、データ入力部140には、カメラ3で撮影されたカメラ画像(例えば、ベビーカー2の乗車者のカメラ画像)が入力される。表情検出部141は、データ入力部140に入力されたカメラ画像から、ベビーカー2の乗車者の特定の表情を検出する機能を備えている。例えば、表情検出部141は、カメラ画像に笑顔検出用の画像処理を施すことにより、ベビーカー2の乗車者の笑顔を検出することができる。なお、笑顔検出の手法は、公知の手法を利用することができる。同様に、他の特定の表情の検出(例えば、泣き顔検出、怒り顔検出、変顔検出など)についても、公知の手法を利用することができる。
周囲撮影要求部142は、表情検出部141でカメラ画像からベビーカー2の乗車者の笑顔が検出されたときに、カメラ3に対してベビーカー2の周囲のカメラ画像を撮影する周囲撮影要求を送る機能を備えている。周囲撮影要求は、通信部13を介して、端末装置4からカメラ3へ送信される。カメラ3は、周囲撮影要求を受信すると、ベビーカー2の周囲のカメラ画像を撮影し、そのカメラ画像(ベビーカー2の周囲のカメラ画像)を端末装置4へ返送する。
表示処理部143は、このカメラ画像(ベビーカー2の周囲のカメラ画像)を、笑顔が検出されたときの乗車者のカメラ画像とともに同一画面上に表示する機能を備えている。図3は、同一画面表示の一例を示す説明図である。図3に示すように、表示処理部143は、笑顔が検出されたときの乗車者のカメラ画像と、そのときのベビーカー2の周囲のカメラ画像とを、同一画面に並べて表示する。なお、図3の例では、笑顔が検出されたときの乗車者のカメラ画像と、そのときのベビーカー2の周囲のカメラ画像とが、上下に並べて表示されているが、同一画面上であれば、左右に並べるなど他の並べ方でもよい。また、表示処理部143は、連続するカメラ画像をつなげて動画として再生(表示)する機能も備えてもよい。その場合、笑顔が検出されたときの乗車者のカメラ画像から生成された動画と、そのときのベビーカー2の周囲のカメラ画像から生成された動画とを、同一画面に並べて表示することができる。
継続撮影要求部144は、表情検出部141でカメラ画像からベビーカー2の乗車者の笑顔が検出されている間は、カメラ3に対してベビーカー2の乗車者のカメラ画像を継続して撮影する継続撮影要求を送る機能を備えている。継続撮影要求は、通信部13を介して、端末装置4からカメラ3へ送信される。カメラ3は、継続撮影要求を受信すると、ベビーカー2の乗車者のカメラ画像を撮影しつづける。このようにして撮影された複数のカメラ画像(継続して撮影された乗車者の笑顔のカメラ画像)は、カメラ3から端末装置4へ返送される。
画像選択部145は、これらの複数のカメラ画像(継続して撮影された乗車者の笑顔のカメラ画像)の中から笑顔度が所定値以上のカメラ画像を選択する機能を備えている。例えば、画像選択部145は、複数のカメラ画像の各々から笑顔を検出し、検出した笑顔ごとに笑顔度を算出する。そして、画像選択部145は、笑顔度が所定値以上のカメラ画像の中から笑顔度の最も大きいカメラ画像を一つ選択する。なお、笑顔度が所定値以上のカメラ画像であれば、複数のカメラ画像を選択してもよい。また、笑顔度の算出については、公知の手法を利用することができる。同様に、他の特定の表情の度合い(例えば、泣き顔度、怒り顔度、変顔度など)の算出についても、公知の手法を利用することができる。
第2制御部15は、表情記録機能に関するサブ制御を行うための制御部であり、感情分析部150、再生処理部151、位置取得部152、記録処理部153、通知処理部154、向き情報取得部155、視線方向検出処理部156を備えている。
感情分析部150は、カメラ3で撮影されたカメラ画像(ベビーカー2の乗車者のカメラ画像)から、そのベビーカー2の乗車者の感情を分析する機能を備えている。例えば、感情分析部150は、そのベビーカー2の乗車者の感情が「喜」「怒」「哀」「楽」のいずれであるかを、カメラ画像(ベビーカー2の乗車者のカメラ画像)から分析することができる。なお、感情分析の手法は、公知の手法を利用することができる。
再生処理部151は、感情分析部150での分析結果(分析結果として得られたベビーカー2の乗車者の感情)に応じて映像または音楽を再生する機能を備えている。例えば、再生処理部151は、分析結果として得られたベビーカー2の乗車者の感情が「喜」や「楽」であれば、明るい雰囲気の映像や音楽を再生し、分析結果として得られたベビーカー2の乗車者の感情が「怒」や「哀」であれば、暗い雰囲気の映像や音楽を再生する。
位置取得部152は、ベビーカー2の位置情報を取得する機能を備えている。例えば、位置取得部152は、端末装置4の現在の位置情報(例えば、経度緯度情報)を取得するGPS機能を備えている。位置取得部152は、この端末装置4の位置情報をベビーカー2の位置情報として取得する。また、上述のように、カメラ3は、カメラ3の現在の位置を示す位置情報(例えば、経度緯度情報)を取得するGPS機能を備えているので、位置取得部152は、このカメラ3の位置情報をベビーカー2の位置情報(そのカメラ3が取り付けられたベビーカー2の位置情報)として、カメラ3から取得してもよい。
記録処理部153は、表情検出部141でカメラ画像からベビーカー2の乗車者の笑顔が検出されたときのベビーカー2の位置(例えば、緯度経度)を笑顔検出位置として記録する機能を備えている。笑顔検出位置の情報は、記憶部12に記録される。なお、記憶部12には、他の利用者の笑顔検出位置(他のベビーカー2の乗車者の笑顔が検出された位置)が記憶されてもよい。
通知処理部154は、ベビーカー2が笑顔検出位置に接近するとベビーカー2の利用者に通知を行う機能を備えている。通知処理部154は、ベビーカー2の現在の位置(位置取得部152によりカメラ3から取得される)が笑顔検出位置(記憶部12に記憶されている)に近づくと、ベビーカー2の利用者に通知を行う。例えば、笑顔検出位置を中心とする所定半径の円形エリア内に入ると、ベビーカー2の利用者に通知を行う。ベビーカー2の利用者への通知は、音や光や振動などの公知の手法で行うことができる。また、通知処理部154は、ベビーカー2の利用者に対して、感情分析部150での分析結果(分析結果として得られたベビーカー2の乗車者の感情)に応じた通知を行う機能を備えてもよい。例えば、通知処理部154は、分析結果として得られたベビーカー2の乗車者の感情が「怒」や「哀」である場合に、最寄りの笑顔検出位置を通知してもよい。ベビーカー2の利用者への通知は、例えば、タッチパネル10(画面表示による通知)やスピーカ11(音声による通知)を用いて行うことができる。
向き情報取得部155は、ベビーカー2の向きを検出する機能を備えている。上述のように、カメラ3は、カメラ3の現在の向きを示す情報(例えば、方位情報)を取得するジャイロ機能を備えており、向き情報取得部155は、このカメラ3の向き情報をベビーカー2の向き(そのカメラ3が取り付けられたベビーカー2の向き)として、カメラ3から取得する。
視線方向検出処理部156は、表情検出部141でカメラ画像からベビーカー2の乗車者の笑顔が検出されたときのベビーカー2の向きを、そのベビーカー2の乗車者の視線方向(例えば、東西南北などの方位)として検出する機能を備えている。なお、視線方向検出の手法は、公知の手法を利用することができる。例えば、ベビーカー2の乗車者のカメラ画像のうち目の部分に注目し、画像解析を施すなどして、乗車者の視線方向を算出し、その時点におけるベビーカー2の向き(進行方向)を考慮に入れて、ベビーカー2の乗車の視線方向(例えば、東西南北などの方位)を検出してもよい。検出した視線方向の情報は、記憶部12に記憶される。
なお、表示処理部143は、笑顔検出位置を地図上に表示してもよい。図4は、笑顔検出位置表示の一例を示す説明図である。図4の例では、笑顔検出位置が「笑顔マーク」で地図上に表示されている。また、図4では、ベビーカー2の現在位置が丸印で表示されており、ベビーカー2の向き(進行方向)が三角印で表示されている。図4の例では、ベビーカー2の向きは地図上で右向きである。
以上のように構成された表情記録システム1について、図5〜図9のフロー図を参照してその動作を説明する。
図5は、本実施の形態の表情記録システム1における同一画面表示処理のフロー図である。端末装置4では、常に、カメラ3で撮影したベビーカー2の乗車者のカメラ画像(動画像)がライブビューで表示されている。端末装置4で同一画面表示処理が行われる場合には、図5に示すように、まず、カメラ3から端末装置4へカメラ画像が入力され(S10)、入力されたカメラ画像からベビーカー2の乗車者の笑顔を検出する処理が実行される(S11)。
そして、カメラ画像からベビーカー2の乗車者の笑顔が検出された場合には(S12)、端末装置4からカメラ3へ周囲撮影要求が送られ(S13)、この周囲撮影要求に基づいて撮影されたベビーカー2の周囲のカメラ画像がカメラ3で撮影される。このようにして撮影されたベビーカー2の周囲のカメラ画像が端末装置4に入力されると(S14)、笑顔が検出されたときのベビーカー2の乗車者のカメラ画像(笑顔のカメラ画像)とその笑顔が検出されたときのベビーカー2の周囲のカメラ画像が同一画面上に表示される(S15)。
図6は、本実施の形態の表情記録システム1における笑顔画像選択処理のフロー図である。図6に示すように、端末装置4で笑顔画像選択処理が行われる場合には、まず、カメラ3から端末装置4へカメラ画像が入力され(S20)、入力されたカメラ画像からベビーカー2の乗車者の笑顔を検出する処理が実行される(S21)。
そして、カメラ画像からベビーカー2の乗車者の笑顔が検出された場合には(S22)、端末装置4からカメラ3へ継続撮影要求が送られ(S23)、ベビーカー2の乗車者のカメラ画像(笑顔のカメラ画像)の撮影が繰り返される。そして、カメラ画像からベビーカー2の乗車者の笑顔が検出されなくなると(S22)、継続して撮影されたカメラ画像(笑顔のカメラ画像)の中から、笑顔度が所定以上でありかつ笑顔度が最も大きいカメラ画像を一つ選択する(S24)。なお、笑顔度が所定値以上のカメラ画像であれば、複数のカメラ画像を選択してもよい。
図7は、本実施の形態の表情記録システム1における映像・音楽再生処理のフロー図である。図7に示すように、端末装置4で映像・音楽再生処理が行われる場合には、カメラ3から端末装置4へカメラ画像が入力されると(S30)、そのカメラ画像からベビーカー2の乗車者の感情(例えば「喜」「怒」「哀」「楽」)が分析される(S31)。そして、そのベビーカー2の乗車者の感情に応じた映像または音楽が再生される(S32)。例えば、ベビーカー2の乗車者の感情が「喜」や「楽」であると分析された場合には、明るい雰囲気の映像や音楽が再生される。一方、ベビーカー2の乗車者の感情が「怒」や「哀」であると分析された場合には、暗い雰囲気の映像や音楽が再生される。
図8は、本実施の形態の表情記録システム1における笑顔検出位置記録処理・接近通知処理のフロー図である。図8に示すように、端末装置4で笑顔検出位置記録処理・接近通知処理が行われる場合には、まず、カメラ3からカメラ画像が入力されるときに、そのカメラ3からカメラ3の位置情報(ベビーカー2の位置情報)を取得する(S40)。そして、入力されたカメラ画像からベビーカー2の乗車者の笑顔を検出されると(S41)。そのときのベビーカー2の位置を笑顔検出位置として記憶部12に記録する(S42)。
その後(例えば、次回のベビーカー2での外出のときなど)、カメラ3からカメラ画像が入力されるときに、そのカメラ3の位置情報(ベビーカー2の位置情報)を取得し(S43)、そのベビーカー2の位置と記録された笑顔検出位置とを比較して、ベビーカー2が笑顔検出位置に接近している(例えば笑顔検出位置から所定半径内に近づいている)と判定されると(S44)、ベビーカー2の利用者にその旨が通知される(S45)。
図9は、本実施の形態の表情記録システム1における視線方向検出処理のフロー図である。図9に示すように、端末装置4で視線方向検出処理が行われる場合には、まず、カメラ3からカメラ画像が入力されるときに、そのカメラ3からベビーカー2の向き情報を取得する(S50)。そして、入力されたカメラ画像からベビーカー2の乗車者の笑顔を検出されると(S51)。そのときのベビーカー2の向きをベビーカー2の乗車者の視線方向として検出し(S52)、検出した視線方向を記憶部12に記録する(S53)。
このような本実施の形態の表情記録システム1によれば、ベビーカー2での外出中にそのベビーカー2に乗っている乳幼児の笑顔を記録することができる。
すなわち、本実施の形態では、ベビーカー2での外出中に乗車者(例えば乳幼児など)のカメラ画像を撮影することができる。そして例えば、ある地点を通過したときにベビーカー2の乗車者が笑顔になると、その地点におけるベビーカー2の周囲のカメラ画像が撮影される。これにより、ベビーカー2の乗車者の笑顔のカメラ画像とともに、その乗車者が笑顔になった要因(その乗車者のお気に入りの対象物など)を含んだベビーカー2の周囲のカメラ画像を得ることができる。
また、本実施の形態では、ベビーカー2の乗車者(例えば乳幼児など)の笑顔とその乗車者が笑顔になった要因(その乗車者のお気に入りの対象物など)との対応を、同一画面上で容易に把握することができる。
また、本実施の形態では、ベビーカー2の乗車者(例えば乳幼児など)が笑顔になっている間、継続して乗車者のカメラ画像(笑顔のカメラ画像)を撮影しつづけて、その中から笑顔度の高い(良い笑顔の)カメラ画像が自動的に選択される。これにより、良い笑顔のカメラ画像を得ることができる。
また、本実施の形態では、ベビーカー2の乗車者(例えば乳幼児など)のカメラ画像からその乗車者の感情が分析され、その感情に応じた映像や音楽が自動的に再生される。これにより、ベビーカー2での外出中に乗車者の感情にあった映像や音楽を演出することができる。
また、本実施の形態では、ベビーカー2の乗車者(例えば乳幼児など)が笑顔になった位置(笑顔検出位置)が記録され、次にその地点に接近すると利用者に通知がされる。これにより、ベビーカー2の利用者は、ベビーカー2の乗車者が笑顔になる地点(乗車者のお気に入りの地点)を把握することができ、ベビーカー2での外出中にその地点に近づいたときにそのことを知ることができる。
また、本実施の形態では、ベビーカー2の乗車者(例えば乳幼児など)が笑顔になったときに、その乗車者の視線方向(見ていた方向)を知ることができる。これにより、その乗車者のお気に入りの対象物を特定することが可能になる。
以上、本発明の実施の形態を例示により説明したが、本発明の範囲はこれらに限定されるものではなく、請求項に記載された範囲内において目的に応じて変更・変形することが可能である。
以上のように、本発明にかかる表情記録システムは、ベビーカーでの外出中にそのベビーカーに乗っている乳幼児の笑顔を記録することができるという効果を有し、乳幼児を乗せるベビーカー等に適用され有用である。
1 表情記録システム(笑顔記録システム)
2 ベビーカー
3 カメラ
4 端末装置
5 アーム
6 シート
10 タッチパネル
11 スピーカ
12 記憶部
13 通信部
14 第1制御部
140 データ入力部
141 表情検出部
142 周囲撮影要求部
143 表示処理部
144 継続撮影要求部
145 画像選択部
15 第2制御部
150 感情分析部
151 再生処理部
152 位置取得部
153 記録処理部
154 通知処理部
155 向き情報取得部
156 視線方向検出処理部

Claims (9)

  1. ベビーカーに取り付けられ、前記ベビーカーの乗車者のカメラ画像を撮影可能なカメラと、
    前記ベビーカーの利用者によって所持され、前記カメラと通信可能な端末装置と、
    を備え、
    前記端末装置は、
    前記カメラで撮影された前記カメラ画像が入力されるデータ入力部と、
    前記カメラ画像から、前記ベビーカーの乗車者の特定の表情を検出する表情検出部と、
    前記特定の表情が検出されたときに、前記カメラに対して前記ベビーカーの周囲のカメラ画像を撮影する周囲撮影要求を送る周囲撮影要求部と、
    前記ベビーカーの位置情報を取得する位置情報取得部と、
    前記特定の表情が検出されたときの前記ベビーカーの位置を表情検出位置として記録する記録処理部と、
    前記ベビーカーが前記表情検出位置に接近すると前記ベビーカーの利用者に通知を行う通知処理部と、
    を備えることを特徴とする表情記録システム。
  2. ベビーカーに取り付けられ、前記ベビーカーの乗車者のカメラ画像を撮影可能なカメラと、
    前記ベビーカーの利用者によって所持され、前記カメラと通信可能な端末装置と、
    を備え、
    前記端末装置は、
    前記カメラで撮影された前記カメラ画像が入力されるデータ入力部と、
    前記カメラ画像から、前記ベビーカーの乗車者の特定の表情を検出する表情検出部と、
    前記特定の表情が検出されたときに、前記カメラに対して前記ベビーカーの周囲のカメラ画像を撮影する周囲撮影要求を送る周囲撮影要求部と、
    前記カメラから、前記ベビーカーの向き情報を取得する向き情報取得部と、
    前記特定の表情が検出されたときの前記ベビーカーの向きを、前記乗車者の視線方向として検出する視線方向検出処理部と、
    を備えることを特徴とする表情記録システム。
  3. 前記端末装置は、
    前記特定の表情が検出されたときの前記乗車者のカメラ画像と当該特定の表情が検出されたときの前記周囲のカメラ画像とを、同一画面上に表示する表示処理部を備える、請求項1または請求項2に記載の表情記録システム。
  4. 前記端末装置は、
    前記特定の表情が検出されている間は、前記カメラに対して前記ベビーカーの乗車者のカメラ画像を継続して撮影する継続撮影要求を送る継続撮影要求部と、
    継続して撮影された前記乗車者のカメラ画像の中から特定の表情の度合いが所定値以上のカメラ画像を選択する画像選択部と、
    備える、請求項1〜請求項3のいずれかに記載の表情記録システム。
  5. 前記端末装置は、
    前記カメラ画像から、前記ベビーカーの乗車者の感情を分析する感情分析部と、
    分析結果として得られた前記ベビーカーの乗車者の感情に応じて映像または音楽を再生する再生処理部と、
    を備える、請求項1〜請求項のいずれかに記載の表情記録システム。
  6. 乗車者のカメラ画像を撮影可能なカメラを備えるベビーカーであって、
    前記カメラは、前記ベビーカーの利用者によって所持される端末装置と通信可能であり、
    前記端末装置は、前記カメラで撮影された前記カメラ画像から前記ベビーカーの乗車者の特定の表情を検出されたときに、前記カメラに対して周囲撮影要求を送り、
    前記カメラは、前記周囲撮影要求に基づいて、前記ベビーカーの周囲のカメラ画像を撮影し、
    前記端末装置は、前記ベビーカーの位置情報を取得し、前記特定の表情が検出されたときの前記ベビーカーの位置を表情検出位置として記録し、前記ベビーカーが前記表情検出位置に接近すると前記ベビーカーの利用者に通知を行うことを特徴とするベビーカー。
  7. 乗車者のカメラ画像を撮影可能なカメラを備えるベビーカーであって、
    前記カメラは、前記ベビーカーの利用者によって所持される端末装置と通信可能であり、
    前記端末装置は、前記カメラで撮影された前記カメラ画像から前記ベビーカーの乗車者の特定の表情を検出されたときに、前記カメラに対して周囲撮影要求を送り、
    前記カメラは、前記周囲撮影要求に基づいて、前記ベビーカーの周囲のカメラ画像を撮影し、
    前記端末装置は、前記カメラから、前記ベビーカーの向き情報を取得し、前記特定の表情が検出されたときの前記ベビーカーの向きを、前記乗車者の視線方向として検出することを特徴とするベビーカー。
  8. ベビーカーの利用者によって所持される端末装置で実行されるプログラムであって、
    前記端末装置は、前記ベビーカーに取り付けられたカメラと通信可能であり、
    前記カメラは、前記ベビーカーの乗車者のカメラ画像を撮影可能であり、
    前記プログラムは、前記端末装置に、
    前記カメラで撮影された前記カメラ画像が入力されると、前記カメラ画像から、前記ベビーカーの乗車者の特定の表情を検出する処理と、
    前記特定の表情が検出されたときに、前記カメラに対して前記ベビーカーの周囲のカメラ画像を撮影する周囲撮影要求を送る処理と、
    前記ベビーカーの位置情報を取得する処理と、
    前記特定の表情が検出されたときの前記ベビーカーの位置を表情検出位置として記録する処理と、
    前記ベビーカーが前記表情検出位置に接近すると前記ベビーカーの利用者に通知を行う処理と、
    を実行させることを特徴とするプログラム。
  9. ベビーカーの利用者によって所持される端末装置で実行されるプログラムであって、
    前記端末装置は、前記ベビーカーに取り付けられたカメラと通信可能であり、
    前記カメラは、前記ベビーカーの乗車者のカメラ画像を撮影可能であり、
    前記プログラムは、前記端末装置に、
    前記カメラで撮影された前記カメラ画像が入力されると、前記カメラ画像から、前記ベビーカーの乗車者の特定の表情を検出する処理と、
    前記特定の表情が検出されたときに、前記カメラに対して前記ベビーカーの周囲のカメラ画像を撮影する周囲撮影要求を送る処理と、
    前記カメラから、前記ベビーカーの向き情報を取得する処理と、
    前記特定の表情が検出されたときの前記ベビーカーの向きを、前記乗車者の視線方向として検出する処理と、
    を実行させることを特徴とするプログラム。
JP2016063128A 2016-03-28 2016-03-28 表情記録システム Active JP6679368B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016063128A JP6679368B2 (ja) 2016-03-28 2016-03-28 表情記録システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016063128A JP6679368B2 (ja) 2016-03-28 2016-03-28 表情記録システム

Publications (3)

Publication Number Publication Date
JP2017177830A JP2017177830A (ja) 2017-10-05
JP2017177830A5 JP2017177830A5 (ja) 2019-05-09
JP6679368B2 true JP6679368B2 (ja) 2020-04-15

Family

ID=60008972

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016063128A Active JP6679368B2 (ja) 2016-03-28 2016-03-28 表情記録システム

Country Status (1)

Country Link
JP (1) JP6679368B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6945939B2 (ja) * 2019-09-25 2021-10-06 三菱電機株式会社 フォトアルバム制作装置及びフォトアルバム制作プログラム
CN116030526B (zh) * 2023-02-27 2023-08-15 华南农业大学 基于多任务深度学习的情感识别方法、系统及存储介质

Also Published As

Publication number Publication date
JP2017177830A (ja) 2017-10-05

Similar Documents

Publication Publication Date Title
US20220337693A1 (en) Audio/Video Wearable Computer System with Integrated Projector
CN108028957B (zh) 信息处理装置、信息处理方法和机器可读介质
US10389937B2 (en) Information processing device, information processing method, and program
KR102155001B1 (ko) 헤드 마운트 디스플레이 장치 및 그 동작방법
JP2016191845A (ja) 情報処理装置、情報処理方法及びプログラム
JP2011188061A (ja) 画像処理装置、画像処理方法およびプログラム
WO2015186686A1 (ja) 位置特定装置、オーディオ装置、位置特定方法およびプログラム
CN111133752B (zh) 表情记录系统
JPWO2015068440A1 (ja) 情報処理装置、制御方法およびプログラム
US10912916B2 (en) Electronic display adjustments to mitigate motion sickness
JP6679368B2 (ja) 表情記録システム
EP3526775A1 (en) Audio/video wearable computer system with integrated projector
JP7040521B2 (ja) 情報処理装置、情報処理方法、及びプログラム
KR102015981B1 (ko) 대상자 상태 정보를 제공하기 위한 장치, 로봇 및 방법
TWI787205B (zh) 表情記錄系統、嬰兒車、及表情記錄程式
CN111344776B (zh) 信息处理装置、信息处理方法和程序
KR20140111079A (ko) 카메라 제어 방법 및 그 시스템
JP6146017B2 (ja) 携帯端末装置
KR20220056911A (ko) 디지털 트윈 기반의 영유아 시설 모니터링 방법 및 시스템
JP2021103449A (ja) 情報記録再生装置、情報記録再生プログラムおよび情報記録再生システム
JP6559096B2 (ja) 情報出力システム及び情報出力方法
CN111566597A (zh) 信息处理设备、信息处理方法和程序
US20230053925A1 (en) Error management
JP2021128370A (ja) 情報提供システム、情報提供方法、及びプログラム
JP7027753B2 (ja) 情報処理装置及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190328

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190328

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200108

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200318

R150 Certificate of patent or registration of utility model

Ref document number: 6679368

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250