JP2023180943A - Information processing device, information processing method and program - Google Patents
Information processing device, information processing method and program Download PDFInfo
- Publication number
- JP2023180943A JP2023180943A JP2022094635A JP2022094635A JP2023180943A JP 2023180943 A JP2023180943 A JP 2023180943A JP 2022094635 A JP2022094635 A JP 2022094635A JP 2022094635 A JP2022094635 A JP 2022094635A JP 2023180943 A JP2023180943 A JP 2023180943A
- Authority
- JP
- Japan
- Prior art keywords
- evaluation
- user
- request
- communication
- information processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000010365 information processing Effects 0.000 title claims description 32
- 238000003672 processing method Methods 0.000 title claims description 4
- 238000011156 evaluation Methods 0.000 claims abstract description 498
- 238000004891 communication Methods 0.000 claims abstract description 81
- 230000004044 response Effects 0.000 claims abstract description 63
- 238000001514 detection method Methods 0.000 claims description 109
- 238000004458 analytical method Methods 0.000 claims description 31
- 238000012545 processing Methods 0.000 claims description 23
- 230000008451 emotion Effects 0.000 claims description 16
- 238000000034 method Methods 0.000 description 40
- 238000010586 diagram Methods 0.000 description 19
- 238000003384 imaging method Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 7
- 230000008921 facial expression Effects 0.000 description 3
- 230000001815 facial effect Effects 0.000 description 2
- 102100025279 C-X-C motif chemokine 11 Human genes 0.000 description 1
- 101100222381 Homo sapiens CXCL11 gene Proteins 0.000 description 1
- 241001442654 Percnon planissimum Species 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008909 emotion recognition Effects 0.000 description 1
- 230000002996 emotional effect Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Emergency Alarm Devices (AREA)
- Alarm Systems (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
本開示は、会話・コミュニケーションが電子機器の利用により阻害されている状態を検出する技術に関する。 The present disclosure relates to a technique for detecting a state in which conversation/communication is obstructed by the use of electronic devices.
スマートフォン、タブレット、ノート型PC、デスクトップ型PCなどの電子機器が普及し、提供サービスが拡大することにより、日常の様々なシーンで電子機器を利用する機会が増えている。 With the spread of electronic devices such as smartphones, tablets, notebook PCs, and desktop PCs, and the expansion of services provided, opportunities to use electronic devices in various everyday situations are increasing.
一方、家庭内において、特に養育者が電子機器を利用することによって、養育者と子供とのコミュニケーションを阻害し、例えば、愛着形成不全、親の真似を介した発達機会の喪失といった影響が指摘されている。そのため、色々な情報を用いてコミュニケーションなどを評価することが検討されている。 On the other hand, it has been pointed out that the use of electronic devices in the home, especially by caregivers, obstructs communication between caregivers and children, leading to effects such as poor attachment formation and loss of developmental opportunities through imitation of parents. ing. Therefore, evaluation of communication using various types of information is being considered.
この点、特許文献1は、画像内における対象人物とその周囲の人物の表情の明るさスコアを算出し、その差分を基に、例えば、虐待およびいじめなどの人物間の問題が生じる可能性を推定し、推定結果を通知する技術を開示する。
In this regard,
特許文献1の技術は、人物の表情を基に上述の問題が生じる可能性を検出している。
The technique disclosed in
一方、子供の養育者が電子機器を利用することにより当該養育者と当該子供とのコミュニケーションを阻害するシーンでは、養育者の表情の変化が必ずしも発生しない。そのため、特許文献1の技術を採用し、養育者および子供の画像を取得しても、取得した画像を基に、養育者が電子機器を利用することによる当該養育者と子供とのコミュニケーションの阻害状態を適切に検出することができなかった。このような課題は、例えば、子供が電子機器を利用するときの当該子供と養育者との間など、電子機器の利用者と他者との間で生じえた。
On the other hand, in a scene where a child's caregiver uses an electronic device to obstruct communication between the caregiver and the child, a change in the caregiver's facial expression does not necessarily occur. Therefore, even if the technology of
本開示の一態様に係る情報処理装置は、電子機器を利用する利用者に対する他者からのコミュニケーションの要求を評価する第1の評価手段と、前記要求に対する前記利用者の対応を評価する第2の評価手段と、前記第1の評価手段による第1の評価結果と、前記第2の評価手段による第2の評価結果とに基づき、前記利用者と前記他者とのコミュニケーションが、前記電子機器の利用により阻害されている状態であるかを判定する判定手段と、前記判定手段により前記コミュニケーションが阻害されている状態であると判定された場合に、前記コミュニケーションが阻害されている状態である旨を通知する通知手段と、を有することを特徴とする。 An information processing device according to an aspect of the present disclosure includes a first evaluation unit that evaluates a communication request from another person to a user who uses an electronic device, and a second evaluation unit that evaluates a response of the user to the request. , a first evaluation result by the first evaluation means, and a second evaluation result by the second evaluation means, the communication between the user and the other person is determined by the electronic device. a determining means for determining whether the communication is being obstructed by the use of the communication; and a determination means for determining whether the communication is being obstructed by the use of the communication; It is characterized by having a notification means for notifying.
本開示によれば、電子機器の利用者と他者とのコミュニケーションが、電子機器の利用により阻害されている状態であることを認識することができる。 According to the present disclosure, it is possible to recognize that communication between a user of an electronic device and another person is obstructed by the use of the electronic device.
以下、添付図面を参照して本開示の技術の実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る本開示の技術を限定するものでなく、また本実施形態で説明されている特徴の組み合わせの全てが本開示の技術の解決手段に必須のものとは限らない。同一の構成要素には同一の参照番号を付して、説明を省略する。 Hereinafter, embodiments of the technology of the present disclosure will be described in detail with reference to the accompanying drawings. Note that the following embodiments do not limit the technology of the present disclosure according to the claims, and all the combinations of features described in the embodiments are essential to the solution of the technology of the present disclosure. Not necessarily. Identical components are given the same reference numerals and explanations will be omitted.
<<実施形態1>>
図1は、本実施形態に係る検出システム100のハードウェア構成例を示す図である。検出システム100は、詳細につき後述するテクノフェレンスを検出する検出機能を有する。なお、テクノフェレンスの検出機能について、例えば、特定の日、特定の曜日、特定の時間などの特定の期間にて、有効または無効とする設定を行うことが可能であるとする。
<<
FIG. 1 is a diagram showing an example of the hardware configuration of a
検出システム100は、CPU101、ROM102、RAM103、通信IF(インターフェース)104および入力/出力IF105を有し、各構成要素がバス106によりデータを送受信可能に接続されている。
The
CPU(中央処理装置)101は、ROM102に格納されたプログラムやRAM103にロードしたプログラムに沿って検出システム100の動作制御を行う。ROM102は読み出し専用メモリであり、ブートプログラムやファームウェア、後述する処理を実現するための各種処理プログラム、各種データを格納している。RAM103は、CPU101にて処理を行うために一時的にプログラムやデータを格納しておくワークメモリであり、CPU101により各種処理プログラムやデータがロードされる。
A CPU (central processing unit) 101 controls the operation of the
通信IF104は、ネットワークを介した外部装置(不図示)との通信制御を行うためのインターフェースであり、ネットワークを介して、データの送受信を行う。入力/出力IF105は、詳細につき後述する集音器311、表示器312および拡声器313などの、データの入出力を行う機器と接続するインターフェースである。
The
<検出システムの適用例>
図2は、本実施形態に係る検出システムの適用例を示す図である。スマートフォン211を利用するデバイス利用者201と、スマートフォン211等の電子機器を利用しないデバイス非利用者202とが同じ部屋に居て、デバイス非利用者202がデバイス利用者201に対してコミュニケーションを要求する場面であるとする。なお、ここでは、検出システム100がスマートフォン211に適用されているとする。デバイス利用者(以下、利用者と称す)201およびデバイス非利用者(以下、非利用者と称す)202は、例えば、子供を養育する養育者および当該子供とするがこれに限定されず、子供および当該子供を養育する養育者としてもよい。また、デバイス利用者は養育者に限らず、保育者などでもよいし、それ以外の血縁関係にない第三者であってもよい。また、非利用者は子供でなくても、利用者とコミュニケーションをとりたい者であればよい。例えば、利用者の配偶者や兄弟姉妹でもよく、血縁関係にない第三者であってもよい。また、他者であってもよい。
<Application example of detection system>
FIG. 2 is a diagram showing an example of application of the detection system according to this embodiment. A
スマートフォン211は利用者201によって操作されるデバイス(電子機器)である。スマートフォン211は、利用者201がスマートフォン211を利用した状況(履歴)に関する情報を利用情報として取得する。また、スマートフォン211は、利用者201が発する音声、および、非利用者202が発する音声などの、スマートフォン211の周辺環境で生じた音声を、音声情報として取得する。なお、本実施形態では、検出システム100についてスマートフォン211への適用例を示したが、これに限定されない。検出システム100についてスマートフォン211以外の電子機器に適用しても構わない。
The
<検出システムの機能構成>
図3は、本実施形態に係る検出システム100の機能構成例を示す図である。検出システム100は、音声取得部301、要求評価部302、利用情報取得部303、対応評価部304を有する。検出システム100は、さらに、テクノフェレンス検出部(以下、TF検出部と称す)305、テクノフェレンス通知部(以下、TF通知部と称す)306を有する。検出システム100は、外部機器である集音器311、表示器312および拡声器313と接続する。なお、集音器311、表示器312および拡声器313は、検出システム100と接続する形態に限定されず、検出システム100の内部に含まれる形態であってもよい。
<Functional configuration of detection system>
FIG. 3 is a diagram showing an example of the functional configuration of the
音声取得部301は、検出システム100と接続される集音器311で収集した音声の情報を取得する。利用者201と非利用者202とが同じ部屋に居る場面であって、検出システム100を利用者201が利用するスマートフォン211に適用した場合、音声取得部301が取得する音声情報は、次に示す音声情報を含む。すなわち、音声取得部301が取得する音声情報は、利用者201が発する音声を示すデバイス利用者の音声情報を含む。または、音声取得部301が取得する音声情報は、非利用者202が発する音声を示すデバイス非利用者の音声情報を含む。または、音声取得部301が取得する音声情報は、デバイス利用者およびデバイス非利用者の両方の音声情報を含む。なお、音声取得部301が取得した音声情報は、要求評価部302および対応評価部304に送られる。
The
要求評価部302は、音声取得部301にて取得した音声情報(第1の音声情報)に基づき、非利用者202から利用者201へのコミュニケーション要求について詳細につき後述する要求評価項目を評価して要求評価値を求める。具体的には、先ず、利用者201の音声情報(第2の音声情報)と、非利用者202の音声情報(第3の音声情報)とは、予め登録されており、不図示の音声情報格納部に格納されているとする。続いて、予め登録された第2および第3の音声情報を用いて、第1の音声情報に第3の音声情報(非利用者202の音声情報)が含まれているか判定する。続いて、含まれているとの判定結果を得ると、第1の音声情報のうち、第3の音声情報が含まれる部分を解析する。この解析結果として、デバイス利用者への要求の有無、デバイス非利用者の感情(種別/強度)、デバイス非利用者の月齢/年齢に関する情報が得られる。得られた情報から対応する要求評価値が求められる。要求評価値の詳細については後述する。求められた要求評価値は、TF検出部305に送られる。
The
利用情報取得部303は、スマートフォン211で生成された、電子機器(デバイス)の利用状況を示す利用情報を取得する。利用情報は、利用者201がスマートフォン211を使用しているか否かを示す情報を含む。なお、利用情報は、少なくともスマートフォン211の画面が点灯している状態であるとき、この状態をスマートフォン211が利用されている状態であることを示す情報として含む。利用情報取得部303が取得した利用情報は、対応評価部304に送られる。
The usage
対応評価部304は、音声取得部301にて取得した音声情報と、利用情報取得部303にて取得した利用情報とに基づき、非利用者202から利用者201へのコミュニケーション要求に対する対応について詳細につき後述する対応評価項目を評価する。そして、評価結果を基に対応評価値を求める。具体的には、非利用者202のコミュニケーションの要求に対応する応答であるか否かを判定する。非利用者202のコミュニケーションの要求に対して、所定時間以内に利用者201の音声情報が無いと、要求に対する応答なしと判定する。また、所定時間以内に利用者201の音声情報があっても、この利用者201の音声情報が、予め登録された応答情報と異なると、要求に対する応答なしと判定する。他方、予め登録された応答情報と同じであると、要求に対する応答ありと判定する。そして、応答なしとの判定結果が得られると、「不適切」の評価結果を得ることになる。他方、応答ありとの判定結果が得られると、「適切」の評価結果を得ることになる。そして、評価結果に対応した対応評価値が求められる。対応評価値の詳細については後述する。求められた対応評価値は、TF検出部305に送られる。
The
TF検出部305は、要求評価値と対応評価結果とに基づき、利用者201と非利用者202とのコミュニケーションが、スマートフォン211(電子機器)の利用により阻害されている状態(以降、テクノフェレンス)を検出する。テクノフェレンスは、乳幼児などの子供を養育する養育者と、当該養育者により養育される子供とのコミュニケーションが、電子機器の利用により阻害されている状態であるとする。検出処理の詳細は後述する。なお、TF検出部305は、上述の検出処理による検出結果として、テクノフェレンスを検出する場合とテクノフェレンスを検出しない場合とがあることから、テクノフェレンスの有無を判定するともいえる。検出結果は、TF通知部306に送られる。
Based on the request evaluation value and the response evaluation result, the
TF通知部306は、TF検出部305にて検出したテクノフェレンスの検出結果を基に、テクノフェレンスの通知処理を実行する。テクノフェレンスの通知処理の詳細は後述する。テクノフェレンスの通知先は、表示器312および拡声器313の両方であるが、これに限定されない。テクノフェレンスの通知先は、表示器312のみであってもよいし、拡声器313のみであってもよいし、表示器312および拡声器313以外の機器であってもよい。
The
<検出システムが実行する処理>
図4は、検出システムが実行する処理の流れを示すフローチャートである。CPU101は、ROM102に格納された図4に示すフローチャートを実現するプログラムを読み出して、RAM103をワークエリアとして使用して実行する。これによりCPU101は、図3に示す各機能構成としての役割を果たす。上述のテクノフェレンスの検出機能が有効に設定されているとする。なお、フローチャートの説明における記号「S」は、ステップを表すものとする。この点、以下のフローチャートの説明においても同様とする。
<Processing executed by the detection system>
FIG. 4 is a flowchart showing the flow of processing executed by the detection system. The
S401では、要求評価部302は、音声取得部301にて取得した音声情報に基づき、非利用者202から利用者201へのコミュニケーションの要求を検出する。なお、デバイス利用者への要求の有無の検出に関し、上述したように予め登録された音声情報を用いてもよいし、上述の非特許文献1に記載の技術を用いてもよい。そして、要求評価部302は、要求の検出結果と、音声取得部301にて取得した音声情報とに基づき、要求について要求評価項目を評価して要求評価値を算出する。算出された要求評価値は、TF検出部305に送られる。
In S401, the
S402では、対応評価部304は、音声取得部301にて取得した音声情報と、利用情報取得部303にて取得した利用情報とに基づき、非利用者202からのコミュニケーション要求に対する利用者201の対応評価値を算出する。すなわち、対応評価部304は、要求に対する利用者201の対応について対応評価項目を評価して対応評価値を算出する。算出された対応評価値は、TF検出部305に送られる。
In S402, the
S403では、TF検出部305は、S401にて算出した要求評価値と、S402にて算出した対応評価値とに基づき、テクノフェレンスの検出処理を実行する。テクノフェレンスの検出処理の詳細は後述する。テクノフェレンスの検出結果は、TF通知部306に送られる。
In S403, the
S404では、TF通知部306は、テクノフェレンスの通知処理を実行する。テクノフェレンスの通知処理の詳細は後述する。なお、テクノフェレンスの通知処理を完了すると、図4に示すフローを終える。
In S404, the
<要求評価結果>
図5は、要求評価部302にて算出した要求評価結果例を示す図である。要求評価結果500は、時刻501にて示される時刻毎に、デバイス利用者への要求有無に関する評価項目502の評価結果、要求時の感情(種別/強度)に関する評価項目503の評価結果、月齢/年齢に関する評価項目504の評価結果を有する。時刻501は、デバイス非利用者の音声情報を検出した際の時刻を表している。
<Requirements evaluation results>
FIG. 5 is a diagram showing an example of the request evaluation results calculated by the
デバイス利用者への要求有無に関する評価項目502では、音声取得部301にて取得した音声情報に基づき、利用者201に対する非利用者202からのコミュニケーションの要求の有無に関する評価結果と、この評価結果に対応した評価値とを示している。デバイス利用者への要求の有無に関し、音声取得部301にて取得した音声情報が、例えば、「ねーねー」または「パパー」などの特定の音声情報を含むとの解析結果が得られると、要求ありと評価することになる。他方、音声取得部301にて取得した音声情報が、前記特定の情報を含まないとの解析結果が得られると、要求なしと評価することになる。なお、「要求あり」の評価結果に対応する評価値は5であり、「要求無し」の評価結果に対応する評価値は0であるとするが、これに限定されない。
The
要求時の感情(種別/強度)に関する評価項目503では、非利用者202が利用者201に対してコミュニケーションを要求したときの感情(種別/強度)に関する評価結果と、この評価結果に対応した評価値を示している。要求時の感情(種別/強度)の評価に関し、例えば、非特許文献2に記載の技術など公知の技術を用いることが可能である。感情の種別として、例えば、哀しみ、怒り、無しなどを検出する。また、感情の強度として、中、小を検出する。これら検出結果に基づき、感情(種別/強度)に関し、利用者201に対する非利用者202のコミュニケーションの要求について、哀しみ、怒り、無しの何れの感情であり、中、小の何れの感情の強度であるかを評価することになる。なお、感情/強度に関し、「哀/小」および「怒/小」の評価結果に対応する評価値は1とし、「哀/中」および「怒/中」の評価結果に対応する評価値は2とし、「無し」の評価結果に対応する評価値は0とするが、これに限定されない。
The
月齢/年齢に関する評価項目504では、音声取得部301にて取得した音声情報に基づき、非利用者202の月齢/年齢に関する評価結果と、この評価結果に対応する評価値とを示している。月齢/年齢の評価に関し、音声情報を解析して推定した年齢または事前に登録された年齢と、個人情報と照合する形態でもよい。なお、月齢/年齢の評価に関し、例えば、非特許文献3に記載の技術などの公知の技術を用いることが可能である。なお、月齢/年齢に関し、「6ヶ月以下」の評価結果に対応する評価値は3とし、「6ヶ月~12ヶ月」の評価結果に対応する評価値は2とし、「12ヶ月~24ヶ月」の評価結果に対応する評価値は1とするが、これに限定されない。
The
なお、上述の要求評価結果500について、時刻501の「t0」において、評価項目502では「有(5)」を、評価項目503では「哀/小(1)」を、評価項目504では「24ヶ月(1)」を示している。
Regarding the above-mentioned
<対応評価結果>
図6は、対応評価部304にて算出した対応評価結果例を示す図である。対応評価結果600は、時刻601にて示される時刻毎に、デバイス利用有無に関する評価項目602の評価結果、対応時の発言内容に関する評価項目603の評価結果を有する。なお、時刻601は、要求評価結果500の時刻501にて示される時刻と同じ時刻を示している。
<Results of response evaluation>
FIG. 6 is a diagram showing an example of a correspondence evaluation result calculated by the
デバイス利用有無に関する評価項目602では、音声情報と利用情報に基づき、非利用者202からのコミュニケーション要求時における利用者201によるスマートフォン211の利用の有無に関する評価結果と、この評価結果に対応した評価値を示している。スマートフォン211の利用の有無に関し、利用情報が、スマートフォン211を利用していることを示す情報を含むとの解析結果が得られると、デバイス利用ありと評価することになる。他方、利用情報が、スマートフォン211を利用していないことを示す情報を含むとの解析結果が得られると、デバイス利用なしと評価することになる。なお、「デバイス利用あり」の評価結果に対応する評価値は3であり、「デバイス利用なし」の評価結果に対応する評価値は0であるとするが、これに限定されない。
The
対応時の発言内容に関する評価項目603では、非利用者202からのコミュニケーション要求に対する利用者201による対応時の発言内容に関する評価結果と、この評価結果に対応した評価値とを示している。発言内容の評価に関し、利用者201および非利用者202の音声をテキスト化したものを利用し、非利用者202の要求に対応する応答であるかを判断する。なお、音声のテキスト化に関し、例えば、非特許文献4に記載の技術など公知の技術を用いることが可能である。対応時の発言内容に関し、音声取得部301にて取得した音声情報にて、要求後の所定時間以内に、応答なしとの解析結果が得られると、不適切と評価することになる。他方、音声取得部301にて取得した音声情報にて、要求後の所定時間以内に、応答ありとの解析結果が得られると、適切と評価することになる。なお、「適切」の評価結果に対応する評価値は0であり、「不適切」の評価結果に対応する評価値は2であるとするが、これに限定されない。
The
なお、上述の対応評価結果600について、時刻601の「t0」において、評価項目602では「有(3)」を、評価項目603では「不適切(2)」を示している。
Regarding the above-mentioned
<テクノフェレンスの検出処理>
図7は、テクノフェレンス(以下、TFと称す)の検出処理(S403)の詳細な流れを示すフローチャートである。
<Technoference detection processing>
FIG. 7 is a flowchart showing the detailed flow of the technoference (hereinafter referred to as TF) detection process (S403).
S701では、TF検出部305は、現時刻のTFスコアおよび一定時刻Tn分のTFスコア総和を算出する。現時刻のTFスコアは、要求評価部302による評価結果と、対応評価部304による評価結果とに基づき算出される。本実施形態では、例えば各評価部の評価結果を数値に変換し、評価部内で数値を足し合わせ、評価部間で数値を掛け合わせる。そして、求められた数値に対して、デバイス利用者へのコミュニケーション要求有無の評価項目502の評価結果が有の場合を1とし、無の場合を0とした値をさらに掛け合わせることでTFスコアを算出する。ここで、要求評価部302による評価結果について、図5に示す要求評価結果500を例にして説明する。評価項目502の評価結果「有」を5に変換し、評価項目503の評価結果「哀/小」を1に変換し、評価項目504の評価結果「24カ月」を1に変換する。そして、5と1と1とを足し合わせ、要求評価部302の要求評価値として7を算出する。対応評価部304による評価結果について、図6に示す対応評価結果600を例にして説明する。評価項目602の評価結果「有」を3に変換し、評価項目603の評価結果「不適切」を2に変換する。そして、3と2とを足し合わせ、対応評価部304の対応評価値として5を算出する。そして、要求評価値の7と対応評価値の5とを掛け合わせて35を算出する。デバイス利用者への要求有無の評価項目502の評価結果が「有」であることから、35に1を掛け合わせた35をTFスコアとして算出する。なお、デバイス利用者への要求有無の評価項目502の評価結果が「無」である場合には、35に0を掛け合わせた0をTFスコアとして算出する。
In S701, the
また、一定時刻Tn分のTFスコア総和は、過去から現時刻までのn個分のTFスコアを足し合わせた値となる。例えば、一定時刻Tnが3であり、現時刻がT4である場合、一定時刻T3分のTFスコア総和は、時刻T2のTFスコアと時刻T3のTFスコアと時刻T4のTFスコアとを足し合わせた値となる。 Further, the total TF score for a certain time Tn is the sum of n TF scores from the past to the current time. For example, if the constant time Tn is 3 and the current time is T4 , the sum of the TF scores for the constant time T3 is the TF score at time T2 , the TF score at time T3 , and the TF score at time T4 . The value is the sum of
S702では、TF検出部305は、現時刻のTFスコアが閾値THα以上であるかを判定する。現時刻のTFスコアが閾値THα以上でないとの判定結果を得た場合(S702のNO)、処理がS703に移行される。他方、現時刻のTFスコアが閾値THα以上であるとの判定結果を得た場合(S702のYES)、処理がS704に移行される。
In S702, the
S703では、TF検出部305は、一定時刻Tn分のTFスコア総和が閾値THβ以上であるか判定する。すなわち、TF検出部305は、現時刻から過去Tn分のTFスコア総和が閾値THβ以上であるか判定する。現時刻から過去Tn分のTFスコア総和が閾値THβ以上でないとの判定結果を得た場合(S703のNO)、処理がS705に移行される。他方、現時刻から過去Tn分のTFスコア総和が閾値THβ以上であるとの判定結果を得た場合(S703のYES)、処理がS704に移行される。
In S703, the
S704では、TF検出部305は、TFを検出したことを確定することになる。S705では、TF検出部305は、TFを検出していないことを確定することになる。なお、S704の処理またはS705の処理が完了すると、図7に示すフローを終える。
In S704, the
<TFスコアによるテクノフェレンスの検出>
図8は、現時刻のTFスコアが閾値THα以上と判定される例を示す図である。図8の例では、閾値THαを40とし、一定時刻Tnを3とする。なお、時刻801は時刻501に、評価項目802は評価項目502に、評価項目803は評価項目503に、評価項目804は評価項目504にそれぞれ対応する。また、評価項目811は評価項目602に、評価項目812は評価項目603にそれぞれ対応する。
<Detection of technoference using TF score>
FIG. 8 is a diagram showing an example in which the TF score at the current time is determined to be greater than or equal to the threshold value THα. In the example of FIG. 8, the threshold value THα is set to 40, and the fixed time Tn is set to 3. Note that the
t0の時刻801では、評価項目802の評価結果(評価値)が無(0)であることから、現時刻t0のTFスコア821は0である。現時刻t0のTFスコア821が0であることから、現時刻t0のTFスコア総和822は0である。
At the
t1の時刻801では、評価項目802の評価結果(評価値)が有(5)であり、評価項目803の評価結果(評価値)が無(0)であり、評価項目804の評価結果(評価値)が24ヶ月(1)である。そのため、要求評価値は、5+0+1の6となる。評価項目811の評価結果(評価値)が有(3)であり、評価項目812の評価結果(評価値)が適切(0)である。そのため、対応評価値は、3+0の3となる。そして、現時刻t1でのTFスコア821は、現時刻t1の要求評価値の6と現時刻t1の対応評価値の3とを掛け合わせて得た値に対し、現時刻t1にて評価項目802の評価結果が有の場合の1を掛け合わせた18となる。t1分のTFスコア総和822は、t0のTFスコア821の0と、t1のTFスコア821の18とを足し合わせた18となる。
At
t2の時刻801では、評価項目802の評価結果(評価値)が有(5)であり、評価項目803の評価結果(評価値)が哀/小(1)であり、評価項目804の評価結果(評価値)が24ヶ月(1)である。そのため、要求評価値は、5+1+1の7となる。評価項目811の評価結果(評価値)が有(3)であり、評価項目812の評価結果(評価値)が不適切(2)である。そのため、対応評価値は、3+2の5となる。そして、現時刻t2でのTFスコア821は、現時刻t2の要求評価値の7と現時刻t2の対応評価値の5とを掛け合わせて得た値に対し、現時刻t2にて評価項目802の評価結果が有の場合の1を掛け合わせた35となる。t2分のTFスコア総和822は、t0のTFスコア821の0と、t1のTFスコア821の18と、t2のTFスコア821の35とを足し合わせた53となる。
At
t3の時刻801では、評価項目802の評価結果(評価値)が有(5)であり、評価項目803の評価結果(評価値)が哀/中(2)であり、評価項目804の評価結果(評価値)が24ヶ月(1)である。そのため、要求評価値は、5+2+1の8となる。評価項目811の評価結果(評価値)が有(3)であり、評価項目812の評価結果(評価値)が不適切(2)である。そのため、対応評価値は、3+2の5となる。そして、現時刻t3でのTFスコア821は、現時刻t3の要求評価値の8と現時刻t3の対応評価値の5とを掛け合わせて得た値に対し、現時刻t3にて評価項目802の評価結果が有の場合の1を掛け合わせた40となる。t3分のTFスコア総和822は、t1のTFスコア821の18と、t2のTFスコア821の35と、t3のTFスコア821の40とを足し合わせた93となる。
At
上述したように、時刻t3におけるTFスコア831は40であり、この数値が閾値THα以上であるため、TFの検出を確定し、S404にてTFの検出を通知することになる。 As described above, the TF score 831 at time t3 is 40, and since this value is greater than or equal to the threshold THα, the detection of TF is confirmed, and the detection of TF is notified in S404.
<Tn分のTFスコア総和によるテクノフェレンスの検出>
図9は現時刻から過去Tn分のTFスコア総和が閾値THβ以上と判定される例を示す図である。図9の例では、閾値THβを100とし、一定時刻Tnを3とする。なお、時刻901は時刻501に、評価項目902は評価項目502に、評価項目903は評価項目503に、評価項目904は評価項目504にそれぞれ対応する。また、評価項目911は評価項目602に、評価項目912は評価項目603にそれぞれ対応する。
<Detection of technoference by total TF score for Tn>
FIG. 9 is a diagram showing an example in which the sum of TF scores for the past Tn from the current time is determined to be greater than or equal to the threshold value THβ. In the example of FIG. 9, the threshold value THβ is set to 100, and the fixed time Tn is set to 3. Note that the
t0の時刻901では、評価項目902の評価結果(評価値)が無(0)であることから、現時刻t0のTFスコア921は0である。現時刻t0のTFスコア921が0であることから、現時刻t0のTFスコア総和922は0である。
At the
t1の時刻901では、評価項目902の評価結果(評価値)が有(5)であり、評価項目903の評価結果(評価値)が無(0)であり、評価項目904の評価結果(評価値)が24ヶ月(1)である。そのため、要求評価値は、5+0+1の6となる。評価項目911の評価結果(評価値)が有(3)であり、評価項目912の評価結果(評価値)が適切(0)である。そのため、対応評価値は、3+0の3となる。そして、現時刻t1でのTFスコア921は、現時刻t1の要求評価値の6と現時刻t1の対応評価値の3とを掛け合わせて得た値に対し、現時刻t1にて評価項目902の評価結果が有の場合の1を掛け合わせた18となる。t1分のTFスコア総和922は、t0のTFスコア921の0と、t1のTFスコア921の18と足し合わせた18となる。
At
t2の時刻901では、t1の時刻901のときと同じであり、要求評価値は5+0+1の6となり、対応評価値は3+0の3となる。そして、現時刻t2でのTFスコア921は、現時刻t2の要求評価値の6と現時刻t2の対応評価値の3とを掛け合わせて得た値に対し、現時刻t2にて評価項目902の評価結果が有の場合の1を掛け合わせた18となる。t2分のTFスコア総和922は、t0のTFスコア921の0と、t1のTFスコア921の18と、t2のTFスコア921の18と足し合わせた36となる。
At
t3の時刻901では、評価項目902の評価結果(評価値)が有(5)であり、評価項目903の評価結果(評価値)が哀/小(1)であり、評価項目904の評価結果(評価値)が24ヶ月(1)である。そのため、要求評価値は、5+1+1の7となる。評価項目911の評価結果(評価値)が有(3)であり、評価項目912の評価結果(評価値)が不適切(2)である。そのため、対応評価値は、3+2の5となる。そして、現時刻t3でのTFスコア921は、現時刻t3の要求評価値の7と現時刻t3の対応評価値の5とを掛け合わせて得た値に対し、現時刻t3にて評価項目902の評価結果が有の場合の1を掛け合わせた35となる。t3分のTFスコア総和922は、t1のTFスコア921の18と、t2のTFスコア921の18と、t3のTFスコア921の35と足し合わせた71となる。
At
t4の時刻901では、評価項目902の評価結果(評価値)が有(5)であり、評価項目903の評価結果(評価値)が無(0)であり、評価項目904の評価結果(評価値)が24ヶ月(1)である。そのため、要求評価値は、5+0+1の6となる。評価項目911の評価結果(評価値)が有(3)であり、評価項目912の評価結果(評価値)が不適切(2)である。そのため、対応評価値は、3+2の5となる。そして、現時刻t3でのTFスコア921は、現時刻t4の要求評価値の6と現時刻t4の対応評価値の5とを掛け合わせて得た値に対し、現時刻t4にて評価項目902の評価結果が有の場合の1を掛け合わせた30となる。t3分のTFスコア総和922は、t2のTFスコア921の18と、t3のTFスコア921の35と、t4のTFスコア921の30と足し合わせた83となる。
At
t5の時刻901では、t3の時刻901のときと同じであり、要求評価値は5+1+1の7となり、対応評価値は3+2の5となる。そして、現時刻t5でのTFスコア921は、現時刻t5の要求評価値の7と現時刻t5の対応評価値の5とを掛け合わせて得た値に対し、現時刻t5にて評価項目902の評価結果が有の場合の1を掛け合わせた35となる。t3分のTFスコア総和922は、t3のTFスコア921の35と、t4のTFスコア921の30と、t5のTFスコア921の35とを足し合わせた100となる。
At
上述したように、時刻t5におけるTFスコア総和931は100であり、この数値が閾値THβ以上であるため、TFの検出を確定し、S404にてTFの検出を通知することになる。
As described above, the
<TFの通知処理>
図10は、TFの通知処理(S404)の詳細な流れを示すフローチャートである。
<TF notification processing>
FIG. 10 is a flowchart showing the detailed flow of the TF notification process (S404).
S1001では、TF通知部306は、TF検出部305でTFを検出したか判定する。TFを検出したとの判定結果を得た場合(S1001のYES)、処理がS1002に移行される。他方、TFを検出していないとの判定結果を得た場合(S1001のNO)、図10に示すフローを終える。すなわち、TFの検出がないことから、TF通知部306は、デバイスへのメッセージの通知を実行せずにTFの通知処理を終える。
In S1001, the
S1002では、TF通知部306は、TFの検出根拠が閾値THα以上であるか判定する。TFの検出根拠が閾値THα以上でないとの判定結果を得た場合(S1002のNO)、処理がS1005に移行される。他方、TFの検出が閾値THα以上であるとの判定結果を得た場合(S1002のYES)、処理がS1003に移行される。
In S1002, the
S1003では、TF通知部306は、閾値THαを超過した回数が一定期間内で閾値THΓ以上であるか判定する。一定期間は、例えば12時間であるがこれに限定されない。閾値THΓは、例えば5であるが、これに限定されない。閾値THαを超過した回数が一定期間内で閾値THΓ以上でないとの判定結果を得た場合(S1003のNO)、処理がS1005に移行される。他方、閾値THαを超過した回数が一定期間内で閾値THΓ以上であるとの判定結果を得た場合(S1003のYES)、処理がS1004に移行される。
In S1003, the
S1004では、TF通知部306は、利用者201によるスマートフォン211の利用を制限する処理を実行する。この処理は、例えば、娯楽用のアプリケーションの実行など電話及びメール機能以外の機能を使用不可とする処理、各アプリケーションからの通知を個別でなく1時間に1回まとめての受信に変更するなどの通知頻度を削減する処理を含むが、これに限定されない。
In S1004, the
S1005では、TF通知部306は、利用者201が利用するスマートフォン211に対し、現在テクノフェレンスが発生している可能性が高い旨のメッセージを通知する。
In S1005, the
以上説明した通り、本実施形態によれば、電子機器の利用者201に対する、非利用者202からのコミュニケーションの要求と、要求に対する利用者201の対応とを評価する。要求の評価結果および対応の評価結果に基づき利用者201と非利用者202とのコミュニケーションが、電子機器の利用によって阻害されている状態であるか判定する。そして、コミュニケーションが阻害されている状態であると判定された場合に、コミュニケーションが阻害されている状態である旨を通知する。このような通知を行うことで、利用者201と非利用者202とのコミュニケーションが、電子機器の利用により阻害されている状態であることを認識することができる。
As described above, according to the present embodiment, a communication request from a non-user 202 to a
<<実施形態2>>
本実施形態では、音声情報および利用情報に加え、利用者の顔画像に関する情報を取得し、取得した情報に基づき要求に対する利用者201の対応を評価することで、より高精度にTFの検出処理を実行する態様について説明する。
<<
In this embodiment, in addition to voice information and usage information, information regarding the user's face image is acquired, and the response of the
<検出システムの適用例>
図11は、本実施形態に係る検出システムの適用例を示す図である。スマートフォン211を利用する利用者201と、スマートフォン211等の電子機器を利用しない非利用者202とが同じ部屋に居て、非利用者202が利用者201に対してコミュニケーションを要求する場面であるとする。なお、ここでは、本実施形態の検出システムが、撮像を行う撮像装置1101を付帯したスマートフォン211に適用されているとする。なお、撮像装置1101は、例えば、スマートフォン211の操作パネル側にあるフロントカメラであるとする。
<Application example of detection system>
FIG. 11 is a diagram showing an application example of the detection system according to this embodiment. Suppose that a
スマートフォン211は、利用者201によって操作されるデバイス(電子機器)である。スマートフォン211は、利用者201がスマートフォン211を利用した状況を示す利用情報と、スマートフォン211周囲の音声に関する音声情報と取得する。さらに、スマートフォン211は、撮像装置1101が利用者201を撮像して利用者201の顔画像(静止画または動画)を取得する。
The
<検出システムの機能構成>
図12は、本実施形態に係る検出システム1200の機能構成例を示す図である。本実施形態では、実施形態1の検出システム100との差分を中心に説明する。検出システム1200は、実施形態1の検出システム100が有する機能部301-306と、画像取得部1201とを有する。検出システム1200は、外部機器である撮像装置1101と接続する。なお、撮像装置1101は、検出システム1200と接続する形態に限定されず、検出システム1200の内部に含まれる形態であってもよい。
<Functional configuration of detection system>
FIG. 12 is a diagram showing an example of the functional configuration of a
画像取得部1201は、検出システム1200と接続するスマートフォン211の撮像装置1101で撮像して得た撮像画像を取得する。取得した撮像画像は、検出システム1200の対応評価部304に提供される。
The
本実施形態の対応評価部304は、実施形態1と同様、音声情報および利用情報に基づき、非利用者202から利用者201へのコミュニケーション要求に対する対応について所定の対応評価項目を評価する。また、対応評価部304は、画像取得部1201にて取得した撮像画像に基づき、非利用者202から利用者201へのコミュニケーション要求に対する対応について詳細につき後述する対応評価項目を評価する。そして、評価結果を基に対応評価値を求める。なお、本実施形態の対応評価部304は、S402にて、音声情報、利用情報および撮像画像に基づき、要求に対する利用者201の対応について対応評価項目を評価して対応評価値を算出する。算出した対応評価値は、TF検出部305に送られ、TFスコアおよびTFスコア総和の算出に用いられる。
Similar to
<対応評価結果>
図13は、検出システム1200が有する対応評価部304にて算出した対応評価結果例を示す図である。なお、図13に示す対応評価結果例について、図6に示す対応評価結果例との差分を中心に説明する。時刻1301は時刻601に、評価項目1302は評価項目602に、評価項目1303は評価項目603にそれぞれ対応する。
<Results of response evaluation>
FIG. 13 is a diagram showing an example of a correspondence evaluation result calculated by the
対応評価結果1300は、時刻1301にて示される時刻毎に、デバイス利用有無に関する評価項目1302の評価結果、対応時の発言内容に関する評価項目1303の評価結果を有する。さらに、対応評価結果1300は、時刻1301にて示される時刻毎に、目線がデバイスであるかに関する評価項目1304の評価結果を有する。
The
目線がデバイスであるかに関する評価項目1304では、画像取得部1201にて取得した撮像画像に基づき、利用者201の目線(視線)がデバイス(スマートフォン211)の画面にあるかに関する評価結果と、この評価結果に対応した評価値を示している。すなわち、要求に対する対応時に、利用者201の視線方向がスマートフォン211であると、利用者201が非利用者202を見ていないことを示すことになる。また、要求に対する対応時に、利用者201の視線方向がスマートフォン211でないと、利用者201が非利用者202を見ている可能性があることを示すことになる。
The
利用者201の視線がデバイス(スマートフォン211)の画面にあるかに関し、例えば、非特許文献5に記載の技術などの公知の技術を用いることが可能である。目線がデバイスであるかに関し、撮像画像を解析して利用者201の目線がデバイスの画面にあるとの解析結果が得られると、Yesと評価することになる。他方、撮像画像を解析して利用者201の目線がデバイスの画面でないとの解析結果が得られると、Noと評価することになる。すなわち、撮像画像を解析して利用者201の視線情報を取得し、取得した視線情報に基づき、利用者201の目線がデバイスであるか評価するともいえる。なお、「Yes」の評価結果に対応する評価値は2であり、「No」の評価結果に対応する評価値は0であるとするが、これに限定されない。
Regarding whether the line of sight of the
なお、上述の対応評価結果1300について、時刻1301の「t0」において、評価項目1302では「有(3)」を、評価項目1303では「不適切(2)」を、評価項目1304では「Yes(2)」を示している。対応評価結果1300では、対応評価値として、3+2+2の7が求められる。
Regarding the above-mentioned
以上説明した通り、本実施形態によれば、撮像画像を解析した得た利用者201の視線情報を利用して、利用者201の目線がスマートフォン211の画面にあるかについても、要求に対する利用者201の対応の評価に用いることができる。これにより、利用者201と非利用者202とのコミュニケーションが、電子機器の利用により阻害されている状態であるかをより高精度に判定する。そして、コミュニケーションが阻害されている状態であると判定された場合に、コミュニケーションが阻害されている状態である旨を通知する。このような通知を行うことで、利用者201と非利用者202とのコミュニケーションが、電子機器の利用により阻害されている状態であることを認識することができる。
As explained above, according to the present embodiment, the line of sight information of the
<<実施形態3>>
本実施形態では、音声情報に加え、利用者および非利用者の位置情報と、非利用者の顔の向きを示す情報とを取得し、取得した情報に基づき非利用者の要求を評価することで、より高精度にTFの検出処理を実行する態様について説明する。
<<Embodiment 3>>
In this embodiment, in addition to voice information, location information of users and non-users, and information indicating the direction of the non-user's face are acquired, and the non-user's request is evaluated based on the acquired information. Now, a mode of executing TF detection processing with higher accuracy will be described.
<検出システムの適用例>
図14は、本実施形態に係る検出システムの適用例を示す図である。スマートフォン211を利用する利用者201と、スマートフォン211等の電子機器を利用しない非利用者202とが同じ部屋に居て、非利用者202が利用者201に対してコミュニケーションを要求する場面であるとする。なお、ここでは、撮像装置1401が、室内に設置されており、利用者201および非利用者202を撮像して、利用者201および非利用者202を含む撮像画像(静止画又は動画)を取得可能であるとする。取得した撮像画像は、不図示の通信手段を介して、スマートフォン211に送られる。本実施形態の検出システムが、スマートフォン211に適用されているとする。
<Application example of detection system>
FIG. 14 is a diagram showing an example of application of the detection system according to this embodiment. Suppose that a
<検出システムの機能構成>
図15は、本実施形態に係る検出システム1500の機能構成例を示す図である。本実施形態では、実施形態1の検出システム100との差分を中心に説明する。検出システム1500は、実施形態1の検出システム100が有する機能部301、302、304-306と、画像取得部1501とを有する。検出システム1500は、外部機器である撮像装置1401と接続する。撮像装置1401の方向は、撮像装置1401の姿勢に対する上下方向を軸とした回転(パン)、撮像装置1401の姿勢に対する左右方向を軸とした回転(チルト)が可能であるとする。
<Functional configuration of detection system>
FIG. 15 is a diagram showing an example of the functional configuration of a
画像取得部1501は、検出システム1500と接続する撮像装置1401で撮像して得た撮像画像を取得する。取得した撮像画像は、検出システム1500の要求評価部302および対応評価部304に提供される。
The
本実施形態の要求評価部302は、実施形態1と同様、非利用者202から利用者201へのコミュニケーションの要求を検出する。そして、要求評価部302は、要求の検出結果と、音声情報とに基づき、要求について所定の要求評価項目を評価する。また、要求評価部302は、画像取得部1501にて取得した撮像画像に基づき、非利用者202の要求について詳細につき後述する要求評価項目を評価する。そして、評価結果を基に要求評価値を求める。なお、本実施形態の要求評価部302は、S401にて、音声情報に基づき、非利用者202から利用者201へのコミュニケーションの要求を検出する。そして、要求評価部302は、要求の検出結果と音声情報と撮像画像とに基づき、要求について要求評価項目を評価して要求評価値を算出する。算出した要求評価値は、TF検出部305に送られ、TFスコアおよびTFスコア総和の算出に用いられる。
The
本実施形態の対応評価部304は、音声情報と、画像取得部1501にて取得した撮像画像とに基づき非利用者202から利用者201へのコミュニケーション要求に対する対応について対応評価項目を評価する。そして、評価結果を基に対応評価値を求める。なお、本実施形態の対応評価部304は、S402にて、音声情報および撮像画像に基づき、要求に対する利用者201の対応について対応評価項目を評価して対応評価値を算出する。算出した対応評価値は、TF検出部305に送られ、TFスコアおよびTFスコア総和の算出に用いられる。
The
<要求評価結果>
図16は、検出システム1500が有する要求評価部302にて算出した要求評価結果例を示す図である。なお、図16に示す要求評価結果例について、図5に示す要求評価結果例との差分を中心に説明する。時刻1601は時刻501に、評価項目1602は評価項目502に、評価項目1603は評価項目503に、評価項目1604は評価項目504にそれぞれ対応する。
<Requirements evaluation results>
FIG. 16 is a diagram showing an example of a request evaluation result calculated by the
要求評価結果1600は、時刻1601にて示される時刻毎に、デバイス利用者への要求有無に関する評価項目1602の評価結果、要求時の感情(種別/強度)に関する評価項目1603の評価結果、月齢/年齢に関する評価項目1604の評価結果を有する。さらに、要求評価結果1600は、時刻1601にて示される時刻毎に、顔の向きがデバイス利用者(利用者201)であるかに関する評価項目1605の評価結果、デバイス利用者(利用者201)との距離に関する評価項目1606の評価結果を有する。
The
顔の向きが利用者201であるかに関する評価項目1605は、画像取得部1501にて取得した撮像画像に基づき、非利用者202の顔の向きが利用者201であるかに関する評価結果と、この評価結果に対応した評価値とを示している。
The
顔の向きが利用者201であるかに関し、例えば、非特許文献6に記載の技術などの公知の技術を用いることが可能である。顔の向きが利用者201であるかに関し、撮像画像を解析して非利用者202の顔の向きが利用者201であるとの解析結果が得られると、Yesと評価することになる。他方、撮像画像を解析して非利用者202の顔の向きが利用者201でないとの解析結果が得られると、Noと評価することになる。すなわち、撮像画像を解析して非利用者202の顔情報を取得し、取得した顔情報に基づき、非利用者202の顔の向きが利用者201であるか評価するともいえる。なお、「Yes」の評価結果に対応する評価値は1であり、「No」の評価結果に対応する評価値は0であるとするが、これに限定されない。
Regarding whether the face direction is that of the
利用者201との距離に関する評価項目1606は、画像取得部1501にて取得した撮像画像に基づき、非利用者202と利用者201との距離に関する評価結果と、この評価結果に対応する評価値とを示している。
The evaluation item 1606 regarding the distance to the
利用者201との距離に関し、例えば、非特許文献7,8に記載の技術などの公知の技術を用いることが可能である。利用者201との距離に関し、撮像画像を解析して非利用者202と利用者201との距離が所定値未満であるとの解析結果が得られると、近いと評価することになる。他方、撮像画像を解析して非利用者202と利用者201との距離が所定値未満でないとの解析結果が得られると、遠いと評価することになる。すなわち、撮像画像を解析して非利用者202と利用者201の位置情報を取得し、取得した位置情報に基づき、非利用者202と利用者201の距離が所定値未満であるか評価するともいえる。なお、「近」の評価結果に対応する評価値は1であり、「遠」の評価結果に対応する評価値は0であるとするが、これに限定されない。
Regarding the distance to the
なお、上述の要求評価結果1600について、時刻1601の「t0」において、評価項目1602では「有(5)」を、評価項目1603では「哀/小(1)」を、評価項目1604では「24ヶ月(1)」を示している。また、要求評価結果1600について、時刻1601の「t0」において、評価項目1605では「Yes(1)」を、評価項目1606では「近(1)」を示している。要求評価結果1600では、要求評価値として、5+1+1+1+1の9が求められる。
Regarding the above-mentioned
以上説明した通り、本実施形態によれば、撮像画像を解析して得た非利用者202の顔情報を利用して、非利用者202の顔の向きが利用者201であるかについても、要求の評価に用いることができる。また、撮像画像を解析して得た利用者201および非利用者202の位置情報を利用して、非利用者202と利用者201の距離についても、要求の評価に用いることができる。これにより、利用者201と非利用者202とのコミュニケーションが、電子機器の利用により阻害されている状態であるかをより高精度に判定する。そして、コミュニケーションが阻害されている状態であると判定された場合に、コミュニケーションが阻害されている状態である旨を通知する。このような通知を行うことで、利用者201と非利用者202とのコミュニケーションが、電子機器の利用により阻害されている状態であることを認識することができる。
As explained above, according to the present embodiment, it is also possible to determine whether the non-user 202's face is facing the
本開示の技術は、例えばシステム、装置、データ処理方法、プログラムもしくは記憶媒体等としての実施態様を取ることも可能である。具体的には複数の機器から構成されるシステムに適用してもよいし、一つの機器からなる装置に適用してもよい。 The technology of the present disclosure can also be implemented as, for example, a system, a device, a data processing method, a program, a storage medium, or the like. Specifically, the present invention may be applied to a system composed of a plurality of devices, or to a device composed of a single device.
また本開示の技術は、以下の処理を実行する事によっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワークまたは各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU)がプログラムを読み出して実行する処理である。 Further, the technology of the present disclosure can also be realized by executing the following processing. That is, the software (program) that realizes the functions of the embodiments described above is supplied to a system or device via a network or various storage media, and the computer (or CPU or MPU) of the system or device reads and executes the program. This is the process of
(その他の実施形態)
上記では、TFの検出結果を、利用者201が操作するスマートフォン211に通知する態様について説明したが、通知先はこれに限定されない。例えば、非利用者202が子供であり、利用者201が非利用者202の父親である場合に、非利用者202の母親が保持するスマートフォンに通知してもよい。また、部屋にあるテレビなどの表示装置に通知してもよい。非利用者202が乳幼児であり、利用者201が非利用者202を養育する保育士である場合、当該保育士でない別の保育士が保持するスマートフォンに通知してもよい。また、主任保育士が保持するスマートフォンに通知してもよいし、保育士の職員室に設置される表示装置などに通知してもよい。
(Other embodiments)
In the above, a mode has been described in which the TF detection result is notified to the
上記では、利用者201と非利用者202とのコミュニケーションが、スマートフォン211の利用により阻害されている状態を検出したときに、コミュニケーションが阻害されている状態である旨を通知する形態について説明したが、これに限定されない。利用者201と非利用者202とのコミュニケーションが、スマートフォン211の利用により阻害されていない状態を検出したときに、コミュニケーションが阻害されていない状態である旨を通知する形態であってもよい。利用者201と非利用者202とのコミュニケーションが、スマートフォン211の利用により阻害されている状態であるかを検出し、検出結果に基づき、前記状態に関する情報を通知してもよい。
In the above description, when a state in which communication between the
上記では、所定の条件を満たすときに、デバイスにメッセージを通知する通知処理について説明したが、これに限定されない。例えば、アラームで通知してもよい。また、検出回数に応じて、通知するメッセージ内容を変えたり、アラームの種類や音量を変えたりするなど、通知内容に軽重を付加するような処理を行ってもよい。また、通知回数が所定値を越えたときに、電子機器を強制終了するような処理を行ってもよい。 Although the above describes the notification process of notifying the device of a message when a predetermined condition is met, the present invention is not limited to this. For example, an alarm may be used for notification. Further, depending on the number of detections, processing may be performed to add weight to the notification content, such as changing the content of the message to be notified, or changing the type and volume of the alarm. Further, when the number of notifications exceeds a predetermined value, processing may be performed such as forcibly shutting down the electronic device.
上記では、デバイス利用者への要求有無、要求時の感情、月齢の全ての評価値から要求評価値を算出したり、これらの評価値と、非利用者の顔の向きおよび利用者との距離の評価値とから要求評価値を算出したりする場合を説明したが、これに限定されない。要求時の感情、月齢、非利用者の顔の向き、利用者との距離のうち少なくとも1つの評価値と、デバイス利用者への要求有無の評価値とから要求評価値を算出してもよい。 In the above, the request evaluation value is calculated from all evaluation values such as presence or absence of a request to the device user, emotion at the time of the request, and age in months, and also calculates the request evaluation value from the evaluation values of the device user, the direction of the face of the non-user, and the distance from the user. Although a case has been described in which the required evaluation value is calculated from the evaluation value of , the present invention is not limited to this. The request evaluation value may be calculated from the evaluation value of at least one of the emotion at the time of the request, the age in months, the direction of the non-user's face, and the distance from the user, and the evaluation value of whether or not the request is made to the device user. .
また、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。 Further, a process of supplying a program that implements one or more functions of the above-described embodiments to a system or device via a network or a storage medium, and having one or more processors in a computer of the system or device read and execute the program. But it is possible. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.
本実施形態の開示は、以下の構成例、方法例およびプログラム例を含む。 The disclosure of this embodiment includes the following configuration example, method example, and program example.
(構成1)
電子機器を利用する利用者に対する他者からのコミュニケーションの要求を評価する第1の評価手段と、
前記要求に対する前記利用者の対応を評価する第2の評価手段と、
前記第1の評価手段による第1の評価結果と、前記第2の評価手段による第2の評価結果とに基づき、前記利用者と前記他者とのコミュニケーションが、前記電子機器の利用により阻害されている状態であるかを判定する判定手段と、
前記判定手段により前記コミュニケーションが阻害されている状態であると判定された場合に、前記コミュニケーションが阻害されている状態である旨を通知する通知手段と、
を有することを特徴とする情報処理装置。
(Configuration 1)
a first evaluation means for evaluating a communication request from another person to a user using an electronic device;
a second evaluation means for evaluating the user's response to the request;
Based on the first evaluation result by the first evaluation means and the second evaluation result by the second evaluation means, communication between the user and the other person is hindered by the use of the electronic device. determination means for determining whether the state is
Notifying means for notifying that the communication is being inhibited when the determining means determines that the communication is being inhibited;
An information processing device comprising:
(構成2)
前記利用者および前記他者の音声、または前記利用者および前記他者を含む撮像画像、または前記音声および前記撮像画像を取得する取得手段をさらに有し、
前記第1の評価手段は、前記音声、前記撮像画像、または、前記音声および前記撮像画像を解析して得た解析結果に基づき前記要求を評価する
ことを特徴とする構成1に記載の情報処理装置。
(Configuration 2)
further comprising an acquisition means for acquiring voices of the user and the other person, or a captured image including the user and the other person, or the voice and the captured image,
The information processing according to
(構成3)
前記第1の評価手段は、前記解析で得た前記要求の有無に基づき、前記要求を評価する
ことを特徴とする構成2に記載の情報処理装置。
(Configuration 3)
The information processing device according to
(構成4)
前記第1の評価手段は、前記解析で得た、前記要求時の前記他者の感情、前記解析で得た前記他者の年齢、前記解析で得た前記他者の顔の向き、前記解析で得た前記他者と前記利用者との距離のうち少なくとも1つと、前記要求の有無とに基づき、前記要求を評価する、ことを特徴とする構成2または3に記載の情報処理装置。
(Configuration 4)
The first evaluation means includes the emotion of the other person at the time of the request obtained from the analysis, the age of the other person obtained from the analysis, the orientation of the other person's face obtained from the analysis, and the analysis. 4. The information processing apparatus according to
(構成5)
前記第1の評価手段は、前記要求を検出する検出手段を有し、
前記検出手段は、前記音声を解析して得た発言内容、前記音声を解析して得た前記他者の年齢のうち少なくとも1つを基に、前記要求を検出する
ことを特徴とする構成2から4の何れか1つに記載の情報処理装置。
(Configuration 5)
The first evaluation means includes a detection means for detecting the request,
(構成6)
前記取得手段は、前記利用者および前記他者の音声、または前記利用者および前記他者を含む撮像画像、または前記電子機器の利用状況を示す利用情報、または前記音声および前記撮像画像および前記利用情報の組み合わせを取得し、
前記第2の評価手段は、前記音声、前記撮像画像、前記利用情報、または、前記音声および前記撮像画像および前記利用情報の組み合わせを解析して得た解析結果に基づき前記対応を評価する
ことを特徴とする構成2から5の何れか1つに記載の情報処理装置。
(Configuration 6)
The acquisition means may acquire the voice of the user and the other person, or a captured image including the user and the other person, or usage information indicating the usage status of the electronic device, or the voice, the captured image, and the usage information. Get a combination of information,
The second evaluation means evaluates the response based on an analysis result obtained by analyzing the audio, the captured image, the usage information, or a combination of the audio, the captured image, and the usage information. The information processing device according to any one of
(構成7)
前記第2の評価手段は、前記解析で得た、前記利用者による前記電子機器の利用の有無、前記解析で得た、前記利用者による対応時の発言内容、および前記解析で得た、前記利用者の視線方向のうち少なくとも1つに基づき、前記対応を評価する
ことを特徴とする構成6に記載の情報処理装置。
(Configuration 7)
The second evaluation means includes whether or not the user uses the electronic device, which is obtained from the analysis, what the user says when responding, which is obtained from the analysis, and the information obtained from the analysis. The information processing device according to configuration 6, wherein the correspondence is evaluated based on at least one of the user's gaze directions.
(構成8)
前記判定手段は、現在の前記第1の評価結果および前記第2の評価結果に基づく現在の評価値と、当該現在の評価値を含む過去所定回数分の評価値の総和とに基づき、前記コミュニケーションが阻害されている状態であるか判定する
ことを特徴とする構成1から7の何れか1つに記載の情報処理装置。
(Configuration 8)
The determining means is configured to evaluate the communication based on a current evaluation value based on the current first evaluation result and the second evaluation result, and a sum of evaluation values for a predetermined number of times in the past including the current evaluation value. 8. The information processing apparatus according to any one of
(構成9)
前記利用者は養育者であり、前記他者は当該養育者が養育する子供である
ことを特徴とする構成1から8の何れか1つに記載の情報処理装置。
(Configuration 9)
9. The information processing device according to any one of
(構成10)
前記利用者は子供であり、前記他者は当該子供を養育する養育者である
ことを特徴とする構成1から8の何れか1つに記載の情報処理装置。
(Configuration 10)
9. The information processing device according to any one of
(方法1)
電子機器を利用する利用者に対する他者からのコミュニケーションの要求を評価する第1の評価工程と、
前記要求に対する前記利用者の対応を評価する第2の評価工程と、
前記第1の評価工程による第1の評価結果と、前記第2の評価工程による第2の評価結果とに基づき、前記利用者と前記他者とのコミュニケーションが、前記電子機器の利用により阻害されている状態であるかを判定する判定工程と、
前記判定工程にて前記コミュニケーションが阻害されている状態であると判定された場合に、前記コミュニケーションが阻害されている状態である旨を通知する通知工程と、
を含むことを特徴とする情報処理方法。
(Method 1)
a first evaluation step of evaluating communication requests from others to users of electronic devices;
a second evaluation step of evaluating the user's response to the request;
Based on the first evaluation result from the first evaluation step and the second evaluation result from the second evaluation step, communication between the user and the other person is hindered by the use of the electronic device. a determination step of determining whether the state is
a notification step of notifying that the communication is being inhibited when it is determined in the determining step that the communication is being inhibited;
An information processing method characterized by comprising:
(プログラム1)
コンピュータを、構成1から10の何れか1つに記載の情報処理装置の手段として機能させるためのプログラム。
(Program 1)
A program for causing a computer to function as means for the information processing apparatus according to any one of
Claims (12)
前記要求に対する前記利用者の対応を評価する第2の評価手段と、
前記第1の評価手段による第1の評価結果と、前記第2の評価手段による第2の評価結果とに基づき、前記利用者と前記他者とのコミュニケーションが、前記電子機器の利用により阻害されている状態であるかを判定する判定手段と、
前記判定手段により前記コミュニケーションが阻害されている状態であると判定された場合に、前記コミュニケーションが阻害されている状態である旨を通知する通知手段と、
を有することを特徴とする情報処理装置。 a first evaluation means for evaluating a communication request from another person to a user using an electronic device;
a second evaluation means for evaluating the user's response to the request;
Based on the first evaluation result by the first evaluation means and the second evaluation result by the second evaluation means, communication between the user and the other person is hindered by the use of the electronic device. determination means for determining whether the state is
Notifying means for notifying that the communication is being inhibited when the determining means determines that the communication is being inhibited;
An information processing device comprising:
前記第1の評価手段は、前記音声、前記撮像画像、または、前記音声および前記撮像画像を解析して得た解析結果に基づき前記要求を評価する
ことを特徴とする請求項1に記載の情報処理装置。 further comprising an acquisition means for acquiring voices of the user and the other person, or a captured image including the user and the other person, or the voice and the captured image,
The information according to claim 1, wherein the first evaluation means evaluates the request based on the voice, the captured image, or an analysis result obtained by analyzing the voice and the captured image. Processing equipment.
ことを特徴とする請求項2に記載の情報処理装置。 The information processing apparatus according to claim 2, wherein the first evaluation means evaluates the request based on the presence or absence of the request obtained through the analysis.
前記検出手段は、前記音声を解析して得た発言内容、前記音声を解析して得た前記他者の年齢のうち少なくとも1つを基に、前記要求を検出する
ことを特徴とする請求項2に記載の情報処理装置。 The first evaluation means includes a detection means for detecting the request,
The detection means detects the request based on at least one of the content of the statement obtained by analyzing the voice and the age of the other person obtained by analyzing the voice. 2. The information processing device according to 2.
前記第2の評価手段は、前記音声、前記撮像画像、前記利用情報、または、前記音声および前記撮像画像および前記利用情報の組み合わせを解析して得た解析結果に基づき前記対応を評価する
ことを特徴とする請求項2に記載の情報処理装置。 The acquisition means may acquire the voice of the user and the other person, or a captured image including the user and the other person, or usage information indicating the usage status of the electronic device, or the voice, the captured image, and the usage information. Get a combination of information,
The second evaluation means evaluates the response based on an analysis result obtained by analyzing the audio, the captured image, the usage information, or a combination of the audio, the captured image, and the usage information. The information processing device according to claim 2.
ことを特徴とする請求項6に記載の情報処理装置。 The second evaluation means includes whether or not the user uses the electronic device, which is obtained from the analysis, what the user says when responding, which is obtained from the analysis, and the information obtained from the analysis. The information processing device according to claim 6, wherein the correspondence is evaluated based on at least one of the user's gaze directions.
ことを特徴とする請求項1に記載の情報処理装置。 The determining means is configured to evaluate the communication based on a current evaluation value based on the current first evaluation result and the second evaluation result, and a sum of evaluation values for a predetermined number of times in the past including the current evaluation value. The information processing apparatus according to claim 1, wherein the information processing apparatus determines whether or not the information processing apparatus is in a state where the information processing apparatus is inhibited.
ことを特徴とする請求項1に記載の情報処理装置。 The information processing device according to claim 1, wherein the user is a caregiver, and the other person is a child raised by the caregiver.
ことを特徴とする請求項1に記載の情報処理装置。 The information processing apparatus according to claim 1, wherein the user is a child, and the other person is a caregiver who takes care of the child.
前記要求に対する前記利用者の対応を評価する第2の評価工程と、
前記第1の評価工程による第1の評価結果と、前記第2の評価工程による第2の評価結果とに基づき、前記利用者と前記他者とのコミュニケーションが、前記電子機器の利用により阻害されている状態であるかを判定する判定工程と、
前記判定工程にて前記コミュニケーションが阻害されている状態であると判定された場合に、前記コミュニケーションが阻害されている状態である旨を通知する通知工程と、
を含むことを特徴とする情報処理方法。 a first evaluation step of evaluating communication requests from others to users of electronic devices;
a second evaluation step of evaluating the user's response to the request;
Based on the first evaluation result from the first evaluation step and the second evaluation result from the second evaluation step, communication between the user and the other person is hindered by the use of the electronic device. a determination step of determining whether the state is
a notification step of notifying that the communication is being inhibited when it is determined in the determining step that the communication is being inhibited;
An information processing method characterized by comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022094635A JP2023180943A (en) | 2022-06-10 | 2022-06-10 | Information processing device, information processing method and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022094635A JP2023180943A (en) | 2022-06-10 | 2022-06-10 | Information processing device, information processing method and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023180943A true JP2023180943A (en) | 2023-12-21 |
Family
ID=89307141
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022094635A Pending JP2023180943A (en) | 2022-06-10 | 2022-06-10 | Information processing device, information processing method and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023180943A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220335928A1 (en) * | 2019-08-19 | 2022-10-20 | Nippon Telegraph And Telephone Corporation | Estimation device, estimation method, and estimation program |
-
2022
- 2022-06-10 JP JP2022094635A patent/JP2023180943A/en active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220335928A1 (en) * | 2019-08-19 | 2022-10-20 | Nippon Telegraph And Telephone Corporation | Estimation device, estimation method, and estimation program |
US11996086B2 (en) * | 2019-08-19 | 2024-05-28 | Nippon Telegraph And Telephone Corporation | Estimation device, estimation method, and estimation program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3751823B1 (en) | Generating iot-based notification(s) and provisioning of command(s) to cause automatic rendering of the iot-based notification(s) by automated assistant client(s) of client device(s) | |
KR102599607B1 (en) | Dynamic and/or context-specific hot words to invoke automated assistant | |
KR20160127117A (en) | Performing actions associated with individual presence | |
US10403272B1 (en) | Facilitating participation in a virtual meeting using an intelligent assistant | |
JP6292295B2 (en) | Cooperation system, apparatus, method, and recording medium | |
US9977510B1 (en) | Gesture-driven introduction system | |
JP2017144521A (en) | Information processing device, information processing method and program | |
TWI823055B (en) | Electronic resource pushing method and system | |
JP2023180943A (en) | Information processing device, information processing method and program | |
JP6973380B2 (en) | Information processing device and information processing method | |
JP2019208167A (en) | Telepresence system | |
US11936718B2 (en) | Information processing device and information processing method | |
US12100398B2 (en) | Generating IoT-based notification(s) and provisioning of command(s) to cause automatic rendering of the IoT-based notification(s) by automated assistant client(s) of client device(s) | |
US11157232B2 (en) | Interaction context-based control of output volume level | |
CN116210201A (en) | User authentication based on identity prediction confidence |