JP2024520442A - 隠れたストレッサの有効な識別および通知 - Google Patents

隠れたストレッサの有効な識別および通知 Download PDF

Info

Publication number
JP2024520442A
JP2024520442A JP2023572853A JP2023572853A JP2024520442A JP 2024520442 A JP2024520442 A JP 2024520442A JP 2023572853 A JP2023572853 A JP 2023572853A JP 2023572853 A JP2023572853 A JP 2023572853A JP 2024520442 A JP2024520442 A JP 2024520442A
Authority
JP
Japan
Prior art keywords
information
user
image data
text information
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023572853A
Other languages
English (en)
Inventor
ハーウィッツ,ジョナサン・ディ
ワン,ダイアン・シィ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Google LLC
Original Assignee
Google LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Google LLC filed Critical Google LLC
Publication of JP2024520442A publication Critical patent/JP2024520442A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • G06N20/10Machine learning using kernel methods, e.g. support vector machines [SVM]
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Pathology (AREA)
  • General Business, Economics & Management (AREA)
  • Business, Economics & Management (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

ローカルな、および内密のモデルが、あらかじめ決定されたしきい値を超えてストレス性である事象に関する通知を提供するために、ユーザのローカルデバイス上のテキスト的、視覚的、および聴覚的コンテンツを分析するために使用され得る。訓練されたモデルは、健康センサデータおよびコンテンツの分析の組合せによって訓練され得る。複数のモデルまたは技術が、コンテンツを分析し、コンテンツをベクトル化するために使用され得る。ベクトルベースの手法が、あらかじめ決定されたしきい値を満たすときに、将来のコンテンツをストレス性と分類するために使用され得る。

Description

関連出願の相互参照
本出願は、2021年5月26日に出願された米国特許出願第17/331,077号の継続出願であり、その米国特許出願の開示は、参照により本明細書に組み込まれる。
背景
精神的健康ストレッサは、識別および追跡するのが困難であるが、それらのストレッサを理解することは、総体的なウェルビーイングを維持するために重要である。コンピューティングがよりユビキタスになるにつれて、人々は、コンピューティングデバイスがそれらの人々をさらすことがあるストレス性コンテンツおよび状況に対して、具体的な理解および制御を得ることができ得る。より詳細には、ニュース、メッセージング、およびソーシャルメディアにわたる、特定のタイプのコンテンツは、ストレスを引き起こし、ユーザのウェルビーイングに負の影響を与えることが示されている。
「スクリーンタイム」または「アクティビティ」に関係付けられた通知は、生きた、もしくは有効な健康情報、または、根底にあるコンテンツに結び付けられない。このように、メディア、アプリケーション、またはコンテンツの中に内包されるストレッサの精神的な、潜在意識の、または心理学的な影響は、認識されず、しばしば、ユーザによって検出されないか、または気付かれないということになり得る。
概要
本開示の態様は、隠れたストレッサの有効な識別および通知のための方法、システム、および装置を含む。
開示される本テクノロジーの態様は、健康ストレッサを決定するための方法を含み得る。方法は、ユーザのユーザデバイス上に表示されるテキスト情報、および、ユーザデバイス上に表示される画像データのうちの1つまたは複数を含む入力情報を受け取るステップと、ユーザと関連付けられたウェアラブルデバイスから、所与の時間マーカにおいて健康情報を受け取るステップと、受け取られた健康情報は少なくともしきい値の値であるという決定に基づいて、テキスト情報および画像データのうちの少なくとも1つを、所与の時間マーカと関連付けるステップと、モデルを使用して、受け取られた健康情報に基づいて、他のテキスト情報または他の画像データを、テキスト情報または画像データに相関させるステップとを含み得る。方法は、さらには、他のテキスト情報および他の画像データは、受け取られた健康情報と関連付けられたテキスト情報および画像データと相関しているという決定に基づいて、ストレスインジケータを生成するステップを含み得る。
開示される本テクノロジーのこの態様によれば、方法は、例えば、第1の数値を生み出すために、テキスト情報を分類するステップと、第2の数値を生み出すために、テキスト情報と関連付けられたトピックカテゴリを決定するステップと、第3の数値を生み出すために、画像データを分類するステップと、第1、第2、および第3の数値と、受け取られた健康情報とを含む第1のベクトルを形成するステップとを含み得る。さらに、本テクノロジーのこの態様によれば、相関させるステップは、第1のベクトルの受け取られた健康情報を使用して、複数のベクトルを有するベクトル空間を検索するステップを含み得る。そのことによって、形成された第1のベクトルは、表示されることになるコンテンツが、(個々のユーザにとっての)ストレス性コンテンツであることのリスクを伴い得るかどうかを決定するために、健康情報に基づいて、後で受け取られた入力情報を、先に受け取られた入力情報と効果的に相関させるために使用され得る。さらに、本テクノロジーのこの態様によれば、テキスト情報を分類するステップは、感情分類器を使用してテキスト情報を分類するステップを含み得る。加えて、感情分類器の出力は、第1の数値を含む数値にマッピングされ得る。その上、感情分類器は、サポートベクトルマシン(SVM)、ベイジアン分類器、または、長短期記憶(LSTM)導出モデルのうちの1つを含み得る。
方法によれば、画像データは、例えば、ビデオまたは静止画像データを含み得る。一部の例において、画像データは、ユーザデバイス上のアプリケーションを通して視聴可能であり得る。一部の例において、健康情報は、心拍数、心拍数変動、体温、EDA活動からのストレス、ユーザモーション、および睡眠データのうちの1つまたは複数を含み得る。
方法によれば、ストレスインジケータは、ユーザにストレッサ事象を通知するメッセージを含み得る。
開示される本テクノロジーの別の態様は、装置を含み得る。装置は、例えば、ポータブルコンピューティングデバイス(例えば、スマートフォン、ラップトップ、タブレット)またはデスクトップコンピューティングデバイス(例えば、PC、TV)などのコンピューティング装置を含み得る。
開示される本テクノロジーのこの態様によれば、装置は、通信インターフェースと、ディスプレイと、1つまたは複数のメモリデバイスに結合された1つまたは複数のコンピューティングデバイスとを含み得るものであり、1つまたは複数のメモリデバイスは、入力情報および健康情報を処理することを1つまたは複数の処理デバイスに行わせる命令を内包する。実例として、命令は、ディスプレイ上に表示されるテキスト情報および画像データのうちの1つまたは複数を含む入力情報を取得することと、ユーザと関連付けられたウェアラブルデバイスから、所与の時間マーカにおいて健康情報を取得することと、受け取られた健康情報は少なくともしきい値の値であるという決定に基づいて、テキスト情報および画像データのうちの少なくとも1つを、所与の時間マーカと関連付けることと、モデルを使用して、受け取られた健康情報に基づいて、他のテキスト情報または他の画像データを、テキスト情報または画像データに相関させることとを、1つまたは複数の処理デバイスに行わせ得る。開示される本テクノロジーのこの態様によれば、命令は、他のテキスト情報および他の画像データは、受け取られた健康情報と関連付けられたテキスト情報および画像データと相関しているという決定に基づいて、ストレスインジケータを生成することを、1つまたは複数の処理デバイスに行わせ得る。
開示される本テクノロジーのこの態様によれば、1つまたは複数の命令は、さらには、後に続く動作、すなわち、第1の数値を生み出すために、テキスト情報を分類する動作、第2の数値を生み出すために、テキスト情報と関連付けられたトピックカテゴリを決定する動作、第3の数値を生み出すために、画像データを分類する動作、ならびに第1、第2、および第3の数値と、受け取られた健康情報とを含む第1のベクトルを形成する動作のうちの1つまたは複数を遂行することを、1つまたは複数の処理デバイスに行わせ得る。加えて、命令は、第1のベクトルの受け取られた健康情報を使用して、複数のベクトルを有するベクトル空間を検索することによって相関させることを、1つまたは複数の処理デバイスに行わせ得る。さらに、命令は、感情分類器を使用してテキスト情報を分類することによって、テキスト情報を分類することを、1つまたは複数の処理デバイスに行わせ得る。一部の例において、感情分類器の出力は、第1の数値を含む数値にマッピングされる。一部の例において、感情分類器は、サポートベクトルマシン(SVM)、ベイジアン分類器、または、長短期記憶(LSTM)導出モデルのうちの1つを含む。
開示される本テクノロジーのこの態様によれば、画像データは、ビデオまたは静止画像データを含み得る。さらに、画像データは、装置上のアプリケーションを通して視聴可能である。
開示される本テクノロジーのこの態様によれば、健康情報は、心拍数、心拍数変動、体温、EDA活動からのストレス、ユーザモーション、および睡眠データのうちの1つまたは複数を含み得る。
開示される本テクノロジーのこの態様によれば、ストレスインジケータは、ユーザにストレッサ事象を通知するメッセージを含み得る。
付随する図面は、一定の縮尺で描画されることを意図されない。様々な図面における類する参照番号および記号は、類する要素を指示する。明確さの目的のために、あらゆる構成要素が、あらゆる図面においてラベル付けされるとは限らないことがある。図面において、次の通りである。
本開示の態様によるエレクトロニクスの概略図面である。 本開示の態様によるPPG機能の能力をもつウェアラブルユーザデバイスの例解の図である。 本開示の態様によるユーザインターフェースの図である。 本開示の態様によるユーザインターフェースの図である。 本開示の態様によるデバイス同士の間の通信の概略図である。 本開示の態様によるデバイス同士の間の通信の概略図である。 本開示の態様による2つのPPGモジュールの間の通信の概略図である。 本開示の態様による例示的な方法のフローチャートである。 本開示の態様による例示的な方法のフローチャートである。
詳細な説明
概観
本テクノロジーは、対象者またはユーザにとっての、ストレスに関係付けられた刺激を識別するための技術に関する。より具体的には、本テクノロジーは、対象者と関連付けられた健康統計を測定し、デバイスのディスプレイ上で対象者によって視聴されるコンテンツを検出する。健康統計および検出されたコンテンツは、次いで、対象者にとっての精神的ストレッサを検出、識別、および追跡するために相関させられ得る。加えて、本テクノロジーは、そのようなストレッサが対象者の精神的および身体的健康に与え得る負の影響を低減することを可能にするために、対象者にそのようなストレッサを通知し得る。したがって、提案される解決法によって、ストレスインジケータを自動的に生成するために、測定された健康統計を、ユーザに表示されるコンテンツに関するコンテンツ情報と組み合わせることが可能となり、そのストレスインジケータは、通知を表示すること、ストレスインジケータデータを(例えば、別のデバイスに)送り出すこと、および/または、ストレスインジケータに基づいて将来のコンテンツを分類することなどの、ユーザデバイス上の動作事象をトリガし得る。
例えば1つまたは複数のコンピューティングデバイスによる、ストレッサの識別および追跡は、対象者にとってのストレスを軽減するために使用され得る。開示される本テクノロジーの態様は、ストレッサを識別し、追跡し、ユーザまたは対象者に通知し、そのことによって、そのような対象者に、ストレス性コンテンツを回避する、または軽減するためのツールを提供するための枠組み内で、感情分析、ならびに、クロスデバイスハードウェアおよびソフトウェア信号を使用する。このことは、ひいては、そのようなストレッサが対象者に与える、精神的および/または身体的健康への負の影響を低減するはずである。
例えば、ウェアラブルデバイスが、心拍数、酸素飽和レベル、EDA活動からのストレス、体温、運動(例えば、歩数、歩いた距離、または走った距離)、および睡眠データなどの、対象者と関連付けられた、健康に関係付けられた特徴を監視し得る。これらの特徴は、ユーザがコンテンツを視聴し得る、第2のデバイス、例えば、スマートフォンまたはスマートTVに提供され得る。第2のデバイスが、健康に関係付けられた特徴のうちの1つまたは複数がしきい値を満たすか、または、しきい値を上回ると決定するとき、第2のデバイスは、何の画面上のコンテンツが、しきい値を上回った時間において対象者によって視聴されていたかを決定し、ユーザにストレッサ事象を通知し得る。実例として、対象者の心拍数がしきい値の値(例えば、80bpm)を上回る場合、第2のデバイスは、対象者の心拍数がしきい値を上回った時間におけるユーザの画面上のコンテンツのタイプを決定し得る。他の例において、信号の組合せが、しきい値の値またはしきい値条件を決定するために使用され得る。しきい値を上回るとき、ユーザは、ユーザの心拍数がしきい値を上回ったということ、および、心拍数がしきい値を上回ったときに画面上に表示されたコンテンツのタイプを通知され得る。コンテンツのタイプは、さらには、同様のコンテンツが画面上に現れるときに、対象者が、そのようなコンテンツは対象者にとってのストレッサ事象であり得るということを通知され得るように、第2のデバイスの中でタギングされ得る。
開示される本テクノロジーの態様は、どのように刺激が精神的および生理学的に対象者またはユーザに影響を与えるかを推定するために、複数個の入力を使用する。すべての入力は、モデルを使用して、対象者のデバイス上でローカルに処理される。入力信号は、アプリケーション(例えば、YouTube(登録商標)およびウェブブラウザ)によってユーザに視聴可能なビデオおよび映像を含み得る。ウェブブラウザまたはソーシャルメディアアプリケーションによって閲覧可能なテキスト情報が、さらには、入力として役立ち得るが、そのような情報は、単に、ユーザによって読まれ得る出力を生成するモデルの目的のために使用される。加えて、モデル入力は、このサービスを提供するエンティティ、例えばGoogle(登録商標)とも、いかなるサードパーティとも共有されない。開示される本テクノロジーは、ユーザデバイス上の別個のアプリケーション(例えば、ストレッサアプリケーション)として実現されることがあり、単に、ユーザによって承認されている(例えば、ホワイトリストに載せられている)アプリケーション上でユーザによって視聴されるコンテンツを監視し得る。実例として、そのようなアプリケーションは、どのアプリケーションがストレッサの監視および通知に使用されるためにホワイトリストに載せられるべきであるかを、ユーザに求め得る。加えて、経時的に、ユーザは、ホワイトリストに載せられたアプリケーションを追加または除去し得る。さらに、ストレスアプリケーションは、記憶された情報が、および、訓練されたモデルを含む生成されたいかなる情報も除去されるように、生成された、または、アプリケーションに関係付けられたすべての情報が、削除または消去されることを可能にし得る。より一般的には、開示される本テクノロジーの特徴を実現するアプリケーションは、アプリケーションがユーザ同意なしに機能せず、すべてのモデルおよび記憶された情報が、いかなる残留物もなしに削除されるだけでなく、同様にアプリケーションも削除され得るように構成され得る。
前述のアプリケーションからの入力に加えて、アプリケーションまたはモデルは、さらには、健康に関係付けられた信号を検出し得る、腕時計、リング、または他のデバイスなどのウェアラブルデバイスから健康信号を受け取る。健康に関係付けられた信号は、健康に関係付けられたパラメータまたは特徴を導出するために処理され得る。代替法として、ウェアラブルデバイスは、健康に関係付けられたパラメータまたは特徴を導出し、それらのパラメータまたは特徴をアプリケーションまたはモデルに提供し得る。
これらの入力は、ユーザのスマートフォンまたは他のデバイス上で走る機械学習モデルに提供され得る。具体的には、ホワイトリストに載せられたテキストデータが、感情分類器への入力として使用され得る。この感情分類器は、サポートベクトルマシン(SVM)、長短期記憶(LSTM)導出モデル、または、テキスト分類の能力をもつ任意のモデルを使用して実現され得る。感情分類器は、ポジティブ、ネガティブ、暴力的、恐怖的、多弁的(verbose)などの、離散的な出力を提供し得る。これらの離散的な出力は、ベクトル化のためにより好都合である、数値、例えば、ポジティブ-1、ネガティブ-2、暴力的-3などにマッピングされる。
ホワイトリストに載せられたテキストデータは、さらには、トピックモデラに送り込まれる。一般的には、そのようなトピックモデラは、次元削減、クラスタリング、および自動化された(または半自動化された)トピックタギングを活用し得る。本テクノロジーのこの態様において使用され得る、容認可能なアルゴリズムは、制限なしに、線形判別分析(LDA)、潜在意味解析(LSA)、または確率的LSA(pLSA)トピックモデル手法のうちのいずれか1つを含み得る。トピックは、例えば、ニュース、テクノロジー、スポーツなどの幅広いカテゴリを含み得る。トピックは、さらには、例えば、「戦争ニュース」、「犯罪ニュース」、「政治ニュース」、「宇宙テクノロジー」、「車テクノロジー」、「食品テクノロジー」など、より粒度が小さいことがある。トピックモデラは、さらには、ベクトル化のために、トピックを数値にマッピングする。
画像およびビデオデータが、タイプに基づいて分類され、モデルに入力として提供される。実例として、猫のビデオが、「猫ビデオ」とタギングされることになる。爆撃のニュース報道を伴うビデオが、「ニュースビデオ」および「爆撃」とタギングされ得る。タグは、数値にマッピングされ得る。例えば、ニュースは、5の値にマッピングされることがあり、一方で、「猫ビデオ」は、10の値にマッピングされることがある。
健康に関係付けられた統計、特徴、またはパラメータ、例えば、心拍数データ、心拍数変動データ、睡眠データなども、モデルに提供される。そのようなデータは、信号としてウェアラブルデバイスから提供されることがあり、または、ウェアラブルデバイスによって提供された信号から導出されることがある。
感情分類器、メディアモデラ、メディア分類器、および健康特徴の出力は、それらの数値を使用してベクトル化される。感情分類器、メディアモデラ、およびメディア分類器の数値は、同じスケール上にマッピングされる。各ベクトルの糊(glue)は、時間、例えば、発生した特定の健康信号、テキスト、および画像がベクトルにマッピングされる時間であり、そのベクトルは、それゆえベクトル空間内に存在する。
次元削減は、ベクトルのどの次元が、例えば、N次元のうちのどれが、最も大きい分散を与えるかを決定するために、ベクトル空間内で適用され得る。次元削減は、データセットのサイズを削減するように機能する。一般的には、アルゴリズムが、使用するための主成分のセットを選択するために走らされる。例えば、ターゲットが、組み込むための分散の量(例えば、95%)として設定されることがあり、次いで、決定が、ターゲットに達するために必要な成分の数としてなされる。使用され得る次元削減アルゴリズムの例は、例えば主成分分析(PCA)を含む。主成分は、距離メトリックを測定するために使用され得る。データについてのターゲット分散が、定義されたパラメータに基づいて設定または決定され得る。
ソーシャルメディアを熟視すること、および、ストレスを感じることなどの、ユーザの生活において発生する特定の事象間の相関を決定するために、ベクトル空間は、特定のテストケースについて「クエリされ」得る。例えば、ストレス性健康信号が検出される場合、ストレッサアプリケーションは、(センサ/後処理アルゴリズムが毎回同じ値を出力することになる可能性が低いので)同様の信号に若干の誤差バッファが与えられ、ベクトルについて空間をクエリし、クエリに「最も近い」特定のベクトルの周りのベクトル空間の密度を調べ得る。1つの例として、ユークリッド距離または別の定義された距離メトリックにおいて近いベクトルは、所定の数のベクトルが見いだされる、すなわち、最も近い「n」個のベクトルが見いだされるまで、選択され得る。
DBSCANなどの密度クラスタリング技術が、相関が存在するかどうかを理解するために使用され得る。最も密なクラスタは、関連する因子を表す可能性が高いことになり、これは、副成分が同様であり、ベクトルのインスタンスの繰返しがN次元空間内で現れることが結果的に生じるからである。しきい値(%または比率)が、推奨がユーザに対してなされ得る前に、または、傾向が検出されるように、定義され得る。このしきい値は、クラスタのサイズに基づく、または、他のクラスタと比べたクラスタのサイズに基づくしきい値であり得る。一部の例において、しきい値は、ユーザフィードバック、ユーザ感受性パラメータ、または、例えば0~10の範囲などのあらかじめ定義された感受性設定に基づいて調節可能であり得る。
本テクノロジーの態様は、入力を処理することと関連付けられたモデルを開発および更新するための連合学習(Federated Learning)の使用である。連合学習によって、例えば、モバイルデバイスが、デバイス上でローカルに訓練データを維持しながら、共有予測モデルを協調学習することが可能になる。そうであるから、開示される本テクノロジーによれば、モバイルデバイスは、例えばクラウドから、共有モデルをダウンロードし得る。共有モデルは、次いで、モバイルまたは他のユーザデバイス上で起こる事象から学習することによって更新され得る。要するに、元の共有モデルは、ユーザに対して、よりパーソナライズされ得る。ユーザデバイス上の、根底にあるユーザデータを伴わない、匿名化され、ローカルに訓練されたモデルが、アップデートとして保存されることがあり、それらのアップデートは、その後、共有モデルを更新するために、クラウドに返送される。更新された共有モデルは、その後、個々のユーザデバイスに返戻され得る。連合学習モデル環境内で、すべての訓練データは各ユーザデバイス上にとどまるので、ユーザプライバシーは守られる。
別の態様において、モデルは、さらには、入力として、ユーザによる事象タギングを受け取り得る。例えば、ユーザがストレッサ事象を通知されるとき、ユーザは、そのユーザの気分などに関する入力をプロンプトで求められ得る。モデルは、次いで、このタグを事象と関連付け、そのタグを使用して、ベクトル空間内の同様の事象を見いだし、タグをそれらのベクトルに適用し得る。
複数の信号を分析することによって、本テクノロジーによって、「あなたのスクリーンタイムは今週X%上がり、あなたの睡眠時間はY%下がりました」を超える、ユーザに対する、より徹底したフィードバックが可能となる。本テクノロジーによって、「あなたのストレスレベルは、あなたが就寝前にYouTubeでアクションビデオを見るときに増加する傾向にあります。より良く眠り、あまりストレスを感じないように、あなたは就寝前にビデオを見るべきではありません」などの、ユーザに対する、より具体的なフィードバックを提供することが可能となる。
例示的なシステム
図1は、以下でさらに詳細に説明されるような、開示される本テクノロジーの態様において使用され得る、エレクトロニクス199の追加的な態様を例解する。エレクトロニクス199は、制限なしに、携帯電話、タブレット、コンピュータ、ラップトップ、サーバ、スマートデバイス、またはスマートウォッチなどの、本明細書において説明されるステップおよびアルゴリズムを遂行する能力をもつ任意のコンピューティングデバイスであり得る。図1における説明は、エレクトロニクス199に関して与えられるが、当業者は、一部の例において、エレクトロニクス199は、健康センサ140と組み合わされ得るか、または、健康センサ140と集団的に動作し得るということを理解するはずである。図1において例解されるのは、健康センサ140とエレクトロニクス199との間の通信が発生し得るということを指示する、双方向の矢印である。
健康センサ140は、例えば血圧、血中酸素レベル、ストレス、または、例示的な前に述べられたメトリックの組合せから導出され得る他のメトリックなどの、ユーザの健康状態に関係付けられた情報を観察または決定するために使用され得る、任意のデバイス、回路網、またはモジュールであり得る。アナログフロントエンド、フォト検出器、加速度計などの健康センサ機器、または、フォトプレチスモグラフィセンサ、デバイス、もしくは回路網などの健康センサ。一部の例において、健康センサは、エレクトロニクス199と同じデバイスの一部分である必要はなく、別個のデバイス内に含まれ得る。健康センサ140は、特定の構成によって例解されるが、これらの構成要素の他の配置が、本開示の範囲内にあるということが理解されるべきである。他の例において、健康センサ140は、機械式腕時計、スマートウォッチ、スマートリング、携帯電話、小型イヤホン、ヘッドホン、アームバンド、またはラップトップコンピュータなどのユーザデバイスの中に含まれ得るか、または配置され得る。他の例において、健康センサ140は、ペンダント、ネックレス、バングル、イヤリング、アームバンド、リング、アンクレット、または他の装身具などの装身具に統合され得る。
エレクトロニクス199は、電源190と、プロセッサ191と、メモリ192と、データ193と、ユーザインターフェース194と、ディスプレイ195と、通信インターフェース197と、命令498とを内包し得る。電源は、バッテリ、化学電池、コンデンサ、太陽パネル、または誘導充電器などの、電気を生成するための任意の適する電源であり得る。プロセッサ191は、市販のマイクロプロセッサまたは特定用途向け集積回路(ASIC)などの任意の従来のプロセッサであり得、メモリ192は、プロセッサによって実行され得る命令と、データとを含む、プロセッサによってアクセス可能である情報を記憶し得る。メモリ192は、ハードドライブ、メモリカード、読み出し専用メモリ(「ROM」)、ランダムアクセスメモリ(「RAM」)、光学ディスク、ならびに、他の書き込み能力をもつ、読み出し専用メモリなどの、電子デバイスの助力によって読み出され得るデータを記憶する、非一時的コンピュータ可読媒体または他の媒体を含む、プロセッサによってアクセス可能な情報を記憶するように動作可能なタイプのメモリであり得る。本明細書において開示される主題は、前述の異なる組合せを含み得るものであり、そのことによって、命令およびデータの異なる部分が、異なるタイプの媒体上に記憶される。エレクトロニクス199のデータ193は、命令198によって、プロセッサによって取り出され、記憶され、または修正され得る。実例として、本開示は個別のデータ構造によって制限されないが、データ193は、コンピュータレジスタ内に、複数の異なるフィールドおよびレコードを有するテーブルとしてのリレーショナルデータベース、XMLドキュメント、またはフラットファイル内に記憶され得る。データ193は、さらには、バイナリ値、ASCII、またはUnicodeなどの、ただしそれらに制限されない、コンピュータ可読フォーマットにおいてフォーマットされ得る。その上、データ193は、数、説明文、プロプライエタリコード、ポインタ、(他のネットワークロケーションを含む)他のメモリ内に記憶されるデータへの参照、または、関連性のあるデータを算出するための関数によって使用される情報などの、関連性のある情報を識別するのに十分な情報を含み得る。
命令198は、健康センサ140の様々な構成要素および機能を制御し得る。例えば、命令198は、選択的に、光源110を起動させる、または、フォト検出器120によって取得された情報を処理するために実行され得る。一部の例において、アルゴリズムは、エレクトロニクス199内に含まれる命令198のサブセットとして、さもなければ、それらの命令198の一部として含まれ得る。
命令198は、健康センサ140を通して受け取られた、もしくは、健康センサ140からの健康情報を分析することによって生成された情報などの、健康センサ140から、もしくは、エレクトロニクス199の他の部分から受け取られた情報、データ193内の情報、ディスプレイ195上に表示される情報、または、プロセッサ191によって処理される情報を、解釈または処理するためのアルゴリズムを含み得る。例えば、ユーザの身体的パラメータが、アルゴリズムによって抽出または分析され得る。制限なしに、アルゴリズムは、波の形状、周波数、もしくは周期、信号のフーリエ解析、高調波解析、パルス幅、パルス面積、ピークツーピーク間隔、パルス間隔、フォト検出器によって受け取られた光の強度もしくは量、波長シフト、または、健康センサ140のフォト検出器によって生成された、もしくは受け取られた信号の微分などの、波形に関するいずれかまたはすべての情報を使用し得る。他のアルゴリズムが、オキシヘモグロビンおよびデオキシヘモグロビンにおける酸素の吸収、心不整脈、心拍数、心室性期外収縮、拍動欠落、縮期峰および弛期峰、ならびに、大きい動脈の硬化指数を算出するために含まれ得る。なおも他の例において、人工学習または機械学習アルゴリズムが、血圧、および、例えば心拍数変動からのストレスレベルなどの、ユーザの身体的状態に関係付けられた情報を抽出するための、決定論的および非決定論的の両方の手立てにおいて使用され得る。PPGが、さらには、所定の距離だけ分離された皮膚上の2つの点の間のパルス波速度を計算することによって、血圧を測定するために使用され得る。パルス波速度は、血圧に比例し、その関係性が、血圧を算出するために使用され得る。一部の例において、アルゴリズムは、修正されるか、または、ユーザの体重、身長、年齢、コレステロール、遺伝情報、体脂肪率、もしくは他の身体的パラメータなどの、エレクトロニクス199のメモリにユーザによって入力された情報を使用し得る。他の例において、機械学習アルゴリズムは、フォト検出器、健康センサ、および/またはプロセッサによって生成された情報に基づいて、不整脈などの、知られている、または検出されていない健康状態を、検出および監視するために使用され得る。
命令198は、さらには、センサがユーザデバイスに存在するか、または含まれるかどうかを決定するために使用され得る、訓練された機械学習モジュールを含み得る。
ユーザインターフェース194は、タッチ画面などの、ユーザが健康センサ140と相互作用することを可能にする画面、またはボタンであり得る。ディスプレイ195は、健康センサ140に関する情報を表示するための、LCD、LED、移動電話ディスプレイ、電子インク、または他のディスプレイであり得る。ユーザインターフェース194によって、ユーザからの入力、および、ユーザへの出力の両方が可能となり得る。一部の例において、ユーザインターフェース194は、エレクトロニクス199または健康センサ140の一部であることがあり、一方で、他の例において、ユーザインターフェースは、ユーザデバイスの一部とみなされることがある。ユーザインターフェース194は、さらには、キーボードなどのデバイスを含み得る。
通信インターフェース197は、Wi-Fi、Bluetooth、赤外線、電波、ならびに/または、他のアナログおよびデジタル通信規格などの規格を経由するデータの通信を可能にするためのハードウェアおよびソフトウェアを含み得る。通信インターフェース197によって、エレクトロニクス199が更新されること、および、健康センサ140によって生成された情報が他のデバイスに共有されることが可能となる。一部の例において、通信インターフェース197は、メモリ192内に記憶される履歴情報を、表示、記憶、またはさらなる分析のために、別のユーザデバイスに送り出し得る。他の例において、通信インターフェース197は、フォト検出器によって生成された信号を、別のユーザデバイスに、そのデバイス上での表示のために、リアル-タイムで、または後で送り出し得る。他の例において、通信インターフェース197は、別のPPGモジュールに通信し得る。通信インターフェース197は、2つのデバイスの間の通信を可能にする、bluetooth(登録商標)、Wi-Fi、Gazelle、ANT、LTE、WCDMA(登録商標)、または他のワイヤレスプロトコルおよびハードウェアを含み得る。
図2Aは、ユーザ299などのユーザによって着用され得るユーザデバイス200を例解する。ユーザデバイスは、ハウジング201と、ストラップ202とを含み得る。ハウジング201は、ユーザ299の皮膚と接触することになる、背面部分などの構成要素を有し得る。背面部分は、光が背面部分を通って進むことを可能にする、光学的に透過性の部分を内包し得る。例えば、光は、光源などの、ハウジング201の中に内包される他の構成要素から生成され得る。ユーザデバイス200およびハウジング201は、さらには、ユーザ299が、相互作用し、ユーザデバイス200からの情報を視聴することを可能にする、ユーザインターフェースを有し得る。ユーザインターフェースは、タッチ画面または他のデバイスの一部であり得る。ユーザデバイス200内に、またはハウジング201内に含まれ得る、追加的な構成要素は、図1を参照して上記でさらに説明されている。ハウジングは、さらに、図1において説明された構成要素を含むのに適切な厚さのものであり得る。ストラップ202は、金属、革、布、または他の材料から作製されたものなどの、ユーザ上にユーザデバイスを保持するためのストラップであり得る。ユーザデバイス200は、健康センシング機能を遂行するための健康センサモジュール140を内包し得る。
スマートウォッチが、ユーザデバイス200として例解されるが、当業者には、ユーザデバイス200が種々の形態を呈し得ることが理解されよう。ユーザデバイス200は、さらには、健康センサ、小型イヤホンもしくは耳栓、ヘッドホン、または他のウェアラブルエレクトロニクス、リング、バングル、アンクレット、ネックレス、または他の装身具であり得る。ユーザデバイス200上の通知は、ユーザデバイスのディスプレイ203上などの視覚的通知であることがあり、一方で、他の例において、ユーザデバイスの能力によって、他の通知が、振動、オーディオ警報、ビープ、閃光、または他の通知などによって与えられることがある。
図2Bは、ユーザデバイス230を例解する。ユーザデバイス230は、簡潔さのために図2Bからは省かれている、エレクトロニクス199内の、図1を参照して説明された様々な構成要素を内包し得る。図2Bにおいて例解されるのは、コンテンツ232を表示するディスプレイ231である。コンテンツ232は、テキスト的コンテンツ、画像またはビデオなどの視覚的データ、および、ユーザデバイス230上で表示されることがある、または表示されないことがあるメタデータを含み得る。
コンテンツ232上に重ねられるのが、通知235である。通知235は、表示されるコンテンツが、ユーザの健康に関係付けられたしきい値を上回らせ、したがって、ストレスインジケータの生成がトリガされるときに表示され得る。他の例において、通知235は、コンテンツ232が、ユーザデバイス230上へと最初にロードされるか、または、ロードされようとしているときに、そのユーザデバイス230内に内包される情報に基づいて、先制的に表示され得る。一部の例において、コンテンツは、潜在的にストレス性の事象が発生することを防止するために、ロードされる前に「一時停止され」得る。さらに、コンテンツのタイプの概要が、ユーザがコンテンツを視聴し続けたいかどうかをユーザが決定するために、ユーザに提供され得る。先に生成されたストレスインジケータ(所定のコンテンツ232がユーザデバイス230上に表示されたときに、しきい値を上回る、ユーザについての自動的に測定された健康統計の、少なくとも1つのパラメータを指示する)、および、コンテンツが表示されるための少なくとも1つのコンテンツ識別子に基づいて、ユーザデバイス230は、それゆえに、追加的な承認が、例えばユーザ入力によって、ユーザデバイス230において受け取られるまで、ディスプレイからコンテンツをブロックするように構成され得る。
図2Cおよび図2Dは、上記で説明されたディスプレイ195と同様であり得る、ディスプレイ203またはディスプレイ231上に、ユーザの身体的状態に関する情報を表示する例示的なフォーマットを例解する。図2Cは、デバイス200などのデバイスのユーザの心拍数のグラフを例解する。このグラフ図は、ユーザの直近の何秒かの間の心拍動を表示するために、リアルタイムで更新され得る。一部の例において、「リアルタイム」または「リアル-タイム」で、は、ほぼ瞬時の出力をユーザまたはユーザデバイスに提供し得る、短い期間内でのデータ命令またはアルゴリズムの実行を意味し得る。表示されている心拍動は、本明細書において説明される方法から取得され得る。ユーザの心拍動が毎分80拍動などの所定のしきい値よりも高いときの通知は、相互作用可能な感嘆符「!」、または他の通知によって指示され得る。通知は、ユーザデバイス上に表示されたコンテンツと関連付けられ得る。
図2Dは、テキスト的フォーマットにおいてユーザの身体的状態に関する情報を表示することを例解する。例えば、図2Dは、毎分拍動(BPM)における現在の心拍数、現在の血中酸素飽和レベル、および、不整脈などの、ユーザに関する値であり得る任意の他の状態を例解する。与えられる例は、心血管系の状態についてであるが、心臓の他の態様が監視され得る。
図2Dは、さらには、表示されることになる同様のコンテンツ(すなわち、例えば、同一のトピックカテゴリに分類され、そうして、同一のコンテンツ識別子によってタギングされているコンテンツ)の将来の扱いを定義するための、および/または、現在表示されているコンテンツに対するアクションをトリガするための他の選択肢、例えば、個別のストレスを引き起こしているコンテンツ/アプリケーションをブロックする(承認されないアプリケーション)、コンテンツ/アプリケーションを承認する(承認されたアプリケーション)、通知を再度表示しない、または、同様のコンテンツ/アプリケーションをブロックする能力などを例解する。情報は視覚的フォーマットにおいて表示されるが、他の例において、情報は、聴覚的方法によって提供され得る。図2Dにおいて表示されている情報は、本明細書において説明される方法から導出され得る。
図2Eは、ユーザ299によって着用される、2つのユーザデバイス、ユーザデバイス200およびユーザデバイス290の間の通信を例解する。この実例において、ユーザデバイス290は小型イヤホンである。図2A~図2Bにおけるデバイスと同じ参照番号が、図2Eにおけるデバイスのために使用されるが、これらのデバイスは、同じデバイスである必要はない。他の例において、ユーザデバイス290は、健康センサ140などの健康センサを内包する、ヘッドホン、ペンダント、または他のデバイスであり得る。下記でさらに解説されるように、各ユーザデバイスは、健康に関係付けられた情報を計算または導出し得るものであり、情報の組合せが、ユーザのストレスについてのしきい値を決定するときに使用され得る。例えば、1つのデバイスは、心拍数を決定することがあり、一方で、別のものは、血圧または血中酸素レベルを決定する。一部の例において、スマートフォン291などの、健康センサを内包しないデバイスが、ユーザデバイス200およびユーザデバイス290から健康に関係付けられた情報を受け取り、2つの推定値を一緒に組み合わせ得る。
図2Fは、ユーザが、ストレッサの分析のためにどのアプリケーションを承認することを望むかを決定または選定し得る、ユーザインターフェースの例を例解し、それらのストレッサの分析は、ユーザデバイス上で、ローカルに、匿名で、および内密に行われ得る。承認された、またはホワイトリストに載せられたアプリケーションは、本明細書において説明されるシステム、方法、およびデバイスによって分析され得る。一部の例において、ホワイトリストに載せられたアプリケーションは、ユーザプリファレンスまたはデフォルト提案に基づいて自動的に生成され得る。他の事例において、所定のタイプのデータを内包するアプリケーションは、例えば、音声データ、電子メールデータ、または、極秘もしくは内密のアプリケーションに関係付けられたデータなどの、アプリケーションが内包するコンテンツのタイプに基づいて、ホワイトリストに載せられないことがある。
例示的な方法
下記で解説されるように、以下の技術または方法は、ローカルなストレッサについて、承認された、またはホワイトリストに載せられた、データまたはアプリケーションを分析するために使用され得る。
図3は、アーキテクチャ300の例示的な概略図を例解する。図3は、どのように刺激が精神的および生理学的に対象者またはユーザに影響を与えるかを推定するために、どのように複数の入力が使用され得るかの例を例解する。すべての入力は、モデルを使用して、対象者のデバイス上でローカルに処理される。入力信号は、アプリケーション(例えば、YouTubeおよびウェブブラウザ)によってユーザに視聴可能なビデオおよび映像を含み得る。ウェブブラウザまたはソーシャルメディアアプリケーションによって視聴可能なテキスト情報が、さらには、入力として役立ち得る。
図3において例解されるのは、承認されたアプリケーション305である。承認されたアプリケーション305は、上記で論考されたデバイスなどのデバイス上のデータを処理する任意のアプリケーションを含み得る。そのようなアプリケーションの例は、ユーザが、ストレッサコンテンツについて監視されることを承認する、YouTube、ウェブブラウザ、新聞、または任意の他のアプリケーションを含む。この点において、開示される本テクノロジーの態様は、アプリケーションとして実現されることがあり、そのアプリケーションは、データについて画面表示を監視するか、または、他のアプリケーションからデータを受け取り、そのアプリケーションが受け取るデータを処理し、ストレッサインジケータを生み出す。
この点において、処理は、図3において示される要素、モジュール、またはブロックを使用して実現され得る。さらに、この点において、感情分類器320は、テキストデータを分析するために使用され得る1つまたは複数のモデルを含み得る。一部の例において、感情分類器320は、ベイジアン分類器、長短期記憶モデル、人工リカレントネットワーク、またはサポートベクトルマシンモデルを含み得る。出力を提供するためにテキスト的情報を分析し得る他のモデルまたは技術が使用されることがある。感情分類器は、例えばポジティブまたはネガティブなどの、テキスト的入力に対する離散的な出力を提供し得る。出力の他の例は、暴力的、恐怖的、多弁的、ポジティブ、高揚的などの追加的なカテゴリ化を含み得る。カテゴリ値は、ベクトル化モジュール340による使用のために、数値と関連付けられるか、または、数値にマッピングされ得る。例えば、スケールが、感情分類器の可能な出力に適用されることがあり、そのことによって、暴力的出力は、スケール上のある数値を与えられ、恐怖的出力は別の数値を与えられ、多弁的出力は別の数値を与えられる、などとなる。具体的な例として、1~100のスケールを想定すると、暴力的テキストは、90の数値を割り当てられることがあり、一方で、高揚的テキストは、10の値を割り当てられることがある。これらの値は、次いでベクトル化モジュールに出力され、そのベクトル化モジュールは、それらの値を、そのベクトル化モジュールが他の分類器またはモデラから受け取る他の数値とともに、ベクトル内に含める。数値が使用されることがあるが、テキストなどを含む他の出力値が出力されることがある。
トピックモデラ325は、さらには、感情分類器320と、同時に、リアルタイムで、または、ほぼ遅れずに、ホワイトリストに載せられたアプリケーションからテキスト的情報を受け取り得る。入力としてテキスト的情報を取り込み得る、および、出力として、「テクノロジー」、「スポーツ」、「ニュース」、「食品」などのトピックカテゴリに関係付けられたコンテンツ識別子のための値を提供した、モデルまたは技術が使用され得る。例えば、次元削減、クラスタリング、または、自動化もしくは半自動化されたタギングもしくはトピックを使用するモデルが使用され得る。具体的な例は、線形判別分析(LDA)、潜在意味解析(LSA)、確率的潜在意味解析(pLSA)モデルを含み得る。一部の例において、使用されるモデルは、人間支援方法を使用してタギングされた情報を含み得る。トピックは、例えば、ニュース、テクノロジー、スポーツなどの幅広いカテゴリを含み得る。トピックは、さらには、例えば、「戦争ニュース」、「犯罪ニュース」、「政治ニュース」、「宇宙テクノロジー」、「車テクノロジー」、「食品テクノロジー」など、より粒度が小さいことがある。トピックモデラ325は、さらには、第1のコンテンツ識別子とも称され得る、より容易なベクトル化を可能にするための数値を出力するように構成され得る。
メディア分類器330は、ビデオ、またはビデオに関係付けられたメタデータ、または他のメディアを取り込み得る、1つまたは複数のモデルを含み、モデルを分類し得る。例えば、犬のビデオは、メディア分類器330によって「犬ビデオ」とタギングされることがある。一部の例において、より粒度が小さいタギングが使用され得る。実例として、ダルメシアンを伴う犬ビデオは、「犬」および「ダルメーション(dalmation)」とタギングされることがあり、一方で、シバイヌを伴う犬ビデオは、「犬」および「シバ」とタギングされることがある。これらの値は、タグとの1対1対応において任意の数値にマッピングされることがあり、そのことによって、第2のコンテンツ識別子を生成する。
個々のモデル(感情分類、トピックモデラなど)は、前から存在するデータセットを基にあらかじめ訓練され得る。訓練されたモデルは、次いで、例えば「コピーアンドペースト」機能によって、ストレッサアプリケーションの一部として供給され得る。この機能性は、例えば深層学習アプリケーションにおいて使用される転移学習技術を使用して実現され得る。
モジュール335は、信号後処理、信号のクリーニング、または、健康データ315に関係付けられた情報、信号、もしくは他のデータの分析を遂行し得る。信号後処理は、例えば、ノイズをフィルタリングする、アーチファクトを除去する、または、擬似信号を除去するために遂行され得る。健康データ315は、例えば健康センサ140から取得され得る。健康に関係付けられた統計、特徴、またはパラメータ、例えば、心拍数データ、心拍数変動データ、睡眠データ、PPGデータなどが、さらにはモデルに提供される。そのようなデータは、信号としてウェアラブルデバイスから提供されることがあり、または、ウェアラブルデバイスによって提供された信号から導出されることがある。一部の例において、モジュール335は、利用可能な健康データ315のタイプに応じて、分析のための追加的な特殊化した情報を含み得る。一部の例において、ストレス信号は、ウェアラブル上のEDAセンサによって、または、気分およびストレスを推測し得るカメラの何らかの組合せから提供され得る。
ベクトル化モジュール340は、上記で説明されたモジュールから取得された情報を「ベクトル化」し得る。感情分類器320、メディアモデラ325、メディア分類器330、およびモジュール335の出力は、それらの数値を使用してベクトル化される。取得された数値は、同じスケール上にマッピングされ得る。一部の例において、ベクトルは、数値を形成する特定の情報がベクトルにマッピングされている時間などの時間値によって創出または指定され得る。このように、各ベクトルは、特定の時間値に対応するか、または、特定の時間値に一意的に関係付けられ得る。例は、特定の数の値を伴って与えられるが、「N」個の次元を伴う任意のベクトルは、「N」個以上の入力を使用して生成され得る。ベクトル化モジュール340は、ベクトルとして説明されるが、当業者には、データのnタプルまたは他の数学的定式化が使用され得ることが理解されよう。
次元削減モジュール345は、生成されるベクトル同士の間の「距離」を削減し得る。次元削減モジュール345は、任意の次元削減技術を含み得る。1つの例として、主成分分析が、「N」次元ベクトルのどの次元が最も分散に寄与するかを分析または識別するために使用され得る。次元削減の追加的な例および詳細が、図4に関して提供される。一部の例において、ストレスは、ウェアラブル上のEDAセンサから測定または導出されることがあり、一方で、他の例において、ストレスは、気分またはストレスを推測し得る、センサ、例えばカメラからのデータの組合せから生成されるメトリックであることがある。
密度ベースのクラスタリングモジュール350は、ストレス性健康信号またはインジケータが存在する特定のテストケースを使用し、(例えば、特定の誤差範囲内で)同様の信号またはシグネチャに関してベクトルをクエリして、クエリされたベクトルに「近い」、または、クエリされたベクトルと同様である特定のベクトルの周りのベクトル空間の密度を調べ得る。最も密であるクラスタは、因子が関係付けられているということを指示する可能性が高いことになり、これは、副成分が同様であり、ベクトルのインスタンスの繰返しがN次元空間内に現れることが結果的に生じるからである。例えば、「S」によって表象される何らかのストレスレベルについて、確立された値よりも大きいSを内包するすべてのベクトルは、ノイズのレベル、または、消費されるメディアの量などの、同様の、または同じものを呈し得る。一部の例において、パーセンテージまたは比率によって測定されるような、所定のしきい値が、クラスタが検出される、もしくは有効であるとみなされる前に満たされるか、または、所定の条件についてのトリガとして使用されなければならない。一部の例において、クラスタのサイズ、クラスタの相対的なサイズ、または、最も大きな、もしくは最も影響力の強いkクラスタのグローバル最適化などの、追加的なしきい値の値が追加されることがある。
通知モジュール355は、モデルまたはアルゴリズムが、分析された情報がストレス性事象に対応する可能性が高いと決定すると、ストレス性トリガまたは事象に関係付けられたユーザ通知を含むストレスインジケータを提供し得る。一部の例において、ユーザ通知は、図2Bに関して与えられる通知235と同様であり得る。一部の例において、通知は対話型であり、その通知によって、ユーザは、実際にストレスを感じているかどうかなどの追加的な情報を提供すること、気分(例えば、不安、興奮、ポジティブ、ネガティブ)を説明すること、または、より頻繁な、もしくはあまり頻繁でない、もしくはより適合された通知を見たいかどうかを提供することが可能となり得る。例えば、この情報は、より適合された推奨を提供するために使用され得る。1つの具体的な例として、気分を説明した後、情報は、さらに、ユーザの気分をより良好に、またはより小さい粒度で分類するために、モデルを再訓練またはカスタマイズするために使用され得る。
一部の例において、ストレスインジケータに関係付けられた他の情報が、事象が発生した後に通知モジュール355によって提供され得る。実例として、ユーザは、特定のタイプのコンテンツにさらされていることがあり、そのことは、例えば、深い睡眠の不足、または、通常よりも少ない睡眠時間などの、個別の健康状態と相関させられることがある。通知モジュール355は、さらには、ユーザが特定のタイプのコンテンツの影響をより良好に理解することを可能にするために、例えば、1日の終わり、または週の終わりなど、リアルタイムではなく、ストレス性事象の後に概要情報を提供し得る。一部の例において、通知モジュール355は、さらには、個別のアプリケーション、トピック、またはメディアのタイプを、より多くの睡眠につながる暴力的ビデオの視聴、または、総体的に高められた心拍数につながる不安ビデオの視聴などの個別の影響に相関させ得る。他の例において、本明細書において説明される技術は、さらには、例えば、コンテンツが読まれていないときに心拍数が高められるときなどの、ユーザの「ベースライン」健康情報における変化について調整し得る。1つの例として、ユーザの心拍数が特定の時刻において高められる場合、情報が特定の事象(例えば、コーヒーを飲むこと)に相関させられ得るということが、通知モジュール355によって決定をなすときに使用され得る。
一部の例において、通知モジュール355は、提供されたデータが、あらかじめ決定されたしきい値よりも上のストレスを指示すると決定すると、生成されたストレスインジケータについての通知を提供し得る。通知モジュール355は、図4に関して説明されるステップを含む、通知を生成するための、本明細書において説明されるステップを遂行し得る。
一部の例において、図3に関して説明される分類器、モデル、および/またはモジュール構成要素は更新され得る。しかしながら、説明される構成要素のいかなる更新も、ユーザに関係付けられた、パーソナライズされた、または識別可能なデータの識別を伴うことを必要としない。例えば、メディア分類器は、任意の動物を伴うビデオを「動物」と分類することがあり、一方で、更新の後に、ビデオが犬を含む場合、「犬」などの、より粒度が小さい、または更新された分類が取得されることがある。そのような更新は、上記で論考された連合学習技術によって行われ得る。このようにして、個々のユーザデバイス上で行われるローカルな処理は、更新されたモデル、例えば、トピックモデラ、感情またはメディア分類器に基づいて、より小さい粒度で、またはより正確になされ得る。
図3において示されるように、処理は、ユーザの、健康に関係付けられたパラメータまたは特徴に関する情報、ならびに、ユーザによって使用されるデバイス、例えば、図1に関して論考された電子構成要素を有するデバイスによって視聴される(例えば、ビデオ、画像)、および/または読まれる(例えば、テキスト)情報を取得することを伴う。ビデオおよび/または画像データは、メディア分類器330において受け取られ、そのメディア分類器330において、そのデータは、上記で論考された判定基準、または、ユーザもしくはシステムによって定義された他の判定基準のうちの1つまたは複数に従って分類される。メディア分類器330は、それがベクトル化モジュールへの出力のために決定する、1つまたは複数の分類値、例えば数値を利用可能にする。
画像および/またはテキストと関連付けられたテキスト的情報が、感情分類器320およびトピックモデラ325に提供される。この例において、処理されることになる情報は、テキストおよびビデオ/画像を含む。しかしながら、他の例において、情報は、どちらかのタイプの情報を含むことがある。例えば、ユーザによって読まれている情報は、いかなる画像も伴わない新聞記事、またはテキストであることがある。逆に、情報は、感情分類器320による処理を求めないことになる、オンラインフォトアルバム内の画像を含むことがある。感情分類器325およびトピックモデラ325は、各々、テキスト的情報に関して遂行された感情およびトピック分析に基づいて値を出力する。これらの出力値は、ベクトル化のためにより好都合であり得る、数値であり得る。
信号後処理ブロック335は、ベクトル化モジュール340に対する、健康に関係付けられたメトリック、例えば、心拍数、心拍数変動などを利用可能にする。この出力は、さらには、いつ健康に関係付けられたメトリックが捕捉されたかを指示する時間値を含み得る。タイミング構成要素は、ベクトル化モジュール340によって、そのベクトル化モジュール340が分類器およびモデラから受け取る値のうちのどれを所与のベクトル内に含めるべきかを決定するために使用され得る。より具体的には、心拍数などの健康に関係付けられたメトリックが、ストレッサを決定することにおいて、分類器およびモデラの出力と相関させられる際に、しきい値として使用された所与の健康メトリックのタイミングを、コンテンツがユーザによって視聴された、または刺激として受け取られた時間と結び付けることが必要である。上記で論考されたように、ストレッサ事象は、ユーザの心拍数がしきい値を上回ることに関連付けて決定され得る。一部の例において、ストレッサ事象は、信号の組合せ(例えば、EDA監視およびHR急上昇)に基づいて決定され得る。
開示される本テクノロジーの態様によれば、しきい値の値を上回る時間は、ベクトル化のための「糊」として使用され得る。より具体的には、しきい値の値を上回った時間における分類器320、335、およびモデラ320の出力値は、ストレッサインジケータまたは通知を提供するために、モジュール345および350においてさらに処理されるベクトルを創出するために使用される。
ベクトル化モジュール340は、分類器320および330、モデラ325、ならびに後処理ブロック335から生成された数値を取得し、しきい値を上回った、またはしきい値が満たされた時間に対応する値を含むベクトルを導出する。このベクトルは、次いで、例えば、ベクトルの健康メトリック値に相関する情報についてベクトル空間をクエリするために使用される。例えば、しきい値が、90の心拍数に基づいて設定され、130の心拍数が検出され、一方で、ユーザがホラー映画を見ている場合、少なくとも、130の心拍数、心拍数が130であった時間と関連付けられた1つまたは複数の画像を指示するベクトルが創出されることになる。このベクトルは、次いで、クエリにおいて使用されるベクトルに近い他のベクトルを見いだすために使用され得る。近さは、例えば、心拍数、または、画像と関連付けられた値、または一部の実例において、(例えば、ユーザによるタギングに基づく)画像のタイプに基づいて決定され得る。近さは、さらには、クエリにおいて心拍数値に近い値を伴う心拍数に基づいて決定され得る。
図3において示されるように、次元削減345およびクラスタリング350の後に、通知が、通知モジュール355によってユーザに提供される。通知の例は、図2Dにおいて例として示される通知、例えば、何かがあなたにストレスを与えています、を含む。他の通知は、可能性のあるストレッサとして検出されたコンテンツの識別情報、同じまたは関係付けられたストレッサが発生したという以前のインスタンスの数、以前のインスタンスと関連付けられた心拍数などのコンテンツに関係付けられた統計などを含み得る。加えて、図2D上で示されるように、ユーザは、同様のコンテンツをブロックするための選択肢を与えられ得る。
図4は、開示される本テクノロジーの態様に関係付けられた方法400を例解する。
ブロック405において、ホワイトリストに載せられたアプリケーションに関係付けられた情報が取得または抽出され得る。この情報は、視覚的、テキスト的、オーディオ、メタデータ、または他の情報を含み得る。この情報は、ユーザプリファレンスに基づいて取得され得る。一部の例において、ホワイトリストに載せられたアプリケーションからの情報のサブセットのみが取得されることがあり、例えば、テキスト的データのみが取得されるが、視覚的データは取得されないなどである。
ブロック406において、ホワイトリストに載せられたアプリケーションを使用する、デバイスのユーザに関係付けられた健康情報が取得され得る。一部の例において、この情報は、ブロック405に関して、リアル-タイムまたはほぼリアルタイムで取得され得る。一部の例において、健康情報は、より精巧な分析をもたらすために集められ得る、複数のデバイスから取得され得る。
ブロック410において、ブロック405において取得された情報が分析され得る。一部の例において、図3に関して説明されたモジュール、技術、分類器、またはモデルは、分析のために使用され得る。一部の例において、情報は、取得または抽出された情報に関係付けられた数値を出力するために、分析または変換され得る。この分析または変換は、テキスト的分析、メディア分類、感情分類、およびトピックモデリングを含むことがあり、それらに制限されない。
ブロック411において、ブロック406において取得された健康情報が分析され得る。本明細書において説明される技術は、制限なしに、ブロック406における情報を分析するために使用され得る。一部の例において、健康情報は、取得された健康情報に関係付けられた1つまたは複数の数値を出力するために、分析または変換され得る。健康情報の分析のための技術は、本明細書において提供される。
ブロック420において、ブロック405~411において取得、変換、または分析された情報は、ベクトル化モジュール340などのベクトル化モジュールによってベクトル化され得る。ベクトルは、処理される前に正規化され得る。一部の例において、ベクトルは、ベクトルへのn個の入力に基づくnタプルであり得る。
ブロック425において、次元削減が遂行され得る。次元削減は、ストレスおよびアプリケーションデータに関係付けられたベクトルを内包するベクトル空間に関する主成分分析を含む技術を伴い得る。主成分分析は、データ点の集団の中の主成分を決定または計算するプロセスまたは方法である。座標空間またはベクトル空間の中の点の集団の主成分は、データのセットについての直交基底を形成する直交ベクトルのセットであり得る。一部の例において、最も関連性のある、または重要なベクトルは保持され、残りは放棄される。例えば、しきい値が、主成分とともに表され、捕捉されることが望まれる分散の量について設定され得る。このように、主成分分析は、分析されている成分の数を単純化にし、計算効率を増大するために、望まれる数の主成分を維持し、一方で、容認可能な、またはあらかじめ定義されたレベルの中でのデータの変動を維持し得る。主成分は、決定されると、ベクトル空間の中のベクトル同士またはデータ点同士の間の距離メトリックを測定するために使用され得る。前に述べられた説明は、主成分分析を使用して提供されるが、他の次元削減技術が、取得されたデータまたはベクトルを単純化にするために使用され得る。
ブロック430において、密度ベースのクラスタリングまたは他のクラスタリング技術が、データの中のクラスタまたは特徴を識別するために遂行または使用され得る。クラスタリングは、クラスタがデータのセットの中で識別され得る方法または技術である。クラスタは、識別されたクラスタを包囲する、より疎なノイズから分離され得る。これらのクラスタは、将来の、または新しいデータを分類するために保存または抽出され得る。任意のクラスタリング技術が、ブロック430の中で使用され得る。DBSCANまたは定義された距離スキャニングは、潜在的なクラスタを識別するために、指定された検索距離を使用し得る技術である。他の変形例は、自己調整スキャニングまたはHDBSCAN技術を含み得る。この範囲は、ある範囲の距離が、より疎なノイズから、変動する密度のクラスタを分離または識別するときに使用されることを可能にするために、検索距離を変動させ得る。マルチスケールまたはOPTICS方法またはアルゴリズムが使用され得る。OPTICSアルゴリズムは、到達可能性プロットを決定するために、近傍の特徴同士の間の距離を使用し、その到達可能性プロットは、次いで、クラスタを分離するために使用され得る。アルゴリズムは、より計算集約的であり得るが、クラスタを微調整することにおいて柔軟性をもたらす。他のクラスタリング技術は、機械学習ベースのクラスタリング技術を含み得る。一部の例において、クラスタリング技術は、取得されたデータ点を分類するためにクエリされ得るモデルを生成し得る。一部の例において、取得されたデータ点は、そのデータ点が分類または分析された後にモデルに追加され、モデルの堅実性を増大し得る。
ブロック435において、しきい値を上回る場合に、ユーザ推奨がなされ得る。取得されたベクトルは、リアルタイムまたはほぼリアルタイムで、ベクトルが、近くでクラスタリングされるベクトルに近く、ストレス性であることのしきい値を満たすかどうかを確認するために、近接性手法を使用して分析され得る。他の例において、しきい値は、ユーザプリファレンスまたはパラメータに基づいて調整され得る。一部の例において、ユーザデータが、ユーザデータを分析し、そのユーザデータがストレス性事象に対応するかどうかを決定するために、(例えば、ブロック430において説明されたような)識別されたクラスタに対してマッチングまたは分類され得る。
追加的なステップが、方法400と連関して遂行され、または、方法400において代用され得る。実例として、一部の例において、取得された1つまたは複数のモデルが更新され得る。一部の例において、モデルは、連合学習(FL)技術を使用して更新されるモデルによって更新され得る。FLは、機微のデータの代わりに、セキュアにエンコードされたモデルアップデートを使用することによって、グローバルモデルを訓練することにおいて、特定の、個々の、または機微のデータを必要とする要件をなくすことによって、プライバシーを保護し得る。このように、連合学習(federal learning)は、機械学習モデルを創出することにおいて存在し得るプライバシーリスクを軽減し得る。さらに、連合学習によって、モデルを訓練することにおける計算コストの削減が可能となり得る。FL技術は、モデルが個々のデバイス上で訓練されることを可能にし、単に、グローバルモデルに関して定期的に、モデルに対するアップデートを提供し得る。グローバルモデルは、提供されたアップデートに基づいて再訓練され得る。
一部の例において、将来からのあらかじめ決定された時間フレームの中の健康データが、ホワイトリストに載せられたアプリケーションからの情報に関して分析され得る。例えば、個人が、特定のタイプのコンテンツを見た、または、特定のアプリケーションを使用した後に、数時間眠れない場合、その健康情報は、例えば、直近の24または48時間以内に視聴されたコンテンツに関して分析され得る。
例示的な機械学習、統計的、確率的、およびモデル創出方法
一部の例において、以下の技術のうちの1つまたは複数が、開示される本テクノロジーの一部として使用され得る。
一部の例において、確率的方法が使用され得る。例えば、ガウス混合モデルが使用され得る。ガウス混合モデルは、総体的な母集団の中の正規分布部分母集団を表すための確率的モデルである。ガウス混合モデルにおいて、観測されたデータのセットが、分布内の特定の観測値がどの部分母集団に属するかについて、特性を明らかにするか、または明言することは求められない。
使用され得る例示的な機械学習技術は、以下を含む。一部の例において、教師あり学習技術および教師なし学習技術の混合物が使用され得る。
一部の例において、敵対的生成ネットワークが、ネットワーク異常を予測または検出するために使用され得る。敵対的生成ネットワークは、1つが敵対的、および1つが生成的な2つのネットワークを使用して、生成的ネットワークによって生成されたオブジェクトによって敵対的ネットワークをだますことを試みる。
一部の例において、クラスタリング方法が、入力、ネットワークパラメータ、訓練されたモデル、または仮想マシンをクラスタリングするために使用され得る。クラスタリング方法は、リアルタイムで、個別の判定基準によって、モデルまたはモデルのグループを分類およびマッチングするために使用され得る。クラスタリングは、アルゴリズムが出力を定義し得る、教師なし機械学習技術であり得る。1つの例示的なクラスタリング方法は、「K_平均」であり、ここでKは、ユーザが創出することを決め得るクラスタの数を表す。例えばエルボー法などの、Kの値を選定するための様々な技術が存在する。
技術のそれ以外の例は、次元削減を含む。次元削減は、最も影響力の弱い、または、統計的に最も有意でない、情報の量を除去するために使用され得る。大量のデータが生成され、多くのタイプのデータが観測され得るネットワークにおいて、次元削減は、本明細書において説明される技術のうちのいずれかと連関して使用され得る。1つの例示的な次元削減方法は、主成分分析(PCA)である。PCAは、データの線形変動を最大化し得る新しいベクトルを見いだすことによって、次元、または、「空間」の変数の数を削減するために使用され得る。PCAによって、失われた情報の量も観測されること、および、選定された新しいベクトルにおける調整がなされることが可能になる。別の例示的な技術は、t-確率的近傍埋め込み(t-SNE)である。
モデルの各々が単独でもたらし得るよりも高い品質の予測を得るために、教師ありMLまたは教師なしMLであり得る、いくつかの予測モデルを組み合わせる着想を主として使用する、アンサンブル方法が使用され得る。1つの例として、ランダムフォレストアルゴリズム。
ニューラルネットワークおよび深層学習技術もまた、上記で説明された技術のために使用され得る。ニューラルネットワークは、一般的には、選定された目的を最大化することを試みて、入力と出力との間の接続を「オン」または「オフ」に変えることにおいて、生物学的脳の挙動を再現することを試みる。
本開示は多くの特定の実現形態の詳細を内包するが、これらの詳細は、特許請求され得るものの範囲に対する制限としてではなく、むしろ、個別の実現形態に固有の特徴の説明として解釈されるべきである。別個の実現形態の文脈において、本明細書において説明される所定の特徴もまた、単一の実現形態において、組合せにおいて実現され得る。逆に、単一の実現形態の文脈において説明される様々な特徴もまた、複数の実現形態において、別個に、または、任意の適する部分組合せにおいて実現され得る。その上、特徴は、所定の組合せにおいて作用すると上記で説明され、そのようなものとして当初に特許請求されることさえあるが、特許請求される組合せからの1つまたは複数の特徴は、場合によっては、組合せから削られてもよく、特許請求される組合せは、部分組合せまたは部分組合せの変形例を対象としてもよい。
同様に、動作は、特定の順序で図面において描写されるが、このことは、そのような動作が、示される特定の順序で、もしくは逐次的な順序で遂行されるということ、または、すべての例解される動作が、望ましい結果を達成するために遂行されるということを要すると理解されるべきではない。状況によっては、マルチタスキングおよび並列処理が有利であることがある。
「または」への言及は、包含的と解釈されることがあり、そのことによって、「または」を使用して説明されるいずれの用語も、説明される用語の、単数、2つ以上、およびすべてのうちのいずれかを指示することがある。ラベル「第1の」、「第2の」、「第3の」などは、順序付けを指示することを必ずしも意味せず、概して、ただ単に、類するまたは同様の項目または要素同士の間で区別するために使用される。
開示される本テクノロジーの態様は、以下の特徴および部分特徴の任意の組合せを含み得る。
F1.健康ストレッサを決定するための方法であって、
ユーザのユーザデバイス上に表示されるテキスト情報、および、ユーザデバイス上に表示される画像データのうちの1つまたは複数を含む入力情報を受け取るステップと、
ユーザと関連付けられたウェアラブルデバイスから、所与の時間マーカにおいて健康情報を受け取るステップと、
受け取られた健康情報は少なくともしきい値の値であるという決定に基づいて、テキスト情報および画像データのうちの少なくとも1つを、所与の時間マーカと関連付けるステップと、
モデルを使用して、受け取られた健康情報に基づいて、他のテキスト情報または他の画像データを、テキスト情報または画像データと相関させるステップと、
他のテキスト情報および他の画像データは、受け取られた健康情報と関連付けられたテキスト情報および画像データと相関しているという決定に基づいて、ストレスインジケータを生成するステップとを含む。
F2.F1に記載の方法であって、
第1の数値を生み出すために、テキスト情報を分類するステップと、
第2の数値を生み出すために、テキスト情報と関連付けられたトピックカテゴリを決定するステップ、
第3の数値を生み出すために、画像データを分類するステップ、および
第1、第2、および第3の数値と、受け取られた健康情報とを含む第1のベクトルを形成するステップのうちの1つまたは複数を含む。ストレスインジケータを生成するステップは、第1のベクトルに基づく。
F3.F1およびF2のいずれか1つに記載の方法であって、相関させるステップは、第1のベクトルの受け取られた健康情報を使用して、複数のベクトルを有するベクトル空間を検索するステップを含む。
F4.F1~F3のいずれか1つに記載の方法であって、テキスト情報を分類するステップは、感情分類器を使用してテキスト情報を分類するステップを含む。
F5.F1~F4のいずれか1つに記載の方法であって、感情分類器の出力は、第1の数値を含む数値にマッピングされる。
F6.F1~F5のいずれか1つに記載の方法であって、感情分類器は、サポートベクトルマシン(SVM)、ベイジアン分類器、または、長短期記憶(LSTM)導出モデルのうちの1つを含む。
F7.F1~F6のいずれか1つに記載の方法であって、画像データは、ビデオまたは静止画像データを含む。
F8.F1~F7のいずれか1つに記載の方法であって、画像データは、ユーザデバイス上のアプリケーションを通して視聴可能である。
F9.F1~F8のいずれか1つに記載の方法であって、健康情報は、心拍数、心拍数変動、体温、EDA活動からのストレス、ユーザモーション、および睡眠データのうちの1つまたは複数を含む。
F10.F1~F9のいずれか1つに記載の方法であって、ストレスインジケータは、ユーザにストレッサ事象を通知するメッセージを含む。
F11.F1~F10のいずれか1つに記載の方法であって、ストレスインジケータに基づいて、他のテキスト情報および/または他の画像データを、ユーザデバイス上のディスプレイからブロックするステップをさらに含む。
F12.F1~F11のいずれか1つに記載の方法であって、ユーザへのブロッキング通知に応答した、ユーザによる承認を受け取った後に、他のテキスト情報および/または他の画像データをユーザデバイス上に表示するステップをさらに含む。
F13.装置であって、
通信インターフェースと、
ディスプレイと、
1つまたは複数のメモリデバイスに結合された1つまたは複数のコンピューティングデバイスとを含む。1つまたは複数のメモリデバイスは、命令を内包し、命令は、
ディスプレイ上に表示されるテキスト情報および画像データのうちの1つまたは複数を含む入力情報を取得することと、
ユーザと関連付けられたウェアラブルデバイスから、所与の時間マーカにおいて健康情報を取得することと、
受け取られた健康情報は少なくともしきい値の値であるという決定に基づいて、テキスト情報および画像データのうちの少なくとも1つを、所与の時間マーカと関連付けることと、
モデルを使用して、受け取られた健康情報に基づいて、他のテキスト情報または他の画像データを、テキスト情報または画像データに相関させることと、
他のテキスト情報および他の画像データは、受け取られた健康情報と関連付けられたテキスト情報および画像データと相関しているという決定に基づいて、ストレスインジケータを生成することと
を、1つまたは複数の処理デバイスに行わせる。
F14.F13に記載の装置であって、1つまたは複数の命令は、
第1の数値を生み出すために、テキスト情報を分類する動作、
第2の数値を生み出すために、テキスト情報と関連付けられたトピックカテゴリを決定する動作、
第3の数値を生み出すために、画像データを分類する動作、ならびに
第1、第2、および第3の数値と、受け取られた健康情報とを含む第1のベクトルを形成する動作
のうちの1つまたは複数を、1つまたは複数の処理デバイスに行わせる。
F15.F13~F14のいずれか1つに記載の装置であって、命令は、第1のベクトルの受け取られた健康情報を使用して、複数のベクトルを有するベクトル空間を検索することによって相関させることを、1つまたは複数の処理デバイスに行わせる。
F16.F13~F15のいずれか1つに記載の装置であって、命令は、感情分類器を使用してテキスト情報を分類することによって、テキスト情報を分類することを、1つまたは複数の処理デバイスに行わせる。
F17.F13~F16のいずれか1つに記載の装置であって、感情分類器の出力は、第1の数値を含む数値にマッピングされる。
F18.F13~F17のいずれか1つに記載の装置であって、感情分類器は、サポートベクトルマシン(SVM)、ベイジアン分類器、または、長短期記憶(LSTM)導出モデルのうちの1つを含む。
F19.F13~F18のいずれか1つに記載の装置であって、画像データは、ビデオまたは静止画像データを含む。
F20.F13~F19のいずれか1つに記載の装置であって、画像データは、装置上のアプリケーションを通して視聴可能である。
F21.F13~F20のいずれか1つに記載の装置であって、健康情報は、心拍数、心拍数変動、体温、EDA活動からのストレス、ユーザモーション、および睡眠データのうちの1つまたは複数を含む。
F22.F13~F21のいずれか1つに記載の装置であって、ストレスインジケータは、ユーザにストレッサ事象を通知するメッセージを含む。
本開示において説明された実現形態に対する様々な修正は、当業者にたやすく明らかであり得るものであり、本明細書において定義される全般的な原理は、本開示の趣旨または範囲から逸脱することなく、他の実現形態に適用され得る。したがって、特許請求の範囲は、本明細書において示された実現形態に制限されることを意図されるのではなく、本開示、本明細書において開示された原理および新規の特徴と矛盾しない、最も広い範囲を与えられるべきである。

Claims (22)

  1. ユーザのユーザデバイス上に表示されるテキスト情報、および、前記ユーザデバイス上に表示される画像データのうちの1つまたは複数を含む入力情報を受け取るステップと、
    前記ユーザと関連付けられたウェアラブルデバイスから、所与の時間マーカにおいて健康情報を受け取るステップと、
    受け取られた前記健康情報は少なくともしきい値の値であるという決定に基づいて、前記テキスト情報および画像データのうちの少なくとも1つを、前記所与の時間マーカと関連付けるステップと、
    モデルを使用して、受け取られた前記健康情報に基づいて、他のテキスト情報または他の画像データを、前記テキスト情報または前記画像データに相関させるステップと、
    前記他のテキスト情報および他の画像データは、受け取られた前記健康情報と関連付けられた前記テキスト情報および前記画像データと相関しているという決定に基づいて、ストレスインジケータを生成するステップと
    を含む、健康ストレッサを決定するための方法。
  2. 第1の数値を生み出すために、前記テキスト情報を分類するステップ、
    第2の数値を生み出すために、前記テキスト情報と関連付けられたトピックカテゴリを決定するステップ、
    第3の数値を生み出すために、前記画像データを分類するステップ、ならびに
    前記第1、第2、および第3の数値と、受け取られた前記健康情報とを含む第1のベクトルを形成するステップのうちの1つまたは複数を含み、前記ストレスインジケータを生成するステップは、前記第1のベクトルに基づく、請求項1に記載の方法。
  3. 相関させるステップは、前記第1のベクトルの受け取られた前記健康情報を使用して、複数のベクトルを有するベクトル空間を検索するステップを含む、請求項2に記載の方法。
  4. 前記テキスト情報を分類するステップは、感情分類器を使用して前記テキスト情報を分類するステップを含む、請求項2または請求項3に記載の方法。
  5. 前記感情分類器の出力は、前記第1の数値を含む数値にマッピングされる、請求項4に記載の方法。
  6. 前記感情分類器は、サポートベクトルマシン(SVM)、ベイジアン分類器、または、長短期記憶(LSTM)導出モデルのうちの1つを含む、請求項4または請求項5に記載の方法。
  7. 画像データは、ビデオまたは静止画像データを含む、先行する請求項のいずれか1項に記載の方法。
  8. 前記画像データは、前記ユーザデバイス上のアプリケーションを通して視聴可能である、先行する請求項のいずれか1項に記載の方法。
  9. 健康情報は、心拍数、心拍数変動、体温、EDA活動からのストレス、ユーザモーション、および睡眠データのうちの1つまたは複数を含む、先行する請求項のいずれか1項に記載の方法。
  10. 前記ストレスインジケータは、前記ユーザにストレッサ事象を通知するメッセージを含む、先行する請求項のいずれか1項に記載の方法。
  11. 前記ストレスインジケータに基づいて、前記他のテキスト情報および/または前記他の画像データを、前記ユーザデバイス上のディスプレイからブロックするステップをさらに含む、先行する請求項のいずれか1項に記載の方法。
  12. 前記ユーザへのブロッキング通知に応答した、前記ユーザによる承認を受け取った後に、前記他のテキスト情報および/または前記他の画像データを前記ユーザデバイス上に表示するステップをさらに含む、先行する請求項のいずれか1項に記載の方法。
  13. 通信インターフェースと、
    ディスプレイと、
    1つまたは複数のメモリデバイスに結合された1つまたは複数のコンピューティングデバイスとを含み、前記1つまたは複数のメモリデバイスは、命令を内包し、前記命令は、
    前記ディスプレイ上に表示されるテキスト情報および画像データのうちの1つまたは複数を含む入力情報を取得することと、
    ユーザと関連付けられたウェアラブルデバイスから、所与の時間マーカにおいて健康情報を取得することと、
    受け取られた前記健康情報は少なくともしきい値の値であるという決定に基づいて、前記テキスト情報および画像データのうちの少なくとも1つを、前記所与の時間マーカと関連付けることと、
    モデルを使用して、受け取られた前記健康情報に基づいて、他のテキスト情報または他の画像データを、前記テキスト情報または前記画像データに相関させることと、
    前記他のテキスト情報および他の画像データは、受け取られた前記健康情報と関連付けられた前記テキスト情報および前記画像データと相関しているという決定に基づいて、ストレスインジケータを生成することと
    を、前記1つまたは複数の処理デバイスに行わせる、装置。
  14. 1つまたは複数の前記命令は、
    第1の数値を生み出すために、前記テキスト情報を分類する動作、
    第2の数値を生み出すために、前記テキスト情報と関連付けられたトピックカテゴリを決定する動作、
    第3の数値を生み出すために、前記画像データを分類する動作、ならびに
    前記第1、第2、および第3の数値と、受け取られた前記健康情報とを含む第1のベクトルを形成する動作
    のうちの1つまたは複数を、前記1つまたは複数の処理デバイスに行わせる、請求項13に記載の装置。
  15. 前記命令は、前記第1のベクトルの受け取られた前記健康情報を使用して、複数のベクトルを有するベクトル空間を検索することによって相関させることを、前記1つまたは複数の処理デバイスに行わせる、請求項14に記載の装置。
  16. 前記命令は、感情分類器を使用して前記テキスト情報を分類することによって、前記テキスト情報を分類することを、前記1つまたは複数の処理デバイスに行わせる、請求項14または請求項15に記載の装置。
  17. 前記感情分類器の出力は、前記第1の数値を含む数値にマッピングされる、請求項16に記載の装置。
  18. 前記感情分類器は、サポートベクトルマシン(SVM)、ベイジアン分類器、または、長短期記憶(LSTM)導出モデルのうちの1つを含む、請求項16または請求項17に記載の装置。
  19. 画像データは、ビデオまたは静止画像データを含む、請求項13~請求項18のいずれか1項に記載の装置。
  20. 前記画像データは、前記装置上のアプリケーションを通して視聴可能である、請求項13~請求項19のいずれか1項に記載の装置。
  21. 健康情報は、心拍数、心拍数変動、体温、EDA活動からのストレス、ユーザモーション、および睡眠データのうちの1つまたは複数を含む、請求項13~請求項20のいずれか1項に記載の装置。
  22. 前記ストレスインジケータは、前記ユーザにストレッサ事象を通知するメッセージを含む、請求項13~請求項21のいずれか1項に記載の装置。
JP2023572853A 2021-05-26 2022-05-25 隠れたストレッサの有効な識別および通知 Pending JP2024520442A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US17/331,077 US20220384034A1 (en) 2021-05-26 2021-05-26 Active Hidden Stressor Identification and Notification
US17/331,077 2021-05-26
PCT/US2022/030909 WO2022251350A1 (en) 2021-05-26 2022-05-25 Active hidden stressor identification and notification

Publications (1)

Publication Number Publication Date
JP2024520442A true JP2024520442A (ja) 2024-05-24

Family

ID=82595075

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023572853A Pending JP2024520442A (ja) 2021-05-26 2022-05-25 隠れたストレッサの有効な識別および通知

Country Status (5)

Country Link
US (1) US20220384034A1 (ja)
EP (1) EP4348677A1 (ja)
JP (1) JP2024520442A (ja)
CN (1) CN117355907A (ja)
WO (1) WO2022251350A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116028617B (zh) * 2022-12-06 2024-02-27 腾讯科技(深圳)有限公司 资讯推荐方法、装置、设备、可读存储介质及程序产品

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9955902B2 (en) * 2015-01-29 2018-05-01 Affectomatics Ltd. Notifying a user about a cause of emotional imbalance

Also Published As

Publication number Publication date
US20220384034A1 (en) 2022-12-01
EP4348677A1 (en) 2024-04-10
CN117355907A (zh) 2024-01-05
WO2022251350A1 (en) 2022-12-01

Similar Documents

Publication Publication Date Title
US20220084055A1 (en) Software agents and smart contracts to control disclosure of crowd-based results calculated based on measurements of affective response
US9104969B1 (en) Utilizing semantic analysis to determine how to process measurements of affective response
US10572679B2 (en) Privacy-guided disclosure of crowd-based scores computed based on measurements of affective response
US8898091B2 (en) Computing situation-dependent affective response baseline levels utilizing a database storing affective responses
US20170095192A1 (en) Mental state analysis using web servers
US20190108191A1 (en) Affective response-based recommendation of a repeated experience
US20150058081A1 (en) Selecting a prior experience similar to a future experience based on similarity of token instances and affective responses
Mirchevska et al. Combining domain knowledge and machine learning for robust fall detection
US11430561B2 (en) Remote computing analysis for cognitive state data metrics
US10143414B2 (en) Sporadic collection with mobile affect data
WO2017136938A1 (en) A quality adaptive multimodal affect recognition system for user-centric multimedia indexing
US20170105668A1 (en) Image analysis for data collected from a remote computing device
US20150213012A1 (en) Document searching using salience
US20200143286A1 (en) Affective Response-based User Authentication
Zhang et al. Multi-modal interactive fusion method for detecting teenagers’ psychological stress
JP2023500974A (ja) 対人インタラクション支援のために行動データを収集するシステム及び方法
JP2024520442A (ja) 隠れたストレッサの有効な識別および通知
Sasaka et al. A novel framework for estimating viewer interest by unsupervised multimodal anomaly detection
US20220409134A1 (en) Using an In-Ear Microphone Within an Earphone as a Fitness and Health Tracker
US20180082017A1 (en) Method and apparatus for information retrieval
CN113168596A (zh) 行为推荐方法、装置、存储介质及电子设备
US20240282414A1 (en) Biological Measurement Data Processing Device and Biological Measurement Data Processing Method
Mitra et al. Automatic Detection of Situational Context Using AI from Minimal Sensor Modality
WO2022268492A1 (en) Patient context detection

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240117

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20241009