JPWO2019073906A1 - プログラム、情報処理システム、ストレス評価方法、ストレス評価システム、コンピュータプログラム、記録媒体 - Google Patents
プログラム、情報処理システム、ストレス評価方法、ストレス評価システム、コンピュータプログラム、記録媒体 Download PDFInfo
- Publication number
- JPWO2019073906A1 JPWO2019073906A1 JP2019548168A JP2019548168A JPWO2019073906A1 JP WO2019073906 A1 JPWO2019073906 A1 JP WO2019073906A1 JP 2019548168 A JP2019548168 A JP 2019548168A JP 2019548168 A JP2019548168 A JP 2019548168A JP WO2019073906 A1 JPWO2019073906 A1 JP WO2019073906A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- value
- stress
- face
- facial expression
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/107—Measuring physical dimensions, e.g. size of the entire body or parts thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Veterinary Medicine (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Developmental Disabilities (AREA)
- Psychiatry (AREA)
- Psychology (AREA)
- Hospice & Palliative Care (AREA)
- Geometry (AREA)
- Educational Technology (AREA)
- Social Psychology (AREA)
- Child & Adolescent Psychology (AREA)
- Dentistry (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
Description
本発明のストレス評価方法は、概略以下の工程(1)〜(4)に分けられる。
(1)被験者に指示する工程;
(2)被験者の顔を撮像装置で撮像する工程;
(3)撮像された画像を処理し、ストレスを反映するパラメータを得る工程;及び、
(4)画像の処理から得たパラメータを用いて演算し、ストレス指標値を算出する工程。
(1)被験者に指示するステップ;
(2)撮像装置で撮像された被験者の顔画像を処理して被験者のストレスを反映するパラメータを出力するステップ、及び
(3)画像処理から出力されたパラメータを用いて演算し、ストレス指標値を算出するステップを含み、
前記ステップ(2)において、顔画像における左右の目尻、左右の口角、及び任意に左右の目の中心点の位置を特定し、一方の側の目尻(a1)と口角(b1)とを通る直線(a1−b1)及び他方の側の目尻(a2)と口角(b2)とを通る直線(a2−b2)を引き、前記直線(a1−b1)と基準線とがなす角度(θ1)及び前記直線(a2−b2)と基準線とがなす角度(θ2)を計測し、これら「θ1」及び「θ2」の値をパラメータとして出力し、
前記ステップ(3)において前記パラメータ(θ1及びθ2)を用いてストレス指標値を算出することを特徴とする。
以下に具体例を挙げて本発明を更に詳細に説明するが、本発明は以下の実施例によって何ら限定されるものではない。
図3は本発明の方法の第一態様に従って測定したストレス指標値(θ1−θ2)(図1参照)と、同時に測定した唾液中のコルチゾール濃度の変化をプロットしたグラフである。
図4は本発明の方法の第二態様に従って測定したストレス指標値(θ1'−θ2')(図1参照)と、同時に測定した唾液中のコルチゾール濃度をプロットしたグラフである。
図5は本発明の方法の第三態様に従って測定したストレス指標値((θ1−θ2)―(θ1"−θ2"))(図1及び図2参照)と、同時に測定した唾液中のコルチゾール濃度をプロットしたグラフである。
[第2の実施形態]
第2の実施形態では、第1の実施形態のストレス評価方法を利用して、被験者のストレスをプログラムの一例であるストレス診断アプリケーションにより診断する。なお、第1の実施形態と同様な内容については適宜説明を省略する。
図6A及び図6Bは、本実施形態に係る情報処理システムの一例の構成図である。本実施形態に係る情報処理システムは、図6Aに示すように情報処理装置1単体で構成してもよいし、図6Bに示すようにネットワーク5で接続された被験者の1台以上のクライアント端末2、サーバ装置3及び検査実施者のクライアント端末4で構成してもよい。
《情報処理装置、被験者のクライアント端末》
情報処理装置1、被験者のクライアント端末2は例えば図7A及び図7Bに示すハードウェア構成のコンピュータにより実現される。図7A及び図7Bはコンピュータの一例のハードウェア構成図である。
サーバ装置3、検査実施者のクライアント端末4は例えば図8に示すハードウェア構成のコンピュータにより実現される。図8は、コンピュータの一例のハードウェア構成図である。なお、図7A及び図7Bと同一な部分についての説明は省略する。
ここでは図6Aに示した情報処理装置1のソフトウェア構成について説明する。図9は本実施形態に係る情報処理装置の一例の機能ブロック図である。情報処理装置1は、操作受付部10、画像入力部12、笑顔値計測部14、特徴点抽出部16、指示部18、コンテンツ生成部20、ストレス指標算出部22、コンテンツ表示部24、ストレス指標記憶部26を有する構成である。
《全体処理》
本実施形態に係る情報処理装置1は例えば図10に示すような手順で処理を行う。図10は本実施形態に係る情報処理装置の全体処理の一例のフローチャートである。情報処理装置1は被験者によりストレス診断アプリが実行されたあと、ストレス診断開始の操作を受け付けると、ステップS10に進み、コンテンツ画像に表示される被験者の顔画像の位置を合わせる、後述の顔位置合わせ処理を行う。
図11は顔位置合わせ処理の一例のフローチャートである。ステップS20において情報処理装置1の画像入力部12は撮影装置509が撮影した画像(入力画像)がフレーム単位で入力される。画像入力部12は入力画像をコンテンツ生成部20に提供して、図12に示すようなコンテンツ画像をストレス診断アプリ画面1000に表示させる。図12は顔位置合わせ処理時のストレス診断アプリ画面の一例のイメージ図である。ストレス診断アプリ画面1000には入力画像に含まれる顔画像の目標位置である枠1002が表示される。
図13はデータ取得処理の一例のフローチャートである。ステップS40において情報処理装置1の画像入力部12は撮影装置509が撮影した画像(入力画像)がフレーム単位で入力される。画像入力部12は入力画像をコンテンツ生成部20に提供して、図14に示すようなコンテンツ画像をストレス診断アプリ画面1000に表示させる。図14はデータ取得処理時のストレス診断アプリ画面の一例のイメージ図である。ストレス診断アプリ画面1000には目標笑顔値1004と計測笑顔値1006とが表示される。図14では「笑顔値」を「笑顔スコア」と表示している。
図16はデータ解析処理の一例のフローチャートである。ステップS60において情報処理装置1の特徴点抽出部16はステップS12のデータ取得処理で保存した履歴画像を読み込む。ステップS62に進み、特徴点抽出部16はステップS60で読み込んだ履歴画像を顔画像解析し、履歴画像に含まれる顔画像の検出を行う。ステップS60〜S64の処理は顔画像が検出できるまで繰り返される。
図18はレポート出力処理の一例のフローチャートである。ステップS80において情報処理装置1のコンテンツ生成部20はステップS14で保存したストレス指標値の履歴データをストレス指標記憶部26から読み出す。
2、4 クライアント端末
3 サーバ装置
5 ネットワーク
10 操作受付部
12 画像入力部
14 笑顔値計測部
16 特徴点抽出部
18 指示部
20 コンテンツ生成部
22 ストレス指標算出部
24 コンテンツ表示部
26 ストレス指標記憶部
501、601 入力装置
502、602 表示装置
503、603 外部I/F
503a、603a 記録媒体
504、604 RAM
505、605 ROM
506、606 CPU
507、607 通信I/F
508、608 HDD
509 撮影装置
1000 ストレス診断アプリ画面
1002 枠
1004 目標笑顔値
1006 計測笑顔値
1008 マスキング
1010、1012 切り替えるボタン
1020 全体レポート
1030 アンケート画面
1040 顔画像解析によるストレス診断の結果
1042 アンケートによるストレス診断の結果
B バス
Claims (6)
- コンピュータを、
撮影画像に含まれるユーザの表情値を計測する計測手段、
前記撮影画像と前記計測手段により計測される表情値とを表示する表示手段、
前記計測手段により計測される表情値を指定して、撮像装置によるユーザの顔の撮影をユーザに指示する指示手段、
前記撮像装置により撮像されたユーザの顔画像を解析し、前記顔画像における複数の特徴点の位置を抽出する抽出手段、
前記抽出手段により抽出された複数の特徴点の位置を利用してストレス指標となる値を算出する算出手段、
前記算出手段により算出されたストレス指標となる値を出力する出力手段、
として機能させ、
前記算出手段は、指定された表情値の表情をユーザが作ったときの前記顔画像から得た前記複数の特徴点から、前記顔のゆがみを表す値をストレス指標となる値として算出すること
を特徴とするプログラム。 - 前記表示手段は、前記撮影画像に含まれるユーザの顔の部分をマスキングして表示すること
を特徴とする請求項1記載のプログラム。 - 前記指示手段は、前記計測手段により計測される2種類の表情値を指定して、撮像装置によるユーザの顔の撮影をユーザに指示し、
前記算出手段は、指定された2種類の表情値の表情をユーザが作ったときの前記顔画像からそれぞれ得た前記複数の特徴点から、前記顔のゆがみを表す値の差分をストレス指標となる値として算出すること
を特徴とする請求項1又は2記載のプログラム。 - 前記算出手段は、前記抽出手段により前記複数の特徴点として抽出された、前記顔画像における右側の目尻(a1)と口角(b1)とを通る直線(a1−b1)及び左側の目尻(a2)と口角(b2)とを通る直線(a2−b2)を引き、前記直線(a1−b1)と基準線とがなす角度(θ1)及び前記直線(a2−b2)と基準線とがなす角度(θ2)から、指定された表情値の表情をユーザが作ったときの前記顔のゆがみを表す値をストレス指標となる値として算出すること
を特徴とする請求項1又は2記載のプログラム。 - 前記基準線は、前記顔画像の水平線、又は、前記抽出手段により前記複数の特徴点として抽出された、前記顔画像における右目の中心点(c1)と左目の中心点(c2)とを通る目の中心線、であること
を特徴とする請求項4記載のプログラム。 - サーバ装置とクライアント装置とがネットワークを介して接続された情報処理システムであって、
撮影画像に含まれるユーザの表情値を計測する計測手段と、
前記撮影画像と前記計測手段により計測される表情値とを表示する表示手段と、
前記計測手段により計測される表情値を指定して、撮像装置によるユーザの顔の撮影をユーザに指示する指示手段と、
前記撮像装置により撮像されたユーザの顔画像を解析し、前記顔画像における複数の特徴点の位置を抽出する抽出手段と、
前記抽出手段により抽出された複数の特徴点の位置を利用してストレス指標となる値を算出する算出手段と、
前記算出手段により算出されたストレス指標となる値を出力する出力手段と、
を有し、
前記算出手段は、指定された表情値の表情をユーザが作ったときの前記顔画像から得た前記複数の特徴点から、前記顔のゆがみを表す値をストレス指標となる値として算出すること
を特徴とする情報処理システム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017196505 | 2017-10-10 | ||
JP2017196505 | 2017-10-10 | ||
PCT/JP2018/037274 WO2019073906A1 (ja) | 2017-10-10 | 2018-10-04 | プログラム及び情報処理システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019073906A1 true JPWO2019073906A1 (ja) | 2020-12-03 |
JP7107958B2 JP7107958B2 (ja) | 2022-07-27 |
Family
ID=66100898
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018180173A Pending JP2019069143A (ja) | 2017-10-10 | 2018-09-26 | ストレスの評価方法 |
JP2019548168A Active JP7107958B2 (ja) | 2017-10-10 | 2018-10-04 | プログラム、情報処理システム、ストレス評価方法、ストレス評価システム、コンピュータプログラム、記録媒体 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018180173A Pending JP2019069143A (ja) | 2017-10-10 | 2018-09-26 | ストレスの評価方法 |
Country Status (3)
Country | Link |
---|---|
JP (2) | JP2019069143A (ja) |
TW (2) | TW201923653A (ja) |
WO (2) | WO2019073732A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7516860B2 (ja) * | 2020-05-22 | 2024-07-17 | 株式会社リコー | 脈波測定装置 |
WO2024127982A1 (ja) * | 2022-12-13 | 2024-06-20 | 株式会社資生堂 | 顔画像データを取得する方法、情報処理装置、プログラム、及び情報処理システム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001000421A (ja) * | 1999-06-22 | 2001-01-09 | Pola Chem Ind Inc | 表情のシミュレート法 |
JP2005505063A (ja) * | 2001-09-28 | 2005-02-17 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 4つの特徴点からの頭部運動推定 |
US9298257B2 (en) * | 2010-12-01 | 2016-03-29 | Samsung Electronics Co., Ltd. | Apparatus and method for controlling avatar using expression control point |
JP2017176762A (ja) * | 2016-03-31 | 2017-10-05 | 有限会社Triart | ストレス評価方法およびストレス評価システム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5163440B2 (ja) * | 2008-11-19 | 2013-03-13 | 株式会社デンソー | 眠気判定装置、プログラム |
JP5703068B2 (ja) * | 2011-02-28 | 2015-04-15 | 綜合警備保障株式会社 | 顔検出方法および顔検出装置、ならびに、プログラム |
JP2016179054A (ja) * | 2015-03-24 | 2016-10-13 | 日本電気株式会社 | 情報処理装置、ストレス解消システムおよびストレス解消方法 |
-
2018
- 2018-09-10 WO PCT/JP2018/033439 patent/WO2019073732A1/ja active Application Filing
- 2018-09-21 TW TW107133289A patent/TW201923653A/zh unknown
- 2018-09-26 JP JP2018180173A patent/JP2019069143A/ja active Pending
- 2018-10-04 JP JP2019548168A patent/JP7107958B2/ja active Active
- 2018-10-04 WO PCT/JP2018/037274 patent/WO2019073906A1/ja active Application Filing
- 2018-10-09 TW TW107135494A patent/TW201923694A/zh unknown
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001000421A (ja) * | 1999-06-22 | 2001-01-09 | Pola Chem Ind Inc | 表情のシミュレート法 |
JP2005505063A (ja) * | 2001-09-28 | 2005-02-17 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 4つの特徴点からの頭部運動推定 |
US9298257B2 (en) * | 2010-12-01 | 2016-03-29 | Samsung Electronics Co., Ltd. | Apparatus and method for controlling avatar using expression control point |
JP2017176762A (ja) * | 2016-03-31 | 2017-10-05 | 有限会社Triart | ストレス評価方法およびストレス評価システム |
Non-Patent Citations (1)
Title |
---|
田中 智也 他: "表情分析によるストレス評価の検討", 平成29年電気学会電子・情報・システム部門大会講演論文集, JPN6022025553, 6 September 2017 (2017-09-06), JP, pages 1136 - 1139, ISSN: 0004803729 * |
Also Published As
Publication number | Publication date |
---|---|
RU2020115386A3 (ja) | 2021-11-12 |
JP2019069143A (ja) | 2019-05-09 |
TW201923653A (zh) | 2019-06-16 |
WO2019073732A1 (ja) | 2019-04-18 |
RU2020115386A (ru) | 2021-11-12 |
WO2019073906A1 (ja) | 2019-04-18 |
TW201923694A (zh) | 2019-06-16 |
JP7107958B2 (ja) | 2022-07-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Bonilha et al. | Vocal fold phase asymmetries in patients with voice disorders: a study across visualization techniques | |
US10070787B2 (en) | System and method for detection and monitoring of a physical condition of a user | |
US20180235530A1 (en) | Method and system for detecting concussion | |
Chamberlain et al. | A mobile platform for automated screening of asthma and chronic obstructive pulmonary disease | |
KR20170099773A (ko) | 신체 능력의 측정 및 증진을 위한 스마트 기기 | |
JP7107958B2 (ja) | プログラム、情報処理システム、ストレス評価方法、ストレス評価システム、コンピュータプログラム、記録媒体 | |
JP2024100863A (ja) | 情報処理装置、制御方法及びプログラム | |
US20220245811A1 (en) | Analysis of retinal imaging using video | |
JP7209954B2 (ja) | 眼振解析システム | |
Lootus et al. | Development and assessment of an artificial intelligence-based tool for ptosis measurement in adult myasthenia gravis patients using selfie video clips recorded on smartphones | |
Migliorelli et al. | A store-and-forward cloud-based telemonitoring system for automatic assessing dysarthria evolution in neurological diseases from video-recording analysis | |
JP2015197803A (ja) | 行動記録装置、行動記録方法及びプログラム | |
JP2017176580A (ja) | 感情制御装置、感情制御方法、およびプログラム | |
Shah et al. | Eyedentify: A dataset for pupil diameter estimation based on webcam images | |
KR20210074008A (ko) | 이미지 분석을 이용한 사시 진단 시스템 및 방법 | |
JP7546955B2 (ja) | 解析システム、解析システムの作動方法、及び解析用プログラム | |
RU2794161C2 (ru) | Программа и система обработки информации | |
US20240215865A1 (en) | Determining the quality of setting up a headset for cranial accelerometry | |
KR102565852B1 (ko) | 얼굴표정 분석기반 자폐 스펙트럼 장애 평가 방법 | |
JP7514521B2 (ja) | 心拍測定システム、心拍測定方法、及び心拍測定プログラム | |
Lai et al. | App-based saccade latency and error determination across the adult age spectrum | |
US20240346853A1 (en) | Information processing system, information processing apparatus, information processing method, and non-transitory computer readable medium storing program | |
JP7565566B2 (ja) | 身体状態の推定装置、身体状態の推定装置の作動方法、プログラム、および記録媒体 | |
WO2022138661A1 (ja) | 不整脈状態検出支援装置及びプログラム | |
US20240347216A1 (en) | Information processing system, information processing apparatus, information processing method, and non-transitory computer readable medium storing program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200406 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210824 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220621 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220714 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7107958 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |