JP7107958B2 - プログラム、情報処理システム、ストレス評価方法、ストレス評価システム、コンピュータプログラム、記録媒体 - Google Patents

プログラム、情報処理システム、ストレス評価方法、ストレス評価システム、コンピュータプログラム、記録媒体 Download PDF

Info

Publication number
JP7107958B2
JP7107958B2 JP2019548168A JP2019548168A JP7107958B2 JP 7107958 B2 JP7107958 B2 JP 7107958B2 JP 2019548168 A JP2019548168 A JP 2019548168A JP 2019548168 A JP2019548168 A JP 2019548168A JP 7107958 B2 JP7107958 B2 JP 7107958B2
Authority
JP
Japan
Prior art keywords
image
stress
face
value
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019548168A
Other languages
English (en)
Other versions
JPWO2019073906A1 (ja
Inventor
智子 石川
麻里子 大江
悟郎 千財
祐輔 原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shiseido Co Ltd
Original Assignee
Shiseido Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shiseido Co Ltd filed Critical Shiseido Co Ltd
Publication of JPWO2019073906A1 publication Critical patent/JPWO2019073906A1/ja
Application granted granted Critical
Publication of JP7107958B2 publication Critical patent/JP7107958B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/107Measuring physical dimensions, e.g. size of the entire body or parts thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • General Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Hospice & Palliative Care (AREA)
  • Social Psychology (AREA)
  • Psychology (AREA)
  • Child & Adolescent Psychology (AREA)
  • Psychiatry (AREA)
  • Educational Technology (AREA)
  • Developmental Disabilities (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Geometry (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明はプログラム情報処理システム、ストレス評価方法、ストレス評価システム、コンピュータプログラム、記録媒体に関する。
心理的又は精神的ストレスは、程度の差はあるものの、現代を生きる人々の健康にとって無視できない影響を与えている。ストレスが昂じると感情の起伏が激しくなり、疲労、食欲不振、発熱、不眠など身体状態の不調を来し、それに起因して肥満症や糖尿病等の生活習慣病となる場合もあり、そのまま放置すれば鬱病を代表例とする心の病気を発症する危険がある。従って、近年は、メンタルヘルスの重要性が提唱され、各人が自己のストレス管理をするのみならず、各企業が従業員のストレス状態を把握して適切に管理することが求められるようになっている。
人のストレス状態を測定する手段として、例えば、特許文献1では、ストレスによる心拍のゆらぎと呼吸情報とを組み合わせて解析する計測装置が記載されている。また、ストレス関連遺伝子の発現状態や血中の特定のアミノ酸濃度変化からストレス(抑鬱)状態を測定する方法も提案されている(特許文献2及び3)。
副腎皮質から分泌されるホルモンであるコルチゾールは、過度なストレスを受けると分泌量が増加することからストレスホルモンとも呼ばれている。血液、尿、唾液等の体液中のコルチゾール濃度からストレス状態を測定する試みが行なわれており、特に唾液中のコルチゾール濃度がストレス状態を良好に反映しているとの報告もある(非特許文献1及び2)。また、体液中のコルチゾール濃度を測定するに当たり、サンプル収集のための被験者の負担を軽減した器具等も提案されている(特許文献4)。
しかしながら、上記のような従来方法では、ストレス測定のための装置を購入する必要がある、あるいは、実際の測定に当たって測定サンプルを取得するために採血等の侵襲処置が必要であるといった理由により、日常的なストレス管理に汎用されるには至っていない。
巷間、ストレスが加わると顔の表情が変化する又は顔が歪むなどと言われている。確かに、ストレスによる緊張状態が続くと顔の表情筋が緊張して硬くなり、表情がこわばるといった現象が起こり得る。しかしながら、これまでに、顔(表情等)の変化とストレスとを定量的に関連づけた例は皆無である。
特開2010-234000号公報 特開2013-110969号公報 特許第5856364号公報 特開2012-251857号公報
Ross F. Vining, et al., Ann. Clin. Biochem, Vol. 20, PP. 329-335 (1983) J. Gonzalez-Cabrera, et al., STRESS: The International Journal on the Biology of Stress, Vol. 17, Issue 2, pp.149-156 (2014)
本発明は、上記の技術状況と背景として、被験者のストレス状態を簡便かつ非侵襲的に評価できるプログラムを提供することを目的とする。
本発明者等は、ストレスが人の心や身体に与える影響を検証する中で、被験者の顔(表情等)の変化とストレスとの相関関係に着目して鋭意研究を重ねた。その結果、被験者のストレスが、顔の左右の歪みや、自分の顔を撮像装置に対して真っ直ぐに正対させる行為等にも影響を与えるという知見を得た。そして、一定条件下で撮像した被験者の顔画像を処理して得たパラメータを用いることにより、ストレス状態を定量的に評価しうる指標が再現性よく得られることを初めて見出し、本発明を完成するに至った。
すなわち、本発明は、コンピュータを、撮影画像に含まれるユーザの表情値を計測する計測手段、前記撮影画像と前記計測手段により計測される表情値とを表示する表示手段、前記計測手段により計測される表情値を指定して、撮像装置によるユーザの顔の撮影をユーザに指示する指示手段、前記撮像装置により撮像されたユーザの顔画像を解析し、前記顔画像における複数の特徴点の位置を抽出する抽出手段、前記抽出手段により抽出された複数の特徴点の位置を利用してストレス指標となる値を算出する算出手段、前記算出手段により算出されたストレス指標となる値を出力する出力手段、として機能させ、前記算出手段は、指定された表情値の表情をユーザが作ったときの前記顔画像から得た前記複数の特徴点から、前記顔のゆがみを表す値をストレス指標となる値として算出することを特徴とするプログラムを提供する。
本発明に係るプログラムは、測定のための特別な装置を必要とせず、血液等の体液試料を採取する必要のない完全に非侵襲的な方法で被験者のストレスを評価することができる。
本発明の方法において、最大笑顔で撮像した顔画像における特徴点を抽出し、当該特徴点からストレス指標となる値を算出することを説明する模式図である。 本発明の方法において、真顔で撮像した顔画像における特徴点を抽出し、当該特徴点からストレス指標となる値を算出することを説明する模式図である。 本発明の第一態様(実施例1)で得られた被験者のストレス指標値と同被験者の唾液コルチゾール濃度との相関を示すグラフである。 本発明の第二態様(実施例2)で得られた被験者のストレス指標値と同被験者の唾液コルチゾール濃度との相関を示すグラフである。 本発明の第三態様(実施例3)で得られた被験者のストレス指標値と同被験者の唾液コルチゾール濃度との相関を示すグラフである。 本実施形態に係る情報処理システムの一例の構成図である。 本実施形態に係る情報処理システムの一例の構成図である。 コンピュータの一例のハードウェア構成図である。 コンピュータの一例のハードウェア構成図である。 コンピュータの一例のハードウェア構成図である。 本実施形態に係る情報処理装置の一例の機能ブロック図である。 本実施形態に係る情報処理装置の全体処理の一例のフローチャートである。 顔位置合わせ処理の一例のフローチャートである。 顔位置合わせ処理時のストレス診断アプリ画面の一例のイメージ図である。 データ取得処理の一例のフローチャートである。 データ取得処理時のストレス診断アプリ画面の一例のイメージ図である。 被験者の顔をマスキングしたストレス診断アプリ画面の一例のイメージ図である。 データ解析処理の一例のフローチャートである。 最大笑顔のときのデータ解析処理のイメージを表示するストレス診断アプリ画面の一例のイメージ図である。 最小笑顔のときのデータ解析処理のイメージを表示するストレス診断アプリ画面の一例のイメージ図である。 レポート出力処理の一例のフローチャートである。 全体レポート表示時のストレス診断アプリ画面の一例のイメージ図である。 アンケート画面の一例のイメージ図である。 顔画像解析によるストレス診断の結果とアンケートによるストレス診断の結果とを表示する画面の一例のイメージ図である。
[第1の実施形態]
本発明のストレス評価方法は、概略以下の工程(1)~(4)に分けられる。
(1)被験者に指示する工程;
(2)被験者の顔を撮像装置で撮像する工程;
(3)撮像された画像を処理し、ストレスを反映するパラメータを得る工程;及び、
(4)画像の処理から得たパラメータを用いて演算し、ストレス指標値を算出する工程。
本発明の方法の第一態様では、工程(1)において、被験者に撮像装置に顔を正対させて最大笑顔を作るように指示する。この指示に従って、被験者は撮像装置の前に位置し、顔を撮像装置に正対させ、被験者が考える最大の笑顔(以下、「最大笑顔」という)になるように表情を作る。
工程(1)における指示は、顔を撮像装置に正対させて最大笑顔を作るという指示のみならず、撮像準備が整ったことを入力させる指示、工程(2)における撮像が完了するまで顔を動かさないように注意する指示等を含んでもよい。
次いで、工程(2)において、撮像装置により被験者の顔を撮像する。撮像された顔画像は、撮像装置に記憶装置を接続して、当該記憶装置に記憶させるのが好ましい。
次に、工程(3)において、撮像された顔画像を処理する。この画像処理方法について、図1を参照しながら説明する。
(3-1)まず、顔画像において、特徴点となる一方の側の目尻(a1)及び口角(b1)、他方の側の目尻(a2)及び口角(b2)の位置を特定する。
なお、図1においては、説明の便宜上、被験者の顔の右側の目尻を(a1)、口角を(b1)とし、左側の目尻を(a2)、口角を(b2)としているが、これらは固定されるものではなく、左右を逆にしてもよい。
(3-2)次いで、一方の側の目尻(a1)と口角(b1)とを通る直線(a1-b1)、及び他方の側の目尻(a2)と口角(b2)とを通る直線(a2-b2)を引く。
(3-3)さらに、前記(3-2)で引いた直線(a1-b1)と基準線とがなす角度(θ1)及び直線(a2-b2)と基準線とがなす角度(θ2)を計測し、これら「θ1」及び「θ2」の値をパラメータとする。
この第一態様における基準線は、画像における水平線(図1における直線A-A)とする。
なお、本明細書における「直線(a1-b1)と基準線とがなす角度」及び「直線(a2-b2)と基準線とがなす角度」は、前記の直線(a1-b1)又は直線(a2-b2)と基準線とが交わったときに形成される(互いに補角となる)2つの角度のうち「90°以下となる方の角度」を意味するものとする。
最後に、工程(4)において、工程(3)で得られたパラメータであるθ1及びθ2からストレス指標値を算出する。第一態様におけるストレス指標値は、θ1とθ2との角度差(θ1-θ2)である。
この第一態様の方法によって算出されるストレス指標値である角度差(θ1-θ2)は、ストレスが加わると増加し、その増減は、ストレスホルモンであるコルチゾールの唾液中濃度の変化に追従すること、即ち、前記ストレス指標値(θ1-θ2)が被験者のストレス状態を反映していることが確認された。
この第一態様で得られるストレス指標値は、画像の水平線(A)を基準線として、その基準線に対する角度に基づいて算出しているため、最大笑顔を作ったときの顔の左右のゆがみ及び顔全体の傾きを反映した値となる。このような値をストレスの指標として選択したのは、被験者にストレスが加わった場合に、被験者が最大の笑顔と思って作る顔の表情に左右の歪みが生じることがあり、当該被験者が撮像装置に真っ直ぐに正対するという行為を実施することが困難になる場合があるという観察結果に基づいている。
本発明の方法の第二態様は、前記第一の態様と同様の工程(1)~(4)を含む。
但し、工程(3)の(3-1)において、一方の側の目尻(a1)及び口角(b1)、他方の側の目尻(a2)及び口角(b2)の位置を特定することに加えて、右目の中心点(c1)及び左目の中心点(c2)の位置を特定することを更に含む。
工程(3)の(3-2)においては、一方の側の目尻(a1)と口角(b1)とを通る直線(a1-b1)及び他方の側の目尻(a2)と口角(b2)とを通る直線(a2-b2)を引くことに加えて、右目の中心点(c1)と左目の中心点(c2)とを通る直線(以下、「目の中心線」という(図1における直線A'-A'))を引くことを更に含む。
この第二態様においては、基準線を前記の「目の中心線」とする。従って、工程(3)の(3-3)においては、直線(a1-b1)と基準線(図1における直線A'-A')とがなす角度(図1におけるθ1')及び直線(a2-b2)と基準線(図1における直線A'-A')とがなす角度(図1におけるθ2')を計測し、これら「θ1'」及び「θ2'」の値をパラメータとする。
第二態様の工程(4)においては、上記(3-3)で得られたパラメータであるθ1'及びθ2'からストレス指標値を算出する。第二態様におけるストレス指標値は、θ1'とθ2'との角度差(θ1'-θ2')である。
この第二態様の方法によって算出されるストレス指標値である角度差(θ1'-θ2')は、ストレスが加わると増加し、その増減は、ストレスホルモンであるコルチゾールの唾液中濃度の変化に追従すること、即ち、前記ストレス指標値(θ1'-θ2')が被験者のストレス状態を反映していることが確認された。
この態様で得られるストレス指標値は、目の中心線(図1における直線A'-A')に対する角度に基づいて算出しているため、顔全体の傾きによる影響が補償されるので、顔の左右の歪みのみを反映した値となる。
本発明の方法の第三態様は、前記第一態様及び第二態様と同様に、工程(1)~(4)を含む。但し、「最大笑顔」で得られるパラメータと「真顔」で得られるパラメータを取得してストレス指標値を算出する。具体的には以下の通りである。
工程(1)及び(2)は、第一態様及び第二態様と同様に、(1A):被験者に撮像装置に顔を正対させて最大笑顔を作るように指示すること、及び(2A):最大笑顔の撮像をすることを含む。それに加えて、(1B):被験者に真顔にするように指示すること、及び(2B):真顔の撮像をすることを含む。ここで、「真顔」とは、被験者が完全にリラックスして顔の筋肉に力を入れていない状態(顔の表情を消した状態)を意味する。
工程(3)は、前記(2A)で撮像された最大笑顔の画像及び前記(2B)で撮像された真顔の画像の各々について画像処理を施す。最大笑顔の画像処理については図1、真顔の画像処理については図2を参照して説明する。
(3A):最大笑顔の画像(図1)では、一方の側の目尻(a1)と口角(b1)とを通る直線(a1-b1)及び他方の側の目尻(a2)と口角(b2)とを通る直線(a2-b2)を引き、直線(a1-b1)と基準線(図1のA-A)とがなす角度(θ1)及び直線(a2-b2)と基準線(図1のA-A)とがなす角度(θ2)を計測してパラメータとする。
(3B):「真顔」の画像(図2)では、一方の側の目尻(a1")と口角(b1")とを通る直線(a1"-b1")、及び他方の側の目尻(a2")と口角(b2")とを通る直線(a2"-b2")を引き、直線(a1"-b1")と基準線(図2のA-A)とがなす角度(θ1")及び直線(a2"-b2")と基準線(図2のA-A)とがなす角度(θ2")を計測してパラメータとする。
なお、図2においても、説明の便宜上、被験者の顔の右側の目尻を(a1")、口角を(b1")とし、左側の目尻を(a2")、口角を(b2")としているが、左右を逆にしてもよい。
工程(4)においては、(3A)で得られた最大笑顔のパラメータ(θ1、θ2)及び(3B)で得られた真顔のパラメータ(θ1"及びθ2")を用いてストレス指標値を算出する。即ち、最大笑顔画像におけるθ1とθ2との角度差(θ1-θ2)及び真顔画像におけるθ1"とθ2"との角度差(θ1"-θ2")を算出し、次いで、前記の角度差(θ1-θ2)と角度差(θ1"-θ2")との差分((θ1-θ2)-(θ1"-θ2"))を算出し、これを第三態様におけるストレス指標値とする。
ここで、本態様の方法におけるストレス指標値((θ1-θ2)-(θ1"-θ2"))は、「真顔」における指標値と「最大笑顔」における指標値の差であるから、顔の傾きによる数値変化が補償される。従って、この第三態様における「基準線」としては、第一態様と同様に画像の水平線(A-A)としてもよいし、第二態様と同様に目の中心線(A'-A')としてもよい。
この第三態様の方法によって算出されるストレス指標値である((θ1-θ2)-(θ1"-θ2"))は、ストレスが加わると増加し、その増減は、ストレスホルモンであるコルチゾールの唾液中濃度の変化に追従すること、即ち、前記ストレス指標値((θ1-θ2)-(θ1"-θ2"))が被験者のストレス状態を反映していることが確認された。
この第三態様の方法は、「最大笑顔」における指標値と「真顔」における指標値との差をストレス指標としているため、第二態様と同様に顔全体の傾きによる影響が補償され、ストレスによる表情筋のこわばり等の状態が反映されることになる。
本発明の方法では、第一、第二及び第三の態様において、工程(1)と工程(2)を複数回繰り返して複数の画像を取得し、工程(3)で各画像から得られるパラメータの平均値を、工程(4)の演算に用いることにより測定誤差を低減することができる。
繰り返し回数としては、特に限定されないが、例えば、2回~10回、好ましくは3回~9回、より好ましくは4回~8回、更により好ましくは5回~7回等とすることが可能である。
本発明は、上記のストレス評価方法を実施するためのシステム及びコンピュータプログラム並びに前記コンピュータプログラムを保存した記憶媒体も提供する。
本発明のシステムは、被験者に対する指示手段、被験者の顔を撮像する撮像手段、撮像した顔画像を処理する画像処理手段、及び画像処理で得られたパラメータを演算する演算手段を具備する。
被験者に対する指示手段は、前記の指示は、撮像装置に添付された書面(使用説明書等)であってもよいし、撮像装置に接続されて指示を表示する画像表示装置、あるいは、音声で指示を与える音声出力装置であってもよい。
撮像手段は、デジタルカメラ等の撮像装置とするのが好ましい。また、カメラから取得した画像をリアルタイムで表示するモニタを備え、被験者がモニタを見ながら顔の位置をカメラの中央に調整できるようにするのが好ましい。但し、モニタを見て被験者が顔の傾きや表情等を意図的に変更することを回避するため、モニタに表示される被験者の目、鼻、及び口を含む部分をマスキングしておくのが好ましい。マスキングは、モニタ画面にマスキング部材を貼付する等によって施してもよく、モニタにマスキングを施した画像を表示する機能を付してもよい。
本発明のシステムは、撮像した顔画像のデータを記憶する記憶手段を備えるのが好ましい。
画像処理手段は、取得した顔画像における特徴点(左右の目尻、左右の口角、及び任意に目の中心点)の位置を特定し、それらの位置から前記所定の角度を計測する手段を備える。
演算手段は、画像処理で得られた角度をパラメータとして、所定の演算を実行してストレス指標値を算出する手段を備える。
本発明のシステムは、演算手段で得たストレス指標値を表示する表示装置を備えるのが好ましい。
また、各被験者のストレス指標値を記憶装置に記憶させておき、新たに得られたストレス指標値と過去のストレス指標値とを比較して、その変化に基づいて被験者に注意を促す手段を設けてもよい。
本発明のシステムは、表示手段、撮像手段、記憶手段、演算手段を具備するパーソナルコンピュータ(PC)、タブレットあるいはスマートホンとすることが可能であり、PC、タブレット又はスマートホンに、本発明のストレス評価方法を実施させるプログラム(アプリ)をダウンロードすることにより本発明のシステムを構成することができる。
本発明のコンピュータプログラムは、
(1)被験者に指示するステップ;
(2)撮像装置で撮像された被験者の顔画像を処理して被験者のストレスを反映するパラメータを出力するステップ、及び
(3)画像処理から出力されたパラメータを用いて演算し、ストレス指標値を算出するステップを含み、
前記ステップ(2)において、顔画像における左右の目尻、左右の口角、及び任意に左右の目の中心点の位置を特定し、一方の側の目尻(a1)と口角(b1)とを通る直線(a1-b1)及び他方の側の目尻(a2)と口角(b2)とを通る直線(a2-b2)を引き、前記直線(a1-b1)と基準線とがなす角度(θ1)及び前記直線(a2-b2)と基準線とがなす角度(θ2)を計測し、これら「θ1」及び「θ2」の値をパラメータとして出力し、
前記ステップ(3)において前記パラメータ(θ1及びθ2)を用いてストレス指標値を算出することを特徴とする。
[実施例]
以下に具体例を挙げて本発明を更に詳細に説明するが、本発明は以下の実施例によって何ら限定されるものではない。
ストレスに起因する心理的、身体的変化を検証する際のストレス付加の手法としては様々考えられているが、特に宇宙飛行士候補生に対しては、外部との接触が断たれた閉鎖環境で一定期間過ごさせるという方法が採用されている。詳細は、例えば、Inoue N, et al., Aviation, Space, and Environmental Medicine, Vol. 84, No. 8, pp. 867-871 (2013)、嶋宮民安等、「閉鎖環境における心理・生理ストレス」、Space Utiliz. Res., 24(2008)等を参照されたい。
本発明の方法の検証においても、外部から隔離された環境で集団生活を行うストレス試験を実施した。詳細には、被験者(23名)に、外部から隔離された環境において、食事、睡眠時間、課題をコントロールしながら集団生活を送ってもらった。外部から隔離された環境への入室の1日前(L-1)、2週間の外部から隔離された環境滞在中(C1~C14)、外部から隔離された環境からの退出後1日(R+1)及び7日後(R+7)に、毎日一定時間に、本発明に従う方法で顔画像からストレス指標値を測定すると同時に、そのときの唾液中のコルチゾール濃度を測定した。
(実施例1)
図3は本発明の方法の第一態様に従って測定したストレス指標値(θ1-θ2)(図1参照)と、同時に測定した唾液中のコルチゾール濃度の変化をプロットしたグラフである。
この態様の画像処理では、図1に示すように、一方の側の目尻(a1)と口角(b1)とを通る直線(a1-b1)及び他方の側の目尻(a2)と口角(b2)とを通る直線(a2-b2)引き、直線(a1-b1)と画像の水平線(A-A)とがなす角度(θ1)及び直線(a2-b2)と画像の水平線(A-A)とがなす角度(θ2)から、ストレス指標値(θ1-θ2)を算出した。
図3のデータでは、外部から隔離された環境に入室する前日(L-1)においてストレス指標値が高くなり、入室後1週間はストレスが緩和されるが(C2―C7)、1週間を過ぎるとストレスが増加し(C8-14)、外部から隔離された環境から退出するとストレスが緩和され(R+1)、7日後には更にストレスが減少した(R+7)。これらの変化の仕方は、コルチゾール濃度の変化の仕方と一致していた。
(実施例2)
図4は本発明の方法の第二態様に従って測定したストレス指標値(θ1'-θ2')(図1参照)と、同時に測定した唾液中のコルチゾール濃度をプロットしたグラフである。
この態様の画像処理では、図1に示すように、一方の側の目尻(a1)と口角(b1)とを通る直線(a1-b1)及び他方の側の目尻(a2)と口角(b2)とを通る直線(a2-b2)、更に目の中心点(c1及びC2)を通る直線(「目の中心線」:図1のA'-A')を引き、直線(a1-b1)と目の中心線(A'-A')とがなす角度(θ1')及び直線(a2-b2)と目の中心線(A'-A')とがなす角度(θ2')から、ストレス指標値(θ1'-θ2')を算出した。
図4のデータでは、外部から隔離された環境に入室する前日(L-1)におけるストレス指標値は比較的低いが、入室後に向上し(C2-7)、後半1週間は更に向上した(C8-14)。しかし、外部から隔離された環境から退出するとストレスが緩和された(R+1及びR+7)。これらの変化の仕方は、コルチゾール濃度の変化の仕方と良好に一致していた。
(実施例3)
図5は本発明の方法の第三態様に従って測定したストレス指標値((θ1-θ2)―(θ1"-θ2"))(図1及び図2参照)と、同時に測定した唾液中のコルチゾール濃度をプロットしたグラフである。
この態様の画像処理では、最大笑顔の画像及び真顔の画像を各7回ずつ撮像し、取得した各画像について、実施例1と同様の画像処理を行った。7枚の最大笑顔の画像から得られた角度を平均してパラメータ(θ1及びθ2)とし、7枚の真顔の画像から得られた角度を平均してパラメータ(θ1"及びθ2")とし、これらのパラメータからストレス指標値((θ1-θ2)―(θ1"-θ2"))を算出した。
図5のデータでは、外部から隔離された環境に入室する前日(L-1)におけるストレス指標値は負の値であったが、入室後は正の値となり、前半1週間(C2-7)より後半一週間(C8-14)の方が指標値は増加した。外部から隔離された環境から退出するとストレスが緩和され(R+1)、7日後には更にストレスが減少した(R+7)。これらの変化の仕方は、コルチゾール濃度の変化の仕方と良好に一致していた。
[第2の実施形態]
第2の実施形態では、第1の実施形態のストレス評価方法を利用して、被験者のストレスをプログラムの一例であるストレス診断アプリケーションにより診断する。なお、第1の実施形態と同様な内容については適宜説明を省略する。
<システム構成>
図6A及び図6Bは、本実施形態に係る情報処理システムの一例の構成図である。本実施形態に係る情報処理システムは、図6Aに示すように情報処理装置1単体で構成してもよいし、図6Bに示すようにネットワーク5で接続された被験者の1台以上のクライアント端末2、サーバ装置3及び検査実施者のクライアント端末4で構成してもよい。
図6Aの情報処理装置1は、例えば本実施形態のストレス診断アプリを実行可能なコンピュータにより実現される。情報処理装置1は、PC、スマートフォン、タブレットなどのコンピュータである。
図6Bの情報処理システムのクライアント端末2及び4は、PC、スマートフォン、タブレットなどの本実施形態のストレス診断アプリを実行可能なコンピュータにより実現される。サーバ装置3は、クライアント端末2及び4で被験者や検査実施者により操作されるストレス診断アプリの管理や制御などを行う。
このように、本実施形態に係る情報処理システムは、図6Aに示す単体の情報処理装置1で実現しても、図6Bに示すクライアント・サーバ型で実現してもよい。また、図6A及び図6Bの情報処理システムは一例であって、用途や目的に応じて様々なシステム構成例があることは言うまでもない。例えば図6Bのサーバ装置3は複数台のコンピュータに分散して構成してもよい。
<ハードウェア構成>
《情報処理装置、被験者のクライアント端末》
情報処理装置1、被験者のクライアント端末2は例えば図7A及び図7Bに示すハードウェア構成のコンピュータにより実現される。図7A及び図7Bはコンピュータの一例のハードウェア構成図である。
図7Aのコンピュータは入力装置501、表示装置502、外部I/F503、RAM504、ROM505、CPU506、通信I/F507、HDD508、撮影装置509などを備えており、それぞれがバスBで相互に接続されている。なお、入力装置501及び表示装置502は内蔵されている形態であっても、必要なときに接続して利用する形態であってもよい。
入力装置501は被験者が各種信号を入力するのに用いるタッチパネル、操作キーやボタン、キーボードやマウスなどである。表示装置502は画面を表示する液晶や有機ELなどのディスプレイである。通信I/F507は、ローカルエリアネットワーク(LAN)やインターネットなどのネットワーク5に接続するインタフェースである。図7Aのコンピュータは通信I/F507を利用し、ネットワーク5を介して通信を行うことができる。
また、HDD508はプログラム等を格納する不揮発性の記憶装置の一例である。HDD508に格納されるプログラムには、基本ソフトウェアであるOS、ストレス診断アプリなどが含まれる。なお、HDD508は記憶媒体としてフラッシュメモリを用いるドライブ装置(例えばソリッドステートドライブ:SSD)やメモリカードなどの記憶装置に置き換えられていてもよい。外部I/F503は記録媒体503aなどの外部装置とのインタフェースである。図7Aのコンピュータは外部I/F503を利用して記録媒体503aの読み取り及び/又は書き込みを行うことができる。
記録媒体503aにはフレキシブルディスク、CD、DVD、SDメモリカード、USBメモリなどがある。ROM505は、電源を切ってもプログラム等を保持することができる不揮発性の半導体メモリ(記憶装置)の一例である。ROM505には、起動時に実行されるBIOSなどのプログラム、OS設定やネットワーク設定などの各種設定が格納されている。RAM504はプログラム等を一時保持する揮発性の半導体メモリ(記憶装置)の一例である。CPU506は、ROM505やHDD508などの記憶装置からプログラムをRAM504上に読み出し、処理を実行する演算装置である。撮影装置509はカメラにより撮影を行う。
本実施形態に係る情報処理装置1及びクライアント端末2は、上記したハードウェア構成においてストレス診断アプリを実行することにより、後述するような各種処理を実現できる。なお、図7Aのコンピュータは撮影装置509を備える(内蔵された)構成であるが、例えば図7Bに示すように、外部I/F503を介して接続した撮影装置509を利用する構成であってもよい。図7Bのコンピュータは、撮影装置509が外付けされている点で図7Aに示したコンピュータと異なっている。
《検査実施者のクライアント端末、サーバ装置》
サーバ装置3、検査実施者のクライアント端末4は例えば図8に示すハードウェア構成のコンピュータにより実現される。図8は、コンピュータの一例のハードウェア構成図である。なお、図7A及び図7Bと同一な部分についての説明は省略する。
図8のコンピュータは、入力装置601、表示装置602、外部I/F603、RAM604、ROM605、CPU606、通信I/F607、及びHDD608などを備えており、それぞれがバスBで相互に接続されている。図8のコンピュータは図7A及び図7Bのコンピュータの撮影装置509が無い構成である。図8のコンピュータは通信I/F607を利用し、ネットワーク5を介して通信を行う。
<ソフトウェア構成>
ここでは図6Aに示した情報処理装置1のソフトウェア構成について説明する。図9は本実施形態に係る情報処理装置の一例の機能ブロック図である。情報処理装置1は、操作受付部10、画像入力部12、笑顔値計測部14、特徴点抽出部16、指示部18、コンテンツ生成部20、ストレス指標算出部22、コンテンツ表示部24、ストレス指標記憶部26を有する構成である。
操作受付部10は被験者からの操作を受け付ける。例えば操作受付部10は被験者からストレス診断開始の操作を受け付ける。操作受付部10は被験者から例えばストレス診断開始の操作を受け付けると、ストレス診断開始を笑顔値計測部14及び指示部18に通知して、ストレス診断処理を開始させる。
画像入力部12は撮影装置509が撮影した画像(入力画像)を取得する。画像入力部12は入力画像を笑顔値計測部14と特徴点抽出部16とコンテンツ生成部20とに提供する。コンテンツ生成部20は画像入力部12から提供された入力画像から後述するようにコンテンツ画像を生成する。コンテンツ表示部24はコンテンツ生成部20により生成されたコンテンツ画像を表示装置502に表示させる。
笑顔値計測部14は画像入力部12から取得した入力画像に含まれる顔画像の笑顔値を計測する。なお、顔画像から笑顔値を計測する技術は公知であり、説明を省略する。笑顔値計測部14により計測された笑顔値(以下、計測笑顔値と呼ぶ)はコンテンツ生成部20に提供され、後述のようにコンテンツ画像に表示される。また、笑顔値計測部14は計測笑顔値を特徴点抽出部16と指示部18とに提供する。
指示部18はストレス診断処理の開始後、笑顔値の目標値(以下、目標笑顔値)をコンテンツ生成部20に提供する。コンテンツ生成部20に提供された目標笑顔値は後述のようにコンテンツ画像に表示される。したがって、被験者は表示装置502に表示されたコンテンツ画像を見ながら計測笑顔値が目標笑顔値になるように笑顔を調整できる。
特徴点抽出部16は笑顔値計測部14からの計測笑顔値と指示部18からの目標笑顔値とが提供される。特徴点抽出部16は計測笑顔値が目標笑顔値となったタイミングで入力画像に含まれる被験者の顔画像から、第1の実施形態の特徴点の位置として左右の目尻、口角、目の中心点などの位置を抽出する。
例えば第1の実施形態のストレス評価方法の第一態様を利用する場合は、一方の側の目尻(a1)及び口角(b1)と、他方の側の目尻(a2)及び口角(b2)との位置を特定する。第1の実施形態のストレス評価方法の第二態様を利用する場合は、一方の側の目尻(a1)と口角(b1)と目の中心点(c1)の位置、及び、他方の側の目尻(a2)と口角(b2)と目の中心点(c2)の位置を抽出する。
ストレス指標算出部22は特徴点抽出部16が抽出した特徴点の位置から、第1の実施形態のストレス評価方法でストレス指標となる値(ストレス指標値)を算出する。例えば第1の実施形態のストレス評価方法の第一態様を利用する場合、ストレス指標算出部22は一方の側の目尻(a1)と口角(b1)とを通る直線(a1-b1)と、他方の側の目尻(a2)と口角(b2)とを通る直線(a2-b2)とを引く。
そして、ストレス指標算出部22は、引いた直線(a1-b1)と基準線とがなす角度(θ1)及び直線(a2-b2)と基準線とがなす角度(θ2)を計測する。ストレス指標算出部22は、計測した角度「θ1」及び「θ2」の値をパラメータとする。ストレス指標算出部22は得られたパラメータであるθ1とθ2との角度差(θ1-θ2)をストレス指標値として算出する。
第1の実施形態のストレス評価方法の第二態様を利用する場合、ストレス指標算出部22は一方の側の目尻(a1)と口角(b1)とを通る直線(a1-b1)と、他方の側の目尻(a2)と口角(b2)とを通る直線(a2-b2)と、目の中心点(c1)と目の中心点(c2)とを通る目の中心線とを引く。
そして、ストレス指標算出部22は、引いた直線(a1-b1)と基準線である目の中心線とがなす角度(θ1')及び直線(a2-b2)と基準線である目の中心線とがなす角度(θ2')を計測する。ストレス指標算出部22は計測した角度「θ1'」及び「θ2'」の値をパラメータとする。ストレス指標算出部22は得られたパラメータであるθ1'とθ2'との角度差(θ1'-θ2')をストレス指標値として算出する。
さらに、第1の実施形態のストレス評価方法の第三態様を利用する場合、上記した第一態様又は第二態様を利用して被験者が最大笑顔のときのパラメータと被験者が真顔のときのパラメータとを算出し、そのパラメータの差分をストレス指標値として算出する。ストレス指標記憶部26はストレス指標算出部22が算出したストレス指標値を履歴データとして日付データなどと関連付けて記憶する。
なお、図9の情報処理装置1は計測笑顔値が目標笑顔値となったタイミングで特徴点抽出部16が入力画像に含まれる被験者の顔画像から、第1の実施形態の特徴点の位置を抽出する例を示したが、必ずしもリアルタイムに処理する必要はない。例えば特徴点抽出部16は計測笑顔値が目標笑顔値となったタイミングの被験者の顔画像を、履歴画像として保存しておき、後でストレス指標算出部22が処理するようにしてもよい。
<処理>
《全体処理》
本実施形態に係る情報処理装置1は例えば図10に示すような手順で処理を行う。図10は本実施形態に係る情報処理装置の全体処理の一例のフローチャートである。情報処理装置1は被験者によりストレス診断アプリが実行されたあと、ストレス診断開始の操作を受け付けると、ステップS10に進み、コンテンツ画像に表示される被験者の顔画像の位置を合わせる、後述の顔位置合わせ処理を行う。
ステップS12に進み、情報処理装置1は計測笑顔値が目標笑顔値となったときの被験者の顔画像を取得する、後述のデータ取得処理を行う。ステップS14に進み、情報処理装置1はステップS12で取得した被験者の目標笑顔値の顔画像からストレス指標値を算出する、データ解析処理を行う。ステップS16に進み、情報処理装置1はステップS14で算出したストレス指標値の履歴データをレポートとして出力する、レポート出力処理を行う。
《S10:顔位置合わせ処理》
図11は顔位置合わせ処理の一例のフローチャートである。ステップS20において情報処理装置1の画像入力部12は撮影装置509が撮影した画像(入力画像)がフレーム単位で入力される。画像入力部12は入力画像をコンテンツ生成部20に提供して、図12に示すようなコンテンツ画像をストレス診断アプリ画面1000に表示させる。図12は顔位置合わせ処理時のストレス診断アプリ画面の一例のイメージ図である。ストレス診断アプリ画面1000には入力画像に含まれる顔画像の目標位置である枠1002が表示される。
ステップS22に進み、笑顔値計測部14は画像入力部12から提供された入力画像を顔画像解析し、入力画像に含まれる顔画像の検出を行う。ステップS20~S24の処理は顔画像が検出できるまで繰り返される。顔画像が検出されると、笑顔値計測部14はステップS26に進み、検出された顔画像の領域(全体位置)を検出する。
ステップS28に進み、笑顔値計測部14は検出した顔画像の全体位置が枠1002の内側であるか否かを判定する。ステップS20~S28の処理は、検出した顔画像の全体位置が枠1002の内側であると判定されるまで繰り返される。検出した顔画像の全体位置が枠1002の内側であると判定されると、コンテンツ生成部20はステップS30に進み、顔画像の位置が枠1002の内側に収まった(顔画像の位置が合った)ことを被験者に伝える「OKインジケーター」を表示する。
ステップS32に進み、情報処理装置1の操作受付部10は「OKインジケーター」を表示している状態で、被験者からキャプチャー開始の指示を受け付けると、図11の顔位置合わせ処理を終了し、図10のステップS12に示したデータ取得処理を開始する。
《S12:データ取得処理》
図13はデータ取得処理の一例のフローチャートである。ステップS40において情報処理装置1の画像入力部12は撮影装置509が撮影した画像(入力画像)がフレーム単位で入力される。画像入力部12は入力画像をコンテンツ生成部20に提供して、図14に示すようなコンテンツ画像をストレス診断アプリ画面1000に表示させる。図14はデータ取得処理時のストレス診断アプリ画面の一例のイメージ図である。ストレス診断アプリ画面1000には目標笑顔値1004と計測笑顔値1006とが表示される。図14では「笑顔値」を「笑顔スコア」と表示している。
左側のストレス診断アプリ画面1000は、被験者に最大笑顔を作るように指示する目標笑顔値1004の例である。右側のストレス診断アプリ画面1000は、被験者に最小笑顔(真顔)を作るように指示する目標笑顔値1004の例である。計測笑顔値1006は笑顔値計測部14により計測されるリアルタイムの笑顔値である。
ステップS42に進み、笑顔値計測部14は画像入力部12から提供された入力画像を顔画像解析し、入力画像に含まれる顔画像の検出を行う。ステップS40~S44の処理は顔画像が検出できるまで繰り返される。顔画像が検出されると、笑顔値計測部14はステップS46に進み、検出された顔画像の笑顔値を計測する。
ステップS40~S48の処理は計測笑顔値1006が目標笑顔値1004になるまで繰り返される。計測笑顔値1006が目標笑顔値1004になると、特徴点抽出部16はステップS50に進み、計測笑顔値1006が目標笑顔値1004となったタイミングの被験者の顔画像、及び、笑顔値を履歴画像として保存する。ステップS40~S52の処理は、ストレス診断アプリ画面1000に表示させる目標笑顔値1004を、被験者に最大笑顔を作るように指示する目標笑顔値1004と、被験者に最小笑顔を作るように指示する目標笑顔値1004とに切替ながら、繰り返される。
これにより、ステップS50では計測笑顔値1006が最大笑顔又は最小笑顔となったタイミングの被験者の顔画像を履歴画像として保存できる。入力画像の入力が終了すると図13のデータ取得処理を終了し、図10のステップS14に示したデータ解析処理を開始する。
なお、第1の実施形態に記載したように、被験者がモニタを見て表情等を意図的に変更することを回避するため、図14のストレス診断アプリ画面1000を図15のストレス診断アプリ画面1000のようにしてもよい。図15は被験者の顔をマスキングしたストレス診断アプリ画面の一例のイメージ図である。図15のストレス診断アプリ画面1000は表示装置502に表示される被験者の目、鼻、口を含む顔画像の部分が隠れるようにマスキング1008を施した例である。
《S14:データ解析処理》
図16はデータ解析処理の一例のフローチャートである。ステップS60において情報処理装置1の特徴点抽出部16はステップS12のデータ取得処理で保存した履歴画像を読み込む。ステップS62に進み、特徴点抽出部16はステップS60で読み込んだ履歴画像を顔画像解析し、履歴画像に含まれる顔画像の検出を行う。ステップS60~S64の処理は顔画像が検出できるまで繰り返される。
顔画像が検出されると、特徴点抽出部16はステップS66に進み、検出した顔画像から、左右の目尻、口角、目の中心点などの特徴点の位置(ランドマークデータ)を抽出する。ステップS66は、最大笑顔又は最小笑顔となった被験者の顔画像から特徴点の位置を抽出する処理である。ステップS66の顔画像から特徴点の位置を抽出する処理ではAI(機械学習)を利用することで、より高精度な抽出が可能となる。
ステップS68に進み、ストレス指標算出部22は特徴点抽出部16が抽出した特徴点の位置から、第1の実施形態のストレス評価方法でストレス指標となる値(ストレス指標値)を算出する。ステップS70に進み、ストレス指標算出部22は算出したストレス指標値を履歴データとしてストレス指標記憶部26に保存する。履歴画像の読み込みが終了すると図16のデータ解析処理は終了する。
図16のデータ解析処理のイメージは例えば図17A及び図17Bに示すようにストレス診断アプリ画面1000に表示してもよい。図17Aは最大笑顔のときのデータ解析処理のイメージを表示するストレス診断アプリ画面の一例のイメージ図である。図17Bは最小笑顔のときのデータ解析処理のイメージを表示するストレス診断アプリ画面の一例のイメージ図である。
図17A及び17Bのストレス診断アプリ画面1000では、第1の実施形態で説明した一方の側の目尻と口角と目の中心点の位置、及び、他方の側の目尻と口角と目の中心点の位置が特徴点として示されている。また、図17A及び17Bのストレス診断アプリ画面1000では、一方の側の目尻と口角とを通る直線と、他方の側の目尻と口角とを通る直線と、画像における水平線と、両目の中心点を通る目の中心線とが示されている。
なお、図17A及び17Bのストレス診断アプリ画面1000では、最大笑顔のときの履歴画像と最小笑顔のときの履歴画像とを切り替えるボタン1010と、最大笑顔又は最小笑顔のときの履歴画像がそれぞれ複数枚ある場合に履歴画像を切り替えるボタン1012とが設けられている。
《S16:レポート出力処理》
図18はレポート出力処理の一例のフローチャートである。ステップS80において情報処理装置1のコンテンツ生成部20はステップS14で保存したストレス指標値の履歴データをストレス指標記憶部26から読み出す。
ステップS82に進み、コンテンツ生成部20は今回(今日)のストレス指標値と過去のストレス指標値と比較する。ステップS84に進み、コンテンツ生成部20はステップS82の比較結果に基づき、レポートグラフを生成する。ステップS80~S86の処理は被験者の全ての履歴データを読み出すまで繰り返される。
被験者の全ての履歴データを読み出した後、コンテンツ表示部24はステップS88に進み、コンテンツ生成部20により生成されたレポートグラフを含む図19のような全体レポート1020を表示する。図19は全体レポート表示時のストレス診断アプリ画面の一例のイメージ図である。図19の全体レポート1020にはストレス指標値の推移が時系列に表示される。なお、図19の全体レポート1020ではストレス指標値を笑顔歪み度で表している。図19の全体レポート1020のように、ストレス指標値の推移を図表化することで、被験者はストレスの変化を容易に認識できる。
また、本実施形態に係るストレス診断アプリは例えば図20に示すようなアンケート画面1030からストレス診断に必要なアンケートを被験者に対して行い、アンケートによるストレス診断を行える機能を設けてもよい。
この場合、コンテンツ表示部24は例えば図21に示すように顔画像解析によるストレス診断の結果1040とアンケートによるストレス診断の結果1042とを表示するようにしてもよい。
本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。例えば上記の実施形態では情報処理装置1を例として説明したが、図9に示した機能ブロックを図6Bに示したクライアント端末2、サーバ装置3及びクライアント端末4に分散配置した構成であってもよいことは言うまでもないことである。
また、図6Bに示した情報処理システムでは、被験者のクライアント端末2及び検査実施者のクライアント端末4とで同一の全体レポート1020を表示してもよいし、内容の異なる被験者用又は検査実施者用の全体レポート1020を表示してもよい。また、本実施形態では「ストレス指標」という用語を用いたが、ストレスの同義語や対義語を使った用語であってもよいことは言うまでもないことである。
また、本実施形態では表情の一例である笑顔について説明したが、笑顔以外の表情にも適用できる。顔表情から各感情を度合いで出力する表情分析のソフトウェアやサービスは公知の技術である。さらに、本実施形態では「顔のゆがみ」の一例である「顔の左右のゆがみ」について説明したが「顔の左右のゆがみ」以外の「ゆがみ」にも適用できる。例えば顔の仮想中心から見た口元や目尻の上下左右方向のずれを「ゆがみ」と捉えることも可能である。
以上、本発明を実施例に基づいて説明したが、本発明は上記実施例に限定されるものではなく、特許請求の範囲に記載の範囲内で様々な変形が可能である。本願は、日本特許庁に2017年10月10日に出願された基礎出願2017―196505号の優先権を主張するものであり、その全内容を参照によりここに援用する。
本発明のストレス評価方法は、PCやタブレット又はスマートホン等を使用して簡便かつ非侵襲的にストレス指標値を測定できるので、各人による自己のストレス管理にも、企業による従業員のストレス状態の適切な管理にも有用である。
1 情報処理装置
2、4 クライアント端末
3 サーバ装置
5 ネットワーク
10 操作受付部
12 画像入力部
14 笑顔値計測部
16 特徴点抽出部
18 指示部
20 コンテンツ生成部
22 ストレス指標算出部
24 コンテンツ表示部
26 ストレス指標記憶部
501、601 入力装置
502、602 表示装置
503、603 外部I/F
503a、603a 記録媒体
504、604 RAM
505、605 ROM
506、606 CPU
507、607 通信I/F
508、608 HDD
509 撮影装置
1000 ストレス診断アプリ画面
1002 枠
1004 目標笑顔値
1006 計測笑顔値
1008 マスキング
1010、1012 切り替えるボタン
1020 全体レポート
1030 アンケート画面
1040 顔画像解析によるストレス診断の結果
1042 アンケートによるストレス診断の結果
B バス

Claims (14)

  1. コンピュータを、
    撮影画像に含まれるユーザの表情値を計測する計測手段、
    前記撮影画像と前記計測手段により計測される表情値とを表示する表示手段、
    前記計測手段により計測される表情値を指定して、撮像装置によるユーザの顔の撮影をユーザに指示する指示手段、
    前記撮像装置により撮像されたユーザの顔画像を解析し、前記顔画像における複数の特徴点の位置を抽出する抽出手段、
    前記抽出手段により抽出された複数の特徴点の位置を利用してストレス指標となる値を算出する算出手段、
    前記算出手段により算出されたストレス指標となる値を出力する出力手段、
    として機能させ、
    前記算出手段は、指定された表情値の表情をユーザが作ったときの前記顔画像から得た前記複数の特徴点から、前記顔のゆがみを表す値をストレス指標となる値として算出すること
    を特徴とするプログラム。
  2. 前記表示手段は、前記撮影画像に含まれるユーザの顔の部分をマスキングして表示すること
    を特徴とする請求項1記載のプログラム。
  3. 前記指示手段は、前記計測手段により計測される2種類の表情値を指定して、撮像装置によるユーザの顔の撮影をユーザに指示し、
    前記算出手段は、指定された2種類の表情値の表情をユーザが作ったときの前記顔画像からそれぞれ得た前記複数の特徴点から、前記顔のゆがみを表す値の差分をストレス指標となる値として算出すること
    を特徴とする請求項1又は2記載のプログラム。
  4. 前記算出手段は、前記抽出手段により前記複数の特徴点として抽出された、前記顔画像における右側の目尻(a1)と口角(b1)とを通る直線(a1-b1)及び左側の目尻(a2)と口角(b2)とを通る直線(a2-b2)を引き、前記直線(a1-b1)と基準線とがなす角度(θ1)及び前記直線(a2-b2)と基準線とがなす角度(θ2)から、指定された表情値の表情をユーザが作ったときの前記顔のゆがみを表す値をストレス指標となる値として算出すること
    を特徴とする請求項1又は2記載のプログラム。
  5. 前記基準線は、前記顔画像の水平線、又は、前記抽出手段により前記複数の特徴点として抽出された、前記顔画像における右目の中心点(c1)と左目の中心点(c2)とを通る目の中心線、であること
    を特徴とする請求項4記載のプログラム。
  6. サーバ装置とクライアント装置とがネットワークを介して接続された情報処理システムであって、
    撮影画像に含まれるユーザの表情値を計測する計測手段と、
    前記撮影画像と前記計測手段により計測される表情値とを表示する表示手段と、
    前記計測手段により計測される表情値を指定して、撮像装置によるユーザの顔の撮影をユーザに指示する指示手段と、
    前記撮像装置により撮像されたユーザの顔画像を解析し、前記顔画像における複数の特徴点の位置を抽出する抽出手段と、
    前記抽出手段により抽出された複数の特徴点の位置を利用してストレス指標となる値を算出する算出手段と、
    前記算出手段により算出されたストレス指標となる値を出力する出力手段と、
    を有し、
    前記算出手段は、指定された表情値の表情をユーザが作ったときの前記顔画像から得た前記複数の特徴点から、前記顔のゆがみを表す値をストレス指標となる値として算出すること
    を特徴とする情報処理システム。
  7. 被験者のストレスを評価する方法であって、
    (1)被験者に撮像装置に顔を正対させて最大笑顔を作るように指示する工程;
    (2)被験者の顔を撮像装置で撮像する工程;
    (3)撮像された顔画像を処理し、ストレスを反映するパラメータを得る工程;及び
    (4)画像の処理から得たパラメータを用いて演算し、ストレス指標値を算出する工程を含み、
    前記工程(3)が、顔画像における左右の目尻及び左右の口角の位置を特定し、一方の側の目尻(a1)と口角(b1)とを通る直線(a1-b1)及び他方の側の目尻(a2)と口角(b2)とを通る直線(a2-b2)を引き、前記直線(a1-b1)と基準線とがなす角度(θ1)及び前記直線(a2-b2)と基準線とがなす角度(θ2)を計測し、これら「θ1」及び「θ2」の値を前記工程(4)におけるパラメータとすることを特徴とするストレス評価方法。
  8. 工程(3)における基準線が画像の水平線であり、
    工程(4)における演算が、θ1とθ2との角度差(θ1-θ2)を算出することを含み、当該角度差(θ1-θ2)をストレス指標値とする、請求項7に記載の方法。
  9. 工程(3)が、撮像された画像において、右目の中心点(c1)と左目の中心点(c2)の位置を特定して、右目の中心点(c1)と左目の中心点(c2)とを通る目の中心線を引くことを更に含み、
    工程(3)における基準線が目の中心線であり、
    工程(4)における演算が、θ1とθ2との角度差(θ1-θ2)を算出することを含み、当該角度差(θ1-θ2)をストレス指標値とする、請求項7に記載の方法。
  10. (1A)被験者に撮像装置に顔を正対させて最大笑顔を作るように指示する工程;
    (2A)撮像装置で最大笑顔の撮像をする工程;
    (1B)被験者に真顔にするように指示する工程;
    (2B)撮像装置で真顔の撮像をする工程;
    (3A)前記(2A)で撮像された最大笑顔の画像の画像処理を処理し、ストレスを反映するパラメータを得る工程;
    (3B)前記(2B)で撮像された真顔の画像の画像処理を処理し、ストレスを反映するパラメータを得る工程;及び
    (4)画像の処理から得たパラメータを用いて演算し、ストレス指標値を算出する工程を含み、
    (3A)が、(2A)で撮像された最大笑顔の画像における一方の側の目尻(a1)と口角(b1)とを通る直線(a1-b1)及び他方の側の目尻(a2)と口角(b2)とを通る直線(a2-b2)を引き、直線(a1-b1)と基準線とがなす角度(θ1)及び直線(a2-b2)と基準線とがなす角度(θ2)を計測してパラメータとすることを含み、
    (3B)が、(2B)で撮像された真顔の画像における一方の側の目尻(a1")と口角(b1")とを通る直線(a1"-b1")及び他方の側の目尻(a2")と口角(b2")とを通る直線(a2"-b2")を引き、直線(a1"-b1")と基準線とがなす角度(θ1")及び直線(a2"-b2")と基準線とがなす角度(θ2")を計測してパラメータとすることを含み、
    工程(4)における演算が、(3A)で得られた最大笑顔のパラメータであるθ1とθ2との角度差(θ1-θ2)及び(3B)で得られた真顔のパラメータであるθ1"とθ2"との角度差(θ1"-θ2")を算出し、さらに前記両角度差の差分((θ1-θ2)-(θ1"-θ2"))を算出することを含み、当該差分((θ1-θ2)-(θ1"-θ2"))をストレス指標値とする、ストレス評価方法。
  11. 前記工程(1A)、(2A)、(1B)及び(2B)を順次複数回繰り返し、前記工程(3A)におけるパラメータが、各回の測定で得られたθ1及びθ2の平均値であり、前記工程(3B)におけるパラメータが、各回の測定で得られたθ1"及びθ2"の平均値である、請求項10に記載の方法。
  12. 被験者に対する指示手段、被験者の顔を撮像する撮像手段、撮像した顔画像を処理する画像処理手段、及び画像処理で得られたパラメータを演算する演算手段を具備する、請求項7から11のいずれか一項に記載の方法を実施するためのストレス評価システム。
  13. (1)被験者に指示するステップ;
    (2)撮像装置で撮像された被験者の顔画像を処理して被験者のストレスを反映するパラメータを出力するステップ、及び
    (3)画像処理から出力されたパラメータを用いて演算し、ストレス指標値を算出するステップを含む、請求項7から11のいずれか一項に記載の方法を実施するためのコンピュータプログラム。
  14. 請求項13に記載のコンピュータプログラムを保存した記録媒体。
JP2019548168A 2017-10-10 2018-10-04 プログラム、情報処理システム、ストレス評価方法、ストレス評価システム、コンピュータプログラム、記録媒体 Active JP7107958B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017196505 2017-10-10
JP2017196505 2017-10-10
PCT/JP2018/037274 WO2019073906A1 (ja) 2017-10-10 2018-10-04 プログラム及び情報処理システム

Publications (2)

Publication Number Publication Date
JPWO2019073906A1 JPWO2019073906A1 (ja) 2020-12-03
JP7107958B2 true JP7107958B2 (ja) 2022-07-27

Family

ID=66100898

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018180173A Pending JP2019069143A (ja) 2017-10-10 2018-09-26 ストレスの評価方法
JP2019548168A Active JP7107958B2 (ja) 2017-10-10 2018-10-04 プログラム、情報処理システム、ストレス評価方法、ストレス評価システム、コンピュータプログラム、記録媒体

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018180173A Pending JP2019069143A (ja) 2017-10-10 2018-09-26 ストレスの評価方法

Country Status (3)

Country Link
JP (2) JP2019069143A (ja)
TW (2) TW201923653A (ja)
WO (2) WO2019073732A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7516860B2 (ja) * 2020-05-22 2024-07-17 株式会社リコー 脈波測定装置
WO2024127982A1 (ja) * 2022-12-13 2024-06-20 株式会社資生堂 顔画像データを取得する方法、情報処理装置、プログラム、及び情報処理システム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005505063A (ja) 2001-09-28 2005-02-17 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 4つの特徴点からの頭部運動推定
US9298257B2 (en) 2010-12-01 2016-03-29 Samsung Electronics Co., Ltd. Apparatus and method for controlling avatar using expression control point
JP2017176762A (ja) 2016-03-31 2017-10-05 有限会社Triart ストレス評価方法およびストレス評価システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001000421A (ja) * 1999-06-22 2001-01-09 Pola Chem Ind Inc 表情のシミュレート法
JP5163440B2 (ja) * 2008-11-19 2013-03-13 株式会社デンソー 眠気判定装置、プログラム
JP5703068B2 (ja) * 2011-02-28 2015-04-15 綜合警備保障株式会社 顔検出方法および顔検出装置、ならびに、プログラム
JP2016179054A (ja) * 2015-03-24 2016-10-13 日本電気株式会社 情報処理装置、ストレス解消システムおよびストレス解消方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005505063A (ja) 2001-09-28 2005-02-17 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 4つの特徴点からの頭部運動推定
US9298257B2 (en) 2010-12-01 2016-03-29 Samsung Electronics Co., Ltd. Apparatus and method for controlling avatar using expression control point
JP2017176762A (ja) 2016-03-31 2017-10-05 有限会社Triart ストレス評価方法およびストレス評価システム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
田中 智也 他,表情分析によるストレス評価の検討,平成29年電気学会電子・情報・システム部門大会講演論文集,日本,2017年09月06日,1136-1139

Also Published As

Publication number Publication date
RU2020115386A3 (ja) 2021-11-12
JP2019069143A (ja) 2019-05-09
JPWO2019073906A1 (ja) 2020-12-03
TW201923653A (zh) 2019-06-16
WO2019073732A1 (ja) 2019-04-18
RU2020115386A (ru) 2021-11-12
WO2019073906A1 (ja) 2019-04-18
TW201923694A (zh) 2019-06-16

Similar Documents

Publication Publication Date Title
JP6811837B2 (ja) 病理データ捕捉
Pipek et al. Comparison of SpO2 and heart rate values on Apple Watch and conventional commercial oximeters devices in patients with lung disease
Lai et al. Measuring saccade latency using smartphone cameras
JP7107958B2 (ja) プログラム、情報処理システム、ストレス評価方法、ストレス評価システム、コンピュータプログラム、記録媒体
US20180184899A1 (en) System and method for detection and monitoring of a physical condition of a user
Cosatto et al. Retinal vascular fractal dimension measurement and its influence from imaging variation: results of two segmentation methods
Powell et al. Comparison of videostroboscopy to stroboscopy derived from high-speed videoendoscopy for evaluating patients with vocal fold mass lesions
JP2024100863A (ja) 情報処理装置、制御方法及びプログラム
US20220245811A1 (en) Analysis of retinal imaging using video
Lootus et al. Development and assessment of an artificial intelligence-based tool for ptosis measurement in adult myasthenia gravis patients using selfie video clips recorded on smartphones
Adibuzzaman et al. Assessment of pain using facial pictures taken with a smartphone
Aziz et al. Evaluation of Eye Tracking Signal Quality for Virtual Reality Applications: A Case Study in the Meta Quest Pro
RU2794161C2 (ru) Программа и система обработки информации
KR102233768B1 (ko) 안저사진 이미지 분석을 통한 망막혈관 구불거림의 정량화 방법, 장치, 컴퓨터프로그램 및 컴퓨터 판독가능 매체
JP7392806B2 (ja) 電子装置、電子装置の制御方法及び電子装置の制御プログラム
Ferreira et al. Design of a prototype remote medical monitoring system for measuring blood pressure and glucose measurement
US20240346853A1 (en) Information processing system, information processing apparatus, information processing method, and non-transitory computer readable medium storing program
US20240347216A1 (en) Information processing system, information processing apparatus, information processing method, and non-transitory computer readable medium storing program
JP7485233B2 (ja) 情報処理システム、情報処理装置、情報処理方法、プログラム
US20240055125A1 (en) System and method for determining data quality for cardiovascular parameter determination
JP7514521B2 (ja) 心拍測定システム、心拍測定方法、及び心拍測定プログラム
JP7565566B2 (ja) 身体状態の推定装置、身体状態の推定装置の作動方法、プログラム、および記録媒体
WO2023053324A1 (ja) 情報処理装置、生体情報推定装置、情報処理方法、及び、記録媒体
US20240223884A1 (en) Image capturing method
WO2022231000A1 (ja) 情報処理装置、情報処理方法及び情報処理プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200406

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220621

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220714

R150 Certificate of patent or registration of utility model

Ref document number: 7107958

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150