JP6479708B2 - 特徴量抽出装置、推定装置、それらの方法、およびプログラム - Google Patents

特徴量抽出装置、推定装置、それらの方法、およびプログラム Download PDF

Info

Publication number
JP6479708B2
JP6479708B2 JP2016094387A JP2016094387A JP6479708B2 JP 6479708 B2 JP6479708 B2 JP 6479708B2 JP 2016094387 A JP2016094387 A JP 2016094387A JP 2016094387 A JP2016094387 A JP 2016094387A JP 6479708 B2 JP6479708 B2 JP 6479708B2
Authority
JP
Japan
Prior art keywords
feature
feature amount
value
time interval
feature quantity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016094387A
Other languages
English (en)
Other versions
JP2017202047A (ja
Inventor
惇 米家
惇 米家
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2016094387A priority Critical patent/JP6479708B2/ja
Publication of JP2017202047A publication Critical patent/JP2017202047A/ja
Application granted granted Critical
Publication of JP6479708B2 publication Critical patent/JP6479708B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Eye Examination Apparatus (AREA)

Description

本発明は、眼の動的な変化から心理状態を推定する技術に関する。
特許文献1,2には、所定の音を受聴可能とする第1時間区間と受聴可能としない第2時間区間での眼球の動きや瞳孔の大きさの変化に基づく特徴量の相違の度合いに基づいて、受聴させた音の目立ち度合いを推定する技術が開示されている。
特許第5718492号公報 特許第5718493号公報
しかし、特許文献1,2に開示された技術では、音を受聴可能とする第1時間区間と受聴可能としない第2時間区間とを人為的に設定する必要があった。そのため、任意の環境で得られた眼の動的な変化から心理状態を推定することはできなかった。
本発明の課題は、任意の環境で得られた眼の動的な変化から心理状態を推定することである。
第1時間区間での眼の動的な変化に基づいて得られた第1特徴量と、第2時間区間での眼の動的な変化に基づいて得られた第2特徴量の時系列情報から推定した第1時間区間での特徴量と、の相違の度合いに応じた第3特徴量を得る。
これにより、任意の環境で得られた眼の動的な変化から心理状態を推定できる。
図1は実施形態の装置構成を例示したブロック図である。 図2は実施形態の処理を説明するためのフロー図である。 図3は眼球の動きを例示した図である。 図4はマイクロサッカードの特徴量を説明するための図である。 図5は両眼の瞳孔径の変化を例示した図である。 図6は各時間区間の特徴量を例示するための図である。 図7Aは実験条件を説明するための図である。図7Aの上図が刺激間間隔の分布が規則的な条件を表し、下図が刺激間間隔の分布が100msの幅をもつ不規則条件を表し、黒塗りされた長方形が純音の呈示タイミングを表す。図7Bは実験によって得られた特徴量Stを例示したグラフである。
以下、本発明の実施形態を説明する。
[原理]
まず本形態の原理を説明する。各実施形態では、「第1時間区間」での眼の動的な変化に基づいて得られた「第1特徴量」と、「第2時間区間」での眼の動的な変化に基づいて得られた「第2特徴量の時系列情報」から推定した「第1時間区間」での特徴量と、の相違の度合いに応じた「第3特徴量」を得る。「第3特徴量」は、「第2特徴量の時系列情報」を用いて予測された「第1時間区間」での特徴量に対し、実際に「第1時間区間」での眼の動的な変化に基づいて得られた「第1特徴量」がどの程度異なっているかを表す。つまり「第3特徴量」は、「第2時間区間」から予測される特徴量の趨勢からみて「第1時間区間」がどれだけ突飛なものであるかを表す指標である。そのため、「第3特徴量」を用いることで、「第1時間区間」および「第2時間区間」の環境を人為的に設定することなく、任意の環境で得られた眼の動的な変化から対象者の心理状態を推定できる。例えば、「第3特徴量」を対象者の注意度合いおよび驚き度合いの少なくとも一方を表すため、少なくとも「第3特徴量」を含む特徴量から注意度合いおよび驚き度合いの少なくとも一方を推定できる。また「第3特徴量」は「第2時間区間」での「第2特徴量の時系列情報」から予測される特徴量の趨勢(例えば、増加傾向にある、減少傾向にある、定常状態にあるなど)からみた新奇性を表すため、単純に「第2時間区間」での特徴量の平均値などに対する「第1特徴量」の相違の度合いを評価する場合に比べ、高い精度で対象者の心理状態を推定できる。
「第1時間区間」は、「第2時間区間」よりも後(未来)の時間区間であってもよいし、「第2時間区間」よりも前(過去)の時間区間であってもよいし、「第2時間区間」に含まれた時間区間であってもよい。「第1時間区間」は「第2時間区間」の直後または直前の時間区間であってもよいし、「第2時間区間」から離れた時間区間であってもよい。
「第2時間区間」は「第1時間区間」よりも長い時間区間であることが望ましい。「第2時間区間」が長い方が特徴量の趨勢を正確に予測でき、その趨勢に対する「第1時間区間」の新奇性を高い精度で評価できるからである。例えば、「第2時間区間」が複数の「部分時間区間」からなり、「第1時間区間」が1つの「部分時間区間」であってもよい。「部分時間区間」の一例は、信号の処理単位であるフレームやフレームを構成するサブフレームなどである。ただし、「第2時間区間」から特徴量の趨勢を予測できるのであれば、「第2時間区間」と「第1時間区間」との長さが等しくてもよいし、「第2時間区間」が「第1時間区間」よりも短い時間区間であってもよい。
「第2特徴量の時系列情報」は、「第2時間区間」内の複数の時間(時刻)または部分時間区間のそれぞれに対応する複数の特徴量からなる時系列である。すなわち、「第2特徴量の時系列情報」は、「第2時間区間」内の複数の時間または複数の部分時間区間に対応する時系列である。「複数の時間」は、互いに隣り合う離散時間であってもよいし、互いに隣り合わない離散時間であってもよいし、互いに隣り合う離散時間と互いに隣り合わない離散時間とを含んでいてもよい。同様に「複数の部分時間区間」は、互いに隣り合う部分時間区間であってもよいし、互いに隣り合わない部分時間区間であってもよいし、互いに隣り合う部分時間区間と互いに隣り合わない部分時間区間とを含んでいてもよい。
「第1特徴量」および「第2特徴量」は同一の対象者の眼の動的な変化に基づいて得られた特徴量である。「眼の動的な変化」は、眼球自体の動き(眼球の位置の経時変化)であってもよいし、瞳孔の動き(瞳孔径の経時変化)であってもよい。「特徴量」はどのようなものであってもよく、時間や部分時間区間のそれぞれに対応するスカラであってもよいし、時間や部分時間区間のそれぞれに対応する複数の要素からなるベクトルであってもよい。ただし、「第1特徴量」と「第2特徴量」とは同じ種別の特徴量である。また「特徴量」はその時系列からその趨勢を予測可能な要素を含む必要がある。各実施形態では、特徴量の趨勢からの相違具合によって、対象者の注意度合いおよび驚き度合いといった心理状態を評価するため、その前提として「特徴量」の趨勢を予測できなければならないからである。例えば、「第1特徴量」および「第2特徴量」は、眼球のサッカードに基づく特徴量を含むことが望ましい。「サッカード」はマイクロサッカード(micro saccade)であってもよいし、ラージサッカード(large saccade)であってもよい。眼球のサッカードに基づく特徴量としては、眼球の運動方向に基づく特徴量、眼球運動の振幅の絶対値に基づく特徴量、眼球運動の減衰係数に基づく特徴量、眼球運動の固有角振動数に基づく特徴量、眼球のサッカードの発生タイミングに基づく特徴量などを例示できる。特に、サッカードにおける眼球の運動方向や眼球運動の減衰係数などは時系列での依存性が高く、趨勢の予測が効き易い。そのため、「第1特徴量」および「第2特徴量」が、サッカードにおける眼球の運動方向および眼球運動の減衰係数の少なくとも一方に基づく特徴量を含むことが望ましい。また「第1特徴量」および「第2特徴量」が、眼球のサッカードの発生タイミングに基づく特徴量を含むことが望ましい。これにより、時間の進行に応じた特徴量の変化の趨勢を予測し易くなり、対象者の心理状態の推定精度が上がる。
「第1特徴量」および「第2特徴量」が、同一の対象者の一方の眼(例えば、右眼)の動的な変化に由来する値と他方の眼(例えば、左眼)の動的な変化に由来する値との相対量に基づく特徴量を含んでもよい。両眼の動的な変化の相対量には対象者の属性や個性が表れ、そのような相対量に基づく特徴量の趨勢を利用することで、対象者の心理状態を高い精度で推定できる。特に両眼の瞳孔の動きの相対値には対象者の属性や個性が表れる。そのため、「第1特徴量」および「第2特徴量」が、同一の対象者の一方の眼の瞳孔の動きに由来する値と他方の眼の瞳孔の動きに由来する値との相対量に基づく特徴量を含むことが望ましい。「第1特徴量」および「第2特徴量」が、同一の対象者の一方の眼のサッカードに由来する値と他方の眼のサッカードに由来する値との相対量に基づく特徴量を含んでもよい。「αとβとの相対量」は、例えば、αとβとの差分、αからβを減じた値、βからαを減じた値、αをβで除した値、もしくはβをαで除した値、またはそれらの何れかの関数値である。「相対値に基づく特徴量」は、例えば、「相対値」もしくはその関数値、「相対値」もしくはその関数値を要素としたベクトル、または、それらの何れかの関数値である。
「第2特徴量の時系列情報」を用いた「第1時間区間」での特徴量の予測方法に限定はない。例えば、自己回帰モデルやリカレントニューラルネットワークなどの予測モデルや、隠れマルコフモデルなどの確率モデルなどを用い、「第2特徴量の時系列情報」から「第1時間区間」での特徴量を予測してもよい。「対象者」は眼が動的に変化する動物であれば、ヒトであってもよいし、ヒト以外の動物であってもよい。
前述のように「第3特徴量」を含む特徴量を用いることで、対象者の注意度合いや驚き度合いなどの心理状態を推定できる。この推定方法に特に制限はない。例えば、「第3特徴量」が大きいほど注意度合いや驚き度合いが高いと推定してもよいし、「第3特徴量」が閾値よりも大きいか閾値以上の場合に注意度合いや驚き度合いが高いと推定し、そうでない場合に注意度合いや驚き度合いが低いと推定してもよい。または事前またはリアルタイムに得られた「第3特徴量」を含む特徴量を学習データとして教師ありまたは教師なしの機械学習を行って心理状態を表す値を推定するモデルを生成し、新たに得られた「第3特徴量」を含む特徴量をこのモデルに適用することで心理状態を表す値を推定してもよい。例えば、重回帰分析、k−means、サポートベクターマシーン(SVM)、単純クラスタリング、隠れマルコフモデル、ニューラルネットワーク、ディープラーニングなどを利用できる。
[第1実施形態]
次に図面を用いて第1実施形態を説明する。
<構成および処理>
図1に例示するように、本形態のシステムは特徴量抽出装置11、および、推定装置12を含む。特徴量抽出装置11は、眼球情報取得部111、特徴量抽出部112、および特徴量算出部113を含み、推定装置12は推定部121を含む。特徴量算出部113は、予測モデル生成部113aおよび予測誤差特徴量計算部113bを有する。特徴量抽出装置11および推定装置12のそれぞれは、例えば、CPU(central processing unit)等のプロセッサ(ハードウェア・プロセッサ)およびRAM(random-access memory)・ROM(read-only memory)等のメモリ等を備える汎用または専用のコンピュータが所定のプログラムを実行することで構成される装置である。このコンピュータは1個のプロセッサやメモリを備えていてもよいし、複数個のプロセッサやメモリを備えていてもよい。このプログラムはコンピュータにインストールされてもよいし、予めROM等に記録されていてもよい。また、CPUのようにプログラムが読み込まれることで機能構成を実現する電子回路(circuitry)ではなく、プログラムを用いることなく処理機能を実現する電子回路を用いて一部またはすべての処理部が構成されてもよい。また、1個の装置を構成する電子回路が複数のCPUを含んでいてもよい。
《眼球情報取得部111(図2:ステップS111)》
眼球情報取得部111は、対象者100の各離散時刻の「眼の動的な変化」に関する時系列情報を取得し、取得した目の動的な変化に関する時系列情報を特徴量抽出部112へ出力する。取得される「眼の動的な変化」は、対象者100の眼球自体の動きであってもよいし、瞳孔の動きであってもよいし、それら両方であってもよい。眼球情報取得部111は、両眼の動的な変化に関する時系列情報を取得してもよいし、何れか一方の眼の動的な変化に関する時系列情報を取得してもよい。
対象者100の「眼球自体の動き」に関する時系列情報は、撮像装置(例えば赤外線カメラ)で対象者100の眼を撮影して得られた映像に基づいて得られる。眼球情報取得部111は、例えば、撮影された映像を画像処理することで、所定の時間区間であるフレーム毎(例えば、1000Hzのサンプリング間隔)の眼球の位置の時系列を眼球の動きに関する時系列情報として取得する。眼球情報取得部111は、撮像装置と画像処理アルゴリズムを実行するコンピュータなどによって実現されてもよいし、撮像装置を外部装置として、撮像装置から入力された画像を画像処理するアルゴリズムを実行するコンピュータなどによって実現されてもよい。あるいは、眼球情報取得部111は、電極を用いた電位計測法を用いて眼球の動きを測定し、その測定結果に基づいて「眼球自体の動き」に関する時系列情報を取得してもよい。この場合、眼球情報取得部111は、測定装置(電極を含む)と測定装置が測定した電位に基づいて眼球の位置を計算するアルゴリズムを実行するコンピュータなどによって実現されてもよいし、測定装置を外部装置として、測定装置から入力された電位に基づいて眼球の位置を計算するアルゴリズムを実行するコンピュータなどによって実現されてもよい。図3に一方の眼球の動きを例示する。図3の横軸は時間[秒]を表し、縦軸は視野角[度]を表す。
対象者100の「瞳孔の動き」に関する時系列情報は、撮像装置(例えば赤外線カメラ)で対象者100の眼を撮影して得られた映像に基づいて得られる。例えば、対象者100にある1点を注視してもらうようにし、その時の瞳孔が赤外線カメラで撮像される。眼球情報取得部111は、撮影された映像を画像処理することで、フレーム毎(例えば、1000Hzのサンプリング間隔)の瞳孔の大きさの時系列を取得する。眼球情報取得部111は、例えば瞳孔を撮影した画像に対して、瞳孔に円をフィッティングし、当該フィッティングした円の半径を瞳孔径として用いることができる。瞳孔径は微細に変動するため、眼球情報取得部111は、所定の時間区間ごとにスムージング(平滑化)した瞳孔径の値を用いれば好適である。図5に右眼と左目の瞳孔の動き(瞳孔径の変化)を例示する。図5の横軸は時間[秒]を表し、縦軸は瞳孔径を表す。この瞳孔径は各時刻で取得した瞳孔径の全データの平均を0、標準偏差を1としたときのz-scoreで表現されている。ただし、眼球情報取得部111が取得する「瞳孔の動きに関する時系列情報」は、z-scoreで表現された瞳孔径の時系列でなくてもよく、瞳孔径の値そのものの時系列であってもよいし、瞳孔の面積や直径の時系列であってもよく、瞳孔の大きさに対応する値の時系列であればどのようなものであってもよい。
《特徴量抽出部112(ステップS112)》
特徴量抽出部112は、取得された「眼の動的な変化」に関する時系列情報から、所定の時間区間Ft(部分時間区間)での「眼の動的な変化」に基づく特徴量(yt,1,…,yt,d)(第1特徴量)、および、所定の時間区間Ft-1,…,Ft-pのそれぞれでの「眼の動的な変化」に基づく特徴量(yt-1,1,…,yt-1,d),…,(yt-p,1,…,yt-p,d)(第2特徴量)を抽出して出力する。ただし、i=t,t-1,…,t-pは時間区間Fiに対応する離散時間を表すインデックスであり、tは離散時間を表すインデックスであり、dは特徴量の要素数、すなわち次元を表す正の整数であり、pは1以上の整数であるが2以上であることが望ましい。iやtは値の大きさが大きいほど、新しい離散時間に対応する。pは定数であってもよいし、変数であってもよい。図6に例示するように、時間区間Ftが第1時間区間T1であり、p個の時間区間Ft-1,…,Ft-pからなる区間が第2時間区間T2である。特徴量がスカラである場合にはd=1であり、特徴量がベクトルである場合にはdは2以上の整数である。例えば、特徴量抽出部112は、各tにおいて、対象者100の「眼球自体の動き」「瞳孔の動き」の少なくとも何れかに基づく特徴量を要素としたスカラまたはベクトルを特徴量(yi,1,…,yi,d)(ただし、i=t,t-1,…,t-p)として抽出する。
「眼球自体の動き」に基づく特徴量:
「眼球自体の動き」に基づく特徴量としては、例えば「マイクロサッカード」や「ラージサッカード」の特徴量を例示できる。「マイクロサッカード」および「ラージサッカード」の特徴量を用いる場合は、時間区間Fiはそれぞれ必ず一つだけのマイクロサッカードを含むか、あるいは一つだけのラージサッカードを含むように設定する。このとき、モデルの精度を上げるためには、なるべくマイクロサッカードやラージサッカードの誤検出や検出漏れのないことが望ましい。
マイクロサッカードの特徴量:
「マイクロサッカード」とは、眼球の動きに表れる微細な跳躍性眼球運動をいう。人間がある一点を注視しているとき、眼球は完全に動きを止めているわけではなく、固視微動と呼ばれる三種類の眼球運動であるドリフト(drift、trendといってもよい)、トレマ、マイクロサッカード(フリックといってもよい)を行っている。ドリフトは小さな滑らかな動き、トレマは非常に小さな高周波の振動、マイクロサッカードは小さな跳ぶような動きである。図3を用いてマイクロサッカードを例示する。図3ではマイクロサッカードMS〜MSを太線で強調して示す。マイクロサッカードはある一点を注視している状態において、1〜2秒の間に1回程度、個人の意思とは関係なく(不随意に)表れる眼球の動きであって、小さな跳ぶような動きのことである。マイクロサッカードは、動きの水平方向の成分、垂直方向の成分のどちらからでも取得することができる。本実施形態では、マイクロサッカードが水平方向に偏向する性質に基づき、簡単のため水平方向の成分のみを用いる。しかし、本発明で用いることができるマイクロサッカードの方向成分は水平方向に限定されない。なお、「水平方向」とは、地面と平行な方向に限定する意味ではなく、対象者100の顔に対しての水平方向(眼球の配列方向であり、横方向、幅方向といってもよい)や眼球情報取得部111において水平方向と定義された方向を含む概念である。
特徴量抽出部112は、例えば眼球の位置の時系列について1次階差系列を計算し、1次階差系列の絶対値が所定の第1閾値を上回った時刻を、マイクロサッカードの開始時刻(発生時刻)として検出すればよい。ただし1次階差系列の絶対値が所定の閾値を上回る時間の長さが所定の値(通常3ms程度)以上持続しない場合は、検出から除外する。また、後述の基準振幅Aが所定の閾値(通常視野角2°程度)以上の場合はラージサッカードとして、検出から除外する。特徴量抽出部112は、取得された眼球の位置情報にノイズが多く含まれると判定した場合などには、1次階差系列の計算にあたって適当な範囲での移動平均値を用いても良い。検出に用いる閾値には、階差系列の標準偏差の6倍程度の値を用いることが好ましい。
マイクロサッカードの特徴量としては、マイクロサッカードの発生タイミングに基づく値Z、運動方向に応じた値D、基準振幅Aの絶対値|A|、最大速度Vmax、持続時間Dm、オーバーシュートの振幅Aoの絶対値|Ao|、オーバーシュートの速度Vo、立ち上がり時間K、減衰率λ、減衰係数ζ、固有角振動数ω、マイクロサッカードの単位時間(例えば1秒)あたりの発生回数Rmなどを例示できる。前述のように、特にマイクロサッカードの発生タイミングに基づく値Z、運動方向に応じた値D、基準振幅Aの絶対値|A|、減衰係数ζを用いることが望ましい。
時間区間Fiで発生したマイクロサッカードの発生タイミングに基づく値Zは、例えば、時間区間Fiの開始時刻Miであってもよいし、基準となる時間区間RFtに対応するマイクロサッカードの発生時刻RMと開始時刻Mとの時間差|RM−M|であってもよいし、開始時刻Mまたは時間差|RM−M|の関数値g(M)またはg(|RM−M|)であってもよい。基準となる時間区間RFtは時間区間Ftに対応し、例えばRFt=Ft-1である。関数値g(M)またはg(|RM−M|)に限定はないが、例えば、代表値Mまたは時間差|RM−M|が大きくなるほど小さくなり、負とならず、特異点を持たない関数の関数値を用いることができる。関数値g(M)の例は1/Mやexp(-M)などである。「exp」はネイピア数を底とする指数関数を表す。g(|RM−M|)の例は1/|RM−M|やexp(-|RM−M|)などである。ただし、Mや|RM−M|が0の場合には1/Mや1/|RM−M|は∞となる。そのため、Mや|RM−M|が0となるときにg(M)やg(|RM−M|)を0としてもよい。このような時間区間Fiで発生したマイクロサッカードの発生タイミングに基づく値Zを特徴量(yi,1,…,yi,d)の何れかの要素としてもよい。
時間区間Fiで発生したマイクロサッカードの運動方向に応じた値Dは、当該運動方向ごとに定まる値である。例えば、運動方向に応じた値Dが、左右の運動方向に対応する2値の何れかをとってもよいし、左右上下の運動方向に対応する4値の何れかをとってもよいし、その他n方向の運動方向に対応するn値の何れかをとってもよい。一例としては、右方向(左眼から右眼に向かう方向)の運動方向に応じた値Dを第1値(例えば−1)とし、左方向(左眼から右眼に向かう方向)の運動方向に応じた値Dを第2値(例えば1)とする。このような時間区間Fiで発生したマイクロサッカードの運動方向に応じた値Dを特徴量(yi,1,…,yi,d)の何れかの要素としてもよい。
次に図4を参照して、マイクロサッカードの基準振幅A、最大速度Vmax、持続時間Dm、オーバーシュートの振幅Ao、オーバーシュートの速度Vo、立ち上がり時間K、減衰率λについて説明する。
(1)基準振幅A:マイクロサッカードによる眼球の動きが収束したときの移動量である。
(2)最大速度Vmax:基準振幅A+オーバーシュートの振幅Aoに達するまでの最大の速度である。
(3)持続時間Dm:マイクロサッカードが起きている時間区間の長さである。マイクロサッカードの開始時刻は1次階差系列の絶対値が所定の閾値を上回る時刻で、マイクロサッカードの終了時刻は、オーバーシュートの振幅に達したあとに初めて基準振幅Aに戻る時刻である。
(4)オーバーシュート(overshoot)の振幅Ao:マイクロサッカードによって基準振幅Aを超過した(行き過ぎた)部分の量である。オーバーシュートとは、波形の立ち上がり部分で、波形が基準振幅Aを超えて突出する現象、または、その突出した波形である。言い換えると、オーバーシュートの振幅とは、突出した部分の量である。
(5)オーバーシュートの速度Vo:基準振幅A+オーバーシュートの振幅Aoから基準振幅Aに収束しようとする際の最大の速度である。
(6)立ち上がり時間K:基準振幅A+オーバーシュートの振幅Aoに達する(立ち上がる)までにかかる時間である。なお、基準振幅A+オーバーシュートの振幅Aoに達するまでにかかる時間は、最大速度Vmaxからオーバーシュートの速度Voに達するまでにかかる時間と同じ値となる。
(7)減衰率λ:基準振幅Aに対するオーバーシュートの振幅Aoの比である。最大速度Vmaxに対するオーバーシュートの速度Voの比としてもよく、
Figure 0006479708

と表される。
マイクロサッカードの減衰係数ζ、固有角振動数ωは、
Figure 0006479708

と表される。固有角振動数ωはマイクロサッカードの応答の速さを表す指標に相当し、減衰係数ζはマイクロサッカードの応答の収束性を表す指標に相当する。
特徴量抽出部112は、マイクロサッカードの減衰係数ζ、固有角振動数ω、基準振幅Aを、マイクロサッカードが起きている間の眼球の位置をフィッティングし、最小二乗法などによって最適化することで計算してもよい。
マイクロサッカードの減衰係数ζは、運動が左右方向に依存して値が変化する傾向があるため、特徴量抽出部112は、左方向のマイクロサッカードの減衰係数の代表値、右方向のマイクロサッカードの減衰係数の代表値を分けて計算しても良い。
時間区間Fiで発生した上述のようなマイクロサッカードの基準振幅Aの絶対値|A|、最大速度Vmax、持続時間Dm、オーバーシュートの振幅Aoの絶対値|Ao|、オーバーシュートの速度Vo、立ち上がり時間K、減衰率λ、減衰係数ζ、固有角振動数ωの少なくとも何れかを特徴量(yi,1,…,yi,d)の何れかの要素としてもよい。
ラージサッカードの特徴量:
「ラージサッカード」とは、マイクロサッカードよりも振幅の大きな跳躍性眼球運動をいい、一般に振幅が視野角2度以上の場合をラージサッカード、2度未満のものをマイクロサッカードとする。特徴量抽出部112は、前述の基準振幅Aが所定の閾値以上となった時刻を、ラージサッカードの起きた開始時刻として検出すればよい。ラージサッカードの特徴量の例は、ラージサッカードの発生タイミングに基づく値Z、運動方向に応じた値D、基準振幅A、最大速度Vmax、持続時間Dm、オーバーシュートの振幅Ao、オーバーシュートの速度Vo、立ち上がり時間K、減衰率λ、減衰係数ζ、固有角振動数ω、単位時間あたりの発生回数Rm、発生回数などである。これらの具体例は、前述したマイクロサッカードの特徴量の例の「マイクロサッカード」を「ラージサッカード」に置換したものである。時間区間Fiで発生したラージサッカードの特徴量の少なくとも何れかを特徴量(yi,1,…,yi,d)の何れかの要素としてもよい。前述した理由より、特にラージサッカードの発生タイミングに基づく値Z、運動方向に応じた値D、基準振幅Aの絶対値|A|、減衰係数ζを用いることが望ましい。
「瞳孔の動き」に基づく特徴量:
図5に例示したように、瞳孔の大きさは一定ではなく、変化している。瞳孔の大きさは交感神経系の支配を受けた瞳孔散大筋によって拡大(散瞳)し、副交感神経系の支配を受けた瞳孔括約筋によって収縮(縮瞳)する。瞳孔の大きさの変化は主に対光反射、輻輳反射、感情による変化の3つに区別される。対光反射は、網膜に入射する光量を制御するために瞳孔の大きさが変化する反応のことで、強い光に対しては縮瞳、暗所では散瞳が生じる。輻輳反射は、焦点を合わせる際に両眼が内転あるいは外転する運動(輻輳運動)に伴って瞳孔径が変化する反応のことで、近くを見るときには縮瞳、遠くを見るときには散瞳が生じる。感情による変化は、上記のいずれにもよらず外界のストレスに対して生じる反応のことで、怒りや驚き、活発な活動に伴って交感神経が優位となる際には散瞳が生じ、リラックスして副交感神経が優位となる際には縮瞳が生じる。「瞳孔の動き」に基づく特徴量としては、縮瞳の特徴量や散瞳の特徴量を用いることができる。
縮瞳の特徴量:
縮瞳の開始する時刻(以下、縮瞳開始点)は、瞳孔の大きさの時系列から極大点を抽出することによって検出する。縮瞳の終了する時刻(以下、縮瞳終了点)は、縮瞳開始以降初めて散瞳が開始した点、または縮瞳開始以降初めて瞬目が開始した点のうち、時間が早い方とする。縮瞳の振幅Acは、縮瞳開始点から縮瞳終了点までの瞳孔径の差である。縮瞳の持続時間Dcは、縮瞳開始点から縮瞳終了点までの時間差である。平均縮瞳の速度Vcは、(振幅Ac)/(持続時間Dc)である。時間区間Fiで発生した縮瞳の振幅Ac、縮瞳の持続時間Dc、平均縮瞳の速度Vc、縮瞳の発生回数などを時間区間Fiでの「瞳孔の動き」に基づく特徴量として用いることができる。特徴量抽出部112は、時間区間Fiで発生した縮瞳の振幅Ac、縮瞳の持続時間Dc、平均縮瞳の速度Vc、縮瞳の発生回数の少なくとも何れかを特徴量(yi,1,…,yi,d)の何れかの要素としてもよい。時間区間Fiにおいて縮瞳が複数検出された場合、一つ一つの縮瞳について求めた縮瞳の振幅Ac、縮瞳の持続時間Dc、平均縮瞳の速度Vcのそれぞれの代表値の何れかを特徴量(yi,1,…,yi,d)の何れかの要素としてもよい。なお、ノイズによる誤検出を防ぐために、縮瞳の持続時間が所定の閾値(例えば、10ms)以下の場合、あるいは縮瞳の振幅が所定の閾値以下の場合は、その縮瞳を検出から除外してもよい。
散瞳の特徴量:
散瞳の開始する時刻(以下、散瞳開始点)は、瞳孔径の時系列から極小点を抽出することによって検出する。散瞳の終了する時刻(以下、散瞳終了点)は、散瞳開始以降初めて縮瞳が開始した点、または散瞳開始以降初めて瞬目が開始した点のうち、時間が早い方とする。散瞳の振幅Adは、散瞳開始点から散瞳終了点までの瞳孔径の差である。散瞳の持続時間Ddは、散瞳開始点から散瞳終了点までの時間差である。散瞳の平均速度Vdは、(振幅Ad)/(持続時間Dd)である。時間区間Fiで発生した散瞳の振幅Ad、散瞳の持続時間Dd、平均散瞳の速度Vd、散瞳の発生回数などを時間区間Fiでの「瞳孔の動き」に基づく特徴量として用いることができる。特徴量抽出部112は、時間区間Fiで発生した散瞳の振幅Ad、散瞳の持続時間Dd、平均散瞳の速度Vd、散瞳の発生回数の少なくとも何れかを特徴量(yi,1,…,yi,d)の何れかの要素としてもよい。時間区間Fiにおいて散瞳が複数検出された場合、一つ一つの散瞳について求めた散瞳の振幅Ad、散瞳の持続時間Dd、平均散瞳の速度Vdのそれぞれの代表値の何れかを特徴量(yi,1,…,yi,d)の何れかの要素としてもよい。なお、ノイズによる誤検出を防ぐために、散瞳の持続時間が所定の閾値(例えば、10ms)以下の場合、あるいは散瞳の振幅が所定の閾値以下の場合は、その散瞳を検出から除外してもよい。
前述のように、対象者100の一方の眼(例えば、右眼)の動的な変化に由来する値と他方の眼(例えば、左眼)の動的な変化に由来する値との相対量を特徴量(yi,1,…,yi,d)の何れかの要素としてもよい。眼の動的な変化に由来する値としては、前述したマイクロサッカードの特徴量、ラージサッカードの特徴量、縮瞳の特徴量、散瞳の特徴量などを用いることができる。ただし、一方の眼の動的な変化に由来する値と、他方の動的な変化に由来する値とは、同種の特徴量である。「相対量」の具体例は前述の通りである。
《特徴量算出部113(ステップS113)》
特徴量(yi,1,…,yi,d)(ただし、i=t,t-1,…,t-p)は特徴量算出部113に送られる。例えば、d=5であり、マイクロサッカードの発生タイミングに基づく値Z、運動方向に応じた値D、基準振幅Aの絶対値|A|、減衰係数ζ、および固有角振動数ωを特徴量の要素とする場合、特徴量(yi,1,…,yi,5)の要素は以下のようになる。このように第1特徴量(yt,1,…,yt,5)と第2特徴量(yt-1,1,…,yt-1,5),…,(yt-p,1,…,yt-p,5)とは同じ種別の特徴量である。
Figure 0006479708
特徴量算出部113は、第1時間区間T1での対象者100の眼の動的な変化に基づいて得られた第1特徴量(yt,1,…,yt,d)と、第2時間区間T2での対象者100の眼の動的な変化に基づいて得られた第2特徴量の時系列情報(yt-1,1,…,yt-1,d),…,(yt-p,1,…,yt-p,d)から推定した第1時間区間T1での特徴量(y^t-1,1,…,y^t-1,d)と、の相違の度合いに応じた特徴量St(第3特徴量)を得て出力する。以下、この処理を例示する。本形態では、ベクトル自己回帰モデルを用い、(yt-1,1,…,yt-1,d),…,(yt-p,1,…,yt-p,d)から(y^t-1,1,…,y^t-1,d)を推定する例を示す。しかし、これは本発明を限定するものではない。なお、(y^t-1,1,…,y^t-1,d)の「^」は本来「y」の真上に表記すべきであるが、記載表記の制約上「^」を「y」を右上に表記する場合がある。第1特徴量や第2特徴量は必ずしも正規分布をとる特徴量とは限らないため、本形態のようにベクトル自己回帰モデルを用いる場合は、事前にBox-Cox変換等の手法によって特徴量を正規化しても良い。
《予測モデル生成部113a(ステップS113a)》
予測モデル生成部113aは、これまでの各t’で得られた(yt’,1,…,yt’,d),…,(yt’-p,1,…,yt’-p,d)を入力とし、以下のベクトル自己回帰モデルの係数c1,…,cd,φ1,1 (1),…,φd,d (1),…,φ1,1 (p),…,φd,d (p)を算出して出力する。ここでt≧t’である。例えばt’=t,t-1,t-2,...,t-wであり、wはw<tの整数である。例えば、t-wは時間インデックスの初期値(例えば、t-w=1)である。係数c1,…,cd,φ1,1 (1),…,φd,d (1),…,φ1,1 (p),…,φd,d (p)は、例えば、すべてのt’=t,t-1,t-2,...,t-wについての予測誤差(予測残差)εt’,1,…,εt’,dの大きさを最小化するように選択される。例えば、t’=t,t-1,t-2,...,t-wについてのεt’,1,…,εt’,dの合計やその関数値が最小となるように係数c1,…,cd,φ1,1 (1),…,φd,d (1),…,φ1,1 (p),…,φd,d (p)が設定される。
Figure 0006479708

選択された係数c1,…,cd,φ1,1 (1),…,φd,d (1),…,φ1,1 (p),…,φd,d (p)は、予測誤差特徴量計算部113bに送られる。
《予測誤差特徴量計算部113b(ステップS113b)》
予測誤差特徴量計算部113bは、係数c1,…,cd,φ1,1 (1),…,φd,d (1),…,φ1,1 (p),…,φd,d (p)、および、特徴量(yi,1,…,yi,d)(ただし、i=t,t-1,…,t-p)を入力とし、以下のようにtに対応する特徴量St(第3特徴量)を得て出力する。
Figure 0006479708

ただし、
Figure 0006479708

であり、
Figure 0006479708

であり、[・]は[・]の転置である。Σはy^tの分散共分散行列であり、Σのi行j列の要素Σijは以下の通りである。
Figure 0006479708

ただし、E[・]は[・]の期待値を表す。
特徴量Stは、第1時間区間T1での対象者100の眼の動的な変化に基づいて得られた第1特徴量(yt,1,…,yt,d)が、第2時間区間T2での対象者100の眼の動的な変化に基づいて得られた第2特徴量の時系列情報(yt-1,1,…,yt-1,d),…,(yt-p,1,…,yt-p,d)から推定した第1時間区間T1での特徴量(y^t-1,1,…,y^t-1,d)の分布において出現しうる確率に応じた値となる(図6)。ここで、(1)式は、一般に特徴量(yt,1,…,yt,d)の多変量正規分布の確率密度関数Ptは以下のようになることに基づく。
Figure 0006479708

ここで、μはytの平均ベクトルであり、Σt’はytの分散共分散行列である。特徴量Stは、第2特徴量から推定された確率分布における第1特徴量の出現確率が0に近いほど大きくなって1に近づき、出現確率が1に近いほど小さくなって0に近づく。つまり、特徴量Stは、新奇な状態であって対象者100の注意度合いや驚き度合いが高いほど大きな値となり、逆に、対象者100の注意度合いや驚き度合いが低いほど小さな値をとる。
《推定部121(ステップS121)》
特徴量Stは推定装置の推定部121に送られる。推定部121は、少なくとも特徴量Stを用い、注意度合いおよび/または驚き度合いといった対象者100の心理状態を推定し、その推定結果を出力する。
対象者100の心理状態の推定方法に限定はない。単純な方法としては、推定部121は、特徴量Stと閾値Th1(ただし、1>Th1>0)を比較し、St≧Th1であれば対象者100が注意状態および/または驚き状態にある旨の推定結果を出力し、そうでなければ対象者100が注意状態および/または驚き状態にない旨の推定結果を出力する。
推定部121が特徴量Stと複数の閾値Thmax,…,Th1(ただし、1>Thmax>…>Th1>0、maxは2以上の整数)とを比較し、特徴量Stが何れの範囲に属するかを表す値を、対象者100の注意度合いおよび/または驚き度合いを示すレベルを表す推定結果として出力してもよい。あるいは、推定部121が特徴量Stそのものや、特徴量Stに対する単調関数(単調増加関数や単調減少関数)を注意状態および/または驚き状態を表す推定結果として出力してもよい。
特徴量Stと前述した時間区間Ftでの「眼の動的な変化」に基づく特徴量の何れかとを要素とするベクトルVFtを用い、注意度合いおよび/または驚き度合いといった対象者100の心理状態を推定してもよい。例えば、各tでのベクトルVFtをk-means等によってクラスタリングし、各ベクトルVFtが属するクラスタを表す情報を推定結果として出力してもよい。
[第2実施形態]
第1実施形態では、予測モデル生成部113aがリアルタイムに係数c1,…,cd,φ1,1 (1),…,φd,d (1),…,φ1,1 (p),…,φd,d (p)を更新した。しかしながら、事前に係数c1,…,cd,φ1,1 (1),…,φd,d (1),…,φ1,1 (p),…,φd,d (p)を計算しておき、これらの更新しないことにしてもよい。以下ではこれまで説明した事項との相違点を中心に説明し、既に説明した事項については同じ参照番号を引用して説明を簡略化する。
図1に例示するように、本形態のシステムは特徴量抽出装置21、および、推定装置12を含む。特徴量抽出装置21は、眼球情報取得部111、特徴量抽出部112、および特徴量算出部213を含む。特徴量算出部213は、予測モデル生成部113a、予測誤差特徴量計算部113b、および記憶部213cを有する。本形態では、事前処理の段階で、予測モデル生成部113aが過去の各t’(ただし、t>t’)で得られた(yt’,1,…,yt’,d),…,(yt’-p,1,…,yt’-p,d)を入力とし、以下のベクトル自己回帰モデルの係数c1,…,cd,φ1,1 (1),…,φd,d (1),…,φ1,1 (p),…,φd,d (p)を算出して記憶部213cに格納しておく。各tでの処理では、ステップS111,112が実行された後、ステップS113aの処理が実行されることなく、ステップS113bの処理が実行される。ただし、ステップS113bでは、予測誤差特徴量計算部113bが、記憶部213cから抽出した係数c1,…,cd,φ1,1 (1),…,φd,d (1),…,φ1,1 (p),…,φd,d (p)、および、特徴量抽出部112から送られた特徴量(yi,1,…,yi,d)(ただし、i=t,t-1,…,t-p)を入力とし、前述のようにtに対応する特徴量St(第3特徴量)を得て出力する。その後、ステップS121の処理が実行される。これにより、リアルタイムな予測モデル生成処理を省略でき、処理を高速化できる。
[第3実施形態]
本形態は第1または2実施形態の変形例である。本形態では、少なくとも特徴量Stを事前に学習された予測モデルに適用し、注意度合いおよび/または驚き度合いといった対象者100の心理状態を推定する。
図1に例示するように、第3実施形態の第1,2実施形態との相違点は、システムが推定装置12に代えて推定装置32を有する点である。推定装置32は、推定部321、モデル生成部322、および記憶部323を有する。本形態では、事前処理の段階で、モデル生成部322が、過去の各t”(ただし、t>t”)で得られた特徴量St”を少なくとも含む特徴量(例えば、特徴量St”またはベクトルVFt”)を入力とし、tで得られた特徴量Stを少なくとも含む特徴量(例えば、特徴量StまたはベクトルVFt)から、注意度合いおよび/または驚き度合いといった対象者100の心理状態を表す推定結果を出力する心理状態予測モデルを生成し、それを特定する情報(モデルパラメータ等)を記憶部323に格納しておく。この学習は特徴量St”を少なくとも含む特徴量と心理状態を表す正解ラベルとが関連付けられた学習データを用いた教師あり学習であってもよいし、特徴量St”を少なくとも含む特徴量のみを学習データとした教師なし学習であってもよい。ただし、学習データとして用いられる特徴量の種別とtで得られる特徴量の種別とは同一である。心理状態予測モデルとしては、例えば、サポートベクターマシーン、隠れマルコフモデル、ニューラルネットワーク、ディープラーニングなどを用いることができる。各tでの処理では、ステップS113bの処理の後、推定部321が記憶部323から抽出した情報に基づいて設定される心理状態予測モデルに対し、tで得られた特徴量Stを少なくとも含む特徴量を適用し、注意度合いおよび/または驚き度合いといった対象者100の心理状態を表す推定結果を出力する(図2:ステップS321)。
[実験例]
次に、式(1)を用い、実際の実験で測定されたマイクロサッカードから特徴量St(サプライズ値:surprise)を計算し、心理物理実験に基づく評価を行った例を紹介する。実験例においては、特徴量Stの心理物理評価として、音列消失の検知にかかる反応時間を計測した。
<心理物理実験:音列消失の検知>
健常成人6名(平均年齢27.6±1.2歳,女性2名)が実験に参加した。実験では、規則的(図7Aの上図)あるいは不規則(図7Aの下図)な間隔で1000Hzの純音(持続時間200ms)がランダムな回数呈示された。被験者には、「音列の呈示が終了した」と感じたタイミングで、なるべく早くボタン押しを行うよう教示した。純音の呈示回数には、8回,10回,12回の3条件を用い、試行毎にランダムに切り替えた。純音同士の呈示時間隔(呈示開始時間の間隔)は、すべて500msの条件(図7Aの上図:規則呈示条件),500±50ms,500±100ms,500±150ms,500±200msの条件(図7Aの下図:不規則呈示条件)の計5条件を試行毎にランダムに切り替えた。不規則呈示条件では、呈示時間隔は上記の幅の中で一様分布に従うものとし、一つの試行の中に同じ時間隔は存在しないように設定した。ただし、反応に際する条件の統一のため、各試行の最後の音とその一つ前の音の呈示時間隔はすべて500msとした。呈示時間隔及び呈示回数の条件毎に10回の繰り返しを行い、被験者毎に計150試行を行った。
表2は、各条件において音列消失の検出にかかった平均の反応時間を示したものである。ただし、音列消失の検出にかかった平均の反応時間を「平均±標準偏差」で示し、その単位として「秒」を用いた。
Figure 0006479708

音列消失検知にかかる反応時間は、規則的な音列ほど早かった。規則的な間隔で呈示される音列は、消失のタイミングがはっきりとしており、不規則的な間隔で呈示される音列に比べて消失の検知にかかる反応時間が早くなるものと考えられる。また、音列消失検知にかかる反応時間は、消失までの呈示回数が多いほど早かった。これは試行の繰り返しによる効果を反映しているものと考えられる。すなわち、呈示回数が少ないほど音列が消失する確率は経験的には低くなるため、判断に遅れが生じるものと考えられる。
図7Bは、音列消失時刻を0として、その前後で測定されたマイクロサッカードから得られた特徴量St(サプライズ値:surprise)を表したものである。図7Bの通り、音列の消失直後はいったん減少するものの、1500-2500msにかけて大きなサプライズが検出されることがわかる。このとき、各条件(呈示回数、呈示時間隔の分布幅)において音列消失にかかる平均の反応時間と、式(1)で計算されたマイクロサッカードの特徴量St(1500-2500ms)の平均値は弱い負の相関(r=-0.42)を示した。このことから、人間が知覚する「驚き」の度合を、マイクロサッカードから得られた特徴量Stが一定程度表現しているものと考えられる。
[その他の変形例等]
なお、本発明は上述の実施形態に限定されるものではない。例えば、式(1)に代えて、以下の式によって特徴量St(第3特徴量)が得られてもよい。
Figure 0006479708

ただしγは任意の定数である(例えば、0<γ≦1)。また、前述の式(2)は第1特徴量が多変量正規分布に従っていることを前提としている。しかし、これは本発明を限定するものではない。特徴量Stの計算にあたっては、第2特徴量の時系列情報に基づいて推定された分布における第1特徴量の確率Ptを計算した上で、一般に
Figure 0006479708

とすることもできる。また、少なくとも特徴量Stを用い、注意度合いや驚き度合い以外の対象者100の心理状態を推定してもよい。例えば、少なくとも特徴量Stを用い、対象者100のリラックス度合いや緊張度合いなどの心理状態を推定してもよい。
上述の各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。その他、本発明の趣旨を逸脱しない範囲で適宜変更が可能であることはいうまでもない。
上述の構成をコンピュータによって実現する場合、各装置が有すべき機能の処理内容はプログラムによって記述される。このプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体の例は、非一時的な(non-transitory)記録媒体である。このような記録媒体の例は、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等である。
このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD−ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。
このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶装置に格納する。処理の実行時、このコンピュータは、自己の記憶装置に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP(Application Service Provider)型のサービスによって、上述の処理を実行する構成としてもよい。
上記実施形態では、コンピュータ上で所定のプログラムを実行させて本装置の処理機能が実現されたが、これらの処理機能の少なくとも一部がハードウェアで実現されてもよい。
11,21 特徴量抽出装置
12,32 推定装置

Claims (11)

  1. 第1時間区間での眼の動的な変化に基づいて得られた第1特徴量と、第2時間区間での眼の動的な変化に基づいて得られた第2特徴量の時系列情報から推定した前記第1時間区間での推定特徴量と、の相違の度合いに応じた第3特徴量を得
    前記第1特徴量と前記第2特徴量と前記推定特徴量とは同じ種別の特徴量である、特徴量抽出装置。
  2. 請求項1の特徴量抽出装置であって、
    前記第1特徴量および前記第2特徴量は、眼球のサッカードに基づく特徴量を含む、特徴量抽出装置。
  3. 請求項2の特徴量抽出装置であって、
    前記第1特徴量および前記第2特徴量は、眼球の運動方向および眼球運動の減衰係数の少なくとも一方に基づく特徴量を含む、特徴量抽出装置。
  4. 請求項2または3の特徴量抽出装置であって、
    前記第1特徴量および前記第2特徴量は、眼球のサッカードの発生タイミングに基づく特徴量を含む、特徴量抽出装置。
  5. 請求項1から4の何れかの特徴量抽出装置であって、
    前記第1特徴量および前記第2特徴量は、一方の眼の動的な変化に由来する値と他方の眼の動的な変化に由来する値との相対量に基づく特徴量を含む、特徴量抽出装置。
  6. 請求項1から5の何れかの特徴量抽出装置であって、
    前記第1特徴量および前記第2特徴量は、一方の眼の瞳孔の動きに由来する値と他方の眼の瞳孔の動きに由来する値との相対量に基づく特徴量を含む、特徴量抽出装置。
  7. 請求項1から6の何れかの特徴量抽出装置であって、
    前記第3特徴量は、注意度合いおよび驚き度合いの少なくとも一方を表す、特徴量抽出装置。
  8. 少なくとも、第1時間区間での眼の動的な変化に基づく第1特徴量と、第2時間区間での眼の動的な変化に基づく第2特徴量の時系列情報から推定した前記第1時間区間での推定特徴量と、の相違の度合いに応じた第3特徴量を用い、注意度合いおよび驚き度合いの少なくとも一方を推定し、
    前記第1特徴量と前記第2特徴量と前記推定特徴量とは同じ種別の特徴量である、推定装置。
  9. 第1時間区間での眼の動的な変化に基づいて得られた第1特徴量と、第2時間区間での眼の動的な変化に基づいて得られた第2特徴量の時系列情報から推定した前記第1時間区間での推定特徴量と、の相違の度合いに応じた第3特徴量を得
    前記第1特徴量と前記第2特徴量と前記推定特徴量とは同じ種別の特徴量である、特徴量抽出方法。
  10. 少なくとも、第1時間区間での眼の動的な変化に基づく第1特徴量と、第2時間区間での眼の動的な変化に基づく第2特徴量の時系列情報から推定した前記第1時間区間での推定特徴量と、の相違の度合いに応じた第3特徴量を用い、注意度合いおよび驚き度合いの少なくとも一方を推定し、
    前記第1特徴量と前記第2特徴量と前記推定特徴量とは同じ種別の特徴量である、推定方法。
  11. 請求項1から7の何れかの特徴量抽出装置または請求項8の推定装置としてコンピュータを機能させるためのプログラム。
JP2016094387A 2016-05-10 2016-05-10 特徴量抽出装置、推定装置、それらの方法、およびプログラム Active JP6479708B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016094387A JP6479708B2 (ja) 2016-05-10 2016-05-10 特徴量抽出装置、推定装置、それらの方法、およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016094387A JP6479708B2 (ja) 2016-05-10 2016-05-10 特徴量抽出装置、推定装置、それらの方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2017202047A JP2017202047A (ja) 2017-11-16
JP6479708B2 true JP6479708B2 (ja) 2019-03-06

Family

ID=60322690

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016094387A Active JP6479708B2 (ja) 2016-05-10 2016-05-10 特徴量抽出装置、推定装置、それらの方法、およびプログラム

Country Status (1)

Country Link
JP (1) JP6479708B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6939533B2 (ja) * 2017-12-26 2021-09-22 日本電信電話株式会社 注意レベル推定装置、注意レベル推定モデル学習装置、注意レベル推定方法、注意レベル推定モデル学習方法、およびプログラム
JP7107725B2 (ja) * 2018-04-10 2022-07-27 浜松ホトニクス株式会社 眼球運動特徴量算出システム、眼球運動特徴量算出方法及び眼球運動特徴量算出プログラム
JP6972393B2 (ja) * 2019-01-21 2021-11-24 三菱電機株式会社 注意力判定装置、注意力判定システム、注意力判定方法、およびプログラム
WO2020178961A1 (ja) 2019-03-04 2020-09-10 マクセル株式会社 ヘッドマウント情報処理装置
US20230197279A1 (en) * 2020-05-28 2023-06-22 Nippon Telegraph And Telephone Corporation Psychological state analysis method, psychological state analysis apparatus and program

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2622365A1 (en) * 2005-09-16 2007-09-13 Imotions-Emotion Technology A/S System and method for determining human emotion by analyzing eye properties
JP5718493B1 (ja) * 2014-01-16 2015-05-13 日本電信電話株式会社 音の顕著度推定装置、その方法、及びプログラム
JP5718494B1 (ja) * 2014-01-16 2015-05-13 日本電信電話株式会社 印象推定装置、その方法、及びプログラム
JP5718492B1 (ja) * 2014-01-16 2015-05-13 日本電信電話株式会社 音の顕著度推定装置、その方法、及びプログラム
JP5718495B1 (ja) * 2014-01-16 2015-05-13 日本電信電話株式会社 印象推定装置、その方法、及びプログラム

Also Published As

Publication number Publication date
JP2017202047A (ja) 2017-11-16

Similar Documents

Publication Publication Date Title
US11089985B2 (en) Systems and methods for using mobile and wearable video capture and feedback plat-forms for therapy of mental disorders
US11468288B2 (en) Method of and system for evaluating consumption of visual information displayed to a user by analyzing user's eye tracking and bioresponse data
JP6479708B2 (ja) 特徴量抽出装置、推定装置、それらの方法、およびプログラム
JP7070605B2 (ja) 注目範囲推定装置、その方法およびプログラム
JP5718493B1 (ja) 音の顕著度推定装置、その方法、及びプログラム
JP6509712B2 (ja) 印象推定装置およびプログラム
JP2019111291A (ja) 注意レベル推定装置、注意レベル推定モデル学習装置、注意レベル推定方法、注意レベル推定モデル学習方法、およびプログラム
JP5718494B1 (ja) 印象推定装置、その方法、及びプログラム
Komogortsev et al. Biometrics via oculomotor plant characteristics: Impact of parameters in oculomotor plant model
KR102341937B1 (ko) 일상생활에서 발생하는 감정 변화 원인을 파악하는 방법 및 그 시스템
JP6377545B2 (ja) 個人識別方法、個人識別装置、プログラム
JP5718495B1 (ja) 印象推定装置、その方法、及びプログラム
WO2020003804A1 (ja) 反射性判定装置、反射性判定方法、プログラム
JP6445418B2 (ja) 印象推定装置、印象推定方法、およびプログラム
Korda et al. Automatic identification of oculomotor behavior using pattern recognition techniques
JP2017202048A (ja) 特徴量抽出装置、推定装置、それらの方法、およびプログラム
JP6509778B2 (ja) 学習装置、推定装置、それらの方法、およびプログラム
Jayarathna et al. Rationale and architecture for incorporating human oculomotor plant features in user interest modeling
JP7347822B2 (ja) 心身状態推定装置、心身状態推定方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181211

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190206

R150 Certificate of patent or registration of utility model

Ref document number: 6479708

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150