JP2018202130A - 状態推定装置、情報処理装置、状態推定システム - Google Patents

状態推定装置、情報処理装置、状態推定システム Download PDF

Info

Publication number
JP2018202130A
JP2018202130A JP2017236780A JP2017236780A JP2018202130A JP 2018202130 A JP2018202130 A JP 2018202130A JP 2017236780 A JP2017236780 A JP 2017236780A JP 2017236780 A JP2017236780 A JP 2017236780A JP 2018202130 A JP2018202130 A JP 2018202130A
Authority
JP
Japan
Prior art keywords
frequency component
rri
state estimation
subject
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017236780A
Other languages
English (en)
Inventor
倫太郎 黒田
Rintaro Kuroda
倫太郎 黒田
大西 佳成
Yoshinari Onishi
佳成 大西
晴彦 中辻
Haruhiko Nakatsuji
晴彦 中辻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Publication of JP2018202130A publication Critical patent/JP2018202130A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Abstract

【課題】対象者の状態の推定精度が向上された状態推定装置を提供する。
【解決手段】対象者の状態を推定する状態推定装置20であって、対象者から心拍に関する信号を取得するセンサとのインタフェースと、信号から心電図のR波とR波の間隔に相当するRRI信号を取得するRRI取得手段と、RRI信号を解析して心拍揺らぎ高周波成分と心拍揺らぎ低周波成分を算出する周波数成分検出手段と、高周波成分と前記低周波成分の和、及び、和に対する高周波成分の比を算出する算出手段と、和と比に基づいて対象者の状態を推定する状態推定手段と、を有する。
【選択図】図9

Description

本発明は、状態推定装置、情報処理装置、及び、状態推定システムに関する。
人間の生理的な状態を数値化することができれば、これまで本人や観察者の主観に頼っていた生理的な状態の判断に客観性が得られる。生理的な状態の1つに眠気を挙げることができ、眠気があることが好ましくない状況で対象者が眠くなり何らかの不都合を生じさせることを、眠気を客観的に検出することで抑制する試みがある。眠気を推定する装置を対象者の生理的な状態を推定するという意味で状態推定装置と称することにする。
例えば、心拍間隔が自律神経の活動と関係することに着目し、心拍間隔の変動を測定して眠気を推定する技術がある。心拍間隔の変動時系列データをRRI(R-R Interval)信号といい、状態推定装置はRRI信号の高周波成分(HF)と低周波成分(LF)を算出する。HFは副交感神経の活動指標であるため対象者がリラックスしていると大きくなり、LFは交感神経の活動指標であるため緊張感が高まると大きくなることが知られている。そこで、HFとLFから眠気を判断するための指標値を算出して眠気の大きさを判断することが検討されている(例えば、特許文献1参照。)。特許文献1には、HF/(LF+HF)と閾値を比較して眠気を判断する状態推定装置が開示されている。
特開2016-120061号公報
しかしながら、HFとLFを用いた従来の判断方法では、必ずしも眠気の判断精度が高くないという問題がある。図1、図2を用いて説明する。
図1(a)は、LF/HFと眠気レベルの時間的な推移を示す図である。眠気レベルは1〜5の5段階(値が大きいほど眠気が大きい)であり、被験者が自己申告した値である。眠気レベルは時間と共に増大しているが、LF/HFの値は150秒以降で低下している。したがって、LF/HFの値に着目するだけでは、被験者の眠気が大きい場合に眠気が大きいことを検出できないおそれがある。
図1(b)はHFとLFを所定のアルゴリズムに入力して得られる眠気レベルの時間的な推移を示す図である。なお、このアルゴリズムは公開されておらず特許文献1に記載のものとは同じでない。図1(b)においても図1(a)の眠気レベルが正しい判断結果である。しかし、図1(b)の眠気レベルと図1(a)の眠気レベルを比較すると、誤り率は85%を超えており、眠気の判断精度が高くないことが分かる。
図2は、HFとLFという2つの値にのみ着目することが必ずしも妥当でないことを説明する図の一例である。図2(a)〜(c)において横軸はLF,縦軸はHFである。図2からは明らかでないが図2はHFとLFに対する眠気レベル1〜5の散布図である。被験者のRRI信号から算出されたHFとLFに対し自己申告による眠気レベル1〜5のいくつかの組が得られている。図2では更に、適切な機械学習により眠気レベル1〜5の識別境界が描画されており、同じ眠気レベルの領域には同じ濃度(実際はカラーなので同じ色)が付されている。濃度が濃いほど眠気レベルが高いことを示す。
図2(a)〜(c)はそれぞれ3人の異なる被験者の実験結果を示す。図2(a)の被験者にとってエリアAR1は眠気が小さいことを示すが、図2(b)の被験者のエリアAR1は、眠気が大きいことを示している。同様に、図2(a)の被験者にとってエリアAR2は眠気が小さいことを示すが、図2(c)の被験者のエリアAR2は、眠気が大きいことを示している。また、図2(a)の被験者にとってエリアAR3は眠気が大きいことを示すが、図2(c)の被験者のエリアAR3は、眠気が小さいことが示している。
図2の実験結果からHFとLFという2つの値に着目しても、汎用性のある識別器18が得られないことが分かる。換言すると、被験者ごとの学習データを使って学習装置が学習を行えばHFとLFという2つの値にのみ着目しても眠気を検出することが可能になる可能性があるが、任意のユーザの眠気を判断することは困難になる。
本発明は、上記課題に鑑み、対象者の状態の推定精度が向上された状態推定装置を提供することを目的とする。
本発明は、対象者の状態を推定する状態推定装置であって、前記対象者から心拍に関する信号を取得するセンサとのインタフェースと、前記信号から心電図のR波とR波の間隔に相当するRRI信号を取得するRRI取得手段と、 前記RRI信号を解析して心拍揺らぎ高周波成分と心拍揺らぎ低周波成分を算出する周波数成分検出手段と、前記高周波成分と前記低周波成分の和、及び、前記和に対する前記高周波成分の比を算出する算出手段と、前記和と前記比に基づいて前記対象者の状態を推定する状態推定手段と、を有する。
本発明によれば、対象者の状態の推定精度が向上された状態推定装置を提供することができる。
LF/HFと眠気レベルの時間的な推移、及び、HFとLFを所定のアルゴリズムに入力して得られる眠気レベルの一例を示す図である。 HFとLFという2つの値にのみ着目することが必ずしも妥当でないことを説明する図の一例である。 状態推定装置の概略的な動作を説明する図の一例である。 状態推定装置が利用されるシーンの一例を示す図である。 学習装置の機能をブロック状に示す機能ブロック図の一例である。 RRI信号について説明する図の一例である。 RRI信号にFFTが施されて得られた周波数分布スペクトルの一例を示す図である。 学習のモデルの一例であるニューラルネットワークと呼ばれるモデルを示す図である。 単体型の状態推定装置の機能をブロック状に示す機能ブロック図の一例である。 クライアントサーバ型の状態推定システムの機能をブロック状に示す機能ブロック図の一例である。 状態推定装置又は状態推定システムが眠気レベルを推定する手順を示すフローチャート図の一例である。 HFr及びHF+LFと識別器が算出する眠気レベルの対応を説明する図の一例である。 各分析手法の眠気レベルと自己申告の眠気レベルの平均二乗誤差(MSE)を示す図である HFr及びHF+LFと、識別器が出力する眠気レベルの関係を三次元のグラフで示す図である。 HFr及びHF+LFと閾値の関係を説明する図の一例である。 状態推定装置又は状態推定システムが眠気の有無を推定する手順を示すフローチャート図の一例である。 ある被験者の午前(AM)と午後(PM)のHFr及びHF+LFの分布範囲の一例を示す図である。 単体型の状態推定装置の機能をブロック状に示す機能ブロック図の一例である(実施例2)。 ある被験者のRRIレンジごとのHFrとLH+HFの一例を示す図である。 RRI信号とLF、及び、RRI信号とHFの関係を説明する図の一例である。 状態推定装置が眠気レベルを推定する手順を示すフローチャート図の一例である。 状態推定装置が出力する眠気レベルの精度と従来技術の精度との比較結果を示す図である(実施例2)。 クライアントサーバ型の状態推定システムの機能をブロック状に示す機能ブロック図の一例である(実施例2)。 状態推定装置と指標分布作成サーバの機能をブロック状に示す機能ブロック図の一例である。 指標分布作成サーバが指標分布DBを作成する手順を示すフローチャート図の一例である。
以下、本発明を実施するための形態の一例として、状態推定装置と状態推定装置が行う状態推定方法について図面を参照しながら説明する。
<状態推定装置の概略>
図3は、本実施例の状態推定装置の概略的な動作を説明する図の一例である。まず、本出願人はHFr(=HF/(HF+LF))とHF+LFという指標が眠気レベルと高い相関を示すことを発見した。言葉で表すと、HFとLFの和、及び、和に対するHFの比が眠気レベルと高い相関を示す。なお、HFは心拍揺らぎ高周波成分であり、LFは心拍揺らぎ低周波成分である。そこで、図示するように、HFr及びHF+LFの組と自己申告された眠気レベルの対応を学習装置が学習することで識別器18を構築する。
構築された識別器18は、リアルタイムに入力されたHFr及びHF+LFに対し推定される眠気レベル1〜5を出力する。後述するが推定された眠気レベル1〜5は任意の対象者について自己申告の眠気レベルと同程度になる。このようにHFr及びHF+LFに着目することで汎化能力が高い(被験者の違いに影響されにくい)識別器18が得られる。
<用語について>
対象者とは状態が推定される者をいい、この状態は対象者の様子に関するものである。例えば、生理的な状態であり、具体的には眠気、ストレス、疲れなどに関する状態が挙げられる。
状態は多段階に評価されてよく、多段階の状態を状態レベルという。本実施例では眠気レベルという用語で説明する。
心拍に関する信号とは、心拍そのものである必要はなく、心拍に相当する又は心拍に変換可能な信号を含む。
<システム構成例>
図4は、状態推定装置が利用されるシーンの一例を示す図である。図4(a)は単体型の状態推定装置の一例を示している。図4(a)において状態推定装置はナビゲーション装置10の機能の一部として搭載されている。ナビゲーション装置10には有線又は無線でRRI(R-R Interval)センサ11が接続されており、RRIセンサ11が運転者の身体(図4では手首)に装着される。ナビゲーション装置10はRRI信号を解析してHFrとHF+LFを算出し、識別器で眠気レベルを推定する。眠気レベルが大きい場合、運転者が眠いと推定されるので、ナビゲーション装置10は運転者を覚醒させる制御を行う。例えば、スピーカ31から音楽を出力したり、運転者の嗜好が高い分野のニュースを出力したりする。また、アロマを噴出したり、ステアリングホイール33を振動させたり、パワーシート34を駆動したりする。
なお、ナビゲーション装置10とは、車両の周辺の道路地図をディスプレイに表示すると共に、出発地(第1の地点)から目的地(第2の地点)までの経路を案内する機能等を有する装置である。このような機能の他、音楽や映像を再生したり、テレビ/ラジオを受信したりする機能を有している場合がある。ナビゲーション装置10は、ナビゲーションに専用の装置として用意される場合と、汎用的な装置にナビゲーションの機能が搭載される場合がある。いずれのタイプの装置においても車両に固定される場合と、車両に脱着可能な場合がある。
状態推定装置はクライアントサーバ型でも実現できる。クライアントサーバ型の状態推定装置を状態推定システムと称する。図4(b)はクライアントサーバ型の状態推定システム100の一例を示している。車両7にはナビゲーション装置10が搭載されており、ナビゲーション装置10がサーバ30と通信する。図4(a)と同様にナビゲーション装置10にはRRIセンサ11が接続されており、RRIセンサ11が検出したRRI信号又はRRI信号から算出されたHFrとHF+LFをサーバ30に送信する。サーバ30はHFrとHF+LFから識別器で眠気レベルを推定し、眠気レベルを車両7に送信する。車両7は眠気レベルに応じて運転者を覚醒させる制御を行う。
このように、眠ってしまった場合に不都合が多い車両7の運転者の眠気を推定することで適切な制御を行うことができる。一方、図4のような車両7の運転に関する利用シーンは一例に過ぎず、装置の操作、単調作業、会議の出席中、又はデスクワークなどの場合に、状態推定装置が眠気レベルを推定して覚醒のための制御を行うことができる。車両7のようにナビゲーション装置10を設置する空間的な余裕がない場合、スマートフォンやウェアラブルデバイスなどの携帯端末が利用されればよい。この場合、携帯端末にはRRIセンサ11が接続され、ナビゲーション装置10が車載された場合と同様に眠気レベルを推定する。携帯端末が用いられる場合も単体型又はクライアントサーバ型のいずれが採用されてもよい。また、クライアントサーバ型の場合に、RRI信号をサーバ30に送信するかRRI信号から算出されたHFrとHF+LFをサーバ30に送信するかは、携帯端末の処理負荷及び通信速度等を考慮して決定される。なお、いうまでもなく携帯端末がナビゲーション装置として利用される場合がある。
<学習フェーズのシステム構成例>
続いて、図5を用いて、学習装置50が識別器18を構築する学習フェーズのシステム構成について説明する。学習フェーズとは、機械学習における識別器18を構築するフェーズと、識別器18で状態を識別する識別フェーズのうち前者を言う。
図5は、学習装置50の機能をブロック状に示す機能ブロック図の一例である。なお、学習装置50は、一般的な情報処理装置を実体としており、公知のハードウェア構成を有している。すなわち、CPU、RAM、ROM、HDD(Hard Disk Drive)、キーボード・マウス等の入力部、ディスプレイに画面を表示するディスプレイI/F、及び、USB I/Fなどの周辺機器と接続するためI/F等を有している。
図5に各ブロックとして示す機能は、学習装置50が有するハードウェアリソースのいずれかが、HDDからRAMに展開されたプログラムに従ったCPUからの命令により動作することで実現される機能又は手段である。学習装置50が実行するプログラムは、プログラム配信用のサーバから配信されるか又は記憶媒体に記憶された状態で配布される。
学習装置50は、センサI/F12、RRI信号取得部13、周波数解析部14a、指標算出部14b、正規化部9、眠気レベル受付部15、学習データ生成部16、学習部17、及び、識別器18を有している。識別器18は学習部17によって構築されるまでは存在しない。
センサI/F12はRRIセンサ11と接続されている。RRIセンサ11は、心拍の変動時系列データであるRRI信号を検出するセンサであり、一般に心電図を検出するセンサである。被験者の心電図を直接、検出する場合、RRIセンサ11は胸部に密着された電極を有し、心臓が収縮する時に心臓内に起こる電気の分布の変化によって引き起こされる体表面の電位を検出する。RRI信号の一例を図6に示す。
なお、識別フェーズで状態推定装置が車載される場合、RRIセンサは装着しやすいことが好ましい。このようなRRIセンサ11については後述する。
センサI/F12はRRIセンサ11からデータを取得するインタフェースである。例えば、時系列にRRIセンサ11から送信される電気信号を所定のサンプリング周期で取得する。電気信号がアナログ信号の場合はA/D変換を行う。センサI/F12は有線又は無線のいずれでRRIセンサ11と通信してもよい。有線通信の場合は例えばUSBケーブルなどで接続され、無線通信の場合はBluetooth(登録商標)又はWi-Fi(登録商標)などで接続される。
RRI信号取得部13は、センサI/F12が取得した電気信号からRRI信号を取得する。すなわち、電気信号のピーク(R波)を検出し、時間に対しR波とR波の間隔を対応付けることでRRI信号を生成する。
周波数解析部14aは、RRI信号にFFT(Fast Fourier Transform)を施して周波数分布スペクトルを生成する。フーリエ変換とは、信号を正弦波の重ねあわせで表現する手法である。ある周波数の正弦波がどのくらい信号に含まれているかを検出できる。なお、フーリエ変換が施されるRRI信号の期間は特に規定されていないので、数十秒など適切な値であるとする。RRI信号から得られる周波数分布スペクトルを図7に示す。
指標算出部14bは、周波数分布スペクトルからHFとLFを算出し、眠気レベルの指標となる上記のHFrとHF+LFを算出する。正規化部9は、HFrとHF+LFをそれぞれ0〜1の範囲に正規化する。HFrはすでに0〜1の値になっているため正規化は不要であるが正規化してもよい。HF+LFは、HF+LFが取り得る値の上限値を1、下限値が0となるように0〜1の値に正規化する。
眠気レベル受付部15は、被験者から教師信号となる眠気レベル1〜5を受け付ける。例えば、キーボード、タッチパネル又は音声入力装置などにより1〜5の数値の入力を受け付ければよい。
学習データ生成部16は、眠気レベルの指標となる上記のHFr及びHF+LFと被験者が入力した眠気レベルとを対応付けて学習データを生成する。これは、眠気レベルの指標となる上記のHFr及びHF+LFの算出タイミングと、眠気レベル1〜5が入力されるタイミングが一致するとは限らないためである。HFrとHF+LFは測定値なので比較的短い周期で入力されるのに対し、眠気レベルを被験者が短い周期で入力することは困難である(眠くなりにくくなってしまう)。そこで、学習データ生成部16は、例えば時系列に入力された眠気レベルで眠気レベルを補間して、補間結果を用いて眠気レベルの指標であるHFrとHF+LFと眠気レベルを対応付ける。
学習部17は、眠気レベルの指標であるHFrとHF+LFを入力値、眠気レベルを教師信号として、例えばニューラルネットワークにより識別器18を構築する。学習方法の詳細を図8にて説明する。構築された識別器18は、任意の被験者のHFrとHF+LFが入力されると、眠気レベル1〜5を出力(推定)することができる。
<RRI信号について>
図6はRRI信号について説明する図の一例である。図6(a)はRRIセンサ11が検出する電気信号(心電図)を模式的に示す。電気信号には、R波のピークを有するQRS波が観測される。QRS波は、心室全体を急速に興奮させるときに発生するものとされる。また、その前方のP波は、洞房結節に興奮が発生し、心房が収縮したときの波とされる。更に、QRS波の後方に現れるT波は、心室の興奮か回復するときに発生する波とされる。
図6(b)に示すように、電気信号には拍動に応じてR波が繰り返し現れる。安静時には心臓がゆっくり拍動するのでR波とR波の間隔が長くなり、興奮時には心臓が速く拍動するのでR波とR波の間隔が短くなる。
図6(c)はRRI信号の一例を示す。図6(b)のR波とR波の間隔を1つの点として時間に対しこの点が描画されている。図6(c)の横軸の時間は図6(b)の横軸の時間と同じである。R波とR波の間隔は一定でないので図6(b)から生成された生のRRI信号はサンプル点が等間隔ではない。したがって、そのままでは信号処理するには好ましくない。そこで、RRI信号取得部13は、RRI信号を等しい時間間隔のデータに変換する。このため、RRI信号取得部13は、生のRRI信号に線形補間又はスプライン補間を施し、連続したデータに変換する。そして、例えば、0.5秒や1秒などの等間隔で再サンプリングすることでRRI信号を生成する。
<HFとLFの算出>
図7はRRI信号にFFTが施されて得られた周波数分布スペクトルの一例を示す。横軸は周波数〔Hz〕であり、縦軸はパワー〔msec/Hz〕である。HFはこのうち高い周波数成分をいい心拍揺らぎ高周波成分と称される。LFは低い周波数成分をいい心拍揺らぎ低周波成分と称される。HF、LFそれぞれの範囲に決まった定義はない。本実施例では一例として以下のように定義する。
HF:周波数0.15〜0.40〔Hz〕
LF:周波数0.04〜0.15〔Hz〕
具体的にはこれらの範囲で周波数分布スペクトルを積分することで、HF,LFが得られる。LFは交感神経の緊張度の度合いを表しており、LFが大きいほど緊張度が増していることになる。一方、HFは副交感神経の緊張度の度合いを表しており、HFが大きいほどリラックスしていることを意味する。
<ニューラルネットワークによる学習について>
図8は学習モデルの一例であるニューラルネットワークと呼ばれるモデルを示す。図8(a)は学習フェーズのニューラルネットワークの動作を示す。入力層501には2つのノードnが用意されており、それぞれに眠気レベルの指標となるHFrとHF+LFが入力される。HF+LFは0〜1の値に正規化される(HFrはすでに0〜1以下の値になっている)。中間層502には2つのノードnが用意されており、出力層503には1つのノードnが用意されている。各ノードnの結びつきの大きさを重みwといい、入力されたHFrとHF+LFは入力層501と中間層502の間で重みwに応じた特徴量に変換され、更に、中間層502と出力層503の間で重みwに応じた特徴量に変換される。出力層503が出力する特徴量が眠気レベル1〜5である。
学習フェーズにおいて出力層503のノードnには、教師信号である眠気レベルが設定される。例えば、図8(a)では被験者が入力した眠気レベルが「2」である。出力層503が出力した眠気レベルが3である場合、「3−2」が誤差となる。出力層503のノードnの値と教師信号の差は、誤差逆伝播法に基づき各ノード間の重みwに伝播され更新される。このように、教師信号と算出された眠気レベルの差が重みwに反映されることが繰り返されることで正しい眠気レベルの算出に適したノード間の重みwが徐々に得られる。
図8(b)は識別フェーズのニューラルネットワークを示す。識別フェーズのニューラルネットワークは入力されたHFrとHF+LFに対し1〜5の眠気レベルを出力する。
なお、入力層501のノードnの数は、眠気レベルの指標がHFrとHF+LFの2つなので2個であり、出力層503のノードnの数は眠気レベルを出力すればよいので1つである。中間層502のノードの数は2に限られず1つ又は3つ以上でもよい。また、中間層502の数は適宜設計されるものであり、2つ以上でもよい。
<識別フェーズのシステム構成例>
識別器18が構築されたので、状態推定装置20は識別器18を用いてリアルタイムに眠気レベルを算出することができる。図9は、単体型の状態推定装置20の機能をブロック状に示す機能ブロック図の一例である。状態推定装置20が車載される場合、状態推定装置20は例えばナビゲーション装置10(車載装置)である。状態推定装置20は情報処理装置の機能を有しており、情報処理装置の公知のハードウェア構成を有している。すなわち、CPU、RAM、ROM、HDD(Hard Disk Drive)、タッチパネル・ハードキー等の入力部、ディスプレイに画面を表示するディスプレイI/F、通信装置、及び、USB I/Fなどの周辺機器と接続するためI/F等を有している。
図9に各ブロックとして示す機能は、状態推定装置20が有するハードウェアリソースのいずれかが、HDDからRAMに展開されたプログラムに従ったCPUからの命令により動作することで実現される機能又は手段である。
状態推定装置20は、センサI/F12、RRI信号取得部13、周波数解析部14a、指標算出部14b、識別器18、及び、覚醒制御部24を有している。これらのうち、センサI/F12、RRI信号取得部13、周波数解析部14a、指標算出部14b、及び、識別器18については図5と同様である。
ここで、対象者としての運転者がRRIセンサ11を装着することを考慮するとRRIセンサは装着容易であることが好ましい。例えば、RRIセンサ11は心拍の検出センサで代用することができる。心電図を検出するRRIセンサと比べて心拍の検出センサは対象者が装着しやすい。心拍を検出する形態のRRIセンサ11としては指先の細動脈から心拍を検出する指尖容積脈波センサがある。このRRIセンサ11の場合、指先にRRIセンサ11が装着できるため対象者の煩わしさを低減できる。指先に限らず手首に装着されて脈波を検出するRRIセンサ11も知られており、このRRIセンサ11の場合、リストバンド状(腕時計状)のRRIセンサ11を対象者が装着する。この場合も対象者の煩わしさを低減できる。
RRIセンサ11の他の形態として、対象者が着座する席に配置されるシート形状のものもある。このようにRRIセンサ11は運転者のRRI信号を検出できればどのような形態であってもよい。すなわちRRIセンサ11は心電図のR波とR波の間隔に相当する信号を検出できるセンサであればよい。
また、学習フェーズにおいても識別フェーズと同じ種類のRRIセンサ11が用いられてよい。学習フェーズのRRI信号の信頼性が低下するおそれがあるが、学習フェーズと識別フェーズで同じ種類のRRIセンサ11が使用されることで、RRIセンサ11の違いに起因した推定される眠気レベルの精度低下を抑制できる可能性がある。
覚醒制御部24は、識別器18が出力した眠気レベル1〜5に応じて、音声出力、アロマ噴出、ステアリングホイールの振動制御、及び、パワーシートの駆動制御の少なくとも1つ以上を行う。眠気レベルに応じて例えば以下のような制御を行う。
眠気レベル1…何もしない
眠気レベル2…スピーカ31から注意喚起する音、又は、運転者の嗜好が強いニュースを出力する
眠気レベル3…アロマ噴出器32から覚醒作用があるアロマを噴出する
眠気レベル4…ステアリングホイール33を振動させる
眠気レベル5…パワーシート34を前後に駆動したりリクラインニング角度を大小に変化させたりする
適宜、複数の制御を組み合わせてもよいし、運転者が眠気レベルと覚醒制御の対応を設定しておいてもよい。また、眠気レベルが大きい場合には覚醒制御部24が路肩などに車両7を停止させてもよい。
また、覚醒制御部24は、眠気レベルの指標であるHFrとHF+LFそのものと閾値を比較して、眠気の有無を判断することもできる。詳細は図15にて説明する。
<<クライアントサーバ型の状態推定システム>>
図10は、クライアントサーバ型の状態推定システム100の機能をブロック状に示す機能ブロック図の一例である。図10の説明では、主に図9との相違を説明する。図10ではナビゲーション装置10がセンサI/F12,RRI信号取得部13、信号送信部19、覚醒制御部24、及び、眠気レベル受信部23を有し、サーバ30が信号受信部21、周波数解析部14a、指標算出部14b、識別器18、及び、眠気レベル送信部22を有している。
信号送信部19はRRI信号をリアルタイムにサーバ30に送信する。眠気レベル受信部23はサーバ30から眠気レベルを受信する。これにより図9と同様にナビゲーション装置10は眠気レベルに応じた覚醒制御を行うことができる。
サーバ30の信号受信部21はRRI信号を受信し、周波数解析部14aに送出する。周波数解析部14aは周波数分布スペクトルを生成し、指標算出部14bは周波数分布スペクトルから眠気レベルの指標であるHFrとHF+LFを抽出して識別器18に送出する。識別器18はHFrとHF+LFから眠気レベルを算出し眠気レベル送信部22に送出する。眠気レベル送信部22は眠気レベルをナビゲーション装置10に送信する。
クライアントサーバ型において覚醒制御部24がHFrとHF+LFに基づいて眠気の有無を判断する際は、眠気レベル送信部22が眠気レベルの指標であるHFrとHF+LFをナビゲーション装置10に送信する。
このように、通信による遅延が生じるとしてもクライアントサーバ型でもほぼリアルタイムに眠気レベルを算出できる。なお、ナビゲーション装置10がHFrとHF+LFの算出までを行ってHFrとHF+LFをサーバ30に送信してもよい。あるいは、ナビゲーション装置10はセンサI/F12が取得した電気信号をサーバ30に送信してもよい。ナビゲーション装置10とサーバ30がどのように処理を分担するかはそれぞれの処理負荷を考慮して決定される。
<動作手順>
図11は、状態推定装置20又は状態推定システム100が眠気レベルを推定する手順を示すフローチャート図の一例である。図11の処理は例えば対象者がRRIセンサ11を装着して眠気レベルの推定が開始されることでスタートする。
まず、RRI信号取得部13はセンサI/F12を介してRRIセンサ11から取得した電気信号からRRI信号を取得する(S10)。RRI信号はR波が検出されるたびにデータ点が1つ増えていく。
次に、RRI信号取得部13は外れ値を除去する(S20)。例えば、前方20個のサンプルデータの中央値を決定し、この中央値から±10%を超えるサンプルデータを除去する。これにより、HF、LFの急激な変化を抑制できる。
次に、RRI信号取得部13はRRI信号を補間しデータ間隔を等間隔にする(S30)。このデータ間隔はRRI信号の揺らぎ周波数0.05Hz~0.4Hz(周期2.5秒〜20秒)に対して十分小さい値で、かつ、FFT(高速フーリエ変換)に好ましい値である。本実施例では、例えばデータ間隔を25.6〔ms〕に揃える。
次に、周波数解析部14aが所定期間のRRI信号にFFTを施し周波数分布スペクトルを算出する(S40)。この所定期間の適切な値には諸説あるが、例えば数十秒から数分などである。本実施例では、20秒間を1つのウィンドウとして、10秒ごとにFFTを行う。所定期間が経過した後は過去の所定期間のRRI信号を利用できるので定期的に周波数分布スペクトルが得られる。
次に、指標算出部14bは周波数分布スペクトルからHF,LFを算出する(S50)。
指標算出部14bは算出したHF、LFの移動平均を算出する(S60)。周波数分布スペクトルが10秒ごとに得られるので、10秒ごとに過去300秒間のHF、LFの移動平均を算出する。300秒としたのは従来から採用されている時間だからであり、300秒に限るものではない。
次に、正規化部9は、HF、LFが0〜1の値になるように正規化する(S70)。例えば、300秒間のHF,LFを使ってもよいし、HF,LFが取り得る値(例えば、700から1200)を使って正規化してもよい。なお、平均が0、分散が1になるように正規化してもよい。この場合、正規化部9は、HF,LFの平均と標準偏差をそれぞれ求め、各HF、各LFをそれぞれの標準偏差で割る。
次に、指標算出部14bは正規化したHF,LFからHFr,HF+LFを算出する(S80)。HFr,HF+LFを算出してから正規化してもよい。
そして、識別器18はHFr,HF+LFに対し学習結果を利用して眠気レベル1〜5を出力する(S90)。整数値でない場合は例えば小数点第1位を四捨五入する。
覚醒制御部24は眠気レベルに応じた制御を行う(S100)。以上が1回のサイクルの処理であり、状態推定装置20又は状態推定システム100は図11の処理を繰り返す。
<実験結果>
以下、図12〜図14を用いて、HFr及びHF+LFの機械学習により構築された識別器18の効果を説明する。図12は、HFr及びHF+LFと、識別器18が算出する眠気レベルの対応を説明する図の一例である。なお、実験は16人の被験者に対して行われたが、図12はそのうちの一人の実験結果を示す。
図12(a)は時間に対するHFrのグラフとHF+LFのグラフを示す。HFr、HF+LFは正規化されている。図12(b)は被験者が自己申告した眠気レベルのグラフ201、識別器18が算出した眠気レベルのグラフ202、及び、HFr及びHF+LFを独立変数として眠気レベルを従属変数とする重回帰分析により得られた眠気レベルのグラフ203を示す。
(1)図12(a)と自己申告された眠気レベルのグラフ201を比較すると、眠気が大きくなるとHFrは低下し、HF+LFは増加している。この傾向は、被験者16人のうち、15人で確認された。
(2)図12(b)の自己申告された眠気レベルのグラフ201と識別器18が算出した眠気レベルのグラフ202を比較すると、一致の程度が高いことが分かる。重回帰分析により得られた眠気レベルのグラフ203よりも明らかによく一致している。
重回帰分析について簡単に説明する。yを予測値(各分析手法の推定値)、aを回帰定数、bを偏回帰定数、x1をHFr、x2をHF+LFとし、yをa,b,x1,x2を用いて表す。
y =a+b1x1+b2x2
yに自己申告の眠気レベル、x1にHFr、x2にHF+LFを入力し最小二乗法を適用することで、a,b1、b2が得られる。
ちなみ単回帰分析は以下のように、独立変数が1つの場合を言う。同様に最小二乗法でa,bを求めることができる。
y =a+bx
図13は、各分析手法の眠気レベルと自己申告の眠気レベルの平均二乗誤差(MSE)を示す図である。図13は実験条件が同じ12名分の平均二乗誤差を示す。平均二乗誤差は、下式のように予測値と実際の値の差の二乗の合計をデータ数で割ったものである。
nはデータ数、siは自己申告の眠気レベル、yiは予測値(各分析手法による推定値)である。
図13の分析手法は以下のとおりである。
SR1:HF+LFを独立変数、自己申告の眠気レベルを従属変数とした単回帰分析により予測値yiを算出した場合の平均二乗誤差
SR2:HFrを独立変数、自己申告の眠気レベルを従属変数とした単回帰分析により予測値yiを算出した場合の平均二乗誤差
MR:HF+LFとHFrを独立変数、自己申告の眠気レベルを従属変数とした重回帰分析により予測値yiを算出した場合の平均二乗誤差
Train:本実施例の識別器18が算出した眠気レベルと、自己申告の眠気レベルの平均二乗誤差
図13によれば12人全ての被験者において、Trainの平均二乗誤差が他の分析手法の平均二乗誤差よりも小さいことが確認できる。図13では数値までは確認できないが、実際の数値では、Trainの平均二乗誤差は他の分析手法の平均二乗誤差よりも1桁小さい。12人全ての被験者で同じように識別器18が算出した眠気レベルの精度が高いことが分かるので、本実施例の識別器18は汎化能力が高い(対象者の違いに影響されにくい)ことが分かる。
したがって、図13の平均二乗誤差からも眠気レベルの指標としてHFr及びHF+LFを使用すること、及び、構築された識別器18が有効であることが確認できる。
図14は、HFr及びHF+LFと、識別器18が出力する眠気レベルの関係を三次元のグラフで示す図である。図14のx軸はHFr、y軸はHF+LF、z軸は識別器18が出力した眠気レベルである。
図14(a)は任意の1被験者のRRI信号から算出されたHFrとHF+LFで学習した識別器18の眠気レベルを示し、図14(b)は全被験者のRRI信号から算出されたHFrとHF+LFで学習した識別器18の眠気レベルを示す。なお、図14ではRRI信号から算出されたHFrとHF+LFにより算出される眠気レベルと共に、HFrとHF+LFのある範囲に対し識別器18で算出される眠気レベルが描画されている。このようにして描画される面をtrainsurfaceという。
図14(a)(b)をxz面から見ると、眠気レベルが増大する際はHFrが低下する傾向にあることが分かる。yz面から見ると、眠気レベルが増大する際はHF+LFが増大する傾向にあることが分かる。図14(a)は任意の被験者の傾向であり、図14(b)は全被験者の傾向であるため、本実施例の識別器18は汎化能力が高い(対象者の違いに影響されにくい)ことが分かる。
<HFrとHF+LFに着目した眠気判断>
上記のように、眠気レベルの指標であるHFrとHF+LFが識別器18に入力されることで、精度が高い眠気レベルを出力できる。しかしながら、図12(a)及び図14にて説明したように、本実施例によれば、眠気レベルが増大する際はHFrが低下する傾向にあり、かつ、HF+LFが増大する傾向にあるという知見も得られた。したがって、この知見を利用して眠気の有無を判断することができる。
この場合、覚醒制御部24は指標算出部14bからHFrとHF+LFを取得して閾値と比較して眠気の有無を判断する。
図15は、HFr及びHF+LFと閾値の関係を説明する図の一例である。HF+LFは時刻t1に第1閾値を超えており、HFrは時刻t2に第2閾値を下回っている。覚醒制御部24は、HF+LFが第1閾値を超えるか、又は、HFrが第2閾値を下回るか、の少なくとも一方が満たされる場合、対象者に眠気があると判断する。本実施例では、より精度よく判断するためこの両方が満たされた場合に対象者に眠気があると判断する。
なお、第1閾値と第2閾値は、自己申告の眠気レベルが一定以上(例えば2又は3など)になるHFr及びHF+LFとして決定される。対象者がこの眠気レベルを設定してもよい。
また、図15では眠気の有無だけが判断されているが、HF+LFに対する第1閾値が複数個設定され、HFrに対する第2閾値が複数個設定されれば、覚醒制御部24は多段階に眠気を判断すること(眠気レベルを判断すること)ができる。
<動作手順>
図16は、状態推定装置20又は状態推定システム100が眠気の有無を推定する手順を示すフローチャート図の一例である。図16の処理は例えば対象者がRRIセンサ11を装着して眠気レベルの推定が開始されることでスタートする。なお、図16の説明では主に図11との相違を説明する。ステップS10〜S80の処理は図11と同様でよい。
ステップS80に続いて、覚醒制御部24はHF+LFが第1閾値を超え、かつ、HFrが第2閾値を下回ったかどうかを判断する(S95)。
ステップS95の判断がYesの場合、覚醒制御部24は覚醒を促す制御を行う(S100)。すなわち、スピーカ31から音声出力、アロマの噴出、ステアリングホイール33の振動、又は、パワーシート34の制御の1つ以上を行う。
<まとめ>
以上説明したように、本実施例の状態推定装置20又は状態推定システム100は、HFr及びHF+LFを指標とすることで眠気の有無を推定することができる。また、HFr及びHF+LFと自己申告の眠気レベルの対応を機械学習することで、汎化能力が高い識別器18が得られ、任意の対象者の眠気レベルを精度よく推定できる。
実施例1ではHFr及びHF+LFを識別器18に入力するか、又は、HFr及びHF+LFに着目することで眠気レベルを推定できると説明した。本実施例では、このHFr及びHF+LFのより適切な正規化方法について説明する。
本願の発明者は被験者が安静状態であってもHFr及びHF+LFの分布範囲(HF、LFの分布範囲)が変動することを突き止めた。一例としては時間帯により数割程度、HFr及びHF+LFの分布範囲が移動する。
図17は、ある被験者の午前(AM)と午後(PM)のHFr及びHF+LFの分布範囲の一例を示す。HFrの分布範囲はそれほど大きくは違わないが、HF+LFの分布範囲は、午後の方が午前よりも小さい方に移動している。実施例1で説明したように、HFr及びHF+LFは絶対値ではなく正規化された値が使用される。このことは、分布範囲によって正規化後の値が一定にはならないことを意味する。例えば、HFr及びHF+LFの絶対値が100、200であった場合、ある分布範囲でHFrとHF+LFが正規化されると0.3,0.6となるが、別の分布範囲で正規化されると0.3、0.5など異なる値になる(これらの値はあくまで説明のための値である)。正規化後の値が識別器18に入力されるため、分布範囲が変わることは識別器18を再構築(又は、キャリブレーション)するべきと考えられるが、従来は分布範囲が考慮されていなかったため、眠気の推定精度が低下したと考えられる。
なお、HFr及びHF+LFの分布範囲は再現性が低く、同じ被験者の同じ時間帯のRRI信号でも同じ分布範囲にはならない。このことはHFr及びHF+LFの分布範囲は知られていない要因の影響を受けていると考えられ、例えば、睡眠時間、食事、ストレスなど、その時の体調や精神状態などに影響されていると推測される。しかしながら一方で、同じ被験者の同じ時間帯の分布範囲は別の被験者の同じ時間帯の分布範囲よりも類似性が高いと推測される。
そこで、本実施例では、予めHFr及びHF+LFのいくつか異なる分布範囲を用意しておき、その中から分布範囲を選択する状態推定装置20について説明する。また、選択のキーとしてRRI信号を使用する。これは、後述するようにRRI信号とLF、RRI信号とHFには相関性が認められたためである。
<識別フェーズのシステム構成例>
図18は、本実施例における単体型の状態推定装置20の機能をブロック状に示す機能ブロック図の一例である。なお、図18の説明では、図9において同一の符号を付した構成要素は同様の機能を果たすので、主に本実施例の主要な構成要素についてのみ説明する場合がある。
本実施例の状態推定装置20は新たに分布選択部41と指標分布DB42を有する。まず指標分布DB42について説明する。
表1は指標分布DB42に記憶されている情報を模式的に示す。指標分布DB42にはRRIレンジに対応付けてHFrとLF+HFの分布データが設定されている。RRIレンジとは、RRI信号が取り得る値をいくつかのグループに区分したRRIの範囲(レンジ)である。HFrとLF+HFの分布データは、RRIレンジのRRI信号が測定された際にこのRRI信号で算出されたHFrとLF+HFである。表1では、分布データ1〜5で示されているが実際の指標分布DB42にはHFrとLF+HFの値が組になって登録されている。HFrとLF+HFではなく、LFとHFの値が組になって登録されていてもよい。各RRIレンジの具体例については図19にて説明する。
表1ではRRIレンジが100単位に区切られているが、RRIレンジは50単位や200単位など任意に区分されてよい。RRI信号が取り得る値(700〜1199)が少なくとも2つ以上に区分されればよい。また、各RRIレンジは均等に区分されていなくてよい。例えば、RRI信号が小さい部分と大きい部分では大きな単位(例えば200)で区分し、RRI信号が中くらいの部分では小さな単位(例えば50)で区分する。
図18に戻って説明する。分布選択部41にはRRI信号取得部13からRRI信号が入力される。分布選択部41はRRI信号取得部13から入力されたRRI信号が属するRRIレンジに対応付けられた分布データを指標分布DB42から読み出す。そして、この分布データを正規化部9に送出する。
一方、指標算出部14bは実施例1と同様にHFrとLF+HFを正規化部9に送出する。正規化部9は指標算出部14bが送出したHFrとLF+HFを、分布選択部41が選択した分布データを用いて正規化する。正規化部9はこのようにRRIレンジに対応付けられた分布データで正規化されたHFrとLF+HFを識別器18に入力する。
<RRIレンジとHFrとLH+HFの関係の一例>
図19はある被験者のRRIレンジごとのHFrとLH+HFの一例を示す図である。図19(a)は全てのHFrとLH+HFの分布範囲(RRIレンジに区分されていない分布範囲)を示す。RRI信号の取り得る範囲はおよそ700から1200とされているため、図19(a)は700から1200のHFrとLH+HFの分布範囲を示す。ただし、RRI信号の下限と上限は図示するものに限られない。
図19(b)〜図19(f)は各RRIレンジのHFrとLH+HFの分布範囲を示す。図19(b)のRRIレンジは700〜799、図19(c)のRRIレンジは800〜899,図19(d)のRRIレンジは900〜999,図19(e)のRRIレンジは1000〜1099、図19(f)のRRIレンジは1100〜1199である。このように、同じ一人の被験者でもRRIレンジによってHFrとLF+HFの分布範囲は異なることが分かる。換言すると、被験者から測定されたRRI信号が属するRRIレンジに対応するHFrとLF+HFの分布範囲を選択することで、正規化したHFrとLF+HFが被験者のHFrとLF+HFをより適切に表すことが期待できる。
図20は、RRI信号とLF、及び、RRI信号とHFの関係を説明する図の一例である。図19に示したHFrとHF+LFの分布範囲から、RRI信号とLF、及び、RRI信号とHFには相関があることが予測される。本願の発明者はこのことを検証するため、RRI信号とLF及びHFの相関を求めた。図20(a)はRRI信号とLFの回帰直線301,302を示し、図20(b)はRRI信号とHFの回帰直線303、304を示す。図20(a)と図20(b)で被験者は同じである。
図20(a)(b)ではそれぞれ午前のRRI信号と午後のRRI信号で別々の回帰直線を示す。図20(a)(b)のいずれにおいても、午前と午後でLFとHFの分布範囲が異なることが分かる。そして、図20(a)によれば、RRI信号と午前のLFの散布図がその回帰直線302にほぼ重畳しており、RRI信号と午後のLFの散布図がその回帰直線301にほぼ重畳していることが読み取れる。このことは、午後又は午前のRRI信号があれば、予め求めてある回帰直線に代入することで、LFを算出することができることを意味している。
図20(b)によれば、RRI信号と午前のHFの散布図がその回帰直線304にほぼ重畳しており、RRI信号と午後のHFの散布図がその回帰直線303にほぼ重畳していることが読み取れる。したがって、午後又は午前のRRI信号があれば、予め求めてある回帰直線に代入することで、HFを算出することができる。
同一人に関しては、回帰直線301〜304が類似する状況(時間帯、曜日など)が特定されれば、同一の被験者のRRI信号とHF又はLFから求めた回帰直線にRRI信号を代入すればLFとHFを算出できる。また、任意の被験者については、現状では回帰直線301〜304にどのくらいの個人差があるのか評価されていないが、個人差がないか又は少ない状況(時間帯、曜日など)が特定されれば、予め求めた回帰直線に任意の被験者のRRI信号を代入して、LFとHFを算出できる。このLFとHFは、周波数解析部14aが算出するLFとHFの代わりに使用できる。
<動作手順>
図21は、状態推定装置20が眠気レベルを推定する手順を示すフローチャート図の一例である。図21の説明では、主に図11との相違を説明する。
図21のフローチャート図は、ステップS20に続いてステップS20−2が選択される。すなわち、分布選択部41はRRI信号取得部13が取得したRRI信号に基づいて指標分布DB42から分布データを選択する(S20−2)。そして、ステップS70では選択された分布データを用いて正規化部9がHFとLFを正規化する。以降の処理は図11と同様である。
なお、ステップS20−2の処理は全てのRRI信号に対し行われる必要がない。RRIレンジは頻繁に変化するものではないためである。例えば、1回の走行(乗車から降車まで)では、同じ分布データを使用する。運転者は通常、2時間程度で休憩するため、1回の走行であれば同じ分布データでカバーできると考えられる。長時間の走行については例えば、数時間ごとにステップS20−2の分布データの選択を行うことが有効である。
<本実施例の効果>
図22は本実施例の状態推定装置20が出力する眠気レベルの精度と従来技術の精度との比較結果を示す図である。横軸は相対時間(RELATIVE TIME)、縦軸は眠気(SLEEPINESS)である。
図22(a)は被験者Aが自己申告した眠気レベルのグラフ311、及び、従来の状態推定装置20が算出した眠気レベルのグラフ312を示す。また、図22(a)の下方のRmseは、眠気レベルと自己申告の眠気レベルの平均二乗誤差を示す。また、「>4detectionIn1Ratio」は、自己申告の眠気レベルが4より大きい場合に従来技術の状態推定装置20が4より大きい眠気レベルを出力した比率を示す。したがって、「>N1 detectionIn1Ratio」は、被験者が眠い時に状態推定装置20も眠いと推定する場合の精度である。「<2detectionIn1Ratio」は、自己申告の眠気レベルが2より小さい場合に従来技術の状態推定装置20が2より小さい眠気レベルを出力した比率を示す。したがって、「<N2 detectionIn1Ratio」は、被験者が眠くない時に状態推定装置20も眠くないと推定する場合の精度である。
図22(b)は被験者Aが自己申告した眠気レベルのグラフ311、及び、本実施例の状態推定装置20が算出した眠気レベルのグラフ313を示す。まず、図22(b)の平均二乗誤差が図22(a)に比べ大きく向上していることが分かる。平均二乗誤差は0に近いほど相関性が高いことを示すが、本実施例の状態推定装置20が推定する眠気レベルは平均二乗誤差が322%向上している。
なお、「<2detectionIn1Ratio=nan」は、眠気レベルが2未満のデータがなかったことを意味する。
図22(c)は被験者Bが自己申告した眠気レベルのグラフ311、及び、従来の状態推定装置20が算出した眠気レベルのグラフ312を示す。図22(d)は被験者Bが自己申告した眠気レベルのグラフ311、及び、本実施例の状態推定装置20が算出した眠気レベルのグラフ313を示す。被験者Bについては平均二乗誤差が130%向上した。また、「<N2 detectionIn1Ratio」も0.5から1.0に向上した。
したがって、本実施例の状態推定装置20は、眠気レベルの推定精度を大きく向上させることが確認できた。
<<クライアントサーバ型の状態推定システム>>
図23は、本実施例においてクライアントサーバ型の状態推定システム100の機能をブロック状に示す機能ブロック図の一例である。図23の説明では主に図10との相違を説明する。図23のナビゲーション装置10の構成は図10と同様でよい。
これに対し、サーバ30は分布選択部41と指標分布DB42を有している。分布選択部41と指標分布DB42の機能は図18と同様でよい。このようにクライアントサーバ型の状態推定システム100によっても、眠気レベルの推定精度を向上できる。
<指標分布DBの作成>
指標分布DB42の作成方法について説明する。クライアントサーバ型の状態推定システム100の場合、サーバ30が、ナビゲーション装置10から送信されたRRI信号と、指標算出部14bが算出したHFrとLF+HFをRRIレベルごとに対応付けることでサーバ30が指標分布DB42を作成できる。
単体型の状態推定装置の指標分布DB42の作成には、指標分布作成サーバ120を利用することが考えられる。図24は状態推定装置20と指標分布作成サーバ120の機能をブロック状に示す機能ブロック図の一例である。図24の説明では主に図9との相違を説明する。
まず、状態推定装置20が送信部43と指標分布取得部44を有している。送信部43は、RRI信号取得部13が取得したRRI信号と指標算出部14bが算出したHFrとLF+HFを指標分布作成サーバ120に送信する。指標分布取得部44は、指標分布作成サーバ120から指標分布DB42を取得する。取得のタイミングは、乗車ごと、定期的(1日、1週間、1年等)、運転者が要求した時、又は、指標分布作成サーバが新しく指標分布DB42を作成した時、等である。
指標分布作成サーバ120は受信部45、指標分布作成部46、及び、指標分布送信部48を有する。受信部45は、状態推定装置20からRRI信号とHFrとLF+HFを受信する。指標分布作成部46は、RRI信号をRRIレンジに区分して、RRIレンジにHFr、LF+HFを対応付けて登録することで指標分布DB42を作成する。作成の際は以下のように分布範囲が類似する被験者別、又は、被験者の属性別に指標分布DB42を作成してよい。
(i) 運転者(個人)ごとに作成
(ii) 男性用と女性用を別々に作成
(iii) 年代別に作成
これら(i)〜(iii)では更に以下のような状況別に指標分布DB42を作成してよい。
(iv) 時間帯別
(v) 曜日別
このように指標分布DB42が、分布範囲が類似すると推定される被験者の属性又は状況に応じて作成されることで、推定される眠気レベルの精度が向上することが期待される。
指標分布送信部48は、指標分布DB42を状態推定装置20に送信する。上記のように、指標分布DB42は適宜、送信される。分布選択部41は、運転者の現在の属性と状況に応じた指標分布DB42を選択し、その上でRRI信号が属するRRIレンジの分布データを選択する。
なお、指標分布作成サーバ120は必ずしも必要ない。この場合、車両又は状態推定装置20の出荷時には指標分布DB42を使用しないか、又は、初期設定用の汎用的な指標分布DB42が状態推定装置20に搭載される。そして、走行時に状態推定装置20が運転者のRRI信号とHFr及びLF+HFを取得すると、時間帯や曜日別の指標分布DB42を作成する。
RRI信号とHFr及びLF+HFの再現性が高い状況や属性が不明の場合、分布範囲が類似する状況を機械学習などで特定できれば、この状況ごとに指標分布DB42を作成する。
<<指標分布DBの作成手順>>
図25は、指標分布作成サーバ120が指標分布DB42を作成する手順を示すフローチャート図の一例である。図25(a)は状態推定装置20の処理を示し、図25(b)は指標分布作成サーバ120の処理を示す。
図25の処理は、状態推定装置20が眠気レベルの推定を開始すると開始される。
まず、状態推定装置20のRRI信号取得部13がRRI信号を取得する(S201)。送信部43はRRI信号を保持しておく。
次に、状態推定装置20の周波数解析部14aがLF、HFを算出し、指標算出部14bがHFrとLF+HFを算出する(S202)。算出の手順は実施例1で説明した。
次に、送信部43は保持しているRRI信号、HFrとLF+HFを指標分布作成サーバ120に送信する(S203)。送信時には、運転者の属性を判断可能なID(識別情報)、又は属性そのものが送信されることが好ましい。
指標分布作成サーバ120の受信部45はRRI信号、HFrとLF+HFを受信する(S204)。指標分布作成サーバ120には各車両からRRI信号、HFrとLF+HFが送信される。
指標分布作成部46は被験者の属性及び状況を判断する(S205)。これにより、HFrとLF+HFの登録先の指標分布DB42を決定する。
そして、指標分布作成部46は、状態推定装置20から取得したRRI信号が属するRRIレンジを決定する(S206)。RRIレンジの区分は予め定められているものとし、状態推定装置20から取得したRRI信号がどのRRIレンジに入るかを判断すればよい。
そして、指標分布作成部46は決定したRRIレンジにHFrとLF+HFを登録する(S207)。これにより、属性ごと及び状況ごとの指標分布DB42を作成できる。
指標分布DB42の作成は常に行われる必要はない。例えば、被験者ごとの指標分布DB42では年に1、2回、更新すればよい。
<まとめ>
以上説明したように、本実施例の状態推定装置は、HFr及びHF+LFの分布範囲が変動することに着目し、RRIレンジごとのHFrとLH+HFを用意しておくことで、眠気レベルの推定精度を向上させることができる。
また、本実施例で正規化されたHFrとHF+LFを図16の処理に適用することができる。
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
例えば、本実施形態の状態推定装置20は人の生理的な状態(眠気)を推定したが、RRI信号を検出可能な動物の生理的の状態を推定することも可能である。この場合、動物のRRI信号に対応するためHFやLFの定義範囲が適宜、決定される。
また、本実施形態では眠気レベルを1〜5の5段階で表したが1〜3の3段階でもよいし、6段階以上で表してもよい。
また、本実施形態では状態推定装置20は人の生理的な状態の一例として眠気を推定したが、眠気以外の生理的な状態レベルとしてストレスレベル、疲れレベルなどを推定してもよい。この場合、教師信号にストレスレベル又は疲れレベルが用いられる。
また、学習装置が識別器18を構築するためにニューラルネットワークが使用されたが、機械学習のアルゴリズムはニューラルネットワークに限られない。例えば、サポートベクターマシン、ロジスティック回帰、決定木、ランダムフォレストなどがある。また、複数のアルゴリズムが組み合わされて用いられてもよい。
また、本実施形態では、状態推定装置20の利用シーンとして車両7の運転者の眠気レベルが推定されているが、携帯端末とRRIセンサがあれば多くの利用シーンが考えられる。
また、本実施形態では任意の対象者に対し汎化能力が高い識別器18が得られると説明したが、任意の対象者だけでなく、任意の場所や時間帯等に対し汎化能力が高い識別器18が得られる。
また、図5,図9,図10、図18、図23、図24などの構成例は、学習装置50、状態推定装置20、及び状態推定システム100による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。学習装置50、状態推定装置20、及び状態推定システム100の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
なお、RRI信号取得部13はRRI取得手段の一例であり、周波数解析部14aは周波数成分検出手段の一例であり、指標算出部14bは算出手段の一例であり、識別器18は状態推定手段の一例であり、覚醒制御部24は覚醒制御手段の一例である。また、ナビゲーション装置10は第一の情報処理装置の一例であり、サーバ30は第二の情報処理装置の一例である。指標分布DB42はレンジ別周波数情報の一例であり、正規化部9は正規化手段の一例であり、分布選択部41は選択手段の一例である。
10 ナビゲーション装置
11 RRIセンサ
14a 周波数解析部
14b 指標算出部
15 眠気レベル受付部
17 学習部
18 識別器
20 状態推定装置
100 状態推定システム

Claims (12)

  1. 対象者の状態を推定する状態推定装置であって、
    前記対象者から心拍に関する信号を取得するセンサとのインタフェースと、
    前記信号から心電図のR波とR波の間隔に相当するRRI信号を取得するRRI取得手段と、
    前記RRI信号を解析して心拍揺らぎ高周波成分と心拍揺らぎ低周波成分を算出する周波数成分検出手段と、
    前記高周波成分と前記低周波成分の和、及び、前記和に対する前記高周波成分の比を算出する算出手段と、
    前記和と前記比に基づいて前記対象者の状態を推定する状態推定手段と、
    を有する状態推定装置。
  2. 前記状態推定手段は、前記和及び前記比を入力とし、自己申告の状態レベルを教師信号とする機械学習により構築され、前記和及び前記比から状態レベルを算出する手段であることを特徴とする請求項1に記載の状態推定装置。
  3. 前記状態推定手段は、前記和が第1閾値を超え、かつ、前記比が第2閾値を下回った場合に、前記対象者に眠気があると判断することを特徴とする請求項1又は2に記載の状態推定装置。
  4. 前記状態推定手段は、複数の被験者から検出された前記和及び前記比を入力とし、前記被験者の自己申告の眠気レベルを教師信号とする機械学習により構築され、
    任意の対象者から検出された前記和及び前記比に基づいて前記任意の対象者の眠気レベルを算出する手段であることを特徴とする請求項2に記載の状態推定装置。
  5. 前記状態推定手段は、前記対象者の状態として、前記対象者の眠気レベル、前記対象者のストレスレベル、又は、前記対象者の疲れレベルを推定することを特徴とする請求項2に記載の状態推定装置。
  6. 前記RRI信号のレンジごとに予め取得しておいた前記高周波成分及び前記低周波成分の分布データが登録されたレンジ別周波数情報を参照し、前記RRI取得手段が取得した前記RRI信号が属する前記レンジの前記分布データを選択する選択手段と、
    前記選択手段が選択した前記分布データで、前記周波数成分検出手段が検出した前記高周波成分と前記低周波成分の和、及び、前記和に対する前記高周波成分の比を正規化する正規化手段と、を有し、
    前記状態推定手段は、前記正規化手段が正規化した前記和と前記比に基づいて前記対象者の状態を推定することを特徴とする請求項1〜5のいずれか1項に記載の状態推定装置。
  7. 対象者の属性又は状況に応じて作成された前記レンジ別周波数情報を取得する取得手段を有し、
    前記選択手段は前記対象者の属性又は状況に応じた前記レンジ別周波数情報を選択することを特徴とする請求項6に記載の状態推定装置。
  8. 請求項1〜7のいずれか1項に記載された前記状態推定装置を有し、
    前記状態推定装置は車両の運転者の眠気レベルを推定することを特徴とする情報処理装置。
  9. 前記状態推定装置が推定した車両の運転者の眠気レベルに応じて、運転者を覚醒させるための制御を行う覚醒制御手段を有することを特徴とする請求項8に記載の情報処理装置。
  10. 車両の周辺の道路地図をディスプレイに表示すると共に、
    第1の地点から第2の地点までの経路を案内するナビゲーションの機能を有することを特徴とする請求項8又は9に記載の情報処理装置。
  11. 第一の情報処理装置と第二の情報処理装置が通信して対象者の状態を推定する状態推定システムであって、
    前記第一の情報処理装置又は前記第二の情報処理装置の少なくとも一方が、
    前記対象者から心拍に関する信号を取得するセンサとのインタフェースと、
    前記信号から心電図のR波とR波の間隔に相当するRRI信号を取得するRRI取得手段と、
    前記RRI信号を解析して心拍揺らぎ高周波成分と心拍揺らぎ低周波成分を算出する周波数成分検出手段と、
    前記高周波成分と前記低周波成分の和、及び、前記和に対する前記高周波成分の比を算出する算出手段と、
    前記和と前記比に基づいて前記対象者の状態を推定する状態推定手段と、
    を有する状態推定システム。
  12. 対象者の状態を推定する状態推定装置であって、
    前記対象者から心拍に関する信号を取得するセンサとのインタフェースと、
    前記信号から心電図のR波とR波の間隔に相当するRRI信号を取得するRRI取得手段と、
    前記RRI信号を解析して心拍揺らぎ高周波成分と心拍揺らぎ低周波成分を算出する周波数成分検出手段と、
    前記RRI信号のレンジごとに予め取得しておいた前記高周波成分及び前記低周波成分の分布データが登録されたレンジ別周波数情報を参照し、前記RRI取得手段が取得した前記RRI信号が属する前記レンジの前記分布データを選択する選択手段と、
    前記選択手段が選択した前記分布データを用いて、前記周波数成分検出手段が検出した前記高周波成分と前記高周波成分、又は、前記低周波成分と前記高周波成分から算出された情報を正規化する正規化手段と、
    前記正規化手段が正規化した前記低周波成分と前記高周波成分を用いて前記対象者の状態を推定する状態推定手段と、
    を有する状態推定装置。
JP2017236780A 2017-05-30 2017-12-11 状態推定装置、情報処理装置、状態推定システム Pending JP2018202130A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017106908 2017-05-30
JP2017106908 2017-05-30

Publications (1)

Publication Number Publication Date
JP2018202130A true JP2018202130A (ja) 2018-12-27

Family

ID=64954701

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017236780A Pending JP2018202130A (ja) 2017-05-30 2017-12-11 状態推定装置、情報処理装置、状態推定システム

Country Status (1)

Country Link
JP (1) JP2018202130A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020184627A1 (ja) * 2019-03-11 2020-09-17 京セラ株式会社 睡眠推定システム、睡眠推定装置、および睡眠推定方法
WO2020230942A1 (ko) * 2019-05-13 2020-11-19 주식회사 엔에프 테라피 시스템, 이를 포함하는 베드 시스템, 및 테라피 시스템의 동작 방법
WO2021100265A1 (ja) * 2019-11-18 2021-05-27 株式会社東海理化電機製作所 学習装置、学習方法、および測定装置
JPWO2022054834A1 (ja) * 2020-09-08 2022-03-17
KR20230059834A (ko) 2020-10-02 2023-05-03 코니카 미놀타 가부시키가이샤 생체 상태 진단 시스템

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006150065A (ja) * 2004-11-26 2006-06-15 Medicore Co Ltd 自律神経検査装置
JP2008000497A (ja) * 2006-06-26 2008-01-10 Xanavi Informatics Corp 機器制御装置
JP2009172292A (ja) * 2008-01-28 2009-08-06 Toyota Motor Corp 人の状態推定装置
KR100954817B1 (ko) * 2009-03-13 2010-04-28 (주)바이오센스크리에티브 맥파신호분석을 이용한 혈관건강 및 스트레스 검사시스템 및 방법
JP2014012042A (ja) * 2012-07-03 2014-01-23 Fujitsu Ltd 眠気判定方法、装置及びプログラム
JP2016120063A (ja) * 2014-12-25 2016-07-07 東芝情報システム株式会社 眠気推定装置及び眠気推定プログラム
JP2016182242A (ja) * 2015-03-26 2016-10-20 パイオニア株式会社 眠気算出装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006150065A (ja) * 2004-11-26 2006-06-15 Medicore Co Ltd 自律神経検査装置
JP2008000497A (ja) * 2006-06-26 2008-01-10 Xanavi Informatics Corp 機器制御装置
JP2009172292A (ja) * 2008-01-28 2009-08-06 Toyota Motor Corp 人の状態推定装置
KR100954817B1 (ko) * 2009-03-13 2010-04-28 (주)바이오센스크리에티브 맥파신호분석을 이용한 혈관건강 및 스트레스 검사시스템 및 방법
JP2014012042A (ja) * 2012-07-03 2014-01-23 Fujitsu Ltd 眠気判定方法、装置及びプログラム
JP2016120063A (ja) * 2014-12-25 2016-07-07 東芝情報システム株式会社 眠気推定装置及び眠気推定プログラム
JP2016182242A (ja) * 2015-03-26 2016-10-20 パイオニア株式会社 眠気算出装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020184627A1 (ja) * 2019-03-11 2020-09-17 京セラ株式会社 睡眠推定システム、睡眠推定装置、および睡眠推定方法
JPWO2020184627A1 (ja) * 2019-03-11 2020-09-17
WO2020230942A1 (ko) * 2019-05-13 2020-11-19 주식회사 엔에프 테라피 시스템, 이를 포함하는 베드 시스템, 및 테라피 시스템의 동작 방법
KR20200130895A (ko) * 2019-05-13 2020-11-23 주식회사 엔에프 테라피 시스템, 이를 포함하는 베드 시스템, 및 테라피 시스템의 동작 방법
KR102279040B1 (ko) * 2019-05-13 2021-07-19 주식회사 엔에프 테라피 시스템, 이를 포함하는 베드 시스템, 및 테라피 시스템의 동작 방법
WO2021100265A1 (ja) * 2019-11-18 2021-05-27 株式会社東海理化電機製作所 学習装置、学習方法、および測定装置
JP2021078682A (ja) * 2019-11-18 2021-05-27 株式会社東海理化電機製作所 学習装置、学習方法、および測定装置
JP7458170B2 (ja) 2019-11-18 2024-03-29 株式会社東海理化電機製作所 学習装置、学習方法、および測定装置
JPWO2022054834A1 (ja) * 2020-09-08 2022-03-17
WO2022054834A1 (ja) * 2020-09-08 2022-03-17 ダイキン工業株式会社 移動体制御方法及び装置
KR20230059834A (ko) 2020-10-02 2023-05-03 코니카 미놀타 가부시키가이샤 생체 상태 진단 시스템

Similar Documents

Publication Publication Date Title
CN108366732B (zh) 困倦起始检测
JP2018202130A (ja) 状態推定装置、情報処理装置、状態推定システム
US9655559B2 (en) Automated sleep staging using wearable sensors
JP5920364B2 (ja) 情報処理装置、代表波形生成方法および代表波形生成プログラム
JP6515670B2 (ja) 睡眠深度推定装置、睡眠深度推定方法、およびプログラム
KR101749706B1 (ko) 사용자 장치를 사용하여 획득된 상황 정보 및 생체 정보를 기반으로 사용자의 감정을 예측하는 방법 및 시스템
JP6388824B2 (ja) 感情情報推定装置、感情情報推定方法及び感情情報推定プログラム
KR20180010062A (ko) 생체신호의 특징 추출 장치 및 방법과, 생체정보 검출 장치
JP2016073527A (ja) 睡眠状態判定装置、睡眠状態判定方法および睡眠管理システム
JP2018064900A (ja) 眠気判定装置および眠気判定方法並びに運転支援装置
JP6379656B2 (ja) 眠気検知装置、眠気検知方法および眠気検知プログラム
JP2017064364A (ja) 生体状態推定装置、生体状態推定方法及びコンピュータプログラム
CN111698939B (zh) 生成与外部对象相关联的心率波动信息的方法及其设备
JP2018191780A (ja) 状態推定装置、情報処理装置、状態推定システム
US20160206230A1 (en) Period estimation apparatus, period estimation method and storage medium
JP2016047305A (ja) 意識状態推定装置及びプログラム
JP2017124014A (ja) 眠気検知プログラム、眠気検知方法および眠気検知装置
JP6932351B2 (ja) 睡眠段階判定装置、睡眠段階判定方法及びプログラム
WO2013140585A1 (ja) 状態推定装置
US20220125376A1 (en) Sleep apnea syndrome determination apparatus, sleep apnea syndrome determination method, and sleep apnea syndrome determination program
JP2016036540A (ja) 覚醒度判定プログラムおよび覚醒度判定装置
WO2018190190A1 (ja) 眠気推定装置
JP5962751B2 (ja) 覚醒度判定装置、覚醒度判定プログラムおよび覚醒度判定方法
WO2022101990A1 (ja) 疲労度推定装置、疲労度推定方法、及びコンピュータ読み取り可能な記録媒体
Kher et al. RPCA-based detection and quantification of motion artifacts in ECG signals

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20171212

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200827

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210706

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210720

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211124

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220524