JP2020203051A - コンピュータプログラム、情報処理装置、情報処理方法、学習済みモデルの生成方法及び学習済みモデル - Google Patents
コンピュータプログラム、情報処理装置、情報処理方法、学習済みモデルの生成方法及び学習済みモデル Download PDFInfo
- Publication number
- JP2020203051A JP2020203051A JP2019113817A JP2019113817A JP2020203051A JP 2020203051 A JP2020203051 A JP 2020203051A JP 2019113817 A JP2019113817 A JP 2019113817A JP 2019113817 A JP2019113817 A JP 2019113817A JP 2020203051 A JP2020203051 A JP 2020203051A
- Authority
- JP
- Japan
- Prior art keywords
- frequency
- data
- sleep state
- frequency data
- unit time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004590 computer program Methods 0.000 title claims abstract description 16
- 230000010365 information processing Effects 0.000 title claims description 117
- 238000000034 method Methods 0.000 title claims description 51
- 238000003672 processing method Methods 0.000 title claims description 4
- 230000007958 sleep Effects 0.000 claims abstract description 221
- 230000008569 process Effects 0.000 claims description 34
- 210000004556 brain Anatomy 0.000 claims description 23
- 238000012937 correction Methods 0.000 claims description 17
- 230000006870 function Effects 0.000 claims description 15
- 238000013528 artificial neural network Methods 0.000 claims description 10
- 230000004424 eye movement Effects 0.000 claims description 8
- 238000012545 processing Methods 0.000 abstract description 41
- 238000004458 analytical method Methods 0.000 abstract description 13
- 238000004891 communication Methods 0.000 description 39
- 238000001514 detection method Methods 0.000 description 34
- 210000003205 muscle Anatomy 0.000 description 21
- 238000010586 diagram Methods 0.000 description 16
- 230000008667 sleep stage Effects 0.000 description 10
- 238000013527 convolutional neural network Methods 0.000 description 9
- 238000006243 chemical reaction Methods 0.000 description 8
- 206010062519 Poor quality sleep Diseases 0.000 description 5
- 210000002569 neuron Anatomy 0.000 description 5
- 230000036385 rapid eye movement (rem) sleep Effects 0.000 description 4
- 230000029058 respiratory gaseous exchange Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000004461 rapid eye movement Effects 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 241000124008 Mammalia Species 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Abstract
【課題】生体の睡眠状態を適切に出力することができるコンピュータプログラム等を提供する。【解決手段】コンピュータプログラムは、コンピュータに、生体から検出した波形データを、要素時間毎に周波数分析し、周波数分析した前記要素時間毎のデータを分割単位時間毎に配列化した周波数データを取得し、前記周波数データを入力した場合に前記分割単位時間における前記生体の睡眠状態を出力するように学習済みの学習済みモデルに、取得した前記周波数データを入力し、前記学習済みモデルから睡眠状態を取得する処理を実行させる。【選択図】図1
Description
本発明は、コンピュータプログラム、情報処理装置、情報処理方法、学習済みモデルの生成方法及び学習済みモデルに関する。
生体から検出した脳波を周波数分析して、δ波、θ波、α波、σ波、β波などの各周波数成分を抽出し、抽出した各周波数成分の含有量及び含有率に基づいて、所定の時間ブロックごとに睡眠状態を判定する睡眠状態判定手段を備える睡眠計が知られている(例えば、特許文献1)
特許文献1の睡眠計が備える睡眠状態判定手段は、抽出したδ波、α波、σ波、β波の含有量又は含有率と、予め定められた判定条件との比較により、睡眠状態を判定する。
しかし、特許文献1の睡眠計が備える睡眠状態判定手段は、コンピュータが睡眠状態を判定するためのルール(判定条件)、すなわち判定ロジックを、より適切な閾値を試行錯誤の末に決定するなど、労力をかけて人手で作成する必要があった。また、δ波、α波、σ波、β波などの各周波数成分の含有量又は含有率は脳波に含まれる情報のあくまで一部であり、労力をかけて判定ロジックをより複雑なものにしても、判定精度の更なる向上が望まれる。
本発明は斯かる事情に鑑みてなされたものであり、生体の睡眠状態を適切に出力することができるコンピュータプログラム等を提供することを目的とする。
本開示の一態様に係るコンピュータプログラムは、コンピュータに、生体から検出した波形データを、要素時間毎に周波数分析し、周波数分析した前記要素時間毎のデータを分割単位時間毎に配列化した周波数データを取得し、前記周波数データを入力した場合に前記分割単位時間における前記生体の睡眠状態を出力するように学習済みの学習済みモデルに、取得した前記周波数データを入力し、前記学習済みモデルから睡眠状態を取得する処理を実行させる。
本開示の一態様に係る情報処理装置は、生体から検出した波形データを、要素時間毎に周波数分析し、周波数分析した前記要素時間毎のデータを分割単位時間毎に配列化した周波数データを取得する周波数データ取得部と、前記周波数データを入力した場合に前記分割単位時間における前記生体の睡眠状態を出力するように学習済みの学習済みモデルと、取得した前記周波数データを前記学習済みモデルに入力し、前記学習済みモデルから睡眠状態を取得する睡眠状態取得部とを備える。
本開示の一態様に係る情報処理方法は、生体から検出した波形データを、要素時間毎に周波数分析し、周波数分析した前記要素時間毎のデータを分割単位時間毎に配列化した周波数データを取得し、前記周波数データを入力した場合に前記分割単位時間における前記生体の睡眠状態を出力するように学習済みの学習済みモデルに、取得した前記周波数データを入力し、前記学習済みモデルから睡眠状態を取得する処理をコンピュータに実行させる。
本開示の一態様に係る学習済みモデルの生成方法は、生体から検出した波形データを、要素時間毎に周波数分析し、周波数分析した前記要素時間毎のデータを分割単位時間毎に配列化した周波数データに対し、睡眠状態を示す情報が対応付けられた教師データを取得し、前記教師データに基づく学習を行い、前記周波数データを入力した場合に前記分割単位時間における前記生体の睡眠状態を出力する学習済みモデルを生成する処理をコンピュータに実行させる。
本開示の一態様に係る学習済みモデルは、生体から検出した波形データを、要素時間毎に周波数分析し、周波数分析した前記要素時間毎のデータを分割単位時間毎に配列化した周波数データの入力を受け付ける入力層と、前記分割単位時間における生体の睡眠状態を出力する出力層と、前記周波数データに含まれる前記要素時間毎の各周波数の強度値に関する特徴量を抽出する中間層とを備え、前記周波数データが前記入力層に入力された場合に前記中間層で演算を行い、前記出力層から前記睡眠状態を出力するようにコンピュータに機能させる。
本発明によれば、生体の睡眠状態を適切に出力するコンピュータプログラム等を提供することが可能となる。
(実施形態1)
以下、本発明をその実施の形態を示す図面に基づいて詳述する。図1は、実施形態1に係る睡眠状態判定システムSの構成例を示す模式図である。睡眠状態判定システムSは、生体波形検出装置1及び、当該生体波形検出装置1と通信可能に接続される情報処理装置2を含む。
以下、本発明をその実施の形態を示す図面に基づいて詳述する。図1は、実施形態1に係る睡眠状態判定システムSの構成例を示す模式図である。睡眠状態判定システムSは、生体波形検出装置1及び、当該生体波形検出装置1と通信可能に接続される情報処理装置2を含む。
生体波形検出装置1は、2つの脳波電極11及び2つの眼筋電極12等の生体Uが発する波形データを検出する波形データ検出用電極、検出した波形データを情報処理装置2に送信する通信ユニット13を含み、脳波電極11及び眼筋電極12と、通信ユニット13とは電極ケーブル14にて通信可能に接続されている。生体Uは、図1に示すごとく人間であるが、波形データの検出対象となる生体Uは人間に限定されず、マウス等の哺乳類であってもよい。
図1に示すごとく、2つの脳波電極11及び2つの眼筋電極12は生体Uの顔の夫々の位置に貼付されており、脳波電極11は当該生体Uの脳波を検出し、眼筋電極12は生体Uの眼筋運動データを検出する。生体Uが発する波形データを検出する波形データ検出用電極は、脳波電極11及び眼筋電極12に限定されず、例えば、生体Uの呼吸による波形データ、心拍による波形データ(心電図)又は脚部の筋運動による波形データを検出する呼吸センサ(空気圧センサ)、指装着型センサ(光センサ)、圧電センサ、超音波センサ又は磁気センサ等であってもよい。
脳波電極11及び眼筋電極12により検出された波形データは、通信ユニット13を介して情報処理装置2に送信される。通信ユニット13と情報処理装置2との通信は、例えばwifi(登録商標)、 Bluetooth(登録商標)等の狭域無線通信、又は4G、LTE等の広域無線通信によって行われる。又は、通信ユニット13と情報処理装置2との通信は、USB(Universal Serial Bus/登録商標)ケーブル等の通信ケーブルを用いた有線通信であってもよい。
情報処理装置2は、種々の情報処理、情報の送受信が可能な装置であり、例えばサーバ装置、パーソナルコンピュータ又は、スマートホン等の携帯端末である。情報処理装置2には、ディスプレイ等の表示部3及び、キーボード等の入力部4が接続されており、当該情報処理装置2の操作者により入力部4から入力された操作内容に基づき情報処理を行い、処理の結果を出力して表示部3にて情報処理結果を表示する。サーバ装置は、単体のサーバ装置のみならず、複数台のコンピュータによって構成されるクラウドサーバ装置、又は仮想サーバ装置を含む。
情報処理装置2には、後述するプログラムP、学習済みモデル201等のソフトウェアモジュールが実装されており、通信ユニット13を介して取得した脳波等の波形データをFFT(fast Fourier transform)により周波数データに変換し、当該周波数データに基づき生体Uの睡眠状態を判定する。情報処理装置2は、判定した睡眠状態に関する情報を表示部3に出力し、当該情報を表示部3に表示させる。
情報処理装置2と表示部3とは直接的に接続されている場合に限定されず、例えば、情報処理装置2であるクラウドサーバはインターネット上に接続されており、表示部3はスマートホン等の携帯端末であってもよい。検出された波形データに基づき学習済みモデル201にて睡眠状態を判定する処理は、インターネット上に接続されるクラウドサーバ等のリモート環境で行われ、当該クラウドサーバ等は睡眠状態の該判定結果を携帯端末に送信することにより、当該睡眠状態の判定結果の表示は、波形データの検出対象である生体Uに最寄りの携帯端末にて行われるものであってもよい。
図2は、情報処理装置2の構成例を示すブロック図である。情報処理装置2は、制御部22、通信部21、記憶部23及び入出力I/F24を含む。
制御部22は、一又は複数のCPU(Central Processing Unit)、MPU(Micro-Processing Unit)、GPU(Graphics Processing Unit)等の計時機能を備えた演算処理装置を有し、記憶部23に記憶されたプログラムPを読み出して実行することにより、情報処理装置2に係る種々の情報処理、制御処理等を行う。
記憶部23は、SRAM(Static Random Access Memory)、DRAM(Dynamic Random Access Memory)、フラッシュメモリ等の揮発性記憶領域及び、EEPROM又はハードディスク等の不揮発性記憶領域を含む。記憶部23には、プログラムP及び処理時に参照するデータがあらかじめ記憶してある。記憶部23に記憶されたプログラムPは、情報処理装置2が読み取り可能な記録媒体231から読み出されたプログラムPを記憶したものであってもよい。また、図示しない通信網に接続されている図示しない外部コンピュータからプログラムPをダウンロードし、記憶部23に記憶させたものであってもよい。記憶部23には、学習済みモデル201を構成する実体ファイルが保存されている。これら実体ファイルは、プログラムPの一部位として構成されるものであってもよい。
通信部21は、有線又は無線により生体波形検出装置1と通信するための通信モジュール又は通信インターフェイスである。
入出力I/F24は、例えば、USB又はDSUB等の通信規格に準拠したものであり、入出力I/F24に接続された外部機器とシリアル通信するための通信インターフェイスである。入出力I/F24には、例えばディプレイ等の表示部3、キーボード等の入力部4が接続されており(図1参照)、制御部22は、入力部4から入力された実行コマンド又はイベントに基づき行った情報処理の結果を表示部3に出力する。
生体波形検出装置1は、上述のごとく通信ユニット13、脳波電極11及び眼筋電極12等の波形データ検出用電極を含む。
通信ユニット13は、信号変換部131及び通信部132を含む。信号変換部131と、脳波電極11及び眼筋電極12とは電極ケーブル14により通信可能に接続されている。
信号変換部131は、例えば、脳波電極11及び眼筋電極12が検出したアナログ値である波形データを増幅し、増幅した波形データからノイズを除去するフィルタを含み、ノイズを除去した波形データをアナログ変調して通信部21に出力する。
通信部132は、信号変換部131から出力されたデータを無線又は有線により、情報処理装置2に送信する通信モジュール又は通信インターフェイスである。通信ユニット13には信号変換部131及び通信部132が含まれるとしたが、これに限定されない。通信ユニット13は信号変換部131を含まず、脳波電極11及び眼筋電極12が検出したアナログ値である波形データを通信部132が取得し、情報処理装置2に送信する構成であってもよい。
図3は、検出した波形データのサンプルに関する説明図である。図3の波形データは、生体Uから検出した脳波による波形データ(脳波:EEG)である。横軸は、生体Uから検出する際の経過時間を示し、縦軸は脳波の振幅(μV)を示す。
生体Uの睡眠状態に応じて、脳波が変化することが知られており、例えば覚醒段階(ステージWake)においては、8から12Hzのα波が多く観測される。入眠段階(ステージN1)(NはNonREMの意)においては、α波が消失し、高周波低振幅の波が観測され、その後の浅い睡眠段階(ステージN2)においては、Spindle波、K-Comlex波などの特徴的な波が出現する。深い睡眠段階(ステージN3)においては、1から4Hzのδ波が多く観測される。REM睡眠段階(ステージREM)においては、ステージN1と類似した高周波低振幅の波が観測されると同時に、下記の眼球運動データ(EOG)に高速眼球運動(Rapid Eye Movements=REMs)が観測される。脳波に基づく睡眠状態の判定は、所定期間を一区間とした間に観測された脳波の特徴に基づいて行われる。当該一区間は、例えば30秒の期間に設定され、エポックと称される。すなわち、脳波の検出が1時間に亘って行われた場合、検出されるエポックの個数は、120個となる。
生体Uから検出した波形データは脳波に限定されず、眼筋運動データ(EOG)を含むものであってもよい。図1に示すごとく、生体波形検出装置1は、脳波電極11及び眼筋電極12による2チャンネルにて二種類の波形データ(EEG及びEOG)を同時に検出することができる。従って、同じ時間軸(エポック単位)にて、脳波(EEG)及び眼筋運動データ(EOG)を検出することができる。
図4は、周波数データのサンプル(EEG+EOG)に関する説明図である。図4は、当該周波数データ(データセット)を二次元のマトリックス状に模式的に示す一例であり、横軸はFFTにより周波数分析した周波数夫々(1Hz単位)を示す。縦軸は、波形データの検出における経過時間(各検出時点)を、要素時間単位(1秒単位)にて示す。マトリックスにおける各セル内の値は、各時点(要素時間単位)における周波数夫々の強度値(含有量)を示す。
情報処理装置2の制御部22はプログラムPを実行することにより、図3に示すような波形データを生体波形検出装置1から取得した波形データを、FFTを用いて、例えば1秒毎となる要素時間毎に周波数分析し、周波数夫々における強度値(パワー)を算出する。FFTを用いた周波数分析は、要素時間(例えば1秒)の単位で波形データをサンプリングしリアルタイムに周波数夫々における強度値を算出する、又は所定期間にて波形データを記憶(バッファリング)した後、当該記憶した波形データを要素時間単位にて周波数分析し周波数夫々における強度値を算出するものであってもよい。周波数の強度値とは当該周波数の含有量を示し、含有量はFFTによるパワースペクトルに相当し、単位系は電圧の二乗(μV^2)となる。FFTにおける周波数バンド幅(周波数分解能Δf)は1Hz単位としており、脳波(EEG)は0Hzから39Hzまでの40チャネル、眼球運動データ(EOG)は0Hzから9Hzまでの10チャネルとしている。
上述のとおり、周波数の強度値(含有量)は、要素時間毎(1秒毎)に算出しており、一つのエポック(30秒単位)において、30秒分(30セット)の周波数夫々における強度値(含有量)が含まれるものとなる。このエポックにより定められる時間(期間:30秒)を分割単位時間として、情報処理装置2の制御部22は、FFTにより周波数分析した周波数夫々の強度値(含有量)による周波数データ(データセット)を生成し、記憶部23に記憶する。
周波数夫々においては、脳波(EEG)及び眼球運動データ(EOG)を含み、これら脳波及び眼球運動データにおける同じ検出時点(検出時間毎)のデータが横並びとなるように、脳波及び眼球運動データのデータが連結されている。記憶部23に記憶されている周波数データ(データセット)は、配列化されたものであってもよい。すなわち、要素時間及び周波数を配列における次元とし、要素時間及び周波数を各次元として含む少なくとも2次元以上の多次元配列(テンソル)として、当該データセットを記憶部23に記憶するものであってもよい。
図4においては、周波数のチャネルは50個(40[EEG]+10[EOG])であり、エポック(30秒単位)における要素時間(1秒)の個数は30個であるため、周波数データ(データセット)は、1500個(50×30)の要素数を有するものである。各要素の値は、周波数及び検出時点に基づき配列の値として特定される周波数の強度値(含有量)である。このようにエポック(分割単位時間)毎の周波数及び検出時点における各周波数の強度値(含有量)を配列化して、多次元配列(テンソル)による周波数データ(データセット)を生成することにより、当該周波数データを後述する畳み込み層を含むニューラルネットワーク(CNN/Convolutional Neural Network)への入力データとして用いることができる。
図5は、学習済みモデル201の生成処理に関する説明図である。情報処理装置2は、分割単位時間(エポック)毎の周波数データに含まれる要素時間毎の各周波数の強度値(含有量)に関する特徴量を学習することで、周波数データを入力とし、当該周波数データを検出した期間(エポック)における生体Uの睡眠状態を出力とするニューラルネットワークを構築(生成)する。
教師データを用いて学習されたニューラルネットワーク(学習済みモデル201)は、人工知能ソフトウェアの一部であるプログラムモジュールとして利用が想定される。学習済みモデル201は、上述のごとく制御部22(CPU等)及び記憶部23を備える情報処理装置2にて用いられるものであり、このように演算処理能力を有する情報処理装置2にて実行されることにより、ニューラルネットワークシステムが構成される。すなわち、情報処理装置2の制御部22が、記憶部23に記憶された学習済みモデル201からの指令に従って、入力層に入力された周波数データに含まれる各周波数の強度値を展開し、展開した強度値に基づきの特徴量を抽出する演算を行い、出力層から睡眠状態を出力するように動作する。
ニューラルネットワークは、例えばCNN(Convolutional Neural Network)であり、周波数データの入力を受け付ける入力層と、睡眠状態を出力する出力層と、周波数データに含まれる要素時間毎の各周波数の強度値(含有量)に関する特徴量を抽出する中間層とを有する。CNNである学習済みモデル201は、当該特徴量を抽出するにあたり、入力された周波数データに含まれる要素時間及び周波数をテンソルにおける各次元として取り扱い、各周波数の強度値をテンソルの各要素の値として畳み込み処理を行う。
入力層は、周波数データにおけるテンソルの各要素の値である各周波数の強度値の入力を受け付ける複数のニューロンを有し、入力された強度値を中間層に受け渡す。中間層は、周波数データにおける強度値に関する特徴量を抽出する複数のニューロンを有し、抽出した強度値に関する特徴量を出力層に受け渡す。CNNである学習済みモデル201は、入力層から入力された各周波数の強度値を畳み込むコンボリューション層と、コンボリューション層で畳み込んだ強度値をマッピング(圧縮)するプーリング層とが交互に連結された構成を有し、周波数データにおける各周波数の強度値の情報を圧縮しながら最終的に強度値に関する特徴量を抽出する。出力層は、睡眠状態を判定した判定結果を出力する一又は複数のニューロンを有し、中間層から出力された強度値に関する特徴量に基づいて、周波数データを検出した期間(エポック)における生体Uの睡眠状態を出力する。
なお、本実施の形態では学習済みモデル201がCNNであるものとして説明するが、学習済みモデル201はCNNに限定されず、CNN以外のニューラルネットワーク、SVM(Support Vector Machine)、ベイジアンネットワーク、回帰木など、他の学習アルゴリズムで構築された学習済みモデル201であってよい。
情報処理装置2は、周波数データ(問題データ)と、当該周波数データにおける生体Uの睡眠状態を示す情報(回答データ)とが、対応付けられた(関連付けられた)教師データを用いて学習を行う。周波数データは、例えばエポックの期間に相当する分割単位時間毎に生成されているため、エポック単位で生体Uの睡眠状態が対応付けられるものとなる。睡眠状態を示す情報とは、標準的には、覚醒段階(ステージWake)、入眠段階(ステージN1)、浅い睡眠段階(ステージN2)、深い睡眠段階(ステージN3)、REM睡眠段階(ステージREM)の5段階からなるが、必ずしもこの5段階の分類には限定されず、例えば、ステージN1とステージN2を合わせて浅い睡眠段階(Light)、ステージN3を深い睡眠段階(Deep)として、覚醒段階(Wake)、浅い睡眠段階(Light)、深い睡眠段階(Deep)、REM睡眠段階(REM)の4段階の分類とするものであってもよい。
脳波(EEG)及び眼球運動データ(EOG)等の波形データと、これら波形データに基づき生体の睡眠状態を示す情報との対応付けは医師等の医療従事者により行われるものであり、このように対応付けられたデータは、医療機関等において大量に保有されている。すなわち周波数データは、生体から検出した波形データに基づきFFT等により生成されるところ、当該波形データには、被検者である生体の睡眠状態に関するデータが付与されている。従って、このように睡眠状態に関するデータが付与されている波形データに基づき、FFT等により生成した周波数データと、当該波形データに付与されている睡眠状態に関するデータとを組み合わせることにより、相関関係を有する周波数データ(問題データ)及び睡眠状態を示す情報(回答データ)を含む教師データを大量に生成することができる。
情報処理装置2は、教師データに含まれる周波数データを入力層に入力し、中間層での演算処理を経て、出力層から出力された睡眠状態を取得する。出力層から出力される睡眠状態は、いずれかの睡眠状態を示す値であってもよく、または候補となる複数の睡眠状態夫々における確率値であってもよい。
情報処理装置2は、出力層から出力された睡眠状態を、教師データにおいて周波数データ(問題データ)に対しラベル付けされた情報(睡眠状態)、すなわち正解値(回答データ)と比較し、出力層からの出力値が正解値に近づくように、中間層での演算処理に用いるパラメータを最適化する。当該パラメータは、例えばニューロン間の重み(結合係数)、各ニューロンで用いられる活性化関数の係数などである。パラメータの最適化の方法は特に限定されないが、例えば情報処理装置2は、誤差逆伝播法を用いて各種パラメータの最適化を行う。情報処理装置2は、教師データに含まれる周波数データについて上記の処理を行い、学習済みモデル201を生成する。
図6は、情報処理装置2の制御部22に含まれる機能部を例示する機能ブロック図である。情報処理装置2の制御部22は、記憶部23に記憶してあるプログラムPを実行することにより、生体波形検出装置1から取得した波形データをFFTにより周波数分析し、エポック単位(30秒単位)となる分割単位時間毎に配列化した周波数データ(図4参照)を生成する周波数データ生成部221として機能する。波形データが脳波(EEG)及び、当該脳波と当時に検出した眼筋運動データ(EOG)を含む場合、周波数データ生成部221は、脳波を配列化したデータ及び眼筋運動データを配列化したデータを連結して周波数データを生成するものであってもよい。周波数データは、脳波及び眼筋運動データを連結したものに限定されず、脳波のみ又は眼筋運動データのみを配列化したデータであってもよい。又は、周波数データは、脳波及び眼筋運動データと、更に心電図又は呼吸データ等、一つ又は複数の他の波形データと連結したデータであってもよい。
情報処理装置2の制御部22は、記憶部23に記憶してあるプログラムPを実行することにより、周波数データ生成部221が生成した周波数データを取得し、取得した周波数データを学習済みモデル201に入力する周波数データ取得部222として機能する。
情報処理装置2の制御部22は、記憶部23に記憶してあるプログラムPを実行することにより、又は学習済みモデル201を構成する実体ファイルを読み出すことにより、学習済みモデル201として機能する。
情報処理装置2の制御部22は、記憶部23に記憶してあるプログラムPを実行することにより、学習済みモデル201が出力した睡眠状態の判定結果を取得し、取得した睡眠状態を例えばディスプライ等の表示部3に出力する睡眠状態取得部223として機能する。睡眠状態取得部223は、睡眠状態を表示部3に出力するにあたり、当該睡眠状態と周波数データとを連関させた表示用画像を生成し、当該表示用画像を出力して、表示部3に表示させるものであってもよい。
上述のごとく、制御部22はプログラムPを実行等することにより、周波数データ生成部221、周波数データ取得部222、学習済みモデル201及び睡眠状態取得部223として機能するものであり、図6においては、これら部位を機能部として示している。
本実施形態において、周波数データ生成部221、周波数データ取得部222、学習済みモデル201及び睡眠状態取得部223は、単一の情報処理装置2の制御部22における機能部として説明してあるが、これに限定されない。これら機能部は複数の情報処理装置2にて分散して設けられ、当該複数の情報処理装置2が協働することにより、これら機能部による一連の処理が行われるものであってもよい。例えば、学習済みモデル201として機能する情報処理装置2をインターネット上に接続されるクラウドサーバとし、FFT処理を行う周波数データ生成部221及び学習済みモデル201に対する入出力処理を行う周波数データ取得部222と睡眠状態取得部223とを、被検者である生体Uに最寄りの携帯端末とし、当該クラウドサーバと携帯端末とが相互通信を行い協働することにより、これら機能部による一連の処理が行われるものであってもよい。
FFT処理を行う周波数データ生成部221を生体波形検出装置1に装置に含まれる信号変換部131に含ませ(実装させ)、生体波形検出装置1は、波形データに換えて、周波数データを情報処理装置2に送信するものであってもよい。又は、生体波形検出装置1は、情報処理装置2の機能を備えるものであってもよい。すなわち生体波形検出装置1が、情報処理装置2の制御部22及び記憶部23と同様の演算処理等を有する制御部(図示せず)を記憶部(図示せず)備え、生体波形検出装置1の記憶部(図示せず)に記憶されている学習済みモデル201を用いて睡眠状態を判定するものであってもよい。更に、生体波形検出装置1は、表示部3の機能を備えるものであてもよい。すなわち生体波形検出装置1は、判定した睡眠状態に関する情報を表示部3に出力し、当該睡眠状態に関する情報を表示部3に表示させるものであってもよい。
図7は、情報処理装置2の制御部22による処理手順の一例を示すフローチャートである。制御部22は、例えば情報処理装置2に接続されている入力部4からの入力内容に基づき、当該フローチャートの処理を開始する。
情報処理装置2の制御部22は、波形データを取得する(S10)。制御部22は、生体波形検出装置1から送信された波形データを、通信部21を介して取得する。制御部22は、取得した波形データを記憶部23に記憶(バッファリング)する。
情報処理装置2の制御部22は、周波数データを取得する(S11)。制御部22は、取得した波形データをFFTにより周波数分析し、例えばエポック(30秒)単位となる分割単位時間毎に配列化した周波数データを生成することにより、当該周波数データを取得する。制御部22は、周波数データを生成した順番に基づき、当該周波数データに連番を付与して記憶部23に記憶し、時系列に生成及び取得した周波数データの生成順位(取得順位)を管理するものであってもよい。
情報処理装置2の制御部22は、周波数データを学習済みモデル201に入力し、睡眠状態の判定結果を取得する(S12)。制御部22は、取得した周波数データを学習済みモデル201に入力し、学習済みモデル201が出力した睡眠状態の判定結果を取得する。
情報処理装置2の制御部22は、睡眠状態の判定結果を出力する(S13)。制御部22は、学習済みモデル201から取得した睡眠状態の判定結果をディスプレイ等の表示部3に表示する。又は、制御部22は、学習済みモデル201から取得した睡眠状態の判定結果を、通信部21を介して所定の携帯端末等に送信すべく、当該通信部21に出力するものであってもよい。制御部22は、睡眠状態の判定結果に加え、周波数データ又は当該周波数データの元データに相当する波形データの部位を併せて、出力するものであってもよい。
情報処理装置2の制御部22は、S13の処理を実行後、本フローによる処理を終了する。又は、制御部22は、S13の処理を実行後、再度S10の処理を実行すべくループ処理を行うものであってもよい。
図8は、情報処理装置2の制御部22による学習済みモデル201の生成処理に関する処理手順の一例を示すフローチャートである。
情報処理装置2の制御部22は、教師データを取得する(S110)。教師データは、特定対象の分割単位時間にて周波数分析した周波数データに対し、当該分割単位時間における生体の睡眠状態をラベル付けしたデータである。制御部22は、生体波形検出装置1から取得した波形データをFFTにより要素時間毎に周波数分析し、周波数分析したデータを、特定対象の分割単位時間毎に配列化した周波数データに睡眠状態をラベル付けすることにより、教師データを生成し取得する。周波数データにラベル付けする睡眠状態は、医師等の医療従事者により行われる又は、当該周波数データの元データである波形データに対し医師等により行われており、このような波形データを利用することにより教師データを大量に生成することができる。
情報処理装置2の制御部22は、学習済みモデル201を生成する(S111)。制御部22は、取得した教師データを用いて、周波数データを入力した場合、周波数データの分割単位時間における睡眠状態を出力する学習済みモデル201を生成する。具体的には、制御部22は、教師データに含まれる周波数データをニューラルネットワークの入力層に入力し、中間層にて抽出される周波数の強度値の特長量に基づき出力層から出力される睡眠状態を取得する。制御部22は、取得した睡眠状態と、教師データに含まれる正解値(周波数データにレベル付けされた睡眠状態)とを比較し、出力層から出力される睡眠状態(判定結果)が、正解値に近づくように、中間層での演算処理に用いるパラメータ(重み等)を最適化する。制御部22は、生成した学習済みモデル201を記憶部23に記憶し、一連の処理を終了する。
本実施形態によれば、脳波等の生体Uから検出した波形データを要素時間毎に周波数分析し、分割単位時間毎に配列化した周波数データを学習済みモデル201に入力し、当該学習済みモデル201から睡眠状態を取得するため、予め定められたアルゴリズムであるルールベースによる処理を不要とし、精度よく睡眠状態を取得することができる。
本実施形態によれば、脳波及び脳波と同時に検出した眼球運動データ等の複数の波形データを検出した時間軸を合わせて連結し、周波数データを生成及び取得するため、当該周波数データが入力された学習済みモデル201による睡眠状態の判定精度を向上させることができる。
本実施形態によれば、学習済みモデル201は、畳み込み層を含むニューラルネットワークであり、周波数データに含まれる要素時間及び周波数をテンソル(多次配列)における各次元として取り扱い、要素時間及び周波数により決定される周波数の強度値を当該テンソルの各要素の値として畳み込み処理を行う。従って、周波数データを、例えば画像データと同様に畳み込み処理及びプーリング処理を行うことが可能となり、効率的に周波数の強度値による特徴量を抽出し、抽出した特徴量に基づき精度よく睡眠状態を判定することができる。
(実施形態2)
図9は、実施形態2(前後エポック含む)に係る周波数データに関する説明図である。図10は、周波数データのサンプルに関する説明図である。図9における横軸は、実施形態1と同様にFFTにより周波数分析した周波数夫々(1Hz単位)を示す。図9における横軸は、実施形態1と同様に波形データの検出における経過時間(各検出時点)を、要素時間単位(1秒単位)にて示す。図9においては、5つの分割単位時間(エポック)が時系列に従って連結された状態における周波数分析の結果データを示す。実施形態2の情報処理装置2は、睡眠状態を特定する特定対象の分割単位時間(エポック)、及び当該特定対象の分割単位時間の前後に位置する分割単位時間夫々における波形データを周波数分析した周波数データを用いる点で、実施形態1と異なる。
図9は、実施形態2(前後エポック含む)に係る周波数データに関する説明図である。図10は、周波数データのサンプルに関する説明図である。図9における横軸は、実施形態1と同様にFFTにより周波数分析した周波数夫々(1Hz単位)を示す。図9における横軸は、実施形態1と同様に波形データの検出における経過時間(各検出時点)を、要素時間単位(1秒単位)にて示す。図9においては、5つの分割単位時間(エポック)が時系列に従って連結された状態における周波数分析の結果データを示す。実施形態2の情報処理装置2は、睡眠状態を特定する特定対象の分割単位時間(エポック)、及び当該特定対象の分割単位時間の前後に位置する分割単位時間夫々における波形データを周波数分析した周波数データを用いる点で、実施形態1と異なる。
上述のごとく、生体Uから検出した波形データは、当該検出時間に応じて時間軸における長さが長くなる。例えば、検出時間を1時間とした場合、エポック(30秒)単位による分割単位時間毎に生成された周波数データの個数は60個となり、実施形態1における単一の周波数データは、1つの分割単位時間(エポック)にて周波数分析したものとしている。これに対し、実施形態2における単一の周波数データは、図9に示すごとく、睡眠状態を特定する特定対象の分割単位時間(エポック)と、当該特定対象の分割単位時間の前後に2つずつ位置する4つの分割単位時間(エポック)とによる、5つの分割単位時間(エポック)にて周波数分析したものである。すなわち、図9においてエポック3を、睡眠状態を特定する特定対象の分割単位時間(エポック)とした場合、学習済みモデル201に入力する周波数データは、エポック3と、当該エポック3の直前及び直後に位置するエポック2及びエポック4と、エポック3の2つ前及び2つ後に位置するエポック1及びエポック5における波形データを周波数分析したもの(各エポックによる周波数データ夫々を連結したもの)である。同様にエポック4を、睡眠状態を特定する特定対象の分割単位時間(エポック)とした場合、周波数データは、エポック2からエポック6における波形データを周波数分析したもの(各エポックによる周波数データ夫々を連結したもの)である。
睡眠状態を特定する特定対象の分割単位時間(特定対象エポック)と、当該特定対象の分割単位時間の前後に2つずつ位置する4つの分割単位時間(エポック)とによる、5つの分割単位時間(5つのエポックによるデータ連結)にて周波数分析した周波数データ(連結された周波数データ)は、図10に示すように要素時間の行数が150個(30×5)となる。
このように、情報処理装置2は、睡眠状態を特定する特定対象の分割単位時間(エポック)の前後に位置する複数の分割単位時間(エポック)を含む波形データを周波数分析して周波数データを生成する。当該周波数データにより、特定対象の分割単位時間における周波数の強度値の特徴量に加え、当該特定対象の分割単位時間の前後に位置する複数の分割単位時間における周波数の強度値の特徴量を加味して、当該特定対象の分割単位時間における睡眠状態を判定し、当該判定の精度を向上させることができる。
学習済みモデル201は、特定対象の分割単位時間を含む5つの分割単位時間にて周波数分析した周波数データが入力された場合、当該特定対象の分割単位時間における睡眠状態を判定し、出力するように学習されている。教師データは、特定対象の分割単位時間を含む5つの分割単位時間周波数分析した周波数データに対し、当該特定対象の分割単位時間における睡眠状態が対応付けられて生成されている。
図11は、情報処理装置2の制御部22による処理手順の一例を示すフローチャートである。情報処理装置2の制御部22は、波形データを取得する(S20)。制御部22は、実施形態1の処理S10と同様に波形データを取得する。制御部22は、取得した波形データにおいて、分割単位時間毎に配列化したデータを生成し、特定対象の分割単位時間を決定する。制御部22は、例えば3番目に位置する分割単位時間(エポック3/図9参照)を、特定対象の分割単位時間として決定した場合、当該エポック3の前後に位置するエポック(エポック1,2,4,5)に対し、フローチャートにおける下記処理を行う。又は、制御部22は、波形データを時系列に取得するにあたり、特定対象の分割単位時間を決定するものであってもよい。すなわち、波形データは生体波形検出装置1から連続的に送信されるところ、所定期間にて取得した波形データを記憶部23に記憶(バッファリング)し、特定対象の分割単位時間を決定、すなわち波形データにおける当該分割単位時間の時点(期間)を決定するものであってもよい。特定対象の分割単位時間を決定することにより、後処理における特定対象の分割単位時間の前後における分割単位時間が、決定されるものとなる。
情報処理装置2の制御部22は、特定対象の分割単位時間の前に位置する分割単位時間による周波数データを取得する(S21)。制御部22は、例えばS20の処理にて決定された特定対象の分割単位時間の前に位置する分割単位時間による周波数データをFFT処理にて生成し、取得する。制御部22は、特定対象の分割単位時間の前に位置する2つの分割単位時間による周波数データをFFT処理にて生成し、取得するものであってもよい。
情報処理装置2の制御部22は、特定対象の分割単位時間の前に位置する分割単位時間による周波数データに含まれる周波数の強度値に補正係数を乗算する(S22)。制御部22は、S21の処理にて取得した特定対象の分割単位時間の前に位置する分割単位時間による周波数データに含まれる周波数の強度値に1よりも小さい補正係数を乗算し、補正係数が乗算された補正強度値を周波数データにおける配列の要素の値として、記憶部23に記憶する。
情報処理装置2の制御部22は、特定対象の分割単位時間による周波数データを取得する(S23)。制御部22は、例えばS20の処理にて決定された特定対象の分割単位時間による周波数データをFFT処理にて生成し、取得する。
情報処理装置2の制御部22は、特定対象の分割単位時間の後に位置する分割単位時間による周波数データを取得する(S24)。制御部22は、例えばS20の処理にて決定された特定対象の分割単位時間の後に位置する分割単位時間による周波数データをFFT処理にて生成し、取得する。制御部22は、特定対象の分割単位時間の後に位置する2つの分割単位時間による周波数データをFFT処理にて生成し、取得するものであってもよい。
情報処理装置2の制御部22は、特定対象の分割単位時間の後に位置する分割単位時間による周波数データに含まれる周波数の強度値に補正係数を乗算する(S25)。制御部22は、S24の処理にて取得した特定対象の分割単位時間の後に位置する分割単位時間による周波数データに含まれる周波数の強度値に1よりも小さい補正係数を乗算し、補正係数が乗算された補正強度値を周波数データにおける配列の要素の値として、記憶部23に記憶する。
情報処理装置2の制御部22は、複数の周波数データを連結し、連結された周波数データを取得する(S26)。制御部22は、S23で取得した特定対象の分割単位時間による周波数データ、及びS22及びS25にて補正係数を乗算した特定対象の分割単位時間の前後に位置する周波数データを連結し、連結された周波数データを取得する。これにより、特定対象の分割単位時間による周波数データを含む複数の周波数データが連結された周波数データを取得することができる。
情報処理装置2の制御部22は、連結された周波数データを学習済みモデル201に入力し、睡眠状態の判定結果を取得する(S27)。制御部22は、実施形態1の処理S12と同様に、S26にて取得した周波数データ(連結された周波数データ)を学習済みモデル201に入力し、睡眠状態の判定結果を取得する。実施形態2の学習済みモデル201は、連結された周波数データが入力されることにより、連結された周波数データに含まれる特定対象の分割単位時間の睡眠状態を出力するように学習されている。制御部22は、学習済みモデル201から特定対象の分割単位時間の睡眠状態の判定結果を取得する。
情報処理装置2の制御部22は、睡眠状態の判定結果を出力する(S28)。制御部22は、実施形態1のS13と同様に、学習済みモデル201から取得した睡眠状態の判定結果をディスプレイ等の表示部3に出力し、表示部3に当該睡眠状態を表示される。
本実施形態において、情報処理装置2の制御部22は、波形データを取得するにあたり特定対象の分割時間単位を決定するものとしたが、これに限定されない。制御部22は、所定期間にて取得した波形データに基づき、複数の分割時間単位による複数の周波数データを生成し、生成した周波数データに対し、生成した時点に対応する連番等、すなわち分割時間単位夫々における時間軸での生成順位を示す管理番号を付与して記憶部23に記憶する。そして、制御部22は、当該管理番号に基づき、特定対象の分割時間単位及び、当該特定対象の分割時間単位の前後に位置する抽出し、これら抽出した複数の分割時間単位毎の周波数データを連結し、当該連結された周波数データを生成し取得するものであってもよい。
周波数データは、5つの分割単位時間にて周波数分析したものとしたが、これに限定されない。周波数データは、睡眠状態を特定する特定対象の分割単位時間(エポック)の前後に位置する2つの分割単位時間(エポック)による3つの分割単位時間にて周波数分析したものであってもよい。
本実施形態によれば、睡眠状態を特定する特定対象の分割単位時間及び、当該特定対象の分割単位時間の前後に位置する複数の分割単位時間による周波数データを学習済みモデル201に入力して、特定対象の分割単位時間の睡眠状態を判定するため、睡眠状態の判定精度を向上させることができる。
特定対象の分割単位時間の前後に位置する分割単位時間に含まれる各周波数の強度値は、例えば1よりも小さい補正係数を乗算した算出した補正強度値であってもよい。このような補正係数を乗算して算出した補正強度値を用いることにより、特定対象の分割単位時間に含まれる各周波数の強度値と、前後に位置する分割単位時間に含まれる各周波数の強度値(補正強度値)との間に差異(バイアス値)を設定することができる。当該差異を設定することにより、特定対象の分割単位時間に含まれる各周波数の強度値による特徴量を、前後に位置する分割単位時間に含まれる各周波数の強度値(補正強度値)による特徴量よりも、学習済みモデル201による睡眠状態の判定処理における影響度を高め、判定精度を向上させることができる。
(実施形態3)
図12は、実施形態3(多数決)に係る周波数データに関する説明図である。実施形態3の情報処理装置2は、同一の特定対象の分割単位時間に対し、3種類の周波数データ(第1周波数データ、第2周波数データ、第3周波数データ)を生成する。そして、実施形態3の情報処理装置2は、これら周波数データ夫々を対応する学習済みモデル201、第2学習済みモデル202及び第3学習済みモデル203に入力し、夫々のモデルから取得した睡眠状態夫々に基づき、当該特定対象の分割単位時間の睡眠状態を決定する点で、実施形態1と異なる。
図12は、実施形態3(多数決)に係る周波数データに関する説明図である。実施形態3の情報処理装置2は、同一の特定対象の分割単位時間に対し、3種類の周波数データ(第1周波数データ、第2周波数データ、第3周波数データ)を生成する。そして、実施形態3の情報処理装置2は、これら周波数データ夫々を対応する学習済みモデル201、第2学習済みモデル202及び第3学習済みモデル203に入力し、夫々のモデルから取得した睡眠状態夫々に基づき、当該特定対象の分割単位時間の睡眠状態を決定する点で、実施形態1と異なる。
図12に示すように、特定対象の分割単位時間(特定対象エポック)のみにより周波数分析した周波数データを第1周波数データとする。特定対象の分割単位時間(特定対象エポック)及び、特定対象の分割単位時間の前後に位置する2つの分割単位時間を含む、3つの分割単位時間により周波数分析した周波数データを第2周波数データとする。特定対象の分割単位時間(特定対象エポック)及び、当該特定対象の分割単位時間の前後に2つずつ位置する4つの分割単位時間を含む、5つの分割単位時間より周波数分析した周波数データを第3周波数データとする。第2周波数データ及び第3周波数データは、実施形態2にて説明している複数の分割単位時間により周波数分析した周波数データと同義である。情報処理装置2は、取得した波形データに基づき、同一の特定対象の分割単位時間に対し複数の周波数データを生成することにより、これら周波数データを取得する。
図13は、情報処理装置2の制御部22に含まれる機能部を例示する機能ブロック図である。情報処理装置2の記憶部23には、更に第2学習済みモデル202及び第3学習済みモデル203を構成する実体ファイルが保存されている。これら実体ファイルは、プログラムPの一部位として構成されるものであってもよい。
情報処理装置2の制御部22は、記憶部23に記憶してあるプログラムPを実行することにより、又は第2学習済みモデル202を構成する実体ファイルを読み出すことにより、第2学習済みモデル202として機能する。
情報処理装置2の制御部22は、記憶部23に記憶してあるプログラムPを実行することにより、又は第3学習済みモデル203を構成する実体ファイルを読み出すことにより、第3学習済みモデル203として機能する。
第2学習済みモデル202は、第2周波数データを入力することにより、第2周波数データに含まれる特定対象の分割単位時間における第2睡眠状態を判定し出力するように学習されている。第3学習済みモデル203は、第3周波数データを入力することにより、第3周波数データに含まれる特定対象の分割単位時間における第3睡眠状態を判定し出力するように学習されている。
情報処理装置2の制御部22は、記憶部23に記憶してあるプログラムPを実行することにより、睡眠状態決定部224として機能する。睡眠状態決定部224は、睡眠状態取得部223を介して学習済みモデル201、第2学習済みモデル202及び第3学習済みモデル203から取得した第1睡眠状態、第2睡眠状態及び第3睡眠状態に基づき、特定対象の分割単位時間における睡眠状態を決定し、決定した睡眠状態を表示部3等に出力する。
周波数データ生成部221は、取得した波形データをFFTにより周波数分析し、第1周波数データ、第2周波数データ及び第3周波数データを生成し、夫々のデータを対応する周波数データ取得部222に出力する。上述のとおり、第1周波数データ、第2周波数データ及び第3周波数データにおける睡眠状態を特定する特定対象の分割単位時間は、同じ分割単位時間(同じエポック)である。
図13に示すように学習済みモデル201、第2学習済みモデル202及び第3学習済みモデル203は、互いに並列に接続される。これら学習済みモデル201等の前後には、実施形態1と同様に周波数データ取得部222及び睡眠状態取得部223が設けられている。周波数データ生成部221から出力された3種類の周波数データが並列に流れ、これら周波数データを並列に接続された学習済みモデル201、第2学習済みモデル202及び第3学習済みモデル203が処理するデータフロートポロジーが形成される。このように並列に接続された学習済みモデル201、第2学習済みモデル202及び第3学習済みモデル203を情報処理装置2に実装することにより、ニューラルネットワークシステムが構成される。
睡眠状態決定部224は、学習済みモデル201、第2学習済みモデル202及び第3学習済みモデル203に対応する(接続されている)睡眠状態取得部223が出力した第1睡眠状態、第2睡眠状態及び第3睡眠状態を取得する。睡眠状態決定部224は、取得した第1睡眠状態、第2睡眠状態及び第3睡眠状態に基づき、特定対象の分割単位時間における睡眠状態を決定する。当該決定は、例えば多数決方式により決定するものであってもよい。すなわち、第1睡眠状態がREM、第2睡眠状態がREM、第3睡眠状態がWakeである場合、睡眠状態決定部224は、特定対象の分割単位時間における睡眠状態は、REM状態であると決定する。
本実施形態において、情報処理装置2は、学習済みモデル201とは別個に第2学習済みモデル202、第3学習済みモデル203を備えるものとして記載したが、これに限定されなない。学習済みモデル201が、更に第2周波数データ及び第3周波数データを入力されることにより第2睡眠状態及び第3睡眠状態を出力するように学習されており、当該学習済みモデル201のみを用いて、睡眠状態、第2睡眠状態及び第3睡眠状態を取得するものであってもよい。
図14は、情報処理装置2の制御部22による処理手順の一例を示すフローチャートである。情報処理装置2の制御部22は、実施形態1と同様に例えば情報処理装置2に接続されている入力部4からの入力内容に基づき、当該フローチャートの処理を開始する。
情報処理装置2の制御部22は、波形データを取得する(S30)。制御部22は、実施形態1の処理S10と同様に生体波形検出装置1から送信された波形データを、通信部21を介して取得する。
情報処理装置2の制御部22は、周波数データ(第1周波数データ)を取得する(S31)。制御部22は、実施形態1と同様に波形データをFFTにより周波数分析し、例えばエポック(30秒)単位となる分割単位時間にて配列化した周波数データを生成することにより、当該周波数データを取得する。上述のとおり、当該分割単位時間が、睡眠状態を特定する特定対象の分割単位時間に相当する。
情報処理装置2の制御部22は、周波数データを学習済みモデル201に入力し、第1睡眠状態の判定結果を取得する(S32)。
情報処理装置2の制御部22は、第2周波数データを取得する(S33)。制御部22は、上述のとおり、第2周波数データは、S31の処理における睡眠状態を特定する特定対象の分割単位時間、及び当該特定対象の分割単位時間の前後に位置する2つの分割単位時間による3つの分割単位時間により生成される。
情報処理装置2の制御部22は、第2周波数データを第2学習済みモデル202に入力し、第2睡眠状態の判定結果を取得する(S34)。
情報処理装置2の制御部22は、第3周波数データを取得する(S35)。制御部22は、上述のとおり、第3周波数データは、S31の処理における睡眠状態を特定する特定対象の分割単位時間、及び当該特定対象の分割単位時間の前後に2つずつ位置する4つの分割単位時間による5つの分割単位時間により生成される。
情報処理装置2の制御部22は、第3周波数データを第3学習済みモデル203に入力し、第3睡眠状態の判定結果を取得する(S36)。
情報処理装置2の制御部22は、これら学習済みモデル201、第2学習済みモデル202及び第3学習済みモデル203に対する3つの処理を行うにあたり、サブプロセスを生成させて並行処理にて行うものであってもよい。すなわち、周波数データ(第1周波数データ)、第2周波数データ及び第3周波数データを生成するための3つのFFT処理、及び、学習済みモデル201、第2学習済みモデル202及び第3学習済みモデル203による3つの判定処理を並列化して行うことにより、これら処理を行うための所要時間(エラップスタイム)を低減させ、睡眠状態判定システムSのレスポンスを向上させることができる。この様な並行処理を行う場合、制御部22を構成するCPU等は、マルチCPU又はマルチコアのアーキテクチャであることが望ましい。
情報処理装置2の制御部22は、取得した第1睡眠状態、第2睡眠状態及び第3睡眠状態に基づき睡眠状態を決定する(S37)。制御部22は、取得した第1睡眠状態、第2睡眠状態及び第3睡眠状態に基づき、例えば多数決方式により睡眠状態を決定する。すなわち、第1睡眠状態がREM(第1周波数データにより学習済みモデル201がREMと判定)、第2睡眠状態がREM(第2周波数データにより第2学習済みモデル202がREMと判定)、第3睡眠状態がWake(第3周波数データにより第3学習済みモデル203がWakeと判定)である場合、制御部22は、特定対象の分割単位時間における生体U(被検者)の睡眠状態は、REMであると決定する。又は、制御部22は、取得した第1睡眠状態、第2睡眠状態及び第3睡眠状態において、最も確率が高いものを睡眠状態として決定するものであってもよい。
情報処理装置2の記憶部23には、第1睡眠状態、第2睡眠状態及び第3睡眠状態としてなり得る睡眠様態の種類による組合せを予め記憶しておき、当該組合せに応じて特定対象の分割単位時間における睡眠状態を決定するものであってもよい。上述のとおり、睡眠様態の種類を覚醒段階(ステージWake)、入眠段階(ステージN1)、浅い睡眠段階(ステージN2)、深い睡眠段階(ステージN3)、REM睡眠段階(ステージREM)の5段階とした場合、第1睡眠状態、第2睡眠状態及び第3睡眠状態による睡眠様態の種類の組合せは、125種類(5の3乗)となる。これら125種類の夫々の組合せにおいて、特定対象の分割単位時間における睡眠状態を決定したデータを例えばテーブル形式にて、情報処理装置2(制御部22)は、予め記憶部23にて記憶しておく。制御部22は、取得した第1睡眠状態、第2睡眠状態及び第3睡眠状態に基づきテーブルを参照して、特定対象の分割単位時間における睡眠状態を導出するものであってもよい。
情報処理装置2の制御部22は、決定した睡眠状態を出力する(S38)。制御部22は、S37の処理にて決定した睡眠状態を、例えばディスプレイの表示部3に出力する。または、制御部22は、決定した睡眠状態を、例えば通信部21を介して所定の携帯端末等の外部機器に出力するものであってもよい。制御部22は、決定した睡眠状態のみを出力することに限定されず、当該決定した睡眠状態に併せて、第1睡眠状態、第2睡眠状態及び第3睡眠状態を参考情報として出力するものであってもよい。
本実施形態によれば、同一の特定対象の分割単位時間に対し、複数種類の周波数データ(本実施例では3種類)を生成及び取得し、これら周波数データ夫々に対応する学習済みモデル夫々(201,202,203)に入力して複数の睡眠状態の判定結果を取得することができる。そして、当該複数の睡眠状態の判定結果に基づき、当該特定対象の分割単位時間における生体Uの睡眠状態を決定するため、睡眠状態を精度よく導出することができる。
(実施形態4)
図15は、実施形態4(複数)に係る情報処理装置2の制御部22に含まれる機能部を例示する機能ブロック図である。実施形態4の情報処理装置2は、学習済みモデル201及び第2学習済みモデル202の2つのモデルにより、データフロートポロジーが形成される点で、実施形態3と異なる。
図15は、実施形態4(複数)に係る情報処理装置2の制御部22に含まれる機能部を例示する機能ブロック図である。実施形態4の情報処理装置2は、学習済みモデル201及び第2学習済みモデル202の2つのモデルにより、データフロートポロジーが形成される点で、実施形態3と異なる。
実施形態4の情報処理装置2は、実施形態3と同様に同一の特定対象の分割単位時間に対し、2種類の周波数データ(第1周波数データ、第2周波数データ)を生成する。更に実施形態4の情報処理装置2は、実施形態3と同様にこれら周波数データ夫々を対応する学習済みモデル201、第2学習済みモデル202に入力し、夫々のモデルから取得した睡眠状態夫々に基づき、当該特定対象の分割単位時間の睡眠状態を決定する。
本実施形態においては、情報処理装置2の制御部22は、特定対象の分割単位時間を含む2つの周波数データ(複数の周波数データ)を生成し、生成した周波数データ夫々を対応する学習済みモデル201及び第2学習済みモデル202に入力し、第1睡眠状態及び第2睡眠状態を取得する。学習済みモデル201に入力される周波数データは、特定対象の分割単位時間のみによる周波数データ(1つのエポック)である。第2学習済みモデル202に入力される周波数データは、特定対象の分割単位時間及び、当該分割単位時間の前後の分割単位時間を含む周波数データ(3つのエポック)である。
情報処理装置2の記憶部23には、第1睡眠状態及び第2睡眠状態がとり得る睡眠状態の全ての組合せ及び、組合せ夫々にて決定される睡眠状態が、例えばテーブル形式で記憶されている。上述のごとく、睡眠状態は5つの状態を取り得るため、特定対象の分割単位時間を含む周波数データが2つの場合、組合せは25種類(5の2乗)となる。情報処理装置2の制御部22は、取得した第1睡眠状態及び第2睡眠状態に基づき、記憶部23に記憶されている組合せを参照し、特定対象の分割単位時間の睡眠状態を決定する。
当該周波数データの個数が2つ等の偶数である場合であっても、周波数データの個数(n)又は取得する睡眠状態の個数によって、決定される組合せの数(5のn乗)に応じた睡眠状態を、例えばテーブル形式で記憶することにより、効率的に睡眠状態を決定することができる。
今回開示された実施の形態はすべての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
S 睡眠状態判定システム
1 生体波形検出装置
11 脳波電極
12 眼筋電極
13 通信ユニット
131 信号変換部
132 通信部
14 電極ケーブル
2 情報処理装置
21 通信部
22 制御部
221 周波数データ生成部
222 周波数データ取得部
223 睡眠状態取得部
224 睡眠状態決定部
23 記憶部
231 記録媒体
P プログラム
24 入出力I/F
201 学習済みモデル
202 第2学習済みモデル
203 第3学習済みモデル
3 表示部
4 入力部
U 生体
1 生体波形検出装置
11 脳波電極
12 眼筋電極
13 通信ユニット
131 信号変換部
132 通信部
14 電極ケーブル
2 情報処理装置
21 通信部
22 制御部
221 周波数データ生成部
222 周波数データ取得部
223 睡眠状態取得部
224 睡眠状態決定部
23 記憶部
231 記録媒体
P プログラム
24 入出力I/F
201 学習済みモデル
202 第2学習済みモデル
203 第3学習済みモデル
3 表示部
4 入力部
U 生体
Claims (13)
- コンピュータに、
生体から検出した波形データを、要素時間毎に周波数分析し、周波数分析した前記要素時間毎のデータを分割単位時間毎に配列化した周波数データを取得し、
前記周波数データを入力した場合に前記分割単位時間における前記生体の睡眠状態を出力するように学習済みの学習済みモデルに、取得した前記周波数データを入力し、
前記学習済みモデルから睡眠状態を取得する
処理を実行させるコンピュータプログラム。 - 前記生体から検出した波形データは、脳波である
請求項1に記載のコンピュータプログラム。 - 前記生体から検出した波形データは、同時に検出した脳波及び前記脳波以外の生体信号データであり、
前記周波数データは、前記脳波を前記要素時間毎に周波数分析し分割単位時間毎に配列化したデータと、前記脳波以外の生体信号データを前記要素時間毎に周波数分析し分割単位時間毎に配列化したデータとを連結したデータである
請求項1に記載のコンピュータプログラム。 - 前記脳波以外の生体信号データは、眼球運動データである
請求項3に記載のコンピュータプログラム。 - 前記周波数データは、前記要素時間毎の周波数夫々の強度値を含み、
前記学習済みモデルは、畳み込み層を含むニューラルネットワークであり、少なくとも前記要素時間及び前記周波数をテンソルにおける各次元として取り扱い、前記強度値夫々を前記テンソルの各要素の値として、畳み込み処理を行う
請求項1から請求項4のいずれか1項に記載のコンピュータプログラム。 - 前記周波数データは、睡眠状態を特定する特定対象の分割単位時間の周波数データと、前記特定対象の分割単位時間の前後となる分割単位時間夫々の周波数データ夫々とを連結したものであり、
前記学習済みモデルは、連結された前記周波数データを入力した場合に前記特定対象の分割単位時間の睡眠状態を出力するように学習済みであり、
前記学習済みモデルに前記周波数データを入力し、
前記学習済みモデルから前記特定対象の分割単位時間における睡眠状態を取得する
請求項1から請求項5のいずれか1項に記載のコンピュータプログラム。 - 前記周波数データは、前記分割単位時間における要素時間毎の周波数夫々の強度値を含み、
前記周波数データに含まれる前記前後の分割単位時間夫々の強度値には、1よりも小さい値の補正係数が乗算されている
請求項6に記載のコンピュータプログラム。 - 前記学習済みモデルに、
睡眠状態を特定する特定対象の分割単位時間を含む複数の周波数データを入力することにより、複数の睡眠状態を取得し、
前記取得した複数の睡眠状態に基づいて、前記特定対象の分割単位時間の睡眠状態を決定する
請求項1から請求項7のいずれか1項に記載のコンピュータプログラム。 - 前記学習済みモデルに、
睡眠状態を特定する特定対象の分割単位時間による周波数データを入力することにより睡眠状態を取得し、
前記特定対象の分割単位時間及び前記特定対象の分割単位時間の前後に位置する2つ以上の分割単位時間による第2周波数データを入力することにより第2睡眠状態を取得し、
前記第2周波数データとは異なる個数の複数の分割単位時間による第3周波数データを入力することにより第3睡眠状態を取得し、
前記取得した睡眠状態、第2睡眠状態及び第3睡眠状態に基づいて、前記特定対象の分割単位時間の睡眠状態を決定する
請求項1から請求項8のいずれか1項に記載のコンピュータプログラム。 - 生体から検出した波形データを、要素時間毎に周波数分析し、周波数分析した前記要素時間毎のデータを分割単位時間毎に配列化した周波数データを取得する周波数データ取得部と、
前記周波数データを入力した場合に前記分割単位時間における前記生体の睡眠状態を出力するように学習済みの学習済みモデルと、
取得した前記周波数データを前記学習済みモデルに入力し、前記学習済みモデルから睡眠状態を取得する睡眠状態取得部と
を備える情報処理装置。 - 生体から検出した波形データを、要素時間毎に周波数分析し、周波数分析した前記要素時間毎のデータを分割単位時間毎に配列化した周波数データを取得し、
前記周波数データを入力した場合に前記分割単位時間における前記生体の睡眠状態を出力するように学習済みの学習済みモデルに、取得した前記周波数データを入力し、
前記学習済みモデルから睡眠状態を取得する
処理をコンピュータに実行させる情報処理方法。 - 生体から検出した波形データを、要素時間毎に周波数分析し、周波数分析した前記要素時間毎のデータを分割単位時間毎に配列化した周波数データに対し、睡眠状態を示す情報が対応付けられた教師データを取得し、
前記教師データに基づく学習を行い、前記周波数データを入力した場合に前記分割単位時間における前記生体の睡眠状態を出力する学習済みモデルを生成する
処理をコンピュータに実行させる学習済みモデルの生成方法。 - 生体から検出した波形データを、要素時間毎に周波数分析し、周波数分析した前記要素時間毎のデータを分割単位時間毎に配列化した周波数データの入力を受け付ける入力層と、
前記分割単位時間における生体の睡眠状態を出力する出力層と、
前記周波数データに含まれる前記要素時間毎の各周波数の強度値に関する特徴量を抽出する中間層とを備え、
前記周波数データが前記入力層に入力された場合に前記中間層で演算を行い、前記出力層から前記睡眠状態を出力するようにコンピュータに機能させる
学習済みモデル。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019113817A JP2020203051A (ja) | 2019-06-19 | 2019-06-19 | コンピュータプログラム、情報処理装置、情報処理方法、学習済みモデルの生成方法及び学習済みモデル |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019113817A JP2020203051A (ja) | 2019-06-19 | 2019-06-19 | コンピュータプログラム、情報処理装置、情報処理方法、学習済みモデルの生成方法及び学習済みモデル |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020203051A true JP2020203051A (ja) | 2020-12-24 |
Family
ID=73837692
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019113817A Pending JP2020203051A (ja) | 2019-06-19 | 2019-06-19 | コンピュータプログラム、情報処理装置、情報処理方法、学習済みモデルの生成方法及び学習済みモデル |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020203051A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023286313A1 (ja) * | 2021-07-15 | 2023-01-19 | ソニーグループ株式会社 | 信号処理装置および方法 |
CN116153453A (zh) * | 2023-04-20 | 2023-05-23 | 深圳市魔样科技有限公司 | 基于云边协同的智能戒指信息管理方法及系统 |
WO2024078398A1 (zh) * | 2022-10-10 | 2024-04-18 | 维沃移动通信有限公司 | 数据处理方法及装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009112402A (ja) * | 2007-11-02 | 2009-05-28 | Osaka Bioscience Institute | 睡眠計及び睡眠状態判定方法 |
JP2011083393A (ja) * | 2009-10-14 | 2011-04-28 | Osaka Bioscience Institute | 睡眠ステージ自動判定の装置と方法およびそのためのコンピュータプログラム |
CN105615834A (zh) * | 2015-12-22 | 2016-06-01 | 深圳创达云睿智能科技有限公司 | 基于睡眠脑电信号的睡眠分期方法及装置 |
US20180116626A1 (en) * | 2016-11-03 | 2018-05-03 | Awaire Inc. | Heart Activity Detector for Early Detection of Heart Diseases |
WO2019078328A1 (ja) * | 2017-10-20 | 2019-04-25 | パナソニック株式会社 | 脳波測定システム、脳波測定方法、プログラム、及び非一時的記録媒体 |
CN109843179A (zh) * | 2016-09-07 | 2019-06-04 | 皇家飞利浦有限公司 | 用于检测异常心音的分类器集成 |
-
2019
- 2019-06-19 JP JP2019113817A patent/JP2020203051A/ja active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009112402A (ja) * | 2007-11-02 | 2009-05-28 | Osaka Bioscience Institute | 睡眠計及び睡眠状態判定方法 |
JP2011083393A (ja) * | 2009-10-14 | 2011-04-28 | Osaka Bioscience Institute | 睡眠ステージ自動判定の装置と方法およびそのためのコンピュータプログラム |
CN105615834A (zh) * | 2015-12-22 | 2016-06-01 | 深圳创达云睿智能科技有限公司 | 基于睡眠脑电信号的睡眠分期方法及装置 |
CN109843179A (zh) * | 2016-09-07 | 2019-06-04 | 皇家飞利浦有限公司 | 用于检测异常心音的分类器集成 |
US20180116626A1 (en) * | 2016-11-03 | 2018-05-03 | Awaire Inc. | Heart Activity Detector for Early Detection of Heart Diseases |
WO2019078328A1 (ja) * | 2017-10-20 | 2019-04-25 | パナソニック株式会社 | 脳波測定システム、脳波測定方法、プログラム、及び非一時的記録媒体 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023286313A1 (ja) * | 2021-07-15 | 2023-01-19 | ソニーグループ株式会社 | 信号処理装置および方法 |
WO2024078398A1 (zh) * | 2022-10-10 | 2024-04-18 | 维沃移动通信有限公司 | 数据处理方法及装置 |
CN116153453A (zh) * | 2023-04-20 | 2023-05-23 | 深圳市魔样科技有限公司 | 基于云边协同的智能戒指信息管理方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Hu et al. | Real-time sensing of trust in human-machine interactions | |
Steyrl et al. | Random forests in non-invasive sensorimotor rhythm brain-computer interfaces: a practical and convenient non-linear classifier | |
US10299735B2 (en) | Automated diagnosis based at least in part on pulse waveforms | |
KR102141617B1 (ko) | 인공 신경망을 이용하여 부정맥을 추정하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 | |
JP2020203051A (ja) | コンピュータプログラム、情報処理装置、情報処理方法、学習済みモデルの生成方法及び学習済みモデル | |
CN108135520B (zh) | 从功能性大脑图像生成心理内容的自然语言表示 | |
US11207489B2 (en) | Enhanced brain-machine interfaces with neuromodulation | |
US10517540B1 (en) | Systems and methods to reduce data and complexity in neural signal processing chain | |
US20200074281A1 (en) | Computer-readable recording medium, abnormality determination method, and abnormality determination device | |
Wang et al. | Mutual information inspired feature selection using kernel canonical correlation analysis | |
Rejer | EEG feature selection for BCI based on motor imaginary task | |
KR20180036503A (ko) | 뇌 신호 기반 기기 제어를 위한 뇌-컴퓨터 인터페이스 장치 및 방법 | |
Athif et al. | WaveCSP: a robust motor imagery classifier for consumer EEG devices | |
US20110034821A1 (en) | Increasing the information transfer rate of brain-computer interfaces | |
CN116324786A (zh) | 用于配置计算设备的数据采集设置的方法 | |
Scherer et al. | FiNN: A toolbox for neurophysiological network analysis | |
WO2020021962A1 (ja) | 学習装置、学習方法及びコンピュータプログラム | |
CN115238745A (zh) | 一种模拟采集脑电信号的生成方法和系统 | |
KR101213677B1 (ko) | 점진적 em pca를 이용한 결측값 대치 시스템 | |
Sahonero-Alvarez et al. | A functional BCI model by the P2731 working group: transducer | |
JP2021081917A (ja) | 学習データ拡張方法、および学習データ生成装置 | |
TWI808579B (zh) | 自動進化的腦波偵測系統與用於腦波資料庫的自動進化方法 | |
JP2021504068A (ja) | 認知機能の活動のリアルタイム測定のためのシステムおよびかかるシステムを較正する方法 | |
KR102276884B1 (ko) | Sat 모델 추정 방법 및 장치 | |
CN112236741B (zh) | 利用神经调节的增强型脑机接口的系统、方法和介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220330 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221018 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221205 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20230110 |